Конгрес США вимагає від Apple відповідей щодо боротьби з deepfake-порнографією

Раніше в мережі з’являлися численні повідомлення про додатки з подвійним призначенням, які використовуються для створення deepfake-матеріалів — зокрема, оголені чи порнографічні зображення. У соціальних мережах масово рекламуються такі сервіси для заміни облич, і багато користувачів використовують їх без згоди інших людей.

За інформацією 404 Media, Конгрес США вирішив діяти. Було направлено офіційні запити до великих технічних компаній — Apple, Alphabet, Microsoft, Meta, ByteDance, Snap та X. У листах політики запитують, які заходи вживаються для недопущення створення інтимних зображень без згоди користувачів.

Apple отримала окремий лист із критикою за те, що компанія пропускає через свою перевірку додатки з можливістю подвійного використання, попри суворі правила App Store. У листі згадується закон TAKE IT DOWN, який передбачає посилення боротьби з розповсюдженням таких зображень.

До генерального директора Apple Тіма Кука було направлено кілька запитань:

1. Які заходи вживаються для протидії поширенню deepfake-порнографії на платформі Apple, і який термін реалізації цих заходів?
2. Хто бере участь у розробці цих планів?
3. Як виглядає процес реагування на повідомлення про порушення, і який механізм контролю забезпечує оперативне вирішення таких проблем?
4. Як Apple визначає, що певний додаток слід видалити з App Store?
5. Які дії пропонуються користувачам, чиї зображення потрапили до deepfake без їхньої згоди?

Apple вже тривалий час позиціонує себе як гарант безпеки App Store, проте кожен випадок пропуску небезпечного контенту стає приводом для критики. Інструменти для створення deepfake чи навіть дитячі ігри, які перетворюються на “казино”, додають аргументів тим, хто вважає, що Apple не повинна залишатися єдиним “воротарем” своєї платформи.

Раніше видалені Apple додатки, згадані в розслідуваннях, мали очевидні ознаки зловживань. Наприклад, деякі сервіси пропонували заміну облич у відео, взятих із таких сайтів, як Pornhub.

На захист Apple можна згадати, що компанія вже вжила мінімальні заходи, як-от блокування функції “Вхід через Apple” на сайтах із deepfake-контентом. Проте, як наголошують експерти, цього недостатньо.

Лист Конгресу прямо вказує на необхідність посилення правил перевірки додатків, особливо тих, які обіцяють редагування зображень чи відео за допомогою ШІ. Зокрема, Apple повинна вживати додаткових заходів безпеки щодо додатків зі “заміною облич”.

Цей інцидент може стати черговим етапом у тиску на технічних гігантів, які дедалі частіше стають відповідальними за контент, створений користувачами їхніх платформ.