Apple намагається стримати так звані "додатки подвійного призначення"
Новий звіт підкреслив, що Apple стикається з серйозними викликами в запобіганні додаткам «Заміна обличчя» в App Store, які можуть бути використані для створення дипфейків, включаючи порнографічні зображення.
Компанія регулює свій App Store за допомогою політики «закритого саду», де додатки повинні відповідати керівним принципам Apple, але звіт від 404 Media стверджує, що програми з «подвійним призначенням», які включають функції заміни обличчя, можуть бути використані для розміщення обличчя на порнографічному контенті - іноді за участю неповнолітніх.
Виклики Apple з додатками подвійного призначення
Журналіст знайшов рекламу додатку для заміни облич на Reddit, з додатком, який пропонував ряд веб-сайтів, включаючи порнографічні, для заміни облич.
Як йдеться у самому звіті "Я протестував додаток і з'ясував, що для користувачів, готових платити абонентську плату в розмірі $20 на місяць, він неймовірно полегшує створення нонконсенсуальних дипфейк порнографій будь-якої людини."
Все, що мені потрібно було зробити, це надати одне зображення тієї людини, яку я хотів використати для дипфейка, і скористатися вбудованим інтернет-браузером, щоб знайти відео, в якому я хотів, щоб вона з'явилася. Як пропонувала реклама на Reddit, коли я перейшов на конкретне відео на Pornhub, додаток автоматично завантажив відео і створив дипфейк порнографію з людиною на наданому зображенні.
Весь процес, від моменту, коли я побачив рекламу на одному з найпопулярніших вебсайтів у світі, до завершеного дипфейк відео, зайняв близько п'яти хвилин і створив високо переконливий результат.
Зважаючи на те, що Apple не дозволяє порнографічні додатки в App Store, це здається способом обійти цю політику, можливо, використовуючи контент з сайту для дорослих.
Хоча Apple Intelligence не може генерувати зображення такого типу, компанії, можливо, незабаром доведеться уважніше придивитися до сторонніх опцій у своєму App Store.
Джерело: imore.com
Як вам цей матеріал?
