Apple і Google вимагають прибрати з магазинів AI-додатки для «роздягання» фото

Міський прокурор Сан-Франциско надіслав Apple і Google листи з вимогою припинити порушення та утриматися від них, вимагаючи видалити 13 AI-додатків для «заміни обличчя», які можуть створювати оголені зображення без згоди людей, повідомляє WIRED.

Листи, надіслані в четвер, стосуються восьми застосунків в App Store і п’яти в Play Store, які позиціонують себе як інструменти для заміни обличчя, але їх використовують, щоб «роздягати» фото реальних людей. Офіс прокурора вимагає, щоб обидві компанії розірвали зв’язки з розробниками та припинили отримувати частку з внутрішньозастосункових платежів, стверджуючи, що фактично вони «сприяють і допомагають» продажу відвертих дипфейк-зображень. Прокурор назвав цю практику «незаконною, шкідливою та абсолютно неприйнятною» і вважає, що Apple і Google зібрали з цих застосунків мільйони доларів комісій.

Обидві компанії мають правила для розробників, що забороняють порнографію, і раніше вже видаляли групи застосунків для «роздягання» після того, як на них звертали увагу дослідники. Представник Google повідомив WIRED, що компанія видалила «сотні» застосунків із функціями «роздягання» за порушення політик, зокрема й п’ять, названих у листах. У червні стало відомо, що Apple вже посилила формулювання правил ‌App Store‌ щодо відповідальності розробників за порнографічний контент.