Из AppStore удалили приложения для «раздевания» после расследования Би-би-си

Apple удалила из AppStore группу приложений после того, как Би-би-си обнаружила, что они рекламируются в TikTok как инструменты для создания дипфейков, «раздевающих» людей на фото без их согласия.

Приложения с функцией «раздевания» (declothing) или «нудификации» (nudify) позволяют цифровым способом убрать одежду с фотографий, создавая изображения или видео с обнаженными или частично обнаженными телами.

На официальных страницах приложений в AppStore и их веб-сайтах они описывались как инструменты, позволяющие «сделать селфи более пикантными».

Однако в рекламе в TikTok разработчики приложений позиционировали их как способ создавать сексуализированные изображения женщин без их разрешения.

В одной рекламе пользователей призывали скачать приложение, чтобы «получить самые горячие фото своего объекта обожания». Другая реклама обещала, что приложение «позволит раздеть кого угодно». В некоторых других заявлялось о способности приложения «переодеть любого человека в бикини».

Мы не называем конкретные приложения, чтобы не привлекать к ним внимания, так как создание сексуализированных изображений людей без их согласия может быть незаконным согласно законодательству ряда стран, включая Великобританию.

Nudify-приложения становятся глобальной проблемой: громкие скандалы уже произошли в Испании, Южной Корее и США, где жертвами этой технологии становились школьницы. Известны случаи, когда созданные с помощью технологии deepfake изображения использовались для шантажа.

По мнению профессора Арвинда Нараянана из Принстонского центра политики в области информационных технологий, ограничение распространения приложений для «нудификации» является моральным долгом технологических компаний.

«Необходимо значительно усложнить доступ пользователей к подобным технологиям», — говорит он, подчеркивая, что регуляторы во всем мире должны запретить подобные приложения и гарантировать, что социальные сети не смогут извлекать прибыль из их рекламы.

В некоторых рекламных роликах на платформе TikTok для демонстрации того, как приложение может раздеть человека до нижнего белья, использовались фотографии звезд сериала «Игра престолов», актрис Лины Хиди и Мэйси Уильямс.

Би-би-си обнаружила, что четыре подобных приложения платили за рекламу в TikTok, который на данный момент удалил эти рекламные ролики.

Однако аналогичные видео, по всей видимости, созданные аккаунтами, связанными с разработчиками приложений, по-прежнему доступны на платформе.

Представитель TikTok заявил Би-би-си, что реклама нарушала правила сервиса, запрещающие платное продвижение контента эротического характера. При этом компания не пояснила, каким образом данные рекламные ролики прошли модерацию.

Компания Apple также отреагировала на расследование Би-би-си, удалив указанные приложения из своего AppStore. Как заявили в компании, три приложения удалены «до тех пор, пока разработчики не устранят выявленные проблемы».

Еще одно приложение, специализирующееся на создании видеороликов с полуобнаженными танцующими женщинами на основе загруженных в него фотографий, было удалено окончательно, а аккаунт его разработчика заблокирован.

Представители Google Play Store сообщили, что начали проверку этих приложений.

Самое популярное из приложений, изученных Би-би-си, было скачано из Google Play более миллиона раз (Apple статистику по скачиваниям приложений не раскрывает).

Хотя оно не позволяло создавать полностью обнаженные изображения, с его помощью можно было легко сгенерировать изображение любого человека с явным сексуальным подтекстом.

Для этого предлагались специальные готовые «паки» — подборки образов, включая такие, где женщины изображаются лежащими на полу или принимающими ванну.

В TikTok приложение рекламировалось как способ «получить самые горячие фото своего краша».

Разработчик ответил на запрос Би-би-си по электронной почте, заявив, что не намеревался рекламировать его как инструмент для создания сексуализированных дипфейков, и пообещал пересмотреть свои практики.