Порнографические дипфейки. Тысячи женщин оказались голыми и не знали об этом

В сети распространили поддельные фото более 100 тысяч обнаженных женщин. Их одежду искусственно убрали со снимков в соцсетях с помощью технологий искусственного интеллекта.

Затем фейковые фото распространили через приложение для сообщений Telegram.

Некоторые из этих женщин "выглядят несовершеннолетними", говорится в докладе, обнародованном компанией, занимающейся кибербезопасностью, Sensity.

Однако распространители фото назвали это просто "развлечением".

В Sensity говорят, что для создания подобных снимков была использована технология "дипфейк бот" (deepfake bot).

Способ создания дипфейка максимально прост: пользователь отправляет фотографию человека боту, а в ответ получает его порнографическое изображение. Одно из направлений этой технологии - создание порнографического видео на основе изображений звезд и известных людей.

Но, по словам руководителя Sensity Джорджио Патрини, использование частных фото является новой тенденцией.

"Достаточно иметь страницу в соцсетях, чтобы стать мишенью", - предупреждает он.

Бот в Telegram

Бот на основе искусственного интеллекта "живет" в приложении личных сообщений Telegram. Пользователи могут прислать боту фото женщины, а тот бесплатно и за считанные минуты избавит ее одежды.

Подобное приложение закрыли в прошлом году, но есть мнение, что "серые" версии программы до сих пор гуляют в сети.

Администратор сервиса, известный под инициалом П., заявил: "Мне все равно. Это развлечение, которое не связано с насилием. Никто никого не будет шантажировать этим, поскольку качество обработки оставляет желать лучшего".

Он также утверждает, что разработчики приложения следят, чтобы не использовались фото детей, - "как только мы видим это, блокируем пользователя навсегда".

ВВС провела ряд экспериментов с частными фото с согласия их владельцев, но ни разу результат не был полностью реалистичным, - был даже случай, когда пупок женщины оказался у нее на груди.

Администратор бота также сообщил, что решение о том, делиться ли с другими полученным изображением, принимает сам пользователь.

"В мире есть войны, болезни и другие плохие вещи, которые нам вредят", - заявил он, опровергая тот факт, что сервис может нанести ущерб пользователям.

Он также заявил, что вскоре все изображения будут удалены.

В Telegram на просьбу о комментарии не ответили.

"Контент для педофилов"

В Sensity подсчитали, что за год (с июля 2019 по июль 2020-го) жертвами публичного "раздевания" стали 104 852 женщины.

Расследование также показало, что некоторые фото принадлежали несовершеннолетним, а следовательно, "можно предположить, что программу использовали для создания и распространения контента для педофилов".

В Sensity также говорят, что работа бота сопровождала массированная рекламная кампания в российской социальной сети "В контакте" (VK), а исследование самой соцсети свидетельствует, что большинство пользователей - из России и других бывших республик СССР.

Однако в VK заявили: "Мы не разрешаем публиковать такой контент, а также ссылки и платформы, и блокируем тех, кто распространяет их".

В начале этого года Telegram был официально запрещен в России.

"Много подобных сайтов или приложений не прячутся и не работают в подполье, поскольку официально ничего не нарушают", - объясняет Джорджио Патрини.

"До того, как это произойдет, боюсь, ситуация будет только ухудшаться", - считает руководитель Sensity.

Авторы отчета, подготовленного компанией, поделились своими выводами с Telegram, VK, а также с соответствующими правоохранительными органами, однако не получили ответа.

Все законно?

Нина Шик, автор книги "Дипфейки и Инфокалипсис" говорит, что создатели дипфейков живут и работают по всему миру, а правоохранители лишь играть в "кошки-мышки" с технологиями.

"Когда-нибудь этот контент станет более качественным, это лишь вопрос времени. Количество порнографии, произведенной с помощью технологии дипфейк, удваивается каждые полгода", - говорит она.

"Наша законодательная система не готова к подобным вызовам. Общество меняется быстрее, чем мы себе представляем, именно из-за новых технологий, и мы пока не научились это регулировать", - считает исследовательница.

"Для жертв этой технологии это катастрофа. Это может полностью разрушить их жизнь, поскольку они чувствуют себя обиженными и униженными".

В прошлом году американский штат Вирджиния первым запретил использовать дипфейки.

Хотите получать самые важные новости в мессенджер? Подписывайтесь на наш Telegram или Viber!