Як спамери заробляють на фейкових ШІ-картинках - розслідування ВВС

Розслідування ВВС дослідило, як і навіщо міжнародна мережа спамерів публікує у фейсбуці згенеровані штучним інтелектом зображення жертв Голокосту.

Організації, які займаються збереженням пам'яті про Голокост, заявляють, що такі зображення завдають болю тим, хто вижив, і сім'ям загиблих.

Вони також розкритикували материнську компанію Facebook - Meta, стверджуючи, що вона дозволяє користувачам перетворювати трагедію на "емоційну гру".

З табору Аушвіц часів Другої світової війни існує лише кілька справжніх фотографій.

Але останніми місяцями спамери, що користуються ШІ, поширюють фальшиві зображення, які начебто зроблені всередині табору, - наприклад, в'язень, що грає на скрипці, або закохані, які зустрічаються біля парканів. Такі публікації збирають десятки тисяч уподобань і поширень.

"Маємо справу з тим, що хтось вигадує історії… заради якоїсь дивної емоційної гри у соцмережах", - каже Павел Савицький, речник Меморіалу Аушвіца в Польщі.

"Це не гра. Це реальний світ, реальні страждання й реальні люди, яких ми прагнемо і мусимо вшанувати", - додає він.

BBC виявила, що багато таких зображень створюють акаунти мережі контентмейкерів із Пакистану, які тісно співпрацюють між собою, щоб заробляти гроші на фейсбуці.

Вони використовують програму монетизації контенту (CM) від Meta - систему, яка платить користувачам за матеріали з високою популярністю та переглядами.

Один із акаунтів, під ім'ям Абдул Мугхіс, місцем проживання в якого вказаний Пакистан, публікував скриншоти з нібито заробітком у 20 000 доларів через схеми монетизації контенту, зокрема в Meta. В іншому дописі йдеться, що він нібито отримав понад 1,2 млрд переглядів за чотири місяці.

BBC не змогла незалежно підтвердити жодні з цих прибутків.

Серед багатьох публікацій акаунту Абдули Мугхіса - кілька згенерованих ШІ фотографій вигаданих жертв Голокосту й фальшиві історії, зокрема про дитину, яка ховається під підлогою, або немовля, залишене на залізничних коліях біля концтабору.

Аналіз BBC діяльності цього акаунту та десятків подібних свідчить, що вони поширюють майже виключно так званий "AI slop" - низькоякісний, масово згенерований штучним інтелектом контент, який публікують у соцмережах або на сайтах, зазвичай із метою заробітку чи накрутки переглядів.

Аушвіц став популярною темою для історичних сторінок і груп. Деякі з назвами на кшталт "Timeless Tales" і "History Haven" публікували понад 50 дописів на день.

У червні Музей Аушвіца попередив, що такі акаунти крадуть його публікації, пропускають їх через моделі ШІ та часто спотворюють історичні факти або повністю вигадують події й жертв. У дописі на фейсбуці музей назвав ці зображення "небезпечним перекрученням", яке "ображає жертв і знущається з їхньої пам'яті".

Савицький каже, що потік таких фейкових зображень підриває місію Меморіалу Аушвіца - поширювати знання про Голокост.

"Ми вже почали отримувати коментарі під нашими публікаціями у фейсбуці на кшталт 'о, це фото згенероване ШІ'", - каже він.

За словами організацій, що займаються освітою та дослідженням Голокосту, хвиля "AI slop" також тривожить тих, хто вижив під час Другої світової, та їхні родини.

"Вони не зовсім розуміють, що бачать", - каже доктор Роберт Вільямс з Міжнародного альянсу пам'яті про Голокост.

Він зазначив, що ті, хто пережив Голокост, відчувають "певний смуток від того, що таке дозволяють", попри державні та благодійні інвестиції у просвітницькі кампанії.

"Вони відчувають, що їхніх зусиль було недостатньо, - каже він. - Це дуже сумно, адже незабаром останні свідки підуть від нас".

Meta навмисно не заохочує користувачів поширювати фальшиві історії, у тому числі про Голокост, однак її система винагороджує пости з високою взаємодією. BBC також виявила акаунти з "AI slop" у Індії, В'єтнамі, Таїланді та Нігерії.

Щоб зрозуміти, чому ці мережі масово створюють певні види контенту, BBC поговорила з пакистанцем Фазалом Рахманом, який бере участь у кількох програмах монетизації контенту в соцмережах і каже, що це стало його єдиним джерелом доходу.

Він заявив, що сам не створює зображень Голокосту й спершу навіть не знав значення цього слова, проте працює у тих самих фейсбук-групах, що й ті, хто це робить.

За словами Рахмана, сторінка у фейсбуці з 300 000 підписників може приносити власнику 1 000 доларів на місяць, якщо на ній буде "преміум-контент", орієнтований на більш заможні аудиторії з Великої Британії, США та Європи. Він оцінив, що перегляди з Заходу коштують у вісім разів дорожче за перегляди з Азії.

Він також зазначив, що історична тематика є стабільним драйвером інтернет-трафіку.

Інші творці контенту, схоже, погоджуються. BBC бачила інструкційні відео з покроковим поясненням, як популярні моделі ШІ можна використати для безперервного створення фейкових історичних зображень і текстів.

В одному з відео автор попросив чат-бот ШІ перерахувати ключові історичні події для створення контенту, й серед відповідей був Голокост.

Деякі поради творців також включають підказки, як вводити аудиторію в оману - наприклад, видаючи свої сторінки за інші організації, щоб наростити аудиторію й отримати доступ до програми CM від Meta.

Функція прозорості сторінок у фейсбуці дозволяє користувачам бачити попередні назви сторінок. Використавши її, BBC виявила багато сторінок, що публікували "AI slop" про Голокост, але раніше видавали себе за офіційні пожежні департаменти у США, комерційні компанії чи американських інфлюенсерів - усе це без їхньої згоди.

За інформацією з публічних дописів, ці сторінки також можна продавати або здавати в оренду тим, хто хоче зайти на ринок контентмейкерів.

BBC звернулася до Meta щодо кількох профілів, які публікували контент ШІ на тему Голокосту й водночас вдавалися до обманних практик.

Кілька таких профілів і груп видалили, зокрема й ті, на які ще в червні скаржився Меморіал Аушвіца.

Речник технологічного гіганта заявив, що хоча самі фейкові зображення не порушували правил платформи, сторінки перевірили та виявили порушення правил щодо видавання себе за інших і торгівлі сторінками.

"Ми видалили сторінки й групи, про які нам повідомили, і заблокували акаунти, що стояли за ними, за порушення наших правил про спам та неавтентичну поведінку", - сказав він.

ШІ раніше вже використовували для вшанування жертв Голокосту та оживлення їхніх історій, але доктор Вільямс з Міжнародного альянсу пам'яті про Голокост застерігає, що це може створювати відчуття сфабрикованості історії.

"Будь-якої крайності у маніпуляціях варто уникати", - каже він.

Матеріал підготовлений за участю Умера Драза Нангіана, BBC Urdu

В Україні багато користувачів соцмереж також скаржаться на створені ШІ картинки, які часто зображують нібито українських військових з проханням вподобати фото, бо у день народження їх ніхто не привітав. На подібні не надто природні, але дуже чутливі фото реагують тисячі українців. Не виключено, що це подібні до описаних у розслідуванні схеми.