BBC ujawnia sieć spamerów zarabiających na wygenerowanych przez AI zdjęciach Holokaustu

Międzynarodowa sieć spamerów publikuje na Facebooku wygenerowane przez sztuczną inteligencję wizerunki ofiar Holokaustu, wynika z dochodzenia BBC w kierunku "AI slop" (ang. pomyje AI).

Organizacje zajmujące się zachowaniem pamięci o Holokauście twierdzą, że obrazy te wywołują niepokój u ocalałych i ich rodzin.

Skrytykowali również firmę macierzystą Facebooka, Meta, twierdząc, że pozwala użytkownikom swojej platformy zamienić okrucieństwo w "emocjonalną grę".

Istnieje tylko kilka autentycznych zdjęć z wnętrza obozu koncentracyjnego Auschwitz z okresu II wojny światowej.

Jednak w ostatnich miesiącach spamerzy AI publikowali fałszywe zdjęcia rzekomo pochodzące z wnętrza obozu, takie jak więźniarka grająca na skrzypcach lub kochankowie spotykający się na granicy ogrodzenia - generując dziesiątki tysięcy polubień i udostępnień.

"Mamy tutaj kogoś, kto wymyśla historie... dla jakiejś dziwnej emocjonalnej gry, która dzieje się w mediach społecznościowych," powiedział Paweł Sawicki, zastępca rzecznika Miejsca Pamięci Auschwitz w Polsce.

"To nie jest gra. To prawdziwy świat, prawdziwe cierpienie i prawdziwi ludzie, których chcemy i musimy upamiętnić."

BBC odnalazło wiele z tych zdjęć na kontach sieci twórców treści z Pakistanu, którzy blisko ze sobą współpracują aby zarabiać pieniądze na Facebooku. Korzystają oni z programu monetyzacji treści Meta (CM), systemu "tylko dla zaproszonych", który płaci użytkownikom za treści i wyświetlenia o wysokim zaangażowaniu.

Jedno z kont o nazwie Abdul Mughees, z siedzibą w Pakistanie, opublikowało zrzuty ekranu, twierdząc, że zarobiło 20,000 dolarów (nieco ponad 73 tys. zł) dzięki schematom monetyzacji mediów społecznościowych, w tym Mety. Inny post wydaje się pokazywać, że konto zgromadziło ponad 1,2 mld wyświetleń treści w ciągu czterech miesięcy.

Nie byliśmy w stanie niezależnie zweryfikować zarobków żadnego z twórców.

Wśród wielu postów na Facebooku na koncie Abdula Mugheesa znajduje się kilka wygenerowanych przez sztuczną inteligencję zdjęć fikcyjnych ofiar Holokaustu i fałszywych historii, które obejmowały dziecko ukrywające się pod deskami podłogowymi lub niemowlę pozostawione na torach kolejowych poza obozem koncentracyjnym.

Przeprowadzona przez BBC analiza aktywności online tego konta i dziesiątek innych podobnych sugeruje, że publikują one prawie wyłącznie "AI slop".

Termin ten odnosi się do niskiej jakości obrazów i tekstów generowanych przez sztuczną inteligencję, zwykle produkowanych w dużych ilościach i spamowanych w mediach społecznościowych.

Auschwitz stało się popularnym tematem dla stron i grup o tematyce historycznej. Niektóre z nich o nazwach takich jak "Timeless Tales" i "History Haven" publikowały posty ponad 50 razy dziennie.

W czerwcu Muzeum Auschwitz ostrzegło, że takie konta kradną jego posty, przetwarzając je za pomocą modeli sztucznej inteligencji i często wypaczając szczegóły historyczne lub całkowicie fabrykując narracje i ofiary. W poście na Facebooku Muzeum stwierdziło, że obrazy te są "niebezpiecznym zniekształceniem", które "nie szanuje ofiar i plami ich pamięć".

Sawicki powiedział, że tsunami fałszywych obrazów podważa misję Miejsca Pamięci Auschwitz, jaką jest podnoszenie świadomości na temat Holokaustu.

"Zaczęliśmy już otrzymywać komentarze do naszych postów na Facebooku, że 'o, to jest zdjęcie wygenerowane przez sztuczną inteligencję'," powiedział.

Według organizacji promującej edukację i badania nad Holokaustem, ocaleni i rodziny są również zaniepokojeni wzrostem liczby Holokaust "AI slop".

"Nie do końca rozumieją, na co patrzą," powiedział dr Robert Williams z organizacji International Holocaust Remembrance Alliance.

Powiedział, że ocaleni z Holokaustu odczuwają "pewien smutek, że pozwolono na to", pomimo rządowych i filantropijnych inwestycji w kampanie uświadamiające.

"Czują, że ich wysiłki nie były wystarczające," powiedział.

"To bardzo smutna rzecz, ponieważ ostatni z ocalałych wkrótce nas opuszczą."

Meta celowo nie zachęca użytkowników do publikowania fałszywych historii, w tym o Holokauście, ale jej system nagradza posty o wysokim zaangażowaniu. BBC znalazło również konta "AI slop" z siedzibą w Indiach, Wietnamie, Tajlandii i Nigerii.

Aby zrozumieć, dlaczego sieci te masowo produkują określone rodzaje treści, BBC rozmawiało z Pakistańczykiem Fazalem Rahmanem, który jest zarejestrowany w kilku programach monetyzacji treści w mediach społecznościowych i twierdzi, że ta praca stała się jego jedynym źródłem dochodu.

Chociaż twierdzi, że sam nie tworzy żadnych obrazów Holokaustu i nawet nie wiedział, co oznacza to słowo, działa w tych samych grupach na Facebooku, co ci, którzy się tym zajmują.

Rahman powiedział, że właściciel strony na Facebooku, która ma 300,000 obserwujących, może zarobić 1,000 dolarów (około 3,656 zł) miesięcznie, jeśli ma "treści premium" przeznaczone dla odbiorców o wyższej wartości z Wielkiej Brytanii, USA i Europy. Szacuje on, że wyświetlenia z Zachodu były warte osiem razy więcej niż te z Azji.

Powiedział, że historia jako temat jest niezawodnym motorem ruchu w internecie.

Inni twórcy wydają się z tym zgadzać. BBC widziało filmy instruktażowe w jaki sposób, krok po kroku, popularne modele sztucznej inteligencji mogą być wykorzystywane do stałego generowania fałszywych obrazów i tekstów historycznych.

W jednym z filmów twórca poprosił chatbota AI o wymienienie kluczowych wydarzeń historycznych, które mógłby wykorzystać jako podstawę do tworzenia treści i otrzymał Holokaust jako jedną z odpowiedzi.

Inne porady udzielane przez niektórych twórców obejmują wskazówki, jak oszukać obserwujących, podszywając się pod inne podmioty, aby zdobyć obserwujących i zakwalifikować się do programu CM Mety.

Facebook ma funkcję przejrzystości stron, która pozwala użytkownikom śledzić poprzednie nazwy stron. Korzystając z tej funkcji, BBC znalazło wiele stron, które opublikowały "AI slop" o tematyce Holokaustu, które kiedyś udawały szereg różnych podmiotów, w tym oficjalne wydziały straży pożarnej w USA, firmy komercyjne i amerykańskich influencerów - wszystko bez ich zgody.

Według publicznych postów twórców strony te mogą być również sprzedawane lub wynajmowane tym, którzy chcą wejść na rynek twórców treści.

BBC zapytało Metę o kilka profili, które publikowały treści AI o tematyce Holokaustu, a także wydawały się angażować w oszukańcze praktyki.

Kilka profili i grup zostało usuniętych, w tym te pierwotnie oflagowane przez Miejsce Pamięci Auschwitz w czerwcu.

Rzecznik giganta technologicznego powiedział, że chociaż te fałszywe obrazy nie naruszały zasad dotyczących treści, zbadał je i stwierdził, że złamały zasady dotyczące podszywania się lub handlu stronami.

"Usunęliśmy udostępnione nam strony i grupy oraz wyłączyliśmy stojące za nimi konta z powodu naruszenia naszych zasad dotyczących spamu i nieautentycznych zachowań," powiedział.

Sztuczna inteligencja była w przeszłości wykorzystywana do upamiętniania Holokaustu i ożywiania prawdziwych historii ofiar, ale dr Williams z International Holocaust Remembrance Alliance ostrzega, że istnieje ryzyko, że może to przyczynić się do poczucia, że historia Holokaustu jest w jakiś sposób sfabrykowana.

"Każda forma ekstremalnej manipulacji jest czymś, czego powinniśmy unikać," powiedział.

Dodatkowy reportaż: Umer Draz Nangiana, BBC Urdu

Ten tekst został napisany i sprawdzony przez naszych dziennikarzy, używając przy tłumaczeniu narzędzi AI, jako część projektu pilotażowego.

Edycja: Magdalena Mis