Dlaczego fałszywe filmy AI o schyłku brytyjskich miast podbijają media społecznościowe?

Wygenerowane przez sztuczną inteligencję nagranie pokazuje grupę młodych, głównie czarnoskórych, mężczyzn w kominiarkach i puchowych kurtkach, zjeżdżających ze zjeżdżalni wodnej do brudnego basenu, na którego powierzchni unoszą się śmieci.

Podpis nagrania opisuje je jako scenę w parku wodnym w południowej dzielnicy Londynu, Croydon, rzekomo finansowany z pieniędzy podatników.

To jeden z wielu deepfake'ów przedstawiających często absurdalne wizje miejskiego upadku, rzekomo rozgrywające się w tej samej części Londynu. W ślad za nim pojawiły się dziesiątki podobnych profili publikujących zbliżone treści, które łącznie zgromadziły miliony wyświetleń na TikToku oraz w instagramowych rolkach.

Fałszywe nagrania stały się częścią znacznie szerszego trendu, w ramach którego influencerzy i twórcy internetowi przedstawiają zachodnie miasta — takie jak Londyn, Manchester, San Francisco czy Nowy Jork — jako miejsca zalane przez imigrantów i przestępczość.

Zjawisko to bywa określane mianem „pornografii upadku" (decline porn). Te narracje — często przesadzone lub całkowicie sfabrykowane, a czasem jawnie satyryczne — podsycają gniew i rasistowskie reakcje wśród części odbiorców, którzy traktują je dosłownie.

BBC dotarło do twórcy filmów AI o Croydon na potrzeby nowego podcastu Top Comment, który bada historie stojące za treściami krążącymi w mediach społecznościowych.

Dziennikarze zidentyfikowali nowy typ internetowego fałszerza — twórcę treści żyjącego z zaangażowania odbiorców, który jednocześnie zrzuca z siebie odpowiedzialność za to, w jaki sposób jego materiały mogą być wykorzystywane do promowania dzielących narracji politycznych.

Wstyd związany z publikowaniem takich nieautentycznych treści wydaje się całkowicie zanikać.

Jeden z takich twórców, działający w sieci pod pseudonimem RadialB, twierdzi, że nie spodziewał się ani fali naśladowców, ani politycznych kontrowersji. Utrzymuje, że jego filmy miały być zabawne — jednocześnie jednak przyznaje, że zależało mu na tym, by odbiorcy uznali przedstawione sceny za prawdziwe, ponieważ to skutecznie przyciąga ich uwagę.

„Gdyby ludzie od razu wiedzieli, że to fałsz, po prostu by przewinęli dalej. Atutem generatywnych modeli AI jest to, że [filmy] wyglądają realistycznie," mówi RadialB w rozmowie telefonicznej. Odmawia podania prawdziwego nazwiska, zdradza jedynie, że ma dwadzieścia kilka lat i pochodzi z północno-zachodniej Anglii. Przyznaje też, że nigdy nie był w Croydon.

Twórca filmów twierdzi, że pomysł stworzenia parków wodnych, zoo i akwarium w Croydon był „naturalną eskalacją w stronę coraz bardziej zabawnych i absurdalnych koncepcji". Jak wyjaśnia, kilka jego nagrań „wybiło się", ponieważ były szczególnie dosadne i pokazywały ludzi wylatujących ze zjeżdżalni.

Młodzi mężczyźni pojawiający się w jego filmach to „roadmeni" — slangowe określenie miejskiej młodzieży, często kojarzonej z handlem narkotykami. Twórca opisuje ich jako „kulturowy archetyp", który regularnie wykorzystuje w swoich materiałach.

Jeden z postów, przedstawiający roadmenów w brytyjskim parlamencie, zdobył osiem milionów wyświetleń w ciągu jednego dnia.

Zapytany o rasistowskie komentarze, które czasami pojawiają się pod jego filmami, odpowiada: „Nie zaprzeczam temu", dodając jednak, że „komentarze są filtrowane" — co oznacza, że platformy społecznościowe usuwają wpisy o charakterze rasistowskim.

TikTok, Instagram i X posiadają regulaminy zakazujące mowy nienawiści.

RadialB twierdzi też, że tworząc treści AI, nie zamierza przedstawiać ludzi jako należących do konkretnej rasy czy grupy etnicznej, ale używał polecenia „roadmeni w puchowych kurtkach, dresach i kominiarkach", ponieważ kreuje to„najzabawniejsze" postacie.

Choć zaprzecza politycznym intencjom, jego filmy pokazują absurdalne, rzekomo „finansowane z podatków" obiekty. Pojawiają się w nich także twierdzenia, że „angielska polityka to pasożytnicze bagno", oraz sugestie, że „powinniśmy zastąpić ich wszystkich roadmenami".

Kilka filmów zawiera oznaczenia informujące, że są „wygenerowane przez AI" lub zawierają „syntetyczne media", zgodnie z zasadami TikToka, Instagrama i X dotyczącymi treści AI. Jednak niektórzy komentujący przyznali, że rzeczywiście uwierzyli w autentyczność nagrań.

RadialB przyznaje, że filmy wywołują reakcje polityczne: „Mogę coś wrzucić i pojawiają się pięćdziesięcio- czy sześćdziesięciolatkowie w komentarzach, którzy wściekają się i piszą polityczne rzeczy."

Sugeruje jednak, że część komentarzy ma charakter ironiczny.

Inni użytkownicy sprzeciwili się tej fali „AI-owego śmiecia", uznając ją za niesprawiedliwy stereotyp rasowy dotyczący ich dzielnicy. Jeden czarnoskóry użytkownik TikToka z Croydon, C.Tino, opublikował odpowiedź, twierdząc, że trend fałszywie przedstawia okolicę jako „getto".

„Te filmy sprawiają, że ludzie myślą, iż to prawdziwe życie. To zaczyna wymykać się spod kontroli," powiedział.

Zniekształcanie rzeczywistości

RadialB mówi, że mógł zacząć tworzyć takie treści dzięki „ogromnemu postępowi" a jakości i dostępności narzędzi AI. To „znacznie obniża próg dostępu" dla każdego, kto chce tworzyć „nieautentyczne rzeczy".

Jego zdaniem wiele kont udostępniających jego posty robi to dla wyświetleń i kliknięć – oraz w celu monetyzacji treści na innych platformach, takich jak Facebook.

Użytkownicy z tak odległych miejsc jak Izrael czy Brazylia twierdzili, że udostępnili filmy, ponieważ „generowały zaangażowanie" lub aby „wziąć udział w trendzie". Kilka innych kont publikujących po arabsku, prawdopodobnie z Bliskiego Wschodu, również udostępniło wiele filmów o rzekomym upadku Londynu – w tym te o Croydon.

Znalazłam też kilka profili na TikToku, które podszywają się pod brytyjskie serwisy informacyjne, a publikują wyłącznie takie wygenerowane przez AI filmy o Londynie lub inne negatywne treści o miastach w Wielkiej Brytanii i USA.

Deepfake'i wpisują się w istniejący trend filmów przedstawiających europejskie i amerykańskie miasta jako pogrążające się w degradacji z powodu przestępczości i imigracji. Czasem pokazują prawdziwe przykłady kradzieży telefonów, bezdomności, graffiti czy problemów narkotykowych, ale pomijają szerszy kontekst.

Coraz częściej jednak wykorzystują AI do zniekształcania rzeczywistości.

Południowoafrykański YouTuber Kurt Caz zbudował publiczność liczącą ponad cztery miliony subskrybentów, publikując filmy podróżnicze o tytułach takich jak „Napadnięty przez złodziei w Barcelonie!" czy „Grożono mi w najgorszym mieście Wielkiej Brytanii!".

Po opublikowaniu niedawnego filmu zatytułowanego „Unikaj tego miejsca w Londynie" został jednak oskarżony o wykorzystanie sztucznej inteligencji do przerobienia zdjęcia podglądowego w sposób, który miał przedstawiać stolicę Wielkiej Brytanii jako jedno z „najbardziej zniszczonych miast", jakie rzekomo odwiedził.

Zdjęcie przedstawia mężczyznę jadącego na rowerze w kominiarce, na tle szyldów sklepowych w języku arabskim.

Jednak te same szyldy w filmie nagranym przy North End w Croydon są w języku angielskim, rowerzysta nie ma kominiarki, a Caz po przyjaznej rozmowie pokazuje mu kciuk w górę.

Na platformie X Kurt Caz odrzucił krytykę zdjęcia jako „clickbait" i napisał: „Jeśli zamierzacie przygotować krytyczny materiał o mnie to, zróbcie to porządnie."

Narracje o schyłku Wielkiej Brytanii i Europy zostały podchwycone także przez wpływowe osoby publiczne, w tym właściciela platformy X oraz firm Tesla i SpaceX — Elona Muska, który przemawiał podczas zeszłorocznego wiecu Unite the Kingdom, organizowanego przez skrajnie prawicowego aktywistę Tommy'ego Robinsona.

"To, co widzę, to wyniszczanie Wielkiej Brytanii. Początkowo powolna erozja, ale coraz szybsza, związana z masową, niekontrolowaną migracją," powiedział Musk.

To temat, o którym Musk regularnie pisze na swoim profilu na X, obserwowanym przez ponad 230 mln osób.

Choć debaty o imigracji i przestępczości są uzasadnione, wiele z tych treści wykracza poza to, na co wskazują dostępne dane.

W styczniu firma badawcza YouGov opublikowała nowe dane sugerujące, że większość Brytyjczyków uważa dziś Londyn za niebezpieczny. Jednak tylko jedna trzecia ankietowanych mieszkających w stolicy zgodziła się z tym stwierdzeniem, a 81% z nich uznało swoją własną okolicę za bezpieczną.

RadialB twierdzi jednak, że nie zamierzał zostać influencerem „pornografii upadku" – chce po prostu rozśmieszać ludzi swoistą „formą sztuki", która wykorzystuje systemy rekomendacji. Wydaje się umywać ręce od odpowiedzialności za to, jak jego treści mogą być wykorzystywane lub kopiowane.

Jak mówi, jego konto na TikToku zostało zablokowane za udostępnianie treści, które uznano za zbyt drastyczne lub nieodpowiednie.

Założył jednak nowe konto, na którym publikuje podobne filmy, pokazujące „roadmenów" przy obskurnych „basenach typu infinity" i „bufetach finansowanych z podatków".

Ten tekst został napisany i sprawdzony przez dziennikarzy BBC. Przy tłumaczeniu zostały użyte narzędzia AI, jako część projektu pilotażowego.

Edycja: Kamila Koronska