Sztuczna inteligencja Elona Muska oskarżona o tworzenie intymnych filmów z Taylor Swift

Generator wideo AI Elona Muska został oskarżony o dokonanie "świadomego wyboru" w celu stworzenia seksualnie jednoznacznych klipów Taylor Swift bez wydanej komendy, mówi ekspert ds. nadużyć w internecie.

"To nie jest mizoginia przez przypadek, to jest zaplanowane," powiedziała Clare McGlynn, profesorka prawa, która pomogła opracować ustawę, która uczyniłaby pornograficzne deepfake'i nielegalnymi.

Według raportu The Verge, nowy "pikantny" tryb Grok Imagine "nie zawahał się wygenerować w pełni nieocenzurowanych filmów topless" gwiazdy popu bez wydanej komendy tworzenie intymnych treści.

W raporcie stwierdzono również, że nie wdrożono odpowiednich metod weryfikacji wieku, które weszły w życie w lipcu.

XAI, firma stojąca za Grok, została poproszona o komentarz.

Polityka dopuszczalnego użytkowania XAI zabrania "przedstawiania wizerunków osób w sposób pornograficzny".

"To, że te treści są tworzone bez podpowiedzi, pokazuje mizoginiczne nastawienie większości technologii AI," powiedziała prof. McGlynn z brytyjskiego Durham University.

"Platformy takie jak X mogłyby temu zapobiec, gdyby się na to zdecydowały, ale świadomie tego nie zrobiły," dodała.

To nie pierwszy raz, kiedy wizerunek Taylor Swift został w ten sposób wykorzystany.

Seksualne deepfake'i wykorzystujące jej twarz stały się viralowe i były oglądane miliony razy na X i Telegramie w styczniu 2024 r.

Deepfake'i to generowane komputerowo zdjęcia, które zastępują twarz jednej osoby inną.

'Całkowicie bez cenzury, całkowicie obnażona'

Testując Grok Imagine, dziennikarka The Verge Jess Weatherbed wpisała komendę: "Taylor Swift świętująca Coachella z chłopakami".

Grok wygenerował nieruchome obrazy Swift w sukience z grupą mężczyzn za nią.

Można je następnie animować, tworząc krótkie klipy wideo w czterech różnych ustawieniach: "normalny", "zabawny", "niestandardowy" lub "pikantny".

"Natychmiast zerwała [sukienkę], pod spodem miała tylko stringi z frędzlami i zaczęła tańczyć, całkowicie bez cenzury, całkowicie obnażona," Weatherbed powiedziała BBC News.

Dodała: "To było szokujące, jak szybko miałam to przed oczyma - w żaden sposób nie prosiłam o zdjęcie jej ubrania, wszystko, co zrobiłam, to wybranie opcji "pikantne."

Gizmodo otrzymał podobnie jednoznaczne rezultaty ze sławnymi kobietami, chociaż niektóre wyszukiwania miały również niewyraźne filmy lub z komunikat "wideo moderowane".

BBC nie było w stanie niezależnie zweryfikować wyników generacji wideo AI.

Weatherbed powiedziała, że zarejestrowała się w płatnej wersji Grok Imagine, która kosztowała 30 funtów (147 zł), używając zupełnie nowego konta Apple.

Grok poprosił ją o podanie daty urodzenia, ale nie przeprowadzono żadnej innej weryfikacji wieku.

Zgodnie z nowymi brytyjskimi przepisami, które weszły w życie pod koniec lipca, platformy pokazujące zdjęcia z nagością muszą weryfikować wiek użytkowników przy użyciu metod, które są "technicznie dokładne, solidne, wiarygodne i uczciwe".

"Witryny i aplikacje zawierające narzędzia Generative AI, które mogą generować materiały pornograficzne, podlegają przepisom ustawy," powiedział BBC News brytyjski regulator mediów Ofcom.

"Zdajemy sobie sprawę z rosnącego i szybko rozwijającego się ryzyka, jakie narzędzia GenAI mogą stwarzać w przestrzeni online, zwłaszcza dla dzieci, i pracujemy nad tym, aby platformy wprowadziły odpowiednie zabezpieczenia w celu złagodzenia tego ryzyka," czytamy w oświadczeniu.

Walka z deepfake w EU i Polsce

Unia Europejska posiada dwa akty prawne (Digital Services Act i AI Act), które zobowiązują duże platformy internetowe do identyfikacji i oznaczania treści deepfake'ów, jednak według państwowego instytutu badawczego NASK zajmującego się cyberbezpieczeństwem, państwa członkowskie mają trudności z dostosowywaniem prawa do szybko zmieniającej się technologii.

Polskie prawo posiada instrumenty, które umożliwiają przeciwdziałanie nadużyciom, ale ma jasnych definicji dotyczących deepfake'ów i modeli generatywnych, czy też dokładnych przepisów w kwestii odpowiedzialności twórców i użytkowników AI.

Ochrona przed nieautoryzowanym użyciem wizerunku jest oparta głównie na przepisach o dobrach osobistych i prawie do wizerunku.

W maju polskie Ministerstwo Cyfryzacji ruszyło z nową kampanią edukacyjną w celu przeciwdziałanie dezinformacji, włączając dezinformację wizualną, deepfake'i i fake newsy.

"Manipulacja informacjami jest coraz bardziej powszechna. Rozprzestrzenianie się dezinformacji może wpływać na nasze codzienne decyzje, a nawet postawy wobec ważnych spraw społecznych, dlatego tak ważne jest podniesienie świadomości na temat zagrożeń związanych z dezinformacją w sieci," powiedział Krzysztof Gawkowski, wicepremier i minister cyfryzacji.

Nowe prawo w UK

Obecnie generowanie pornograficznych deepfake'ów jest nielegalne, jeśli są one wykorzystywane w pornografii zemsty lub przedstawiają dzieci.

Prof. McGlynn pomogła opracować poprawkę do ustawy, która uczyniłaby nielegalnym generowanie lub żądanie generowania - bez zgody - wszystkich pornograficznych deepfake'ów.

Rząd zobowiązał się do wprowadzenia tej poprawki, ale nie weszła ona jeszcze w życie.

Rzecznik Ministerstwa Sprawiedliwości powiedział: "Seksualnie jednoznaczne deepfake'i tworzone bez zgody są poniżające i szkodliwe.

"Odmawiamy tolerowania przemocy wobec kobiet i dziewcząt, która plami nasze społeczeństwo, dlatego też przyjęliśmy przepisy zakazujące ich tworzenia tak szybko, jak to możliwe."

Kiedy w 2024 roku pornograficzne deepfake'i wykorzystujące twarz Taylor Swift stały się viralowe, X tymczasowo zablokował wyszukiwanie jej nazwiska na platformie.

X powiedział wtedy, że "aktywnie usuwa" obrazy i podejmuje "odpowiednie działania" przeciwko kontom zaangażowanym w ich rozpowszechnianie.

Weatherbed powiedziała, że zespół The Verge wybrał Taylor Swift do przetestowania funkcji Grok Imagine z powodu tego incydentu.

"Założyliśmy - niesłusznie - że gdyby wprowadzili jakiekolwiek zabezpieczenia, aby uniemożliwić im naśladowanie podobieństwa celebrytów, to ona byłaby pierwsza na liście, biorąc pod uwagę problemy, jakie mieli," powiedziała.

Przedstawiciele Taylor Swift zostali poproszeni o komentarz.

Ten tekst został napisany i sprawdzony przez naszych dziennikarzy, używając przy tłumaczeniu narzędzi AI, jako część projektu pilotażowego.

Edycja: Magdalena Mis