Grok AI na platformie X: co warto wiedzieć o sporze dotyczącym seksualnych treści?

Platforma społecznościowa Elona Muska, X, spotyka się z narastającą krytyką za to, że nadal pozwala płacącym użytkownikom generować treści o charakterze seksualnym za pomocą chatbota xAI o nazwie Grok.

Chatbot oferuje użytkownikom tryb „spicy", który umożliwia tworzenie "seksualizowanych" treści.

Śledztwa wykazały, że niektórzy użytkownicy X korzystali z tej funkcji do edytowania zdjęć, w tym prosząc urządzenie o „rozbieranie" osób z ubrań. W odosobnionych przypadkach Grok był również używany do tworzenia obrazów o charakterze seksualnym dzieci.

Platforma poinformowała 2 stycznia, że pracuje nad naprawą luk w zabezpieczeniach. Jednak po kolejnej fali krytyki ogłoszono w czwartek, że edycja obrazów przez Grok AI będzie ograniczona wyłącznie do użytkowników z płatnym abonamentem.

Brytyjski rząd nazwał reakcję X „zniewagą" wobec ofiar mizoginii i przemocy seksualnej.

Rzecznik premiera Wielkiej Brytanii Sir Keira Starmera powiedział w piątek, że ten krok „po prostu zamienia funkcję AI, która umożliwia tworzenie nielegalnych obrazów, w usługę premium".

BBC zwróciło się do X o komentarz. Elon Musk wcześniej napisał na platformie, że każdy, kto używa Groka do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jak gdyby przesyłał nielegalne materiały.

Natychmiastowe działanie

Starmer był całkowicie klarowny w tej sprawie: X musi podjąć działania – i to natychmiast", powiedział rzecznik premiera.

„Czas, aby X wzięło się za ten problem – gdyby inna firma medialna miała billboardy w centrach miast z nielegalnymi obrazami, natychmiast by je usunęła albo spotkała się z publiczną krytyką," dodał.

Jednak podczas gdy Grok będzie umożliwiał przeróbkę obrazów na X wyłącznie dla płacących członków społeczności, takie ograniczenia nie obowiązują w osobnej aplikacji ani na stronie internetowej.

„Musk wpadł w furię w proteście przeciwko temu, że jest rozliczany za falę nadużyć," mówi profesor Clare McGlynn, ekspertka w dziedzinie regulacji prawnych pornografii, przemocy seksualnej i nadużyć online.

„Zamiast podjąć odpowiedzialne kroki, aby zapewnić, że Grok nie może być używany w celach związanych z nadużyciami, wycofano dostęp dla ogromnej większości użytkowników".

Hannah Swirsky, szefowa polityki w Internet Watch Foundation, powiedziała, że to „nie cofa szkód, które już zostały wyrządzone".

„Nie uważamy, że wystarczy po prostu ograniczyć dostęp do narzędzia, które nigdy nie powinno mieć możliwości tworzenia takich obrazów, jakie widzieliśmy w ostatnich dniach," stwierdziła.

Organizacja wcześniej poinformowała, że jej analitycy odkryli „karalne obrazy" dziewczynek w wieku od 11 do 13 lat, które „wydają się być stworzone" przy użyciu Groka.

„Siedzenie i czekanie, aż niebezpieczne produkty zostaną nadużyte, zanim podejmie się działania, jest niedopuszczalne," powiedziała Swirsky.

Globalna krytyka

Wielka Brytania nie jest jedyna w krytyce platformy społecznościowej Elona Muska.

Unia Europejska również poinformowała, że bada funkcję chatbota Grok.

„Doskonale zdajemy sobie sprawę z faktu, że X… oferuje teraz tryb 'spicy', pokazujący wyraźne treści seksualne, z niektórymi wynikami generowanymi z obrazami przypominającymi dzieci. To nie jest pikantne, to jest nielegalne, to jest oburzające, to jest obrzydliwe. Tak to widzimy. I na to nie ma miejsca w Europie," powiedział 5 stycznia rzecznik ds. cyfrowych UE Thomas Regnier.

Polski minister cyfryzacji Krzysztof Gawkowski wezwał prezydenta Karola Nawrockiego do szybkiego podpisania nowej ustawy wprowadzającej unijny Akt o Usługach Cyfrowych do krajowego prawa.

Ustawa została uchwalona przez parlament w listopadzie i ma na celu przyspieszenie usuwania nielegalnych treści. Prezydent Nawrocki wyraził obawy, że ustawa ograniczy wolność słowa w internecie.

„Niekontrolowana AI szaleje i wyrządza coraz większe szkody. Grok znów, z inspiracji Elona Muska testuje, jakie granice może przekroczyć," napisał Gawkowski na X.

Francuscy ministrowie skierowali sprawę do prokuratury i poprosili krajowego regulatora mediów o sprawdzenie zgodności platformy z unijnym Aktem o Usługach Cyfrowych.

Niemiecki minister ds. mediów Wolfram Weimer wezwał Komisję Europejską do podjęcia kroków prawnych, twierdząc, że problem grozi przekształceniem się w „uprzemysłowienie molestowania seksualnego".

Indie, Malezja i Australia również wydały ostrzeżenia dla X w związku z możliwością generowania obscenicznych lub seksualizowanych treści przez Groka.

'Subskrybuj, aby odblokować'

Grok to darmowe narzędzie AI, które użytkownicy mogą oznaczać bezpośrednio w postach lub odpowiedziach pod wpisami innych osób, prosząc je o określoną reakcję.

Funkcja ta umożliwiała również edytowanie obrazów – w tym tworzenie promptów, które cyfrowo 'rozbierają' osoby z większości ubrań.

Grok spełniał wiele próśb użytkowników dotyczących edycji zdjęć kobiet, aby pokazać je w bikini lub skąpym ubraniu – co, jak powiedziały BBC osoby, których to dotyczyło, sprawiło, że czuły się 'upokorzone' i 'odczłowieczone'.

Od piątkowego poranka Grok informuje użytkowników, którzy proszą o edycję obrazów przesłanych na X, że funkcja 'generowania i edytowania obrazów' jest obecnie dostępna wyłącznie dla płacących subskrybentów.

Dodaje, że użytkownicy „mogą subskrybować, aby odblokować te funkcje".

Niektóre posty na platformie, które widziało BBC News, sugerują, że tylko osoby z tzw. „zweryfikowanym profilem" — zarezerwowanym dla płatnej subskrypcji X — mogły skutecznie prosić Groka o edycję obrazów.

Dr Daisy Dixon, wykładowczyni filozofii na Uniwersytecie w Cardiff i użytkowniczki X, która powiedziała, że zauważyła wzrost liczby osób używających Groka do „rozbierania" jej profilu, przyjęła zmianę z zadowoleniem, ale stwierdziła, że to działa tylko „jak plaster na ranę".

„Grok musi zostać całkowicie przeprojektowany i mieć wbudowane etyczne zabezpieczenia, aby zapobiec takim sytuacjom w przyszłości," powiedziała BBC.

"Elon Musk musi również uznać to za to, czym naprawdę jest — czyli kolejny przypadek naruszenia prawa ze względu na płeć".

Prof. McGlynn powiedziała, że decyzja X przypomina wcześniejsze podejście firmy do pornograficznych deepfake'ów Taylor Swift pojawiających się na platformie w zeszłym roku — kiedy zablokowano wyszukiwanie seksualizowanych materiałów generowanych z wizerunkiem piosenkarki przy użyciu funkcji wideo Grok AI.

„Robi to, aby podsycać argumenty o wolności słowa," dodała.

„Będzie twierdził, że regulacje utrudniają korzystanie z tej technologii. Ale wszystko, czego wymagają przepisy, to podjęcie niezbędnych środków ostrożności w celu ograniczenia szkód".

Ten tekst został napisany i sprawdzony przez dziennikarzy BBC. Przy tłumaczeniu zostały użyte narzędzia AI, jako część projektu pilotażowego.

Edycja: Kamila Koronska