X zablokuje funkcję Grok AI pozwalającą na rozbieranie osób po fali krytyki

Model sztucznej inteligencji Grok Elona Muska nie będzie już mógł edytować zdjęć prawdziwych osób, aby pokazać ich w odsłaniających ubraniach w jurysdykcjach, w których jest to nielegalne, po fali krytyki seksualizowanych deepfake'ów tworzonych przez AI.

"Wdrożyliśmy środki technologiczne, aby uniemożliwić kontu Grok edycję zdjęć prawdziwych osób w odsłaniających ubraniach," czytamy w komunikacie na X.

Zmiana została ogłoszona kilka godzin po tym, jak główny prokurator Kalifornii powiedział, że stan bada rozprzestrzenianie się seksualizowanych deepfake'ów AI, w tym dzieci, generowanych przez model AI.

"Obecnie geoblokujemy wszystkim użytkownikom możliwość generowania zdjęć prawdziwych osób w bikini, bieliźnie i podobnych strojach za pośrednictwem konta Grok i Grok w X w tych jurysdykcjach, w których jest to nielegalne," powiedział X w środowym oświadczeniu.

Powtórzono również, że tylko płatni użytkownicy będą mogli edytować zdjęcia za pomocą Grok na swojej platformie.

Zgodnie z oświadczeniem, pozwoli to na dodatkową warstwę ochrony aby upewnić się, że osoby, które próbują nadużywać Grok w celu naruszenia prawa lub zasad X, zostaną pociągnięte do odpowiedzialności.

Przy włączonych ustawieniach NSFW, Grok ma zezwalać na "nagość górnej części ciała wyimaginowanych dorosłych ludzi (nie prawdziwych)" zgodną z tym, co można zobaczyć w filmach z oceną R, napisał Musk w środę.

"To jest de facto standard w Ameryce. Będzie się to różnić w innych regionach w zależności od przepisów obowiązujących w poszczególnych krajach," powiedział.

Musk wcześniej bronił X, pisząc, że krytycy "chcą po prostu stłumić wolność słowa".

W ostatnich dniach przywódcy na całym świecie skrytykowali funkcję edycji zdjęć Grok.

W weekend Malezja i Indonezja stały się pierwszymi krajami, które zakazały korzystania z narzędzia Grok AI po tym, jak użytkownicy stwierdzili, że zdjęcia zostały zmienione w celu stworzenia wyraźnych zdjęć bez zgody.

Brytyjski regulator medialny, Ofcom, poinformował w poniedziałek, że zbada, czy X nie naruszył brytyjskiego prawa w związku ze zdjęciami o charakterze seksualnym.

Prokurator generalny Kalifornii Rob Bonta powiedział w środę: "Ten materiał, przedstawiający kobiety i dzieci w nagich i jednoznacznie seksualnych sytuacjach, był wykorzystywany do nękania ludzi w całym Internecie".

Badaczka polityki Riana Pfefferkorn powiedziała, że jest zaskoczona, że X potrzebował tak dużo czasu, aby wdrożyć nowe zabezpieczenia Grok i że funkcje edycji powinny były zostać usunięte w momencie kiedy zaczęły się nadużycia.

Pozostają pytania dotyczące tego, w jaki sposób X będzie egzekwować swoje nowe zasady, takie jak to, w jaki sposób model sztucznej inteligencji będzie wiedział, czy obraz jest prawdziwą osobą i jakie działania podejmie, gdy użytkownicy złamią zasady, powiedziała Pfefferkorn.

Musk również nie przedstawił firmy w poważnym świetle, powiedziała, dodając, że pomogłoby, gdyby przestał "robić takie rzeczy, jak ponowne publikowanie zdjęcia AI Keira Starmera w bikini".

Dodatkowy reportaż: Katy Bailes

Ten tekst został napisany i sprawdzony przez dziennikarzy BBC. Przy tłumaczeniu zostały użyte narzędzia AI, jako część projektu pilotażowego.

Edycja: Magdalena Mis