Meta objęta dochodzeniem w sprawie 'intymnych' rozmów AI z dziećmi

Amerykański senator wszczął śledztwo wobec firmy Meta po tym, jak ujawniony dokument rzekomo pokazał, że sztuczna inteligencja (AI) giganta technologicznego miała pozwolenie na prowadzenie "zmysłowych" i "romantycznych" rozmów z dziećmi.

Wewnętrzny dokument, do którego dotarła agencja Reuters, nosił rzekomo tytuł „GenAI: Content Risk Standards" (z ang. standardy dotyczące ryzyka treści).

Republikański senator Josh Hawley nazwał dokument „nagannym i oburzającym" i poprosił o udostępnienie dokumentu wraz z listą produktów, których dotyczy.

Rzecznik Meta powiedział BBC: „Podane przykłady i uwagi były i są błędne oraz niezgodne z naszą polityką, i zostały usunięte".

Firma twierdzi, że ma "jasne zasady" dotyczące tego, jakich odpowiedzi mogą udzielać jej chatboty AI, i że polityka ta "zakazuje treści seksualizujących dzieci oraz odgrywania ról o charakterze seksualnym między dorosłymi a nieletnimi".

„Poza samymi przepisami istnieją setki przykładów, notatek i adnotacji, które pokazują, jak zespoły mierzą się z różnymi hipotetycznymi scenariuszami," powiedział rzecznik Meta.

Senator Josh Hawley, republikanin ze stanu Missouri, ogłosił 15 sierpnia w poście na X, że bada sprawę.

„Czy jest cokolwiek, COKOLWIEK, czego wielkie firmy technologiczne nie zrobią dla szybkiego zarobku?" zapytał.

„Teraz dowiadujemy się, że chatboty Meta zostały zaprogramowane do prowadzenia wulgarnych i „zmysłowych" rozmów z ośmiolatkami. To chore. Rozpoczynam pełne śledztwo, aby uzyskać odpowiedzi. Wielkie firmy technologiczne: Zostawcie nasze dzieci w spokoju."

Facebook, WhatsApp i Instagram są własnością Meta.

'Rodzice zasługują na prawdę'

Wewnętrzny dokument polityki Meta Platforms stwierdza również, że chatbot giganta mediów społecznościowych może przekazywać fałszywe informacje medyczne oraz prowadzić prowokacyjne rozmowy na tematy takie jak seks, rasa czy celebryci.

Dokument miał rzekomo służyć do omówienia standardów, które będą wyznacznikiem działań Meta AI, asystenta opartego na sztucznej inteligencji, a także innych chatbotów dostępnych na platformach społecznościowych należących do Meta.

„Rodzice zasługują na prawdę, a dzieci zasługują na ochronę," napisał Hawley w liście skierowanym do Meta i prezesa Marka Zuckerberga.

„Podając tylko jeden z przykładów, wasze wewnętrzne zasady rzekomo pozwalają sztucznej inteligencji na komentowanie, że ciało ośmiolatka to 'dzieło sztuki', którego 'każdy cal... jest arcydziełem – skarbem, który głęboko cenię'."

Agencja Reuters poinformowała również o innych kontrowersyjnych decyzjach, które zostały uznane za dopuszczalne przez dział prawny firmy Meta.

Wśród nich znalazło się twierdzenie, że Meta AI może rozpowszechniać fałszywe informacje o celebrytach, pod warunkiem że zamieści zastrzeżenie informujące, iż przekazywane treści nie są zgodne z prawdą.

Ten tekst został napisany i sprawdzony przez naszych dziennikarzy, używając przy tłumaczeniu narzędzi AI, jako część projektu pilotażowego.

Edycja: Nicole Frydrych i Magdalena Mis