Grok AI深偽涉黃 歐盟對馬斯克旗下的X立案調查

歐盟委員會已就伊隆·馬斯克（Elon Musk）旗下的X（前稱Twitter，推特）展開調查，原因是外界憂慮其人工智能（AI）工具Grok被用來製作真實人物的性化影像。

在此之前，英國監管機構通訊管理局（Ofcom）於今年1月亦作出過類似宣佈。

若該平台被裁定違反歐盟《數位服務法》（Digital Services Act）相關規定，歐盟委員會可對該公司處以最高相當於其全球全年營業額6%的罰款。

X的安全帳戶早前曾發聲明稱，該社交媒體平台已在「相關內容屬非法的司法管轄區」內，阻止Grok以數碼方式修改人物照片以脫掉其衣物。

歐洲議會愛爾蘭議員里吉娜·多赫蒂（Regina Doherty）表示，歐盟委員會將評估是否有向歐盟用戶展示「經操縱的色情露骨影像」。

維權活動人士及受害者表示，該工具「根本不應該」具備生成色情圖片的能力。Ofcom則稱其調查將持續下去。

歐盟監管機構表示，若X拒絕作出具實質意義的調整，可能會對其「實施臨時措施」。

該機構亦稱，已擴大其於2023年12月啟動的現有調查，該調查聚焦於X的推薦系統所帶來的風險——即向用戶推薦特定貼文的演算法。

在歐盟委員會宣佈調查前，馬斯克星期一（1月26日）在X上發布一張圖片，似乎是在嘲諷圍繞Grok的新限制。

這名X的東主過去曾批評審查該應用程式圖像編輯功能的人士——特別是英國政府——稱這是「想方設法找藉口來搞審查」。

星期日（25日），X上的Grok帳戶聲稱，該工具在短短30天內生成了超過55億張圖片。

「不可接受的貶損形式」

針對該平台聊天機械人的其他調查亦正在澳洲、法國及德國進行中。

Grok一度在印尼及馬來西亞被禁止使用，不過馬來西亞現已解除禁令。

歐盟委員會技術主權、安全與民主事務執行副主席亨娜·維克庫寧（Henna Virkkunen）形容這些色情深偽影像是「一種暴力、不可接受的貶損形式。」

她表示：「透過這次調查，我們將判斷X是否履行了其在《數位服務法》下的法律義務，抑或是將歐洲公民的權利——包括婦女和兒童——視為其服務的附帶損害。」

多赫蒂議員在發予路透社的聲明中表示，對於X等平台是否履行其「妥善評估風險，並防止非法及有害內容擴散」的法律責任，存在「嚴重疑問」。

她說：「歐盟有明確的規則來保護網上使用者。」

「這些規則在實際運作中必須發揮作用，特別是在強大科技被大規模部署的情況下。」

「在歐盟營運的公司，沒有任何一家可以凌駕於法律之上。」

「終止對婦女暴力聯盟」（End Violence Against Women Coalition）總監安德烈亞·西蒙（Andrea Simon）對BBC表示，鑑於「生成式人工智能帶來傷害的不斷演變」，問責「不應只停留在」讓X移除內容。

她補充說：「我們期望英國政府採取更多行動，確保科技平台不能從網絡虐待中獲利，例如進一步完善《網絡安全法》（Online Safety Act），使其切合實際需要。」

此舉距離歐盟因X的藍剔認證標誌而對其罰款1.2億歐元（1.43億美元；9.91億元人民幣；44.84億元新台幣）僅一個月。歐盟當時表示，該標誌「誤導用戶」，因為該公司並未「實質核實」帳戶背後的身分。

作為回應，美國國務卿馬可·盧比奧（Marco Rubio，魯比奧／魯比歐）及聯邦通訊委員會（FCC）指責歐盟監管機構攻擊並審查美國企業。

盧比奧稱：「歐盟委員會的罰款不僅是對X的攻擊，也是外國政府對所有美國科技平台及美國人民的攻擊。」

馬斯克轉載了這番言論，並補充稱：「完全正確。」

快速指南：Grok

關於馬斯克為X打造的AI聊天機械人

AI聊天機械人

Grok是由伊隆·馬斯克旗下公司xAI所創建的人工智能（AI）聊天機械人。

該工具於2023年首次推出，可用於生成文字、圖片及影片。使用者可透過Grok的網站及應用程式存取，並已整合至同樣由馬斯克擁有的社交媒體平台X。

叛逆特質

根據xAI的說法，Grok被設計成「在回答問題時帶點機智，並具有叛逆性格」。

其開發團隊表示，該聊天機械人利用X上分享的資訊，為用戶提供「即時的世界知識」。不過，人權組織如國際特赦組織曾批評X放大仇恨言論及錯誤資訊。

圖像生成功能

Grok的圖像生成功能允許用戶生成全新的AI圖像，或修改現有圖片。

有人開始使用該工具在未經同意的情況下替女性「脫衣」，並讓她們擺出性姿勢。亦有報道指，該工具被用來生成性化的兒童影像。

xAI的回應

由於Grok生成的性化影像，以及這些影像在社交媒體上被公開展示的方式，引發全球強烈反彈。當用戶在X上以提示標註Grok時，該機械人會直接在平台上回覆其訊息。

作為回應，Grok告訴用戶，「圖像生成及編輯目前僅限付費用戶使用」，並稱用戶「可透過訂閱解鎖這些功能」。

其後，該公司宣佈已在相關內容屬於非法的司法管轄區內，封鎖用戶編輯「真實人物穿著暴露服裝」的影像。