X、Grokの画像生成で実在人物の脱衣を不可に 反発受け
画像提供, Getty Images
米実業家イーロン・マスク氏の人工知能（AI）企業「xAI」による生成AIチャットボット「Grok」で、実在の人物の写真を編集して露出度の高い服装を身に着けているように見せることが、それが違法とされる場所ではできなくなる。性的な画像作成への懸念の拡大を受けた対応。Grokを運営するXが14日、発表した。
Xは、「私たちは、Grokアカウントがビキニなどの露出の多い服を着た実在の人物の画像を編集できないようにする技術的な対策を実施した」とする声明を発表。
「この制限は、有料会員を含むすべてのユーザーに適用される」とした。
この発表の直前には、米カリフォルニア州の検察トップが、Grokによって生成された、子どものものを含む性的なAIディープフェイクの拡散について調べを進めていると述べていた。
Xは、「私たちは現在、GrokアカウントとGrok in Xを通じて、ビキニ、下着、および同様の服装をした実在の人物の画像を生成するすべてのユーザーの能力を、それが違法である司法管轄区域でジオブロック（地域制限）している」と説明。
また、同社のプラットフォーム上でGrokを使用して画像を編集できるのは有料ユーザーだけだと改めて強調した。
そして、このことは、Grokを悪用して法律やXのポリシーに違反しようとする者が責任を問われることを確実にさせ、それにより保護が強化されることになるとした。
マスク氏は14日、GrokではNSFW（職場での閲覧は不適切）設定を有効にすると、成人向け映画で見られるような「架空の大人の人間（実在の人間ではない）の上半身のヌード」が許可されることになっているとオンラインで書いた。
そのうえで、「これがアメリカにおける事実上の標準だ。他の地域では、国ごとの法律によって異なるだろう」とした。
マスク氏はこれまでXを擁護し、批判的な人たちが「言論の自由を抑圧したいだけだ」と投稿していた。それには、AIが生成したビキニ姿のキア・スターマー英首相の画像2枚を添えていた。
世界各地で批判の声
Grokの画像編集機能に対しては、世界中の指導者らがここ数日、批判の声を上げている。
マレーシアとインドネシアは先週末、Grok のAIツールを禁止する最初の国となった。ユーザーから、同意なしに写真が加工され、露骨な画像を作成されたとの訴えが出たのを受けた措置だった。
イギリスでは、メディア規制機関の放送通信庁（Ofcom）が12日、Xが性的画像に関してイギリスの法律を守らなかった可能性について調査すると発表した。
スターマー首相は、AI画像をめぐる反発の中でXが「自主規制する権利」を失う可能性があると警告した。ただその後、Xがこの問題に対処する行動を取っているとされていることを歓迎すると述べた。
政策研究者のリアナ・プフェファーコーン氏は、XがGrokの新たな安全策を導入するのにこれほど時間がかかったことは驚きだと述べた。そして、悪用が始まったらすぐに編集機能を削除すべきだったとした。
同氏はまた、Xがどのように新ポリシーを実施するのか疑問が残ると説明。たとえば、Grokがどのように実在の人物の画像かを判別するのかや、ユーザーがルールを破った場合にどのような行動をとるのかなどが不透明だとした。
同氏はさらに、マスク氏はXが真剣なようには見せていないとし、「ビキニ姿のキア・スターマーのAI画像をリポストするようなこと」をやめれば助けになるだろうと話した。
