Xは「自主規制の権利失う」可能性あると英首相 Grokへの懸念から同意ない性的画像のAI生成違法に
ローラ・クレス テクノロジー記者
イギリス政府は、米実業家イーロン・マスク氏の人工知能（AI）企業「xAI」による生成AIチャットボット「Grok」について、懸念が広がっている事態を受け、被写体の同意なしに性的な画像を作成することを違法とする法律を施行する方針だ。
キア・スターマー首相は12日、与党・労働党の議員らに対し、Grokを搭載しているマスク氏所有のソーシャルメディア「X」が「自主規制する権利」を失う可能性があると警告した。
「XがGrokを制御できないなら、我々がそうする」と首相は述べ、イギリス政府がこの問題に迅速に対応すると話した。
イギリス政府はまた、こうした画像の作成に使われるオンラインツールの提供を違法とする法案を提出する計画だ。
BBCはX社にコメントを求めている。X社は以前、「Grokを使って違法コンテンツを作成する、またはそのような指示を与える者は、違法コンテンツをアップロードした場合と同じ結果を受ける」と述べていた。
スターマー首相の発言の数時間前には、英通信業界の独立監視機関、放送通信庁（Ofcom）が、Xについて調査を開始すると発表。Grokによる人物画像の改変について「深刻に懸念される報告」を受けたためだという。
この調査で法律違反が認められた場合、OfcomはXに対し、世界的な収益の最大10％または1800万ポンドのいずれか、高い方の金額の罰金を科す可能性がある。
さらに、Xがこれに従わない場合には、Ofcomは裁判所に対し、イギリス国内でインターネットサービスプロバイダーに対し、Xへのアクセスを完全に遮断する命令を出すよう要請できる。
作成者だけでなくツール規制も強化
リズ・ケンドル技術相は12日に下院に対し、規制当局に対し調査の結論を出すのに「何カ月も何カ月も」かけないよう求め、「できるだけ早く」行程表を示すよう要求した。
イギリスでは現在、成人のディープフェイク画像を共有することは違法となっている。しかし、2025年6月に「データ（利用とアクセス）法」が成立したにも関わらず、こうした画像の作成もしくは要求を犯罪とする規定は、これまで施行されていなかった。
活動家らは先週、政府がこの法律の施行を引き延ばしていると非難した。
ケンドル技術相は下院で、この罰則を「今週施行する」と述べた。さらに、データ法に加え、オンライン安全法においても「優先犯罪」とする方針を示した。
ケンドル氏は、本人の同意なしにAIで生成された、女性や子どもが服を脱いだ状態の画像は、「無害な画像」ではなく「虐待の武器」だと語った。
「Xで流通しているコンテンツは卑劣だ。それは健全な社会への侮辱だというだけでなく、違法だ」と、ケンドル氏は述べた。
「はっきりさせておく。オンライン安全法の下では、本人の同意なしに、下着姿を含めた性的な画像を共有すること、または共有すると脅すことは、個人やプラットフォームにとって犯罪だ」
「つまり、Xを含むプラットフォーム上で、そのようなコンテンツを作成または作成しようとする個人は、犯罪を犯しているということだ。誰に対してだろうと、法律が最大限に適用されることになる」
ケンドル技術相はまた、「責任は個人の行動だけにあるのではない」と述べ、「そのような素材をホストするプラットフォームは、Xを含めて責任を問われなくてはならない」と述べた。
イギリス政府はまた、「ヌード化」（画像の人物の衣服を取り除くこと）アプリを犯罪化するため、犯罪・警察法案に盛り込まれた措置をさらに強化する方針だ。
「法律で新しく犯罪行為と定めることで、性的画像を同意なく作成するために設計されたツールを企業が提供することを違法とする。つまり、問題の根源を狙う」と、ケンドル氏は説明した。
「一連の措置に加え、我々はテクノロジー企業に対し、女性や少女にとってプラットフォームをより安全にするため、Ofcomのガイダンスで推奨される手順を遅滞なく導入することを求める」、「もし導入しないなら、私はさらに踏み込む覚悟がある」とも、ケンドル氏は述べた。
名誉毀損などの法律に詳しいジェイミー・ハーワース弁護士は、ケンドル氏の発言について「政府がこの問題をどれほど深刻に受け止めているかを示す指標だ」と述べた。
「警察がただでさえ多大な負担から人手不足に陥っている状態で、加害者を捜査し裁判にかけられるのかは不透明だが、画像を作成する個人からソーシャルメディアプラットフォームに至るまで、この種の行為に関与するすべての当事者が、責任を問われることが重要だ」
表現の自由の制限「という話ではない」
BBCはX上で、女性が同意のないままデジタル加工で裸にされたり、性的な姿勢を取らされたりした例を複数確認している。自分の性的な画像が100枚以上作成されたと話す女性もいる。
Ofcomの調査では、Xが違法コンテンツを認識した際に迅速に削除しなかったかどうか、またイギリス国内の利用者がそれを閲覧できないよう「適切な措置」を講じたかどうかを検証する。
この決定は、Grokの画像生成機能をめぐる世界的な反発を受けたもの。先週末には、マレーシアとインドネシアが一時的にこのツールへのアクセスを遮断した。
Ofcomの報道官は、調査にどれほどの期間がかかるかについては明言しなかったが、「最優先事項だ」と述べた。
マスク氏は以前、なぜ他のAIプラットフォームが調査対象になっていないのかとXで利用者に質問され、イギリス政府が「検閲するための言い訳をなんでもいいから」探しているのだと答えた。
しかし、ケンドル氏はこれを否定した。
「これは、一部の人が主張するような、言論の自由を制限するという話ではない」
「これは、女性や少女に対する暴力に取り組むという話だ」
野党の反応は
最大野党・保守党のジュリア・ロペス影の技術相は、Ofcomの調査を歓迎するとともに、ヌード化ツールへの政府の対応を支持すると述べた。
一方でロペス氏は、Xが法律を順守しなかった場合、イギリスでのアクセスを遮断するというOfcomの措置を支持するというケンドル氏の先週の発言を批判。その理由として、これまで犯罪者がインターネットを利用しても、ウェブサイトそのものが禁止されたことはないと指摘した。
「これはプラットフォームに対する極めて重大な措置だ。こうしたプラットフォームは時に、良いことのために使われるし、スキャンダルを暴いたり、民主的な革命を引き起こしたり、私たちが好まない意見も含めた自由な意見交換を日常的に可能にしたりしている場所だ」と、ロペス氏は述べた。
