AIチャットボット「Grok」との会話、数十万件が検索エンジンの結果に表示 ユーザーに知らされず
画像提供, Getty Images
リヴ・マクマーン テクノロジー記者
米富豪イーロン・マスク氏の人工知能（AI）企業「xAI」が開発したAIチャットボット「グロック（Grok）」とユーザーがやりとりした、数十万件に及ぶ会話内容が、ユーザーに知らされないまま、検索エンジンの結果に表示されていたことが明らかになった。
ソーシャルメディア「X」に内蔵されているグロックには、ユーザーが会話記録を共有するためのボタンを押すと、固有のリンクが生成される機能がある。しかし、このボタンを使用すると、意図した相手に会話を共有するだけでなく、会話内容がインターネット上で検索可能になることが判明した。
22日にグーグルで検索したところ、グロックとの会話約30万件がインデックス化されていることが確認された。
専門家の一人はこの事態を受け、AIチャットボットをめぐり「プライバシー上の大災害が進行中」だと非難している。
BBCは「X」にコメントを求めている。
グロックの会話が検索エンジンの結果に表示される問題は、ビジネスメディア「フォーブス」が最初に報じた。同誌は、グーグル上で37万件以上のユーザー会話を確認したという。
BBCが確認したチャット記録の中には、グロックに安全なパスワードの作成を依頼する内容や、減量のための食事プランの提案、医療に関する詳細な質問への回答などが含まれていた。
また、インデックス化された一部の記録には、ユーザーがグロックの発言や行動の限界を試そうとする様子も見られた。
BBCが確認した記録の一つでは、イギリスの薬物乱用法で最も危険な分類対象「クラスA」に該当する薬物の製造方法について、グロックが実験室での詳細な手順を提供していた。
AIチャットボットとの会話が、ユーザーの意図以上に広く公開される事例は、今回が初めてではない。
米オープンAIは最近、ユーザーが共有したチャットGPTとの会話を検索エンジンに表示する「実験」を中止した。この実験では、共有機能を通じて公開された会話が、グーグルなどで検索可能になっていた。
オープンAIの広報担当者は当時、BBCの取材に対し、「ユーザーがコントロールできる状態を維持しつつ、有用な会話を共有しやすくする方法を試していた」と説明していた。また、チャットGPTの会話は非公開がデフォルトで、ユーザーが明示的に共有を選択しない限り公開されないとも、広報担当は強調した。
フェイスブックやインスタグラムを運営する米メタも、同様の批判を受けている。同社については、チャットボット「メタAI」との会話が、同社アプリ内の「探す」フィードに公開されていたことが問題視された。
「プライバシー災害」
共有されたチャットボットの会話記録には、ユーザーのアカウント情報が匿名化された、あるいは伏せられている場合もあるが、入力内容そのものに個人情報や機微な情報が含まれている可能性があるため、漏洩のリスクが指摘されている。
専門家らは、こうした事例がユーザーのプライバシーに対する懸念の高まりを浮き彫りにしていると警鐘を鳴らしている。
英オックスフォード大学インターネット研究所のリュック・ロシェ准教授はBBCに対し、「AIチャットボットで、プライバシーの大災害が進行中だ」と語った。
ロシェ博士は、チャットボットから「漏洩した会話」によって、氏名や居住地、メンタルヘルス（心の健康）、ビジネスの内部情報、対人関係など、幅広いユーザー情報が明らかになっていると指摘した。
「一度ネット上に漏洩すれば、これらの会話は永遠に残る」
また、オックスフォード大学AI倫理研究所のカリッサ・ヴェリス准教授（哲学）は、共有した会話は検索結果に表示されるとユーザーに通知していない点に、「問題がある」と語った。
「私たちが使うテクノロジーは、私たちのデータをどう扱っているのかさえ教えてくれない。それは問題だ」
