IBM、「偏見」を基にした顔認証技術の開発を中止へ
画像提供, Getty Images
米テクノロジー大手のIBMは、警察で「大衆監視や人種によるプロファイリング」に使われている顔認識ソフトウエアの提供をやめると表明した。
アメリカでは黒人男性ジョージ・フロイドさんの死をきっかけに、警察改革の要求が高まっている。
顔認識ソフトの問題点を指摘してきた団体からは、警察の技術開発を支えてきた企業による皮肉な動きとの見方も出ている。
＜関連記事＞
IBMのアーヴィンド・クリシュナ最高経営責任者（CEO）は、議会下院に宛てた書簡で、警察当局で使われている人工知能（AI）システムは「偏見」面からの検証が必要だと説明。
「人種差別との戦いはかつてないほど急を要している」とし、「警察改革」、「テクノロジーの責任ある利用」、「技術と教育機会の拡大」の3分野で、議会と協力したいと表明した。
また、「IBMは他社の顔認識技術も含めたあらゆるテクノロジーが、大衆監視や人種によるプロファイリング、基本的人権や自由の侵害に使われることに強く反対し、今後は許容しない」と述べた。
さらに、「顔認証技術を国内の警察機関が使うことの是非や、どう使われるべきかについて、国全体で検討を始める時に来ている」とした。
「透明性高い技術の採用を」
IBMは、偏見の恐れを含んだ顔認識技術に頼るのではなく、警官が体に装着するカメラやデータ解析など、「より透明性が高い」テクノロジーを採用するよう議会に強く求めた。
データ解析はIBMにとって、顔認識の関連製品よりも経営面で重要度が高い。同社は各種データから犯罪を予測する技術の開発も進めてきたが、この技術も偏見の恐れがあると批判されている。
スマートシティーから撤退？
「プライバシー・インターナショナル」のイヴァ・ブリュム＝デュモンテ氏は、「スマートシティー」という言葉を作り出したのはIBMだとし、次のように述べた。
「彼らは世界中で、IBMが販売していた警察の監視カメラやセンサーを利用した都市化を主張していた」、「IBMが今になって姿勢を一変させ、取り締まりでの技術利用について国民的な対話をしたいと主張するのはとても皮肉なことだ」
また、IBMは警察の取り締まり能力の強化を推進してきたことから、いま、埋め合わせをしようとしていると主張。同社の今回の動きに惑わされてはいけないと述べた。
「なにより、彼らの声明はあいまいだ。『総合的な』顔認識はやめると言っているが、IBMにとって顔認識は終わりを迎えるわけではなく、今後は目的に合わせたものになるということではないか」
アフリカ系やアジア系で精度落ちる
米マサチューセッツ工科大学の2019年の研究では、マイクロソフト、アマゾン、IBMの顔認証システムに肌色が濃い人々の男女を識別させたところ、完全に正しかったものは1つもなかったという。
さらに、米国立標準技術研究所の研究は、アフリカ系米国人やアジア人に顔認識のアルゴリズムを使用した場合、白人のときより精度が大幅に落ちるとした。
アメリカの警察当局ではアマゾンの顔認識ソフトウエア「レコグニション」（Rekognition）が広く採用されているが、イギリス企業の｢フェイスウオッチ｣など、小規模企業の製品も多数使われている。フェイスブックやツイッター、YouTUbeなどから画像の使用停止を求められた「クリアビューAI」も、米警察にソフトウエアを販売している。
コンサルティング会社PwCのスタッフで、AIの倫理問題に詳しいマリア・アクセンテ氏は、顔認識について、「主に現存する偏見や差別を助長する、重大な倫理上のリスク」を抱えていることがわかっているとした。
「社会で信頼を醸成し、重要な問題を解決するためには、利益と同様、目的が主要な評価基準となるべきだ」
