감정 읽는 AI, '위구르인 대상 실험'

AI와 안면 인식 기술을 사용해 감정 상태를 드러내는 카메라 시스템이 중국 신장 위구르인들을 대상으로 테스트됐다는 사실이 BBC 취재로 밝혀졌다.

한 소프트웨어 엔지니어는 이러한 시스템을 신장지역 여러 경찰서에 설치했다고 주장했다.

한 인권 활동가는 이에 대한 증거를 밝히며 충격적이라고 진술했다.

런던 주재 중국대사관은 이 주장에 직접 대응하지는 않았지만, 모든 인종 집단에게 정치적 및 사회적 권리가 보장된다고 전했다.

중국 신장 지역에는 1200만 명의 소수민족인 위구르인들이 거주하고 있고 이들 대부분은 무슬림이다.

신장 지역 주민들은 매일 감시받는다. 신장에는 인권 단체들이 고등 안보 수용소라고 부르는 등 매우 논란이 많은 "재교육 센터"가 있으며, 100만 명 이상이 이곳에 억류된 것으로 추정된다.

중국 정부는 독립 국가를 세우려는 위구르 분리주의자들이 테러 공격으로 수백 명을 죽였다며 신장 지역을 감시해야 한다고 늘 주장해왔다.

자신의 안전을 우려한 소프트웨어 엔지니어는 익명을 전제로 BBC 파노라마 프로그램과 인터뷰에 동의했다. 그는 자신이 일했던 회사도 밝히지 않았다.

다만 그는 BBC 파노라마에 위구르인 수감자들을 찍은 사진 5장을 제시하면서, 이들이 감정 인식 시스템 실험 대상이 됐다고 주장했다.

또한 그는 "중국 정부는 마치 실험실 쥐처럼 위구르인들을 다양한 실험 대상으로 사용한다"고 말했다.

그는 경찰서 내부 카메라 설치에 자기가 한 역할에 대해 "우리는 감정 탐지 카메라를 실험대상에서 3m 거리에 설치했다"며 "거짓말 탐지기와 비슷하지만 이보다 훨씬 진보한 기술"이라고 설명했다.

그는 경찰관들이 중국 전역의 경찰서에 설치된 "결박 의자"를 사용했다며 "금속 구속기가 손목을 고정하고 발목에도 똑같이 적용된다"고 말했다.

그는 AI 시스템이 어떤 방식으로 얼굴 표정과 피부 모공의 미세한 변화를 감지하고 분석하도록 훈련됐는지에 대해 증거를 제시했다.

그의 주장에 따르면, 해당 시스템 소프트웨어는 감정 탐지 결과에 대한 파이 차트를 만드는데 붉은 구간은 부정적이거나 불안한 심리 상태를 나타낸다.

그는 이 소프트웨어가 "신뢰할 만한 증거도 없이 미리 판단하기 위한 도구"라고 주장했다.

런던 주재 중국대사관은 중국 내 감정 인식 소프트웨어 사용에 대한 질의에 답변하지 않았고, "신장 지역 내 모든 민족에 대한 정치적, 경제적, 사회적 권리와 종교적 신념의 자유가 충분히 보장된다"고 밝혔다.

또한 "민족적 배경에 구애받지 않고 화합하며, 개인의 자유에 제한 없이 안정적이며 평화로운 삶을 살고 있다"고 전했다.

국제인권단체 휴먼라이츠워치의 중국 국장인 소피 리처드슨은 감정 인식 카메라에 대한 증거를 확인했다.

리처드슨은 "충격적"이라며 "사람들이 파이 차트로 전락하는 것뿐 아니라, 상당히 강압적인 상황에 처해 엄청난 압력을 받고 있고 당연히 불안에 떨고 있는데, 이는 그들이 죄를 지었다는 표시로 인식된다. 나는 이것이 심각한 문제라 생각한다"고 말했다.

수상한 행동

콜로라도 대학에서 위구르인 등 중국 소수민족을 연구하는 다렌 바일러에 따르면, 위구르인들은 일상적으로 지역 공무원들에게 DNA 샘플을 제공하고 디지털 스캔을 받아야 한다. 또한 그들 대부분은 연락처 목록과 문자 메시지 등 데이터를 수집하는 정부 앱을 휴대전화에 설치해야 한다.

바일러는 "이제 위구르인의 삶은 데이터 생성을 위한 것"이라고 말했다.

또한 그는 "스마트폰을 휴대해야 한다는 건 누구나 알고 있고, 휴대하지 않는 사람은 구금될 수 있다"며 "정부 당국은 앱이 스마트폰 소지자를 추적한다는 사실을 알고 있다"고 말했다.

이어 "감시당하는 그들은 탈출구가 없다고 느낀다"고 덧붙였다.

데이터 대부분은 통합 공동 운영 플랫폼이라고 불리는 컴퓨터 시스템에 입력되는데, 휴먼라이츠워치는 이 시스템이 사람들의 의심스러운 행위를 표시할 가능성이 있다고 주장한다.

리처드슨은 "이 시스템은 사람들이 현관문 대신 뒷문으로 나갔는지, 그들의 소유가 아닌 차에 기름을 넣었는지 등 완전히 합법적인 다수의 행위에 관한 정보를 수집하고 있다"고 말했다.

또한 그는 "중국 정부는 이제 누가 집에 있어야 하고 누가 없어야 하는지 쉽게 파악할 수 있도록 사람들의 집 문 밖에 QR 코드를 배치하고 있다"고 말했다.

"조지 오웰도 상상하지 못했을 것"

중국의 기술 기업들과 중국 정부의 밀접한 관계에 대한 논란은 오래 전부터 있었다. 미국 안보기술 연구단체 IPVM은 중국 정부와 밀접한 기술 기업들이 제출한 다수의 특허에서 증거를 찾아냈다며, 이 특허들은 실험에 사용된 안면 인식 제품이 위구르인 식별 용도로 특별 제작됐음을 암시한다고 주장한다.

화웨이와 중국과학원이 2018년 7월 제출한 특허는 민족성을 기준으로 사람을 식별할 수 있는 안면 인식 제품에 대해 기술하고 있다.

화웨이는 이에 대해 "그 어떤 지역사회 구성원도 차별하거나 억압하는 기술 사용을 용납하지 않았다"며 기업 운영 지역을 막론하고 "정부로부터 독립했다"고 밝혔다.

IPVM은 또한 화웨이가 이른바 '1인 1파일 시스템' 기술을 개발 중이라는 사실을 암시하는 문서를 발견했다.

IPVM의 정부 국장 코너 힐리는 "중국 정부는 사람들의 개인정보, 정치활동, 인간관계 등을 저장했다"며 "그 사람이 어떻게 행동하고 무슨 위협을 가할 수 있는지 파악할 수 있는 모든 정보를 저장한다"고 말했다.

힐리는 "해당 안면 인식 기술은 어떤 반체제 활동도 잠재적으로 불가능하게 하고, 시민들의 행동에 대해 정부가 실제적으로 예측할 수 있게 한다"며 "정부가 이런 종류의 분석을 할 수 있을 것이라곤 작가 (조지) 오웰도 상상하지 못했을 것이라 생각한다"고 덧붙였다.

화웨이는 1인 1파일 시스템 기술 개발 관여에 대한 질문에 구체적으로 답하진 않았지만, 어느 지역에서든 정부로부터는 독립해 운영해왔다고 거듭 밝혔다.

런던 주재 중국대사관은 이러한 프로그램들에 대해 "아는 바 없다"고 밝혔다.

IPVM은 또한 중국 기업 하이크비전의 위구르인 식별 AI 카메라 홍보 마케팅 자료와 대형 기술업체 다후아가 개발한 위구르인 식별 소프트웨어 특허를 찾아냈다고 주장했다.

다후아는 자사 특허가 중국에서 인정한 56개 민족에 모두 적용됐으며, 의도적으로 어느 특정 민족을 대상으로 한 것은 아니었다고 밝혔다.

이어 "사람들의 안전을 돕는 것을 목표로 한 제품과 서비스"를 제공하고 영국을 포함해 모든 시장의 법과 규정을 준수했다"고 덧붙였다.

하이크비전은 자사 홈페이지에 있는 세부 정보가 부정확하며 "적절한 검토 없이 온라인에 게시됐다"며 "소수집단 인식 기능이나 분석 기술"을 판매하거나 제품군에 두지 않았다"고 밝혔다.

중국 AI 거버넌스 국가위원회 위원장인 란 쉬에 박사는 "특허에 대해 알지 못한다"고 말했다.

쉬에 박사는 "해외에서 이러한 다수의 혐의를 제기한다"며 "많은 부분이 부정확하며 사실이 아니"라고 BBC에 말했다.

이어 "나는 신장 지역 정부가 신장 주민들을 진정으로 보호할 책임이 있다고 생각한다.. .기술이 이런 안보 맥락에서 이용된다면 충분히 이해 가능하다"고 말했다.

주영 중국대사관은 BBC와 인터뷰에서 "위구르인 분석 능력 따위를 갖춘 이른바 안면 인식 기술은 존재하지 않는다"고 밝혔다.

매일 감시당하는 삶

전세계 8억 대에 달하는 감시 카메라 중 절반이 중국에 있는 것으로 추정된다.

도시환경의 기반에 AI를 구축한 충칭 등 스마트 시티도 다수 보유하고 있다.

충칭에 있는 탐사전문기자 후 리우는 BBC 파노라마에 "일단 집을 나와 엘리베이터에 오르면 카메라에 찍힌다"며 "카메라는 어디에나 있다"고 말했다.

또한 후는 "집에서 나와 어딘가 가려고 택시를 부르면 택시 회사가 정부에 데이터를 올린다. 그리고 내가 카페에서 친구들을 만나면 정부는 카페 안 카메라로 내 위치를 알아낸다"고 말했다.

후는 "예전에 친구들을 만나자마자 곧 정부 인사로부터 연락을 받은 적이 있다"며 "정부는 내게 '그 사람을 보지 말고, 어떠어떠한 일들은 하지 말라'고 경고했다. 인공지능 때문에 우리는 숨을 곳이 없다"고 말했다.