이 카메라는 당신이 행복한지 아니면 위협요소인지를 알고 있다

얼굴인식 기술은 점점 진보하고 있다. 어떤 기업들은 심지어 우리의 감정이나 의심스러운 행동을 포착할 수 있다고 주장하기까지 한다. 하지만 프라이버시와 인권에는 어떤 영향을 미칠 것인가?

얼굴인식 기술은 존재한 지 수십 년 가까이 된 기술이다. 그러나 최근 들어 시각 처리능력과 인공지능의 발달로 급격히 진보하고 있다고 전문가들은 말한다.

오늘날 국경에서 사람을 식별하거나 스마트폰의 잠금을 해제하고 범죄자를 색출하고 계좌 이체를 인증하는 데 얼굴인식이 사용된다.

그러나 몇몇 IT 기업들은 얼굴인식으로 우리의 감정 상태까지 평가할 수 있다고 주장한다.

1970년대부터 심리학자들은 사진과 영상에서 사람의 얼굴에 나타나는 '미세 표정'을 연구하여 숨겨진 감정을 발견할 수 있다고 말했다.

알고리즘과 고해상도 카메라로 이러한 과정을 정확하면서도 보다 빠르게 할 수 있다는 게 이들 기업의 주장이다.

"이미 상업적 용도로 사용되고 있습니다." IHS마킷에서 영상 감시 전문가로 일하고 있는 올리버 필리포는 말한다.

"수퍼마켓이라면 사람을 식별하기 위해서가 아니라 어떤 연령과 나이의 사람들이 가게를 찾는지와 그들의 기초적인 기분을 분석하는 데 쓸 수 있죠. 마케팅과 상품 진열에 도움이 될 수 있습니다."

시장조사 업체 칸타밀워드브라운은 어펙티바에서 개발한 기술을 사용해 소비자가 TV 광고에 어떻게 반응하는지를 평가하는 데 쓰고 있다.

어펙티바는 동의를 받아 사람의 얼굴을 촬영하고 프레임별로 그 화면을 프로그램으로 분석해 사람의 기분을 판별한다.

"인터뷰를 하기는 합니다만 사람들의 표정을 봄으로써 더 많은 뉘앙스를 얻을 수 있죠. 정확히 광고의 어느 부분이 잘 먹히는지 그로 인해 어떤 감정적 반응이 나오는지를 알 수 있어요." 칸타밀워드브라운의 그레이엄 페이지는 말한다.

보다 논란이 될 만한 사례도 있다. 몇몇 스타트업들은 보안 목적을 위한 '감정 포착' 기술을 제공한다.

일례로 영국의 위씨라는 기업은 AI 기술이 훈련받지 않은 사람은 인지할 수 없는 얼굴 표정의 변화를 읽고 의심스러운 행동을 발견할 수 있다고 주장한다.

의심이나 분노 같은 감정은 그 사람이 사용하는 언어와는 달리 그 이면에 숨어있을 수 있다.

위씨는 '이름 높은' 법집행 기관과 함께 심문 받는 사람을 분석하는 기술을 사용하고 있다고 말한다.

"저해상도의 영상만 가지고도 저희의 기술은 개인의 감정 상태와 의도를 얼굴 표정, 자세, 제스처, 움직임으로부터 읽어낼 수 있습니다." 위씨의 최고경영자 데이비드 풀턴은 BBC에 말한다.

"향후에는 지하철역의 카메라가 저희 기술울 사용하여 의심스러운 행동을 포착하고 당국에 잠재적 테러 위협을 알릴 수 있을 것입니다."

"축구 경기나 정치 집회 등의 행사에서 군중을 상대로도 사용할 수 있습니다."

그러나 필리포는 감정 포착의 정확도에 대해 회의적이다.

"단순히 얼굴을 인식하는 것에도 여전히 오류의 여지가 있어요. 최고 수준의 기업도 90~92%의 정확도로 사람을 식별할 수 있다고 주장합니다."

"감정을 평가하려고 하면 오류의 여지는 훨씬 커지죠."

프라이버시 활동가들은 이때문에 얼굴 인식 기술이 잘못되거나 편견에 사로잡힌 판단을 내릴 수 있다고 우려한다.

"분명 매우 유용한 사례가 있을 수 있겠습니다만 감정 감시나 얼굴 인식에서 비롯되는 프라이버시 문제는 전례가 없는 것이죠." 프라이버시 인터내셔널의 프레데릭 칼테우너는 말한다.

얼굴 인식만으로도 논란의 여지는 충분하다.

지난 5월 스완시에서 열린 BBC 라디오1의 비기스트 위크엔드 행사에 참가한 많은 사람들은 사우스웨일스 경찰의 거대 감시 작전의 일환으로 자신들의 얼굴이 스캔되고 있다는 걸 모르고 있었다.

경찰 측은 자동안면인식(AFR) 시스템을 배치했는데 CCTV 스타일의 카메라를 사용하여 관리 대상 인물 데이터베이스를 대조하여 '요주의 인물'을 식별하는 시스템이다.

행사장에 배치한 시스템으로 여전히 수배 대상이었던 사람이 "10분 만에" 식별 후 체포됐다고 사우스웨일스 경찰의 AFR 프로젝트 책임자인 스콧 로이드는 말한다.

그러나 인권단체 리버티는 다른 행사에서 잘못된 식별 결과를 내놓은 경우가 다수 있었다고 지적한다.

카디프에 사는 에드 브리지스는 리버티의 도움을 받아 경찰에 소송을 걸었다. AFR 시스템이 국민의 프라이버시를 침해했으며 적절한 통제를 받지 않고 있다는 것이었다.

그러나 이러한 기술은 점차 신뢰도가 높아지고 있다고 얼굴 인식에 대한 연구를 수행하는 미국의 연방기구 국가표준기술연구소의 생체측정 책임자 패트릭 그로더는 말한다.

그는 최근의 기술적 발전의 원인이 '나선형 신경 네트워크'의 개발에 있다고 말한다. 이는 머신 러닝의 보다 발달된 형태로 훨씬 높은 수준의 정확도를 가능케 한다.

"이런 알고리즘은 컴퓨터로 하여금 다양한 크기와 각도에서 이미지를 분석할 수 있게 합니다." 그는 말한다.

"얼굴이 선그라스나 스카프로 가려져 있더라도 보다 정확하게 식별할 수 있어요. 오류율은 2014년에 비해 10분의 1 수준으로 떨어졌고요. 어느 알고리즘도 완벽하진 않지만요."

위씨의 풀턴은 자신의 기술이 단지 사람들이 기존의 영상을 보다 지능적으로 분석할 수 있게 도와주는 도구라고 말한다.

그는 위씨는 얼굴에서 드러나는 감정을 "약 60~70%의 정확도로" 사람만큼이나 효과적으로 판별할 수 있다고 덧붙였다.

"저희는 현재 수상한 행동을 미연에 방지할 수 있도록 포착할 수 있지만 의도까지 포착은 못합니다. 하지만 나중에는 의도까지 포착이 가능해질 거라고 생각하고 이미 이 분야에 대한 실험도 하고 있습니다."

이는 공상과학 영화 '마이너리티 리포트'에 나왔던 범죄가 이뤄지기 전에 용의자를 체포하는 컨셉에 더 가까워진 것처럼 들린다. 이는 인권단체의 우려를 더 깊게 만들지 않을까?

"우리가 늘 우리 스스로에게 물어야 할 질문은 이겁니다. 누가, 무슨 목적으로 이 기술을 개발하고 있는가?" 프라이버시 인터내셔널의 프레데릭 칼토이너는 말한다. "우리를 도와주는 것인가, 아니면 우리를 판단하고 통제하는 것인가?"