'대신 총알을 맞고 있다'… AI 챗봇 라벨링 작업으로 트라우마를 겪는 케냐 노동자들
케냐의 인공지능(AI) 노동자가 기술 안전성을 보장하기 위해 겪은 정신적 트라우마와 심리적 피해를 설명했다.
인공지능(AI) 소프트웨어가 전 세계를 휩쓸고 있다. 회사들은 ‘챗GPT’처럼 강력한 챗봇 서비스가 안전할 수 있도록 조정을 담당하는 ‘모더레이터’를 고용했다. AI가 콘텐츠의 극단적 성격을 파악해 사용자 제공을 막을 수 있도록 하는 것이 목적이다.
챗봇 산업은 수십억 달러 규모로 빠르게 성장 중이다. 중국·미국 등 기술 혁신 최전선의 국가뿐 아니라 아프리카·인도·필리핀 등 저소득 국가에서도 수많은 일자리를 창출하고 있다. 하지만 챗봇의 안전망을 만드는 과정은 불쾌한 자료를 확인해야 하는 사람들에게 큰 타격을 입힐 수 있다.
모팟(27)은 “인생이 다 끝난 것 같다”며 “희망이 사라졌고 모든 것을 잃은 느낌"이라고 말했다.
AI의 대가
그는 트라우마로 인해 결혼 생활과 인간관계가 망가졌으며 우울증에 걸렸다고 토로했다. 다른 동료들도 외상 후 스트레스 장애(PTSD)를 겪고 있다고 말했다.
모팟은 ‘사마’에서 일했다. 챗GPT를 제공하는 회사와 계약을 맺은 곳이었다.
모팟은 챗봇이 사용자에게 극단적인 콘텐츠를 제공하지 못하도록 동료들과 함께 해당 콘텐츠를 분류하는 작업을 맡았다. ‘데이터 라벨러’라는 직책을 담당해 라벨(표시)이 붙은 모든 자료를 확인하고 적절성을 확인하는 것이 모팟의 업무였다. 모팟은 폭력, 혐오 발언, 자해, 성적 콘텐츠에 관한 글을 매일 봐야 했다.
“정말 끔찍하고 충격적이었습니다.”
“4개월 동안 이런 글을 봤더니 사고방식도 바뀌었습니다.”
"행동도 변해 가족과 아내가 떠났고, 지금까지도 우울감에 시달리고 있습니다."
의회 청원
모팟은 같은 업무를 맡은 동료들과 함께 케냐 의회에 청원을 제출했다. 외국의 기술 대기업이 콘텐츠 조정 및 기타 AI 업무 외주를 맡기는 케냐 기술 기업들에 대한 고용 환경을 조사해 달라는 청원이었다.
그는 직원들이 극단적인 텍스트 콘텐츠에 대처할 수 있도록 적절한 교육을 받지 못했고, 충분한 전문 상담이 지원되지 않았다고 말한다. 하지만 사마는 해당 주장을 강력히 부인하고 있다.
PTSD 전문가 겸 심리학자 베로니카 응에추 박사의 설명에 따르면, 온라인에서 극단적 콘텐츠에 노출되는 것을 ‘2차 트라우마’라고 한다. 심각할 경우 실제 학대 피해자가 겪는 ‘1차 트라우마’와 비슷한 수준의 영향을 받을 수 있다는 것이다.
"2차 트라우마가 특히 위험한 이유는 이와 관련한 무력감 때문입니다."
“다음 단계가 없어요. 신고할 사람도 없이 상황을 그저 지켜보는 거예요. 할 수 있는 일이 아무것도 없습니다.”
"그리고 콘텐츠 조정 업무는 예측이 어렵습니다. 무엇을 보게 될지 모르고 그 영향이 어떻게 확대될지 모릅니다."
응에추 박사에 의하면, 2차 트라우마의 증상에는 악몽, 대인 기피, 공감 능력 약화, 말하거나 읽은 내용을 연상시킬 수 있는 모든 것에 대한 불안·동요 등이 포함된다.
박사는 기업에서 이에 대한 지원을 제공하는 것이 '필수'라고 말했다.
"직원들의 업무는 물론, 삶의 질에도 영향을 미치지 않도록 해야 합니다."
케냐에서 콘텐츠 모더레이터(조정자)의 열악한 처우 문제는 어제오늘 일이 아니다.
지난 5월, 많은 유명 기술 회사가 사용하는 각종 AI 솔루션을 위해 서비스를 제공한 아프리카의 콘텐츠 모더레이터 150명 이상이 투표를 통해 최초의 콘텐츠 모더레이터 조합을 설립하기로 했다.
모팟이 빅테크 기업과 수십억 사용자에게 원하는 것이 바로 이런 종류의 인식과 이해다.
"사람들은 플랫폼을 안전하게 만드는 사람들이 콘텐츠 모더레이터라는 것을 알아야 합니다. 아직 많은 사람들이 그런 역할이 존재하는지조차 모르거든요."
사마는 모든 문제 제기에 반론을 펼쳤고, 모든 입사 지원자가 “회복탄력성 심사” 과정을 거쳤으며, 사전에 작업할 콘텐츠의 예시를 확인했다고 말했다.
또한, 프로젝트 시작 전에 직원들이 동의서를 검토하고 서명했으며, 이를 통해 콘텐츠가 매우 불쾌할 수 있음을 다시 한번 강조한 것이라고 주장했다.
회사 대변인은 "프로젝트에 선발돼 근무한 직원들에게 참여 기간 전반에 걸쳐 심리사회적 지원이 제공됐다"고 밝혔다.
"사마는 심리 상담을 제공하는 웰니스 전문 직원을 두기 때문에 현장에서 연중무휴 24시간 이용할 수 있으며 회사 건강보험을 통해서도 서비스를 이용할 수 있습니다."
모팟은 이제 청원이 의회에 상정되길 기다리고 있다. 그리고 정신 건강을 회복하기 위해 노력하는 한편, 데이터 라벨러로 일했던 시간이 자신의 회복에도 도움이 될 것이라고 생각하며 작은 위안을 얻는다.
"저는 스스로 자랑스럽습니다. 군인이 된 기분이었습니다. 저와 동료들이 총알을 대신 맞은 덕분에 이제 누구나 챗GPT를 안전하게 사용할 수 있으니까요."
