사이버 폭력: 인스타그램이 괴롭힘 방지 툴을 개발했다

인스타그램이 사이버 폭력을 방지하기 위해, 부정적인 댓글을 감지하고 올리기 전에 경고 창을 띄우는 프로그램을 선보였다.

또, 부정적인 대화로 이용자들을 괴롭히는 경우가 있다면, 내용을 차단할 수 있는 방법도 곧 소개할 예정이다.

인스타그램은 온라인 괴롭힘으로 시작된 자살 사건이 늘자, 책임을 져야 한다는 사회적 압박을 받았다.

아담 모세리 대표는 인스타그램 블로그에 우리는 이 문제에 대해 "더 노력해야 한다"라고 올렸다.

그는 "인스타그램에서 괴롭힘이 일어나기 전에 미리 예방할 수 있도록 더 노력해야 하며, 따돌림을 당하는 사람들이 당당하게 일어나서 맞설 수 있는 환경을 만들어줘야 한다"라고 적었다.

경고창이 따돌림을 방지할 수 있을까

인스타그램은 AI 기술을 이용해 기존에 신고받은 부적절한 댓글을 바탕으로, 이와 비슷한 내용의 댓글을 미리 파악할 수 있다고 말했다.

예를 들어 "못생기고 무식하다"라는 비방성 댓글을 작성한 경우, 올리기 전에 "정말 이 글을 게시하고 싶으신가요?"라는 창이 뜬다.

사용자가 "더 알아보기" 버튼을 누르면, "비방성 댓글 신고가 들어온 댓글과 비슷한 내용의 글이기 때문에, 한 번 더 생각해 보실 것을 권유한다"라는 설명이 나온다.

경고를 무시하고 글을 게시할 수도 있다. 하지만 인스타그램은 초기 테스트를 했을 때 "사람들이 다른 결정을 내리는 것을 볼 수 있었다면서, 다시 한번 생각해볼 기회를 주는 것만으로 덜 해로운 댓글로 바꾸거나 삭제하는 것을 볼 수 있었다"라고 말했다.

해당 기능은 영어권 나라에서 먼저 선보일 예정이다. 인스타그램은 점차 다른 언어로도 이 서비스도 시작할 것이라고 BBC에 말했다.

인스타그램은 '리스트릭트(제한)'이라는 툴도 개발 중이라고 말했다. '리스트릭트'는 청소년들이 특정 유저를 차단하지 않고도 비방글을 걸러낼 수 있는 기능이다.

"어린 사용자들이 특정 사용자를 차단하는 것이 더 심각한 사회적 고립이나 따돌림으로 번질까봐 불편해한다는 것을 들었다"라고 모세리는 말했다.

"또한 프로필을 차단해버릴 경우, 그들이 계속 어떻게 자신을 괴롭히는지 알 수 어렵다"라고 덧붙였다.

따돌림 방지 활동가인 알렉스 홈스는 "이런 기능들이 나와 너무 다행이다"라면서 "앞으로도 소셜미디어 회사들이 따돌림 방지를 위해 더 많은 노력을 해야한다"라고 말했다.