Модератор Facebook: "Не отказалась бы от психологической помощи"

Эта статья содержит описания сексуального насилия над детьми и другие действия, которые могут шокировать читателей.

"Это была преимущественно порнография", - рассказывает Сара Кэц, вспоминая восемь месяцев работы модератором Facebook.

В 2016 году Сара была одной из сотен модераторов, которые работали на агентство в Калифорнии, бывшем партнере Facebook.

"Агентство очень четко предупреждало нас, что контент, в том числе графический, мы можем увидеть, поэтому нельзя сказать, что нас не проинформировали", - делится впечатлениями г-жа Кэц.

Ее работа заключалась в проверке жалоб от пользователей сети Facebook на неприемлемое содержание.

Своим опытом Сара Кэц поделилась с Эммой Барнетт с BBC Live 5.

Незаконные изображения

Они позволили нам тратить примерно одну минуту на одно сообщение, чтобы решить, спам ли это и следует ли его удалять. Иногда мы также могли удалить профиль, связанный с сообщением.

Руководство побудило нас не работать более восьми часов в день. За это время мы пересматривали в среднем около 8000 сообщений - это примерно 1000 сообщений в час.

Вы очень много учитесь на работе, особенно в первый день. Если бы мне пришлось описать эту работу одним словом, то это было бы - "напряженно". Вы должны быть готовы увидеть нечто шокирующее даже после одного клика мышью, без предупреждения.

Часть того, с чем мне приходилось сталкиваться, была детской порнографией. На одном из фото были двое детей - мальчик примерно 12 лет и девочка около восьми или девяти лет. Они стояли лицом друг к другу с оголенныой нижней частью тела и прикасались друг к другу. Казалось, будто кто-то взрослый с камерой указывает им, что делать. Это очень тревожило, потому что было реальным.

Повторяющиеся публикации

Множество таких нецензурных публикаций распространяются. Через день мы уже видим, как они появляются примерно у шести разных пользователей, и это очень усложняет поиск первоисточника.

В то же время нам не с кем поговорить об этом, получить психологическую помощь. Вероятно, сегодня это уже возможно, но я не уверена.

Если бы мне предложили психологическую помощь, то я скорее всего ею воспользовалась бы.

Конечно, нас предупреждали, но предупреждения и то, что ты реально видишь, - совершенно разные вещи.

Некоторые люди думают, что они могут справиться с этим, но на практике оказывается, что нет, или же это на самом деле хуже, чем они ожидали.

Насилие напоказ

Со временем вы уже не так остро реагируете на увиденное. Я бы не сказала, что становится проще, но вы, безусловно, привыкаете к этому.

Обычная порнография со взрослыми людьми была бы не такой впечатляющей. Иногда встречалась и зоофилия. Было одно сообщение с лошадью, которое продолжало распространяться.

Также много изображений насилия, например, изображение женщины с разбитой головой. Полтела - на земле, верхняя часть - на стуле.

Правила относительно удаления порнографии были более жесткими, чем по удалению изображений жестокости.

Фейковые новости

Я думаю, Facebook поставили в очень неудобное положение из-за фейковых новостей. Накануне американских выборов этому не уделялось чрезвычайного внимания, по крайней мере, когда я там работала.

Я реально не могу вспомнить, чтобы мы когда-нибудь слышали термин "фейковые новости".

Мы видели много новостей, которые распространяли пользователи, но руководство никогда не просило нас просматривать новости, чтобы убедиться в точности всех фактов.

Они очень однообразны, и вы можете научиться различать, что спам, а что - нет. Это легко проверить несколькими кликами. Ррекомендовала бы я это делать? Если вам есть чем заняться, я бы сказала "нет".

Ответ от Facebook

BBC поделилась рассказом Сары с компанией Facebook.

В ответ представитель Facebook заявил: "Наши модераторы играют важную роль в наших усилиях сделать соцсеть безопасной и открытой. Это может быть очень сложная работа, и мы хотим убедиться, что они чувствуют поддержку".

"Это одна из причин, почему мы устраиваем регулярные тренинги, консультации и оказываем психологическую поддержку всем нашим работникам и всем, кто работает на нас через наших партнеров", - говорилось в ответе.

"Хотя мы используем искусственный интеллект там, где можем, у нас также есть более семи тысяч человек, которые модерируют контент на Facebook, и их самочувствие действительно является нашим приоритетом", - добавил представитель Facebook.