Дигитално насиље: Лажне голе фотографије хиљада жена објављене на интернету

Лажне голе слике више од 100.000 жена направљене су од фотографија са друштвених мрежа и подељене на интернету, наводи се у новом извештају.

Одећа је дигитално уклоњена са фотографија жена коришћењем технологије вештачке интелигенције, а затим су слике дељене на апликацији за размену порука Телеграм.

Неке од девојака „су деловале малолетно", наводи се у извештају компаније Сенсити која се бави борбом против злоупотребе визуелних садржаја створеним вештачком интелигенцијом.

Међутим, они који воде овај сервис на Телеграму рекли су да је то једноставно „забава".

ББЦ је тестирао софтвер и добио лоше резултате.

Сенсити тврди да је технологија која се овде користи такозвани „дип-фејк бот". (deepfake - дубоко лажни)

Дип-фејкови су компјутерски генерисане, често реалистичне слике и видео снимци, засновани на стварном предлошку. Једна од његових употреба била је стварање лажних порнографских видео клипова познатих личности.

Али извршни директор Сенситија Ђорђо Патрини рекао је да је прелазак на коришћење фотографија приватних лица релативно нов.

„Имати налог на друштвеним мрежама са јавним фотографијама довољно је да било ко постане мета", упозорио је он.

Бот на Телеграму

На приватном каналу Телеграма живи бот који ради на принципу вештачке интелигенције. Корисници могу да пошаљу фотографију жене, а он ће дигитално уклонити њену одећу за свега пар минута, бесплатно.

ББЦ је тестирао неколико слика, уз сагласност особа на њима, али ни једна фотографија није била у потпуности реалистична - међу нашим резултатима је била и фотографија жене са пупком на дијафрагми.

Слична апликација је укинута прошле године, али верује се да постоје друге „крековане" верзије софтвера у оптицају.

Администратор који пружа ову услугу, познату само под називом „П", рекао је: „Није ме толико брига. Ово је забава без насиља.

„Овим нико никога неће уцењивати, јер су слике нереалистичне."

Такође је рекао да тим гледа које се фотографије деле, а „када видимо малолетнике блокирамо корисника заувек".

Али одлука о томе да ли ће фотографију делити са другима зависи од тога ко је уопште користио бота да би је створио, рекао је он.

Бранећи свој релативни ниво штете, додао је: „У свету постоје ратови, болести, многе лоше ствари."

Такође је тврдио да ће ускоро уклонити све слике.

Телеграм није одговорио на захтев за коментар.

„Педофилски садржај"

Сенсити је известио да је између јула 2019. и 2020. око 104.852 жена било на мети, а њихове лажне голе слике су дељене онлајн.

Њихова истрага је открила да су особе на неким од слика изгледале малолетно, „што сугерише да су неки корисници примарно користили бота за генерисање и дељење педофилског садржаја".

Бот је имао значајно оглашавање на руској друштвеној мрежи ВК, а истраживање на платформи показало је да је већина корисника била из Русије и земаља бившег СССР-а.

Телеграм је у Русији био званично забрањен до почетка ове године.

„Многе од ових веб сајтова или апликација се не крију нити функционишу 'испод радара', јер нису строго забрањене", рекао је Ђорђо Патрини из Сенситија.

„Док се то не догоди, бојим се да ће бити само горе."

Аутори извештаја кажу да су сва своја сазнања поделили са Телеграмом, компанијом ВК и релевантним агенцијама за спровођење закона, али нису добили одговор.

Нина Шик, ауторка књиге Дип-фејкови и Инфокалипса, рекла је да се творци дип-фејкова налазе широм света и да је законска заштита само „игра мачке и миша" са том технологијом.

„Само је питање времена када ће тај садржај постати софистициранији. Чини се да се број дип-фејк лажних порно видео снимака удвостручује сваких шест месеци", рекла је.

„Наши правни системи нису погодни да испуне своју сврху по овом питању. Друштво се мења брже него што можемо замислити због овог експоненцијалног технолошког напретка, а ми као друштво нисмо одлучили како да то регулишемо.

„То је поражавајуће за жртве лажне порнографије. Може им потпуно уништити живот јер се осећају повређено и понижено."

Прошле године америчка држава Вирџинија постала је једно од првих који су забранили дип-фејкове.

Актуелни британски закон о лажним голим сликама недавно је у универзитетском извештају критикован због тога што је „недоследан, застарео и збуњујући".

Упркос напретку у питањима попут осветничке порнографије и подметања, "у закону и даље постоје многе отворене празнине", каже Луци Хадлеи из добротворне организације Вомен'с Аид.

Иако ове статистике показују колико дип-фејк слике могу бити широко распрострањене, то тренутно није посебан прекршај.

Влада је наложила Правној комисији да преиспита закон о том питању у Енглеској и Велсу. Његова сазнања се очекују 2021. године.

Погледајте и овај видео о дип-фејк технологији

Пратите нас на Фејсбуку и Твитеру. Ако имате предлог теме за нас, јавите се на [email protected]