Злоупотреба Дауновог синдрома у дипфејк садржајима ради зараде

Алис се сећа дана када је први пут видела лажни налог на друштвеној мрежи Instagramу који је користио њен лик.

„Била сам шокирана и осећала сам се понижено", каже 17-годишњакиња за ББЦ.

Лажни налог је користио фотографије и снимке њеног тела, а помоћу вештачке интелигенције је њено лице измењено да изгледа као да има Даунов синдром.

Профил, који је имао 25.000 пратилаца, упућивао је кориснике на друге интернет странице са порнографским садржајем.

Алис је више пута слала поруке том налогу тражећи да се уклони и наглашавајући да је малолетна, али никада није добила одговор.

„Било је прилично ужасно видети да се мој узраст и моја осећања потпуно игноришу", каже она.

ББЦ је открио да је тај профил само један од многих налога који лажирају инвалидитет ради зараде.

Погледајте видео

Фотографије жена на Instagramу чија лица су створена помоћу вештачке интелигенције користе слике стварних женских тела без њихове сагласности.

Те слике се највероватније краду са јавно доступних профила на друштвеним мрежама, а затим се користе алати вештачке интелигенције да се лица измене и добију лик људи са Дауновим синдромом.

Лажни налози објављују сексуално сугестиван садржај да привуку пажњу корисника, а они који прате те профиле остављају сексуално експлицитне коментаре.

„Ти налози узимају податке о женама без њихове дозволе и користе их да од њих направе људе са инвалидитетом од чега зарађују", објашњава Еленор Дрејџ, виша истраживачица у области етике вештачке интелигенције на Универзитету у Кембриџу.

„То представља свесно и намерно наношење штете људима као што је Алис", додаје она.

Зарада од овог застрашујућег тренда остварује се на другим платформама.

Сви налози које је ББЦ открио упућују кориснике на профиле на претплатничкој платформи OnlyFans, позната по порнографском садржају.

Профили на платформи OnlyFans користе иста имена као и лажни налози на Instagramу, али не користе филтер вештачке интелигенције за стварање ликова са Дауновим синдромом, већ приказују различита тела жена којима су лица или скривена или уклоњена.

OnlyFans забрањује садржај направљен вештачком интелигенцијом без дозволе, што је можда разлог што се лица жена не лажирају, већ прикривају или уклањају.

Нисмо успели да утврдимо да ли су друге жене дозволиле да се њихова тела користе на налозима на платформи OnlyFans.

Како „на једном налогу има више различитих жена", у питању је „мрежа за експлоатацију", објашњава истраживачица Дрејџ.

Алис каже да је пријавила налог Instagramу, али је добила аутоматски одговор да не крши њихове смернице.

Сексуално експлицитни дипфејк садржај је забрањен политиком Instagramа, а лажни видео-снимци у којима је коришћено Алисино тело нису били сексуално експлицитни.

У потрази за људима који стоје иза ових налога, ББЦ је истражио свет самопроглашених „менаџера садржаја створених вештачком интелигенцијом", људи који користе вештачку интелигенцију за стварање инфлуенсера који промовишу налоге са порнографским садржајем и од тога зарађују.

Пронашли смо француског „менаџера" по имену Доријан, на чијем Јутјуб каналу је било видео-упутстава о томе како направити инфлуенсера помоћу вештачке интелигенције, и чији Телеграм канал је имао хиљаде претплатника.

У једном од његових Јутјуб туторијала каже да је „једна од најбољих страна вештачке интелигенције то што према захтеву можете да направите било коју тржишну нишу".

„Желите девојку у готичком стилу? Може.

„Латино фитнес модел? Наравно.

„Желите нешто још луђе?", пита он, наводећи и друге примере тржишних ниша, као што су трансродни или модели патуљастог раста.

„Можете одмах да створите било који лик и да доминирате нишама које не пружају довољно услуга или онима које су тренутно популарне", каже он.

Анализом налога на Телеграму за које Доријан тврди да су његови, као и слика које је створио помоћу вештачке интелигенције и које су приказане у његовим Јутјуб туторијалима, ББЦ је пронашао доказе да је Даунов синдром једна од такозваних ниша које експлоатише.

На Телеграму је објавио слику налога једне од његових „инфлуенсерки", на којој је њено лице сакривено.

ББЦ је упоредио силуету, позадину и редослед објава и успео да их повеже са лажним налогом на Instagramу некога ко се представљао да има Даунов синдром.

Такође смо идентификовали и модел са Дауновим синдромом створен помоћу вештачке интелигенције у позадини једног од Доријанових туторијала.

Немамо доказе да је Доријан направио лажни садржај користећи Алисино тело.

ББЦ је покушао да ступи у контакт са њим преко Телеграма и Instagramа и писао је на обе адресе повезане са његовим пословањем, али није добио одговор.

Овакви налози не утичу само на људе чији садржаји су украдени, већ и на људе са Дауновим синдромом.

Џереми и Одри, амерички активисти за заштиту права људи са Дауновим синдромом, који воде подкаст, веома су забринути због овог тренда.

„Мислим да није поштено да они имају лажну способност", каже Одри.

„Џереми и ја имамо Даунов синдром и поносни смо на то.

„То је јединствено и волим што га имам.

„То је најбоља ствар у мом животу.

„А због тих дипфејк садржаја, осећам да ме искоришћавају."

„Раде то због новца", каже Џереми.

„Молим вас, престаните то да радите".

Јутјуб је одговорио на упит ББЦ-ја наводећи да су укинули Доријанове канале због кршења политике о спаму, обманама и преварама.

Мета, матична компанија Instagramа, рекла је у одговору ББЦ-ју да су сви налози које смо пријавили, осим једног, већ уклоњени због кршења њихових правила, међу којима су забрана лажног представљања и промовисање сексуалних услуга.

Налог који је користио Алисин лик више није активан.

ББЦ је такође затражио коментар од платформе OnlyFans, чији представници су одговорили да „се врши детаљна провера идентитета свих аутора садржаја да би се осигурало да су старији од 18 година и да би дали сагласност за употребу њихових слика".

Сваки садржај подлеже уређивачкој политици и да употреба оваквих слика неће бити дозвољене на њиховој платформи, додали су.

ББЦ на српском је од сада и на Јутјубу, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на [email protected]