Како је вештачка интелигенција украјинску јутјуберку претворила у руску

„Не желим да неко помисли да сам икада у животу рекла ове ужасне ствари. Користити украјинску девојку као лице које промовише Русију је сулудо".

Олга Лоик је видела да се њено лице појављује у разним видео снимцима на кинеским друштвеним мрежама, а то је лако направити алатима генеративне вештачке интелигенције који су доступни на интернету.

„Могла сам да видим моје лице и чујем мој глас.

„Било је прилично језиво, јер сам видела себе како говорим ствари које никада нисам рекла", каже за ББЦ 21-годишњакиња, који студира на Универзитету у Пенсилванији, у Сједињеним Државама (САД).

Налози на којима је приказан њен лик имали су десетине различитих имена као што су Софија, Наташа, Ејприл, и Стејси.

Ове „девојке" су говориле на мандаринском - језику који Олга никада није учила.

Оне су очигледно биле из Русије и причале су о пријатељству Кине и Русије или рекламирале руске производе.

„Видела сам да се у 90 одсто снимака говори о Кини и Русији, пријатељству Кине и Русије, да морамо да будемо јаки савезници, као и да се рекламира храна".

Један од највећих налога био је „Наташа је увезла храну" који има више од 300.000 пратилаца.

„Наташа" би изговарала реченице попут „Русија је најбоља земља. Тужно је што неке земље не воле Русију, и Рускиње желе да дођу у Кину", пре него што би почела да рекламира производе као на пример руске слаткише.

Ово је разбеснело Олгу, чија породица и даље живи у Украјини.

Међутим, шире гледано, њен случај је скренуо пажњу на опасности технологије која се развија толико брзо да је озбиљан изазов како је регулисати и заштити људе.

ББЦ на српском је од сада и на Јутјубу, пратите нас ОВДЕ.

Од Јутјуба до платформе Сјаохунгшу

Ликови Олге, које генерише вештачка интелигенција и који говоре мандаринским кинеским језиком, почели су да се појављују 2023. године - убрзо након што је покренула Јутјуб канал који не ажурира редовно.

Отприлике месец дана касније, почела је да добија поруке од људи који су тврдили да су је видели на кинеским друштвеним мрежама како говори мандарински.

То је заинтригирало, па је почела да претражује и пронашла је њен лик који је генерисала вештачка интелигенција на Сјаохунгшуу (Xiaohongshu), платформи сличној Инстаграму, и Билибилију (Bilibili), видео сајту сличном Јутјубу.

„Било их је много [налога]. На некима су биле руске заставе", рекла је Олга, која је до сада пронашла око 35 налога који користе њен лик.

Пошто је њен вереник поставио објаву о оваквим налозима, огласила се компанија HeyGen, за коју Олга тврди да је развила алат вештачке интелигенције за стварање копија стварних лица.

Открили су да је више од 4.900 снимака направљено помоћу њеног лица и да су онемогућили даље коришћење њеног лика.

Представник за медије компаније изјавио је за ББЦ да је њихов систем хакован ради стварања, како је навео, „неовлашћеног садржаја", и да су одмах ажурирали њихове безбедносне и верификационе протоколе да би спречили даљу злоупотребу њихове платформе.

Али Ангела Џанг са Универзитета у Хонгконгу, каже да су случајеви попут Олгиног „веома уобичајени у Кини".

У земљи „постоји огромна подземна индустрија специјализована за фалсификовање, присвајање личних података и производњу дипфејкова (стварање лажног визуелног или аудио садржаја употребом вештачке интелигенције)", каже она.

То се дешава упркос чињеници да је Кина међу првим земаља која покушава да регулише употребу вештачке интелигенције.

Чак је изменила законе да би заштитила права личност од стварања лажних дигиталних ликова.

Према подацима које је објавило одељење за јавну безбедност 2023. године, 515 људи је ухапшено због „замене лица употребом вештачке интелигенције", а овим проблемом се баве и судови у Кини.

Како је онда толико Олгиних снимака доспело на интернет?

Једно од могућих објашњења је зато што су промовисали пријатељство Кине и Русије.

Пекинг и Москва су се последњих година прилично зближили.

Кинески вођа Си Ђинпинг и руски председник Владимир Путин изјавили су да пријатељство две земље „нема граница".

Путин је боравио у дводневној посети Кини 16. и 17. јуна.

Кинески државни медији преносе руске ставове којима се оправдава њена инвазију на Украјину, а на друштвеним мрежама се расправе о рату цензуришу.

„Нејасно је да ли су ови налози били координисани унутар заједничког циља, али промовисање поруке која је у складу са владином пропагандом им засигурно иде у корист", каже Еми Хајн, истраживачица права и технологије на Универзитету у Болоњи и Католичком универзитету у Левену, у Белгији.

„Чак и ако ови налози нису изричито повезани са Комунистичком партијом Кине, мања је вероватноћа да ће порука која је усклађена са њеном политиком бити уклоњена".

Али то значи да су обични људи попут Олге угрожени и да могу да упадну у проблеме по кинеским законима, упозоравају стручњаци.

Кила Бломквист, истраживачица технологије и геополитике на Универзитету у Оксфорду, упозорава да „постоји ризик да људи буду стављени у вештачки генерисане политички осетљиве садржаје" и да им се због тога „изрекну моменталне казне без одговарајућег поступка".

Додаје да је у погледу вештачке интелигенције и политике приватности на интернету, Пекинг усредсређен на изградњу права потрошача ради заштите од разних приватних пљачкаша, али наглашава да су „права грађана у односу на власти и даље изузетно слаба".

Хајн објашњава да је „основни циљ кинеских прописа о вештачкој интелигенцији да се одржи равнотежа између друштвене стабилности и промовисања иновација и економског развоја".

„Иако прописи на папиру изгледају строги, постоје докази о њиховој селективној примени.

„То се посебно односи на правила издавања дозволе за употребу генеративне вештачке интелигенције, чија сврха може да буде стварање погоднијег окружења за иновације, уз прећутно разумевање да постоји законски основ за увођење реда када је то потребно", објашњава она.

'Није последња жртва'

Али проблеми који произилазе из Олгиног случаја превазилазе границе Кине.

Он разоткрива потешкоће законодаваца да уреде ову индустрију, која се, чини се, развија вртоглавом брзином, и да са њом одрже корак.

Али то не значи да се не труде.

У марту је Европски парламент усвојио Закон о вештачкој интелигенцији, први свеобухватни правни оквир на свету којим се ограничавају ризици од ове технологије.

А у октобру 2023. године, амерички председник Џозеф Бајден објавио је извршну наредбу којом се они који развијају вештачку интелигенцију обавезују да податке достављају влади.

Како прописи на националном и међународном нивоу заостају за брзином развоја вештачке интелигенције, потребно нам је „јасније разумевање и већи консензус о најопаснијим претњама и начинима како да их ублажимо", каже Бломквист.

„Међутим, због неслагања унутар земаља и на међународном нивоу изостају опипљиве активности.

„САД и Кина су кључни играчи, али ће постизање консензуса и координација неопходних заједничких активности представљати изазов", додаје она.

У међувремену, на индивидуалном нивоу, чини се да људи могу мало шта да учине осим да ништа не објављују на интернету.

„Једино што можемо да урадимо је да им не дамо никакав материјал за рад: да не постављамо наше фотографије, снимке или аудио записе на јавне друштвене мреже", каже Хајн.

„Међутим, лоши момци ће увек имати мотива да опонашају друге, па чак и ако се владе обрачунају са њима, очекујем да такве активности наставе да расту јер прописи не могу да испрате развој".

Олга је „100 одсто сигурна" да неће бити последња жртва генеративне вештачке интелигенције.

Али је одлучна да остане присутна на интернету.

Њена искуства је поделила на њеном Јутјуб каналу и каже да јој неки кинески корисници помажу тако што у коментарима испод снимака у којима је њен лик истичу да су лажни и да то није она.

Каже и да су многи од тих снимака уклоњени.

„Желела сам да поделим моју причу, желела сам да будем сигурна да ће људи разумети да није све што виде на интернету стварно", каже она.

„Волим да делим моје идеје са светом, и нико од ових преваранта не може да ме спречи у томе".

Погледајте и овај видео:

Пратите нас на Фејсбуку, Твитеру, Инстаграму, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на [email protected]