Технологија: Породице ужаснуте снимцима убијене деце направљеним вештачком интелигенцијом на ТикТоку

Ожалошћени родитељи изразили су гађење према језивом тренду на ТикТоку у којем се вештачка интелигенција користи за стварање снимака у којима се појављују убијена деца из стварног живота.

На овим снимцима, насталим без пристанка родбине, виде се грубо анимиране верзије те деце, од којих су нека још бебе, како говоре о томе како су убијена.

Негде од априла на ТикТок су постављани читави таласи ових компјутерски генерисаних видеа, иако је компанија у марту најавила забрану објављивања верзија младих особа насталих уз помоћ вештачке интелигенције.

Међутим, истрага ББЦ-ја пронашла је доказе који указују на то да је можда дошло до неспоразума међу запосленима у ТикТоку око политике платформе.

Један модератор садржаја на Тик Току рекао је за ББЦ да га четири месеца након увођења забране компанија још није обавестила о промени правила.

Поједини видео снимци са жртвама насталим вештачком интелигенцијом остали су на платформи и неколико месеци, док су неки други имали милионе прегледа.

Ожалошћена родбина у неколико земаља огласила се поводом снимака насталих коришћењем вештачке интелигенције њихових покојних најмилијих који су се појавили на интернету.

Бароница Бибан Кидрон, независна чланица Дома лордова у британском парламенту, каже да ови снимци могу бити посебно узнемирујући за ожалошћене породице зато што представљају симулације њихових покојних рођака који говоре као да причају властиту причу.

„Ако сте неко ко је био повезан са тим дететом, посебно родитељ или члан његове породице, онда је то напад, емоционални напад", каже она.

„Горе од најгорег аперката"

Родбина неке од покојне деце огласила се недуго након што су ови снимци први пут почели да се појављују.

Једна од првих била је Канађанка Амели Лемију.

У јулу 2020. године је њене ћерке - Роми (6) и Нора (11) - убио њен отуђени муж, који је потом извршио самоубиство.

У априлу ове године, Лемију је била шокирана кад је добила ТикТок снимак настао коришћењем вештачке интелигенције а у ком се појављује верзија Норе која говори о убиствима.

„То је горе од најгорег аперката који можете да замислите", каже Лемију.

„Нисам имала снаге да погледам до краја, а није ни мој брат. Почео је да виче да се одмах прекине."

Лемију је била посебно забринута да би њени млади нећаци и нећаке могли случајно да набасају на видео њихових мртвих рођака док скролују ТикТоком.

Иако је велик број људи пријавио видео ТикТоку, он је ипак остао онлајн.

На крају, након што се Лемију више пута појавила у медијима говорећи о властитој ужаснутој реакцији на видео, анонимни налог који га је објавио био је обрисан.

Лемију није успела да открије ко је начинио видео, али је запањена делима те особе.

„То је невероватно шокантно, да неко уради нешто тако узнемирујуће, нешто од чега ћемо се опорављати до краја живота", каже она.

„Они само желе прегледе, лајкове, дељења. И људе који остављају коментаре испод. Лично, то не могу да опростим."

Нова технологија

Настанак ових видеа омогућила је све већа приступачност софтвера вештачке интелигенције на интернету.

Сада је могуће лако направити и анимирати основне људске фигуре и дати им сценарио шта да изговарају компјутерски генерисаним гласом.

Нека од лица на снимцима са жртвама из стварног живота не личе на праву особу.

Али друга су заснована на правим фотографијама.

Људи који праве ове снимке обично се труде да остану анонимни.

Али ББЦ је открио да је један од аутора студент из Лондона по имену Ритул.

На свом каналу на Јутјубу он је промовисао оно што назива „приповедним" видео снимцима као брз начин да се стекну пратиоци на ТикТоку.

„Добио сам хиљаде и хиљаде пратилаца постављањем приповедних видеа уз помоћ вештачке интелигенције", рекао је он на једном снимку.

„Стекао сам 47.000 пратилаца, а то је било за мање од три недеље."

Ритул је одбио наш захтев за коментар, а његов налог на ТикТоку у међувремену је обрисан.

Снимци на ТикТоку морају да привуку пажњу у неколико секунди иначе ће корисници наставити да скролују.

И зато су се аутори попут Ритула усредсредили на прављење снимака о најекстремнијим или најконтроверзнијим случајевима.

Приче о трагичној судбини неке деце биле су предмет више снимака на неколико језика, укључујући португалски, шпански, француски, немачки, италијански и пољски.

У двомесечном периоду, ББЦ је открио 170 различитих ТикТок видеа насталих уз помоћ вештачке интелигенције у којима се појављује верзија Џејмса Балџера, двогодишњег британског дечака ког је убило двоје старије деце у Мерсисајду, у Енглеској, 1993. године.

Овај феномен са ТикТока доспео је и на насловне стране британских новина у јулу, кад је Џемјсова мајка Дениз Фергус рекла листу да су снимци засновани на њеном сину „више него болесни".

Реакција ТикТока

ТикТик је предузео масовно скидање ових видеа и издао саопштење у ком је рекао:

„На нашој платформи нема места за узнемирујући садржај ове врсте. Ми настављамо да уклањамо садржај ове врсте чим наиђемо на њега."

Међу снимцима Џејмса Балџера који су уклоњени била су и два на вијетнамском која су заједно стекла четири милиона прегледа.

ББЦ је разговарао са модератором садржаја на ТикТоку у Вијетнаму, који је пристао да буде интервјуисан под условом да остане анониман.

Он је рекао да му две недеље након што су снимци уклоњени компанија још увек није званично саопштила да је оваква врста садржаја забрањена.

Он је за ББЦ рекао да верује како су снимци дозвољени према правилима ТикТока који допуштају да жртве експлоатације и злостављања испричају своје приче.

Постоји ли, дакле, некакав неспоразум међу особљем ТикТока око тога како тачно гласи политика компаније?

ТикТок није конкретно одговорио на ту тачку кад смо тражили коментар компаније.

Али је ТикТок јасно ставио до знања да тај модератор није у праву кад сугерише да би ови снимци могли бити дозвољени на платформи као искуства жртава - зато што су то компјутерски генерисани снимци мртве деце уместо правих искустава преживелих.

И даље веома лако можете да нађете ову врсту садржаја на ТикТоку.

Али ТикТок каже да не крије чињеницу да неће моћи да их пронађе све.

Додатно извештавање Туонг Ле из ББЦ вијентамског сервиса

Погледајте видео: Шта је вештачка интелигенција

Пратите нас на Фејсбуку,Твитеру и Вајберу. Ако имате предлог теме за нас, јавите се на [email protected]