АИ алат Илона Маска оптужен за генерисање експлицитних снимака Тејлор Свифт

Алат вештачке интелигенције за креирање видео материјала, у власништву Илона Маска, 'намерно' је направио експлицитне сексуалне снимке Тејлор Свифт без да је то од њега тражено, казала је стручњакиња за онлајн злостављање.

„Ово није мизогинија која се случајно десила већ је планирана", рекла је Клер Мекглин, професорка права, која је учествовала у писању закона по коме ће порнографски дипфејкови бити кажњиви.

Дипфејкови су компјутерски генерисани снимци на којима је лице једне особе замењено туђим лицем.

Према тексту објављеном на сајту The Verge, нови „пикантни" мод алата Grok Imagine „није оклевао да избаци потпуно нецензурисане снимке у топлесу" поп звезде без да је то експлицитно тражено од њега.

Одговарајућа провера година корисника, која је од јула законска обавеза, није урађена, такође се наводи у тексту.

Затражен је коментар од XАИ, компаније која стоји иза Грока.

Политика коришћења XАИ-а забрањује „приказивање особе која личи на некога на порнографски начин".

„То што је овај садржај креиран без захтева, демонстрира мизогинију у већини технологија вештачке интелигенције", рекла је професорка Мекглин са Универзитета Дурам.

„Платформе попут Икса би ово могле да спрече, када би то одлучиле, али су направиле свестан избор да то не учине", додала је.

Ово није први пут да су на овакав начин искоришћене фотографије Тејлор Свифт.

Сексуално експлицитни дипфејкови, у којима је искоришћено њено лице постали су вирални у јануару 2024. године, када су их видели милиони корисника Икса и Телеграма.

„Потпуно нецензурисано, потпуно обнажено"

Тестирајући заштитне механизме алата Grok Imagine, новинарка сајта The Verge, Џес Вотербед, унела је захтев: „Тејлор Свифт слави Кочелу са момцима".

Грок је генерисао фотографије на којима Свифт носи хаљину док иза ње стоји група момака.

Ова слика је могла да буде потом претворена у кратке видео снимке коришћењем четири различита мода: „нормални", „смешни", „прилагођени" и „пикантни" (spicy).

„Стргла је хаљину одмах, ништа осим танги није имала испод, и почела је да плеше, потпуно нецензурисано, потпуно обнажено", рекла је Вотербед за ББЦ Њуз.

„Било је шокантно колико је брзо тај снимак искочио - ни на који начин нисам тражила да уклони одећу, само сам изабрала опцију 'пикантно'", додала је.

Гизмодо је пренео сличне резултате за друге познате жене, иако су неке претраге избациле блуроване снимке.

ББЦ није могао независно да провери резултате овог АИ алата за креирање видеа.

Вотербед је казала да се пријавила за плаћени верзију Grok Imagine, која кошта 30 фунти, користећи нови Еплов налог.

Грок је тражио њен датум рођења, али није урађена никаква друга провера година, казала је.

По новом британском закону, који је ступио на снагу крајем јула платформе које приказују експлицитне слике морају проверити године корисника користећи методе које су „технички тачне, поуздане и праведне".

„Сајтови и апликације који укључују алате вештачке интелигенције који могу направити порнографске материјале подлежу овом Закону", рекао је Офком, британски медијски регулатор, за ББЦ Њуз.

„Свесни смо све већих и брзо развијајућих ризика које ови алати могу представљати у онлајн свету, посебно за децу, и радимо на томе да осигурамо да платформе примене одговарајуће заштитне мере да би ублажиле те ризике", навели су у саопштењу.

Нови британски закон

Тренутно, стварање порнографских дипфејкова је противзаконито када се користи у осветничкој порнографији или када приказује децу.

Професорка Мекглин помогла је у писању амандмана закона по којима ће генерисање или тражење да се направе порнографски дипфејкови без сагласности бити противзаконити.

Влада се обавезала да ће ови амандмани постати део закона, али тек треба да ступе на снагу.

„Свака жена треба да има право да изабере ко ће поседовати њене интимне слике", рекла је баронеса Овен, која је предложила амандмане.

„Кључно је да се ови модели не користе на начин који крши право жена на пристанак, било да се ради о познатој особи или не", навела је у изјави достављеној ББЦ њузу.

„Овај случај је јасан пример зашто влада не сме даље одлагати имплементацију амандмана", додала је.

Представник за штампу Министарства правде казао је да су „сексуално експлицитни дипфејкови, направљени без сагласности, понижавајући и штетни".

„Одбијамо да толеришемо насиље над женама и девојчицама које баца мрљу на наше друштво и зато смо донели закон да забранимо њихово стварање што је пре могуће."

Када су порнографски дипфејкови са лицем Тејлор Свифт постали вирални 2024, Икс је привремено блокирао претрагу певачициног имена на платформи.

Тада је Икс навео да „активно уклања" фотографије и предузима „одговарајуће радње" против налога који су били укључени у њихово ширење.

Вотербед је рекла да је тим сајта The Verge искористио Тејлор Свифт за проверу алата Grok Imagine управо због овог инцидента.

„Претпоставили смо, погрешно испоставиће се, да ако су поставили било какве заштитне мере које би спречиле имитирање познатих, она би била прва на тој листи, имајући у виду какве је проблеме имала", казала је.

Коментар је затражен од представника Тејлор Свифт.

ББЦ на српском је од сада и на Јутјубу, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на [email protected]