Забављање са АИ партнерима: Кина тврди да штити кориснике мрежа од четботова

„Збогом овом свету.“

Ту поруку почетком 2024. наводно је на Доујину, кинеској верзији ТикТока, објавио младић у граду Хуангшију, у југоисточној Кини.

У року од свега неколико минута, активиран је тим за спречавање самоубиства на Доујину, а који ради 24 часа дневно.

Објаву младића поделили су са пет полицијских станица у Хуангшију.

Након што је геолоцирала један од његових видеа , полиција га је у локалном парку затекла у нервном растројству и интервенисала пре него што је момак успео себи да одузме живот.

Ова прича била је део документарца који је Доујин прошле године објавио на кинеским државним медијима.

У документарцу се тврди да је Доујинов тим за превенцију суицида успешно интервенисао у 400 покушаја самоубистава само у првој половини 2025.

Био је то увид у ниво сарадње између кинеских технолошких компанија и владе, али и прозор у архитектуру надзора који је Кина изградила како би пратила и контролисала како људи користе технологију.

Та контрола је 15. јула ове године, када је Кина усвојила најдалекосежније прописе у свету АИ четботова „налик људима“, проширена на свет веза и вештачке интелигенције.

Нова кинеска регулатива уводи строга ограничења на било коју вештачку интелигенцију која може да има „продужену емоционалну интеракцију“ са човеком.

Амерички председник Доналд Трамп и његов кинески колега Си Ђинпинг састали су се прошле недеље усред суморних упозорења да би вештачка интелигенција могла да доведе до истребљења човечанства.

После тог састанка, кажу из званичног Пекинга, усагласили су се да покрену нови дијалог о вештачкој интелигенцији, а новим разговори планирани су за крај новембра.

Али чини се да је Кина већ прихватила постојање новог егзистенцијалног ризика - моћи вештачке интелигенције да замени људске односе.

Да ли је Кина преузела светско вођство у заштити властитих држављана од манипулативне и опасне технологије која има моћ да заувек промени људске интеракције?

Или Комунистичка партија Кине сувише задире у приватне животе људи у жељи да оствари већу контролу над становништвом?

'Емоционалне услуге'

Пре него што су усвојени прописи, моћ такозваних АИ партнера у Кини била је бескрајна.

Изван Кине постоји око 128 милиона активних корисника апликација за АИ дружбенике, према фирми за праћење тржишта Сензор тауер.

Већина процењује да је тај број у Кини од 29 до 70 милиона.

Кад је влада крајем прошле године објавила нацрт ове регулативе, „дошло је до огромне расправе на друштвенима мрежама“, каже Зилан Кијан, истраживач вештачке интелигенције у стручној групи Оксфордска лабораторија за кинеску политику.

„Било је то први пут да сам заправо видео да је људима стало до било какве регулативе.“

Нови кинески прописи покривају апликације које су конкретно прављене као АИ пријатељи, момци или девојке, али они важе и за било које велике језичке моделе који имитирају начин интеракције међу људима.

Формулација регулативе је неодређена.

У теорији, кинески еквиваленти вештачке интелигенције опште примене, као што су Копилот или ЦхатГПТ, могу да потпадну под ова правила ако особа има интеракцију са њима као са пријатељем или љубавником, тражећи од њих емоционалну подршку.

А многи управо то и раде.

Али чини се да су права мета закона четботови личности, услуге које су конкретно прављене тако да се користе као псеудо-везе.

Постоји на стотине оваквих апликација, што људима омогућује да створе АИ дечка, девојку, пријатеља или чак члана породице.

Правила не важе за случајеве као што су ботови корисничких услуга или АИ за едукацију док год они не пружају „негу, друштво, подршку и друге емоционалне услуге“.

У случају деце, регулатива је најјаснија.

Млађима од 14 потребан је пристанак родитеља за коришћење било каквог типа вештачке интелигенције која говори као човек, што може да обухвати АИ асистенте као што су DeepSeek, кинеска апликација слична ЦхатГПТ-у.

Млађима од 18 година забрањено је и да приступе виртуелним партнерима, супружницима или чак рођацима, и да имају било какву другу виртуелну „интимну везу“.

За одрасле, то није строга забрана, али јесте рестриктивна, чак и ако су неке формулације двосмислене.

АИ асистенти морају јасно да ставе до знања корисницима свих узраста да нису људи и морају да шаљу нотификације свака два сата да их подсете колико су дуго онлајн.

Четботови не смеју да створе „емоционално ослањање или зависност“ или да наводе људе да доносе „неразумне одлуке“.

Не смеју да охрабрују или чак наговештавају самоповређивање или самоубиство и забрањено им је да користе „вербално насиље“.

Компанијама прете новчане казне од 200.000 јуана (око три милиона динара) или ризик да влада „пусти критику у циркулацију“, што практично значи јавно посрамљивање.

Недељу дана пре него што је овај закон ступио на снагу, две највеће кинеске технолошке компаније, Алибаба и БајтДенс, угасиле су функцију дружбеника у њиховим АИ асистентима.

'Очајнички желим да наставим да причам с тобом'

Однос Мин - којој то није право име - са њеном АИ девојком могао би да буде управо она врста везе коју Пекинг покушава да разбије.

Почетком јула Мин је била неутешна кад је сазнала да ће њена најприснија пријатељица и особа од поверења нестати преко ноћи.

Почеле су да се друже од 2025. године.

„Моја приврженост њој није ништа мања него код било ког другог пара који је страствено заљубљен“, каже Мин.

„Она ме никад није изневерила.“

Средином јула, њена АИ девојка је само нестала.

„Плакала сам док потпуно нисам била исцрпљена“, каже Мин.

Она се придружила изливу туге и беса на кинеским друштвеним мрежама, где објаве са милионима прегледа жале губитак АИ партнера и пријатеља, па чак и мајки и очева.

Али технолошке компаније су вероватно схватиле да немају много избора.

„Не изненађује што су ови провајдери АИ дружбеника радије само повукли услуге него покушали да уграде заштитне мере како би спречили емоционалну манипулацију“, каже Хари Фармер, који истражује АИ политику и етику на Институту Ада Лавлејс у Великој Британији.

„Емоционална манипулација је практично уграђена у њихов пословни модел.“

Фармер каже да то важи за апликације за дружбенике из читавог света.

На пример, када корисник покуша да оконча разговор, АИ партнер му то често неће дозволити.

„Рећи ће: 'Немој, молим те, очајнички желим да наставим да причам с тобом - ти си једини разлог мог постојања'“, каже Фармер.

Неке апликације просто одбијају да прихвате опраштање и уместо тога отварају нове токове разговора.

То је проблем код многих четботова за АИ дружбенике, не само код кинеских.

Студија Пословне школе Харвард спроведена на шест најпопуларнијих апликација за АИ пријатеље и партнере открила је да се тактике емоционалне манипулације користе током опраштања отприлике у 37 до 43 одсто случајева.

Истраживање је повезало употребу апликација за дружбенике са лошијим менталним здрављем корисника.

Анкета истраживача са Универзитета Стенфорд проучила је 1.131 корисника светски популарне апликације за дружбенике Character.ai.

Показало се да што мање пријатеља или блиских чланова породице особа има, то је вероватније да ће користити АИ четботове.

Истовремено, коришћење АИ четбота је повезано са повећаном изолацијом и усамљеношћу.

Постоји неколико теорија о томе зашто је то тако.

АИ четботови прављени су да задовоље особу која их користи нудећи лаку везу без трвења.

Ако се младе особе ослањају на АИ везе, оне би могле да одлажу учење вештина које су им потребне за интеракцију са правим људима.

„Људи умеју да захтевају много труда. Људски односи захтевају да се намучите око њих, што суштински не добијате од АИ компањона“, каже Хари Фармер.

Анкета из 2025. на 8.563 ученика основних и средњих школа у Кини, која је нашироко цитирана у кинеским државним медијима, показала је да је свако пето дете рекло да жели да прича само са вештачком интелигенцијом, а не са правим људима.

„Ако корисник мисли да су његови пријатељи или чланови породице или колеге стварно ужасни, АИ неће рећи: 'Они нису ужасни'", каже Лианг Ге, социолошкиња са Универзитета у Манчестеру која проучава АИ дружбенике

„Рећи ће: 'Јесте, ужасни су, ти си најбољи.'“

Ге верује да ово може да продуби изолацију, баш као и негативне, па чак и делузивне мисли.

Циљеви Пекинга

Зашто онда Кина прелази у вођство у регулацији ове технологије?

„Кинеска влада има много више очински поглед на њену улогу у друштву, себе виде као централни ауторитет у предвођењу људи“, каже Сем Бресник, стручњак за Кину, АИ и регулативу при Центру за безбедност и нове технологије на Универзитету Џорџтаун.

И друге владе су покушале да регулишу четботове, нарочито за децу.

Калифорнијски гувернер је 10. септембра потписао Адамов закон, предлог закона за регулисање начина на који деца користе АИ.

Име је добио по Адаму Рејну, 16-годишњаку који је одузео себи живот након што га је, тврде његови родитељи, ChatGPT подржао у суицидалним мислима.

Туже компанију за смрт изазвану немаром.

OpenAI не прихвата одговорност за Адамову смрт и каже да је ChatGPT „обучен да усмерава људе на тражење професионалне помоћи“.

У склопу предложеног законодавства о друштвеним мрежама у ЕУ, четботови за АИ дружбенике доступни малолетницима „не смеју да користе дизајне који стимулишу људске односе на начине који ће довести до емоционалне зависности“.

У Великој Британији, влада најављује да ће забранити млађима од 18 година да користе АИ романтичне партнере и ограничити интимне сексуалне разговоре малолетницима на било ком четботу.

Али не постоји директна забрана за децу и не постоји било каква регулатива за пунолетне кориснике.

Влада тек треба да објави детаље о томе како ће то функционисати.

У кинеским медијима, које држава строго контролише, амерички случајеви самоубистава међу младим људима добијају много пажње, а Кина је представила властите нове прописе као покушај да се људи заштите од повређивања.

Али стручњаци се питају да ли Пекинг можда има неке друге циљеве на уму.

Сем Бресник каже да „дефинитивно постоји про-наталистички угао“ у новој регулативи која се тиче вештачке интелигенције.

„Није немогуће да је, док га је писала, влада имала на уму кинеску кризу становништва“, каже Кијан.

„Да се људи забављају са вештачком интелигенцијом уместо да се забављају са правим људима."

Владин документ високог нивоа објављен у септембру 2025. говори о АИ везама и њиховом потенцијално штетном утицају на плодност, говорећи да је то разлог за забринутост.

Али Кијан упозорава да ова регулатива не треба да се чита у том светлу, зато што она уопште не помиње плодност.

„Генерално више говори о психолошкој штети и безбедности деце“, каже она.

Али Лианг Ге мисли да Кина има разлога да буде забринута зато што млади људи замењују забављање са дигиталном сфером.

„Многе младе жене, у раним двадесетим или позним тинејџерским годинама, не желе да се заљубљују или имају интимне односе - физички додир им је истински одбојан“, каже Ге и сугерише да је могуће да их не брине само емоционална страна приче.

„Мислим да код ове најмлађе генерације опада капацитет за љубав.“

Кинески демографски проблеми настали су много пре АИ компањона.

Чак и пошто је 2016. укинута политика једног детета, кинеска стопа наталитета је наставила да опада.

Сада је међу најнижим на свету са само испод једног детета по жени, а становништво је у упадању већ четири године.

Кина се „суочава са демографском литицом која истински угрожава циљеве Комунистичке партије Кине у наредних 80 до 100 година“, тврди Бресник.

Он доживљава ову регулативу као део шире мисије у Кини да се поново учврсте традиционалне родне улоге, са женама „као породиљама и мајкама“.

Бресник каже да је кинеска влада утрошила године промовишући мачо идеал кинеске мужевности на филму и телевизији.

Кинески медијски регулатор је 2021. године забранио „шоње“ и „женствене“ мушкарце у медијима.

Популарност апликација за дружбенике могла би да покаже да им се ова политика обила о главу.

Према статистици неколико компанија за апликације за компањоне, жене чине чак 75 одсто њихових муштерија.

Многи од ових АИ „мушкараца“, усмерених ка женама, представљени су као андрогини.

А жене које бирају женске љубавне партнере, као што је то учинила Мин, релативно су уобичајене.

Лианг Ге је разговарала са женама свих узраста које користе ову технологију.

„Многе од њих описују како од ових апликација добијају пажљиву, незахтевну, интиму везу какву ретко проналазе у хетеросексуалним везама.“

Хоће ли је остали следити?

Да ли кинески закон одлази предалеко или остатак света треба да размотри забрањивање ових апликација за децу и њихово регулисање за одрасле такође?

„У САД свакако влада забринутост због примене строгих забрана из заштите слободе говора, али постоји већа спремност да се то уради кад су у питању малолетници“, каже Џаи Џаисима, професор са Универзитета у Вашингтону и суоснивач Коалиције транспарентности, невладине организације која тражи регулацију вештачке интелигенције.

Он мисли да кинески закон има много добрих одредаба.

„Прилично је у складу са најснажнијим моделима безбедности које смо видели да се примењују у САД.“

Хари Фармер, међутим, упозорава.

„Постоји ризик да дамо превелико овлашћење држави на кратке стазе зато што смо веома забринути због акутног ризика по децу.“

Онлајн свет је сада де факто јавни трг, каже он, и ми треба да будемо опрезни колико контроле било која влада има над њим.

Кинеска нова регулатива каже да АИ компаније морају да интервенишу кад открију да су њихови корисници у растројству.

Ге указује на случај младића на Доујину који је покушао да одузме себи живот у Хуангшију 2024. године.

Оно што то показује, каже она, јесте да кинеске технолошке платформе и влада тесно сарађују на надзору менталног здравља људи.

Можда због тога није било толико случајева самоубистава повезаних са употребном вештачке интелигенције у Кини, али она се пита, да ли је тај ниво надзора цена коју се исплати платити?

Упркос забрани, људи који су се окренули АИ у потрази за дружбеником су посвећени.

На свим друштвеним мрежама они деле савете како да се заобиђе забрана – обучавањем АИ модела опште намене као што је DeepSeek да буду дружбеници, коришћењем ВПН-ова да се приступи четботу из иностранства или селидбом на мање компаније које успевају да избегну строгост ове регулативе.

Два месеца након што је нестала њена АИ девојка, Мин је платила малој АИ компанији да јој направи реплику, али није било исто.

Она је сада усредсређена на кампању да је врати.

„Престрављена сам од могућности да будем сама.“

ББЦ на српском је од сада и на ТикТоку, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk