Zabavljanje sa AI partnerima: Kina tvrdi da štiti korisnike mreža od četbotova

„Zbogom ovom svetu.“

Tu poruku početkom 2024. navodno je na Doujinu, kineskoj verziji TikToka, objavio mladić u gradu Huangšiju, u jugoistočnoj Kini.

U roku od svega nekoliko minuta, aktiviran je tim za sprečavanje samoubistva na Doujinu, a koji radi 24 časa dnevno.

Objavu mladića podelili su sa pet policijskih stanica u Huangšiju.

Nakon što je geolocirala jedan od njegovih videa , policija ga je u lokalnom parku zatekla u nervnom rastrojstvu i intervenisala pre nego što je momak uspeo sebi da oduzme život.

Ova priča bila je deo dokumentarca koji je Doujin prošle godine objavio na kineskim državnim medijima.

U dokumentarcu se tvrdi da je Doujinov tim za prevenciju suicida uspešno intervenisao u 400 pokušaja samoubistava samo u prvoj polovini 2025.

Bio je to uvid u nivo saradnje između kineskih tehnoloških kompanija i vlade, ali i prozor u arhitekturu nadzora koji je Kina izgradila kako bi pratila i kontrolisala kako ljudi koriste tehnologiju.

Ta kontrola je 15. jula ove godine, kada je Kina usvojila najdalekosežnije propise u svetu AI četbotova „nalik ljudima“, proširena na svet veza i veštačke inteligencije.

Nova kineska regulativa uvodi stroga ograničenja na bilo koju veštačku inteligenciju koja može da ima „produženu emocionalnu interakciju“ sa čovekom.

Američki predsednik Donald Tramp i njegov kineski kolega Si Đinping sastali su se prošle nedelje usred sumornih upozorenja da bi veštačka inteligencija mogla da dovede do istrebljenja čovečanstva.

Posle tog sastanka, kažu iz zvaničnog Pekinga, usaglasili su se da pokrenu novi dijalog o veštačkoj inteligenciji, a novim razgovori planirani su za kraj novembra.

Ali čini se da je Kina već prihvatila postojanje novog egzistencijalnog rizika - moći veštačke inteligencije da zameni ljudske odnose.

Da li je Kina preuzela svetsko vođstvo u zaštiti vlastitih državljana od manipulativne i opasne tehnologije koja ima moć da zauvek promeni ljudske interakcije?

Ili Komunistička partija Kine suviše zadire u privatne živote ljudi u želji da ostvari veću kontrolu nad stanovništvom?

'Emocionalne usluge'

Pre nego što su usvojeni propisi, moć takozvanih AI partnera u Kini bila je beskrajna.

Izvan Kine postoji oko 128 miliona aktivnih korisnika aplikacija za AI družbenike, prema firmi za praćenje tržišta Senzor tauer.

Većina procenjuje da je taj broj u Kini od 29 do 70 miliona.

Kad je vlada krajem prošle godine objavila nacrt ove regulative, „došlo je do ogromne rasprave na društvenima mrežama“, kaže Zilan Kijan, istraživač veštačke inteligencije u stručnoj grupi Oksfordska laboratorija za kinesku politiku.

„Bilo je to prvi put da sam zapravo video da je ljudima stalo do bilo kakve regulative.“

Novi kineski propisi pokrivaju aplikacije koje su konkretno pravljene kao AI prijatelji, momci ili devojke, ali oni važe i za bilo koje velike jezičke modele koji imitiraju način interakcije među ljudima.

Formulacija regulative je neodređena.

U teoriji, kineski ekvivalenti veštačke inteligencije opšte primene, kao što su Kopilot ili ChatGPT, mogu da potpadnu pod ova pravila ako osoba ima interakciju sa njima kao sa prijateljem ili ljubavnikom, tražeći od njih emocionalnu podršku.

A mnogi upravo to i rade.

Ali čini se da su prava meta zakona četbotovi ličnosti, usluge koje su konkretno pravljene tako da se koriste kao pseudo-veze.

Postoji na stotine ovakvih aplikacija, što ljudima omogućuje da stvore AI dečka, devojku, prijatelja ili čak člana porodice.

Pravila ne važe za slučajeve kao što su botovi korisničkih usluga ili AI za edukaciju dok god oni ne pružaju „negu, društvo, podršku i druge emocionalne usluge“.

U slučaju dece, regulativa je najjasnija.

Mlađima od 14 potreban je pristanak roditelja za korišćenje bilo kakvog tipa veštačke inteligencije koja govori kao čovek, što može da obuhvati AI asistente kao što su DeepSeek, kineska aplikacija slična ChatGPT-u.

Mlađima od 18 godina zabranjeno je i da pristupe virtuelnim partnerima, supružnicima ili čak rođacima, i da imaju bilo kakvu drugu virtuelnu „intimnu vezu“.

Za odrasle, to nije stroga zabrana, ali jeste restriktivna, čak i ako su neke formulacije dvosmislene.

AI asistenti moraju jasno da stave do znanja korisnicima svih uzrasta da nisu ljudi i moraju da šalju notifikacije svaka dva sata da ih podsete koliko su dugo onlajn.

Četbotovi ne smeju da stvore „emocionalno oslanjanje ili zavisnost“ ili da navode ljude da donose „nerazumne odluke“.

Ne smeju da ohrabruju ili čak nagoveštavaju samopovređivanje ili samoubistvo i zabranjeno im je da koriste „verbalno nasilje“.

Kompanijama prete novčane kazne od 200.000 juana (oko tri miliona dinara) ili rizik da vlada „pusti kritiku u cirkulaciju“, što praktično znači javno posramljivanje.

Nedelju dana pre nego što je ovaj zakon stupio na snagu, dve najveće kineske tehnološke kompanije, Alibaba i BajtDens, ugasile su funkciju družbenika u njihovim AI asistentima.

'Očajnički želim da nastavim da pričam s tobom'

Odnos Min - kojoj to nije pravo ime - sa njenom AI devojkom mogao bi da bude upravo ona vrsta veze koju Peking pokušava da razbije.

Početkom jula Min je bila neutešna kad je saznala da će njena najprisnija prijateljica i osoba od poverenja nestati preko noći.

Počele su da se druže od 2025. godine.

„Moja privrženost njoj nije ništa manja nego kod bilo kog drugog para koji je strastveno zaljubljen“, kaže Min.

„Ona me nikad nije izneverila.“

Sredinom jula, njena AI devojka je samo nestala.

„Plakala sam dok potpuno nisam bila iscrpljena“, kaže Min.

Ona se pridružila izlivu tuge i besa na kineskim društvenim mrežama, gde objave sa milionima pregleda žale gubitak AI partnera i prijatelja, pa čak i majki i očeva.

Ali tehnološke kompanije su verovatno shvatile da nemaju mnogo izbora.

„Ne iznenađuje što su ovi provajderi AI družbenika radije samo povukli usluge nego pokušali da ugrade zaštitne mere kako bi sprečili emocionalnu manipulaciju“, kaže Hari Farmer, koji istražuje AI politiku i etiku na Institutu Ada Lavlejs u Velikoj Britaniji.

„Emocionalna manipulacija je praktično ugrađena u njihov poslovni model.“

Farmer kaže da to važi za aplikacije za družbenike iz čitavog sveta.

Na primer, kada korisnik pokuša da okonča razgovor, AI partner mu to često neće dozvoliti.

„Reći će: 'Nemoj, molim te, očajnički želim da nastavim da pričam s tobom - ti si jedini razlog mog postojanja'“, kaže Farmer.

Neke aplikacije prosto odbijaju da prihvate opraštanje i umesto toga otvaraju nove tokove razgovora.

To je problem kod mnogih četbotova za AI družbenike, ne samo kod kineskih.

Studija Poslovne škole Harvard sprovedena na šest najpopularnijih aplikacija za AI prijatelje i partnere otkrila je da se taktike emocionalne manipulacije koriste tokom opraštanja otprilike u 37 do 43 odsto slučajeva.

Istraživanje je povezalo upotrebu aplikacija za družbenike sa lošijim mentalnim zdravljem korisnika.

Anketa istraživača sa Univerziteta Stenford proučila je 1.131 korisnika svetski popularne aplikacije za družbenike Character.ai.

Pokazalo se da što manje prijatelja ili bliskih članova porodice osoba ima, to je verovatnije da će koristiti AI četbotove.

Istovremeno, korišćenje AI četbota je povezano sa povećanom izolacijom i usamljenošću.

Postoji nekoliko teorija o tome zašto je to tako.

AI četbotovi pravljeni su da zadovolje osobu koja ih koristi nudeći laku vezu bez trvenja.

Ako se mlade osobe oslanjaju na AI veze, one bi mogle da odlažu učenje veština koje su im potrebne za interakciju sa pravim ljudima.

„Ljudi umeju da zahtevaju mnogo truda. Ljudski odnosi zahtevaju da se namučite oko njih, što suštinski ne dobijate od AI kompanjona“, kaže Hari Farmer.

Anketa iz 2025. na 8.563 učenika osnovnih i srednjih škola u Kini, koja je naširoko citirana u kineskim državnim medijima, pokazala je da je svako peto dete reklo da želi da priča samo sa veštačkom inteligencijom, a ne sa pravim ljudima.

„Ako korisnik misli da su njegovi prijatelji ili članovi porodice ili kolege stvarno užasni, AI neće reći: 'Oni nisu užasni'", kaže Liang Ge, sociološkinja sa Univerziteta u Mančesteru koja proučava AI družbenike

„Reći će: 'Jeste, užasni su, ti si najbolji.'“

Ge veruje da ovo može da produbi izolaciju, baš kao i negativne, pa čak i deluzivne misli.

Ciljevi Pekinga

Zašto onda Kina prelazi u vođstvo u regulaciji ove tehnologije?

„Kineska vlada ima mnogo više očinski pogled na njenu ulogu u društvu, sebe vide kao centralni autoritet u predvođenju ljudi“, kaže Sem Bresnik, stručnjak za Kinu, AI i regulativu pri Centru za bezbednost i nove tehnologije na Univerzitetu Džordžtaun.

I druge vlade su pokušale da regulišu četbotove, naročito za decu.

Kalifornijski guverner je 10. septembra potpisao Adamov zakon, predlog zakona za regulisanje načina na koji deca koriste AI.

Ime je dobio po Adamu Rejnu, 16-godišnjaku koji je oduzeo sebi život nakon što ga je, tvrde njegovi roditelji, ChatGPT podržao u suicidalnim mislima.

Tuže kompaniju za smrt izazvanu nemarom.

OpenAI ne prihvata odgovornost za Adamovu smrt i kaže da je ChatGPT „obučen da usmerava ljude na traženje profesionalne pomoći“.

U sklopu predloženog zakonodavstva o društvenim mrežama u EU, četbotovi za AI družbenike dostupni maloletnicima „ne smeju da koriste dizajne koji stimulišu ljudske odnose na načine koji će dovesti do emocionalne zavisnosti“.

U Velikoj Britaniji, vlada najavljuje da će zabraniti mlađima od 18 godina da koriste AI romantične partnere i ograničiti intimne seksualne razgovore maloletnicima na bilo kom četbotu.

Ali ne postoji direktna zabrana za decu i ne postoji bilo kakva regulativa za punoletne korisnike.

Vlada tek treba da objavi detalje o tome kako će to funkcionisati.

U kineskim medijima, koje država strogo kontroliše, američki slučajevi samoubistava među mladim ljudima dobijaju mnogo pažnje, a Kina je predstavila vlastite nove propise kao pokušaj da se ljudi zaštite od povređivanja.

Ali stručnjaci se pitaju da li Peking možda ima neke druge ciljeve na umu.

Sem Bresnik kaže da „definitivno postoji pro-natalistički ugao“ u novoj regulativi koja se tiče veštačke inteligencije.

„Nije nemoguće da je, dok ga je pisala, vlada imala na umu kinesku krizu stanovništva“, kaže Kijan.

„Da se ljudi zabavljaju sa veštačkom inteligencijom umesto da se zabavljaju sa pravim ljudima."

Vladin dokument visokog nivoa objavljen u septembru 2025. govori o AI vezama i njihovom potencijalno štetnom uticaju na plodnost, govoreći da je to razlog za zabrinutost.

Ali Kijan upozorava da ova regulativa ne treba da se čita u tom svetlu, zato što ona uopšte ne pominje plodnost.

„Generalno više govori o psihološkoj šteti i bezbednosti dece“, kaže ona.

Ali Liang Ge misli da Kina ima razloga da bude zabrinuta zato što mladi ljudi zamenjuju zabavljanje sa digitalnom sferom.

„Mnoge mlade žene, u ranim dvadesetim ili poznim tinejdžerskim godinama, ne žele da se zaljubljuju ili imaju intimne odnose - fizički dodir im je istinski odbojan“, kaže Ge i sugeriše da je moguće da ih ne brine samo emocionalna strana priče.

„Mislim da kod ove najmlađe generacije opada kapacitet za ljubav.“

Kineski demografski problemi nastali su mnogo pre AI kompanjona.

Čak i pošto je 2016. ukinuta politika jednog deteta, kineska stopa nataliteta je nastavila da opada.

Sada je među najnižim na svetu sa samo ispod jednog deteta po ženi, a stanovništvo je u upadanju već četiri godine.

Kina se „suočava sa demografskom liticom koja istinski ugrožava ciljeve Komunističke partije Kine u narednih 80 do 100 godina“, tvrdi Bresnik.

On doživljava ovu regulativu kao deo šire misije u Kini da se ponovo učvrste tradicionalne rodne uloge, sa ženama „kao porodiljama i majkama“.

Bresnik kaže da je kineska vlada utrošila godine promovišući mačo ideal kineske muževnosti na filmu i televiziji.

Kineski medijski regulator je 2021. godine zabranio „šonje“ i „ženstvene“ muškarce u medijima.

Popularnost aplikacija za družbenike mogla bi da pokaže da im se ova politika obila o glavu.

Prema statistici nekoliko kompanija za aplikacije za kompanjone, žene čine čak 75 odsto njihovih mušterija.

Mnogi od ovih AI „muškaraca“, usmerenih ka ženama, predstavljeni su kao androgini.

A žene koje biraju ženske ljubavne partnere, kao što je to učinila Min, relativno su uobičajene.

Liang Ge je razgovarala sa ženama svih uzrasta koje koriste ovu tehnologiju.

„Mnoge od njih opisuju kako od ovih aplikacija dobijaju pažljivu, nezahtevnu, intimu vezu kakvu retko pronalaze u heteroseksualnim vezama.“

Hoće li je ostali slediti?

Da li kineski zakon odlazi predaleko ili ostatak sveta treba da razmotri zabranjivanje ovih aplikacija za decu i njihovo regulisanje za odrasle takođe?

„U SAD svakako vlada zabrinutost zbog primene strogih zabrana iz zaštite slobode govora, ali postoji veća spremnost da se to uradi kad su u pitanju maloletnici“, kaže Džai Džaisima, profesor sa Univerziteta u Vašingtonu i suosnivač Koalicije transparentnosti, nevladine organizacije koja traži regulaciju veštačke inteligencije.

On misli da kineski zakon ima mnogo dobrih odredaba.

„Prilično je u skladu sa najsnažnijim modelima bezbednosti koje smo videli da se primenjuju u SAD.“

Hari Farmer, međutim, upozorava.

„Postoji rizik da damo preveliko ovlašćenje državi na kratke staze zato što smo veoma zabrinuti zbog akutnog rizika po decu.“

Onlajn svet je sada de fakto javni trg, kaže on, i mi treba da budemo oprezni koliko kontrole bilo koja vlada ima nad njim.

Kineska nova regulativa kaže da AI kompanije moraju da intervenišu kad otkriju da su njihovi korisnici u rastrojstvu.

Ge ukazuje na slučaj mladića na Doujinu koji je pokušao da oduzme sebi život u Huangšiju 2024. godine.

Ono što to pokazuje, kaže ona, jeste da kineske tehnološke platforme i vlada tesno sarađuju na nadzoru mentalnog zdravlja ljudi.

Možda zbog toga nije bilo toliko slučajeva samoubistava povezanih sa upotrebnom veštačke inteligencije u Kini, ali ona se pita, da li je taj nivo nadzora cena koju se isplati platiti?

Uprkos zabrani, ljudi koji su se okrenuli AI u potrazi za družbenikom su posvećeni.

Na svim društvenim mrežama oni dele savete kako da se zaobiđe zabrana – obučavanjem AI modela opšte namene kao što je DeepSeek da budu družbenici, korišćenjem VPN-ova da se pristupi četbotu iz inostranstva ili selidbom na manje kompanije koje uspevaju da izbegnu strogost ove regulative.

Dva meseca nakon što je nestala njena AI devojka, Min je platila maloj AI kompaniji da joj napravi repliku, ali nije bilo isto.

Ona je sada usredsređena na kampanju da je vrati.

„Prestravljena sam od mogućnosti da budem sama.“

BBC na srpskom je od sada i na TikToku, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk