ఏఐ: ‘మాది యుక్రెయిన్, కానీ నన్ను రష్యన్‌గా మార్చేశారు’ అంటున్న యూట్యూబర్ కథ ఏంటి?

“నేను జీవితంలో ఇలాంటి భయంకరమైన విషయాలు చెప్పానని ఎవరూ అనుకోకూడదు. రష్యాను ప్రమోట్ చేయడం కోసం ఒక యుక్రెయిన్ అమ్మాయి ముఖాన్ని ఉపయోగించుకుంటారా, ఇది వెర్రితనం."

ఆన్‌లైన్‌లో అందుబాటులో ఉన్న ఏఐ టూల్స్ సాయంతో ఓల్గా లోయెక్ తన ముఖాన్ని చైనీస్ సోషల్ మీడియాలోని పలు వీడియోలలో చూశారు.

“నా ముఖాన్ని చూశాను, నా గొంతును విన్నాను. ఒళ్లు గగుర్పొడిచింది. ఎందుకంటే వాటిలో నేను ఎప్పుడూ చెప్పని విషయాలు చెబుతున్నట్లు కనిపిస్తున్నాయి.” అని పెన్సిల్వేనియా విశ్వవిద్యాలయంలో చదువుతున్న ఓల్గా లోయెక్ బీబీసీతో అన్నారు.

ఆమె పోలికలతో ఉన్న అకౌంట్లకు సోఫియా, నటాషా, ఏప్రిల్, స్టేసీలాంటి భిన్నమైన పేర్లు ఉన్నాయి. ఓల్గాను పోలిన ఆ అమ్మాయిలు మాండరిన్‌లో మాట్లాడుతున్నారు. నిజానికి ఓల్గాకు ఆ భాషే రాదు. ఆ నకిలీ అమ్మాయిలు చైనా-రష్యాల స్నేహం గురించి కొన్నిచోట్ల, రష్యా ప్రోడక్ట్స్‌కు సంబంధించిన ప్రకటనల్లో మాట్లాడుతున్నారు.

"90% వీడియోలలో నన్ను పోలిన అమ్మాయిలు చైనా-రష్యాల స్నేహం గురించి మాట్లాడడం నేను చూశాను. మన రెండు దేశాలు స్నేహంగా ఉండాలి...అంటూ వాళ్లు మాట్లాడుతుంటారు. కొన్ని ఫుడ్ ప్రోడక్ట్స్‌కు సంబంధించిన వీడియోలలో కూడా నాలాంటి అమ్మాయిలు కనిపించారు.’’ అని నటాషా చెప్పారు.

ఆమెను పోలిన మనిషి ఉన్న పెద్ద అకౌంట్లలో ‘నటాషా ఇంపోర్టెడ్ ఫుడ్.’ అనేది ఒకటి. దానికి 300,000 కంటే ఎక్కువ మంది ఫాలోయర్లు ఉన్నారు. రష్యన్ క్యాండీ వంటి ఉత్పత్తులను ప్రచారం చేయడానికి ముందు ‘నటాషా’ ఇలా అంటుంది: "రష్యా ఒక గొప్ప దేశం.ఇతర దేశాలు రష్యాకు దూరం కావడం విచారకరం. రష్యన్ మహిళలు చైనాకు రావాలనుకుంటున్నారు." అని చెబుతోంది.

ఇది ఓల్గాకు ఆగ్రహం తెప్పించింది. దానికి కారణం ఆమె కుటుంబం ఇప్పటికీ యుక్రెయిన్‌లో ఉంది.

వేగంగా అభివృద్ధి చెందుతున్న టెక్నాలజీ వల్ల ఎదురయ్యే ప్రమాదాలు ఎలా ఉంటాయో ఓల్గా పరిస్థితి మనకు చెబుతోంది. ఈ సమస్యలను నియంత్రించడం, ప్రజలను వాటి నుంచి రక్షించడం ఒక సవాలే.

యూట్యూబ్ నుంచి షియాహొంగ్షు వరకు

ఓల్గా 2023లో యూట్యూబ్ చానెల్‌ను ప్రారంభించిన వెంటనే, ఆమెలా కనిపిస్తూ మాండరిన్ మాట్లాడే, ఏఐతో రూపొందించిన వీడియోలు దర్శనమీయడం ప్రారంభించాయి. ఆమె తన చానెల్‌ను తరచుగా అప్‌డేట్ చేసేవారు కాదు.

దాదాపు ఒక నెల తర్వాత, చైనీస్ సోషల్ మీడియా ప్లాట్‌ఫామ్‌లలో ఆమె మాండరిన్‌లో మాట్లాడటం చూసిన వ్యక్తులు ఆమెకు మెసేజ్‌లు పంపడం మొదలుపెట్టారు.

దీంతో ఆందోళన చెందిన ఆమె , ఆ వీడియోల కోసం వెతకడం ప్రారంభించారు. అప్పుడే ఆమె ఇన్‌స్టాగ్రామ్ లాంటి షియాహొంగ్షు ప్లాట్‌ఫామ్, యూట్యూబ్ లాంటి వీడియో సైట్ బిలిబిలిలో ఏఐ సృష్టించిన తనను పోలినవారి వీడియోలను చూశారు.

“నాకు చాలా అకౌంట్లు కనిపించాయి. కొన్ని అకౌంట్ల బయోలో రష్యన్ జెండాల లాంటివి ఉన్నాయి,” అని ఓల్గా తెలిపారు. ఇప్పటివరకు తన పోలికలతో ఉన్న సుమారు 35 ఖాతాలను ఆమె గుర్తించారు.

ఓల్గా కాబోయే భర్త ఈ ఖాతాల గురించి ట్వీట్ చేసిన తర్వాత, ఈ ఏఐ టూల్‌ను డెవలప్ చేసిన హేజెన్ అనే సంస్థ స్పందించింది. ఆమె ముఖాన్ని ఉపయోగించి 4,900 కంటే ఎక్కువ వీడియోలను తయారు చేశారని వెల్లడించింది. ఇకపై ఆమె చిత్రాన్ని ఉపయోగించకుండా బ్లాక్ చేశామని చెప్పింది.

"అనధికార కంటెంట్" అని పిలిచే ఇలాంటి వీడియోలను సృష్టించడానికి తమ సిస్టమ్‌ను హ్యాక్ చేశారని, తమ ప్లాట్‌ఫామ్‌ మరింత దుర్వినియోగం కాకుండా నిరోధించడానికి తాము వెంటనే తమ భద్రత, ధృవీకరణ ప్రోటోకాల్‌లను అప్‌డేట్ చేశామని కంపెనీ ప్రతినిధి బీబీసీకి తెలిపారు.

అయితే ఓల్గా మాదిరిగా చైనాలో చాలామందికి చాలా కామన్‌గా జరుగుతుంటాయని హాంకాంగ్ విశ్వవిద్యాలయానికి చెందిన ఏంజెలా జాంగ్ చెప్పారు.

"నకిలీలు సృష్టించడం, వ్యక్తిగత డేటాను దుర్వినియోగం చేయడం, డీప్‌ఫేక్‌లను ఉత్పత్తి చేయడంలాంటి వాటిలో నిపుణులైన వ్యక్తులు, సంస్థలు చైనాలో చాలామంది ఉన్నారు.’’ ఆమె అన్నారు.

ఏఐని నియంత్రించడానికి, దానిని ఏయే ప్రయోజనాలకు ఉపయోగించవచ్చు అన్నదానిపై నియమాలను రూపొందించడానికి ప్రయత్నించిన మొదటి దేశాలలో చైనా ఒకటైనా, అక్కడ ఇదంతా జరుగుతోంది. ఇలాంటి డిజిటల్‌ మోసాల నుంచి రక్షణ కోసం చైనా తన సివిల్ కోడ్‌ను కూడా సవరించింది.

2023లో పబ్లిక్ సెక్యూరిటీ డిపార్ట్‌మెంట్ వెల్లడించిన గణాంకాల ప్రకారం, “ఏఐ ఫేస్ స్వాప్” కార్యకలాపాలకు సంబంధించి అధికారులు 515 మంది వ్యక్తులను అరెస్టు చేశారు. చైనా కోర్టులు కూడా ఈ ప్రాంతంలో ఇలాంటి కేసులపై విచారణ జరిపాయి.

ఇన్ని వీడియోలు ఆన్‌లైన్‌లోకి ఎలా?

ఈ వీడియోలు చైనా, రష్యాల మధ్య స్నేహభావాన్ని ప్రోత్సహించడం ఒక కారణం కావచ్చు.

ఇటీవల బీజింగ్, మాస్కోలు చాలా దగ్గరయ్యాయి. చైనా అధినేత జిన్‌పింగ్, రష్యా అధ్యక్షుడు పుతిన్‌లు ఇరు దేశాల మధ్య స్నేహానికి ‘పరిమితులు లేవు’ అని అన్నారు.

చైనా ప్రభుత్వ మీడియా యుక్రెయిన్‌పై దాడిని సమర్థిస్తూ రష్యా కథనాలను పునరావృతం చేస్తోంది. అదే సమయంలో సోషల్ మీడియాలో యుద్ధంపై జరుగుతున్న చర్చను సెన్సార్ చేస్తోంది.

"ఈ అకౌంట్లన్నీ ఒకే ఉద్దేశంతో పని చేస్తున్నాయా అన్నది అస్పష్టంగా ఉంది. కానీ ప్రభుత్వ ప్రచారానికి అనుగుణంగా ఉండే సందేశాన్ని ప్రచారం చేయడం వాళ్లకు ఖచ్చితంగా ప్రయోజనం చేకూరుస్తుంది" అని యూనివర్సిటీ ఆఫ్ బోలోన్య అండ్ కేయూ లెవెన్‌కు చెందిన లా అండ్ టెక్నాలజీ రీసెర్చర్ ఎమ్మీ హైన్ అన్నారు.

"ఈ అకౌంట్లకు సీసీపీ [చైనీస్ కమ్యూనిస్ట్ పార్టీ]తో స్పష్టమైన సంబంధాలు ఉంటే, అవి కనుక ఇరుదేశాల మధ్య సంబంధాలను ప్రోత్సహిస్తూ సందేశాలు ఇస్తుంటే, ఆ పోస్ట్‌లను తొలగించే అవకాశం చాలా తక్కువ" అని హైన్ తెలిపారు.

ఇలాంటి వాటి వల్ల ఓల్గాలాంటి సాధారణ ప్రజలు ఇబ్బందులకు గురవుతారని, వారు చైనాలో చట్టపరమైన సమస్యలు ఎదుర్కొనే అవకాశం ఉందని నిపుణులు హెచ్చరిస్తున్నారు.

ఆక్స్‌ఫర్డ్ విశ్వవిద్యాలయంలో సాంకేతికత, భౌగోళిక రాజకీయాల పరిశోధకురాలు కైలా బ్లామ్‌క్విస్ట్, "వ్యక్తులను అడ్డుగా పెట్టుకుని రాజకీయంగా సున్నితమైన కంటెంట్‌ను కృత్రిమంగా తయారు చేసే ప్రమాదం ఉంది" అన్నారు.

వేగంగా శిక్షలు అమలు చేసే కొన్ని చట్టాల కారణంగా ఇలాంటి వారు సరైన న్యాయ సహాయం అందకముందే శిక్షను ఎదుర్కొనే ప్రమాదం ఉంది.

ఏఐ, ఆన్‌లైన్ గోప్యతా విధానానికి సంబంధించి మోసాలకు పాల్పడే ప్రైవేట్ సంస్థల నుంచి వినియోగదారు హక్కులను రక్షించడమే బీజింగ్ విధానం అయినా, "ప్రభుత్వానికి సంబంధించి ఆ దేశంలో పౌర హక్కులు చాలా బలహీనంగా ఉన్నాయి" అని ఆమె అన్నారు

"చైనా ఏఐ నిబంధనల ప్రాథమిక లక్ష్యం ఆవిష్కరణలు, ఆర్థిక అభివృద్ధిని ప్రోత్సహించడంతో పాటు సామాజిక స్థిరత్వాన్ని కొనసాగించడం" అని హైన్ వివరించారు.

“నిబంధనలు కఠినంగా ఉన్నట్లు కనిపిస్తున్నా, కేవలం ఎంపిక చేసిన వాటిపైనే ఈ నిబంధనలను అమలు చేసున్నట్లు ఆధారాలు ఉన్నాయి. ముఖ్యంగా జనరేటివ్ ఏఐ లైసెన్సింగ్ నియమం. ఇది ఆవిష్కరణల-అనుకూల వాతావరణాన్ని సృష్టించడానికి ఉద్దేశించినది. అయితే అవసరమైతే దీనిలో చట్టం కలుగజేసుకోగలదన్నది అందరికీ తెలిసిన విషయం” అని ఆమె చెప్పారు.

‘అదే పరిష్కారం’

ఓల్గా కేసు పరిణామాలు చైనాను దాటి పోయాయి. ఇది అమితమైన వేగంతో అభివృద్ధి చెందుతున్న పరిశ్రమను నియంత్రించడంలో ఉన్న ఇబ్బందులను బయటపెట్టింది. నియంత్రణా సంస్థలు ఎప్పుడూ సాంకేతిక పరిజ్ఞానంలో ఎదురవుతున్న సమస్యలను నియంత్రించడంలో వెనుకబడే ఉంటాయి. అవి ప్రయత్నించడం లేదని దీని అర్థం కాదు.

మార్చిలో, యూరోపియన్ పార్లమెంట్ ఏఐ చట్టాన్ని ఆమోదించింది. ఇది సాంకేతికత ప్రమాదాలను నిరోధించడం కోసం రూపొందించిన ప్రపంచంలోని మొట్టమొదటి సమగ్ర ఫ్రేమ్‌వర్క్. గత అక్టోబర్‌లో, అమెరికా అధ్యక్షుడు జో బైడెన్ ఏఐ డెవలపర్‌లు ప్రభుత్వంతో డేటాను పంచుకోవాలని ఆదేశించారు.

ఏఐ అభివృద్ధి వేగంతో పోలిస్తే జాతీయ, అంతర్జాతీయ స్థాయి నిబంధనల రూపకల్పన నెమ్మదిగా జరుగుతుండగా, మనకు "అత్యంత ప్రమాదకరమైన బెదిరింపులు, వాటిని ఎలా ఎదుర్కోవాలి అనే దానిపై స్పష్టమైన అవగాహన, ఏకాభిప్రాయం అవసరం" అని బ్లామ్‌క్విస్ట్ అన్నారు.

"అయితే, దేశాల లోపల, దేశాల మధ్య విభేదాలు స్పష్టమైన చర్యలు తీసుకోవడానికి ఆటంకం కలిగిస్తున్నాయి. అమెరికా, చైనాలు కీలక దేశాలు. అయితే ఏకాభిప్రాయ సాధన, అవసరమైన ఉమ్మడి చర్యలను సమన్వయం చేయడం సవాలు,” అని ఆమె తెలిపారు.

ఇలాంటి సమస్యలను నివారించడానికి, వ్యక్తిగత స్థాయిలో, ఆన్‌లైన్‌లో ఏదైనా పోస్ట్ చేయకుండా ఉండడం తప్ప వ్యక్తులు చేయగలిగింది చాలా తక్కువ.

"మనం చేయాల్సింది ఏమిటంటే, మనకు సంబంధించినవి ఏవీ వాళ్ల చేతికి చేరకుండా చూడడం: మన ఫోటోలు, వీడియోలు లేదా ఆడియోలను పబ్లిక్ సోషల్ మీడియాలో అప్‌లోడ్ చేయకూడదు" అని బ్లామ్‌క్విస్ట్ చెప్పారు.

జనరేటివ్ ఏఐ చివరి బాధితురాలు తానే కాదని ఓల్గాకు ఖచ్చితంగా తెలుసు. కానీ దాని వల్ల తాను ఇంటర్నెట్‌కు దూరం కాకూడదని ఆమె గట్టిగా నిశ్చయించుకున్నారు.

తన యూట్యూబ్ చానెల్‌లో ఆమె తన అనుభవాలను పంచుకున్నారు. కొందరు చైనీస్ ఆన్‌లైన్ యూజర్లు తన పోలికతో ఉన్న వీడియోల కింద కామెంట్లు పెడుతూ , అవి నకిలీవని చెబుతూ తనకు సహాయం చేస్తున్నారని ఆమె చెప్పారు. ఈ ప్రయత్నాల వల్ల ఇప్పుడు చాలా వీడియోలను ఆన్‌లైన్ నుంచి తొలగించారు.

"నా కథను మీ అందరికీ చెప్పాలనుకున్నాను. మీరు ఆన్‌లైన్‌లో చూస్తున్నదంతా నిజమైనది కాదని ప్రజలు అర్థం చేసుకోవాలి." అని ఆమె చెప్పారు.

‘‘నా ఆలోచనలను ప్రపంచంతో పంచుకోవడం నాకు చాలా ఇష్టం. ఈ మోసగాళ్లలో ఎవరూ నన్ను ఆ పని చేయకుండా ఆపలేరు.’’ అన్నారామె.

ఇవి కూడా చదవండి:

(బీబీసీ తెలుగును ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్‌, ట్విటర్‌లో ఫాలో అవ్వండి. యూట్యూబ్‌లో సబ్‌స్క్రైబ్ చేయండి.)