आर्टिफ़िशियल इंटेलिजेंस ने किस तरह यूक्रेन की यूट्यूबर को बना दिया रूसी

"मैं नहीं चाहती कि कोई भी ये सोचे कि मैंने अपनी ज़िंदगी में इतनी ख़राब बातें बोली हैं. रूस को बढ़ावा देने के लिए यूक्रेन की लड़की का इस्तेमाल करना तो हद दर्जे की सनक है."

ओल्गा लोइएक ने चीन के सोशल मीडिया पर चल रहे तमाम वीडियोज़ में अपना चेहरा देखा है. इसकी वजह ऑनलाइन दुनिया में बड़ी आसानी से उपलब्ध आर्टिफ़िशियल इंटेलिजेंस के टूल्स हैं.

यूनिवर्सिटी ऑफ पेंसिल्वेनिया की छात्रा ओल्गा कहती हैं, "मैंने अपना चेहरा देखा और अपनी आवाज़ भी सुनी, लेकिन ये सब बहुत डरावना था, क्योंकि मैंने ख़ुद को ऐसी-ऐसी बातें बोलते सुना, जो मैंने कभी कही ही नहीं थीं."

उनके चेहरे वाले सोशल मीडिया के ये अकाउंट दर्जनों अलग-अलग नामों से चलाए जा रहे हैं. मसलन, सोफ़िया, नताशा, एप्रिल और स्टैशी.

ये ‘लड़कियां’ चीनी भाषा मंदारिन बोल रही थीं. जबकि ओल्गा ने कभी भी ये ज़बान नहीं सीखी. ज़ाहिर है ऐसा लगता है कि ये सारी लड़कियां रूस से थीं और वो सब चीन और रूस की दोस्ती की बातें कर रही थीं या फिर रूसी उत्पादों का विज्ञापन कर रही थीं.

ओल्गा कहती हैं, "मैंने देखा कि मेरे चेहरे वाले लगभग 90 प्रतिशत वीडियो में चीन और रूस की बात हो रही थी. चीन और रूस की दोस्ती के बारे में कहा जा रहा था कि हम दोनों देश बहुत पक्के दोस्त हैं और उनमें खाने-पीने के सामान के विज्ञापन भी किए जा रहे थे."

ओल्गा के चेहरे का इस्तेमाल करके चलाए जा रहे तमाम सोशल मीडिया अकाउंट्स में सबसे बड़ा था ‘नताशा इम्पोर्टेड फ़ूड.’

इसके तीन लाख से ज़्यादा फॉलोवर्स हैं. ‘नताशा’ अपने वीडियो में ऐसी बातें करती थीं, मसलन ‘रूस सबसे अच्छा देश है. ये बड़े दुख की बात है कि दूसरे देश रूस से मुंह फेर रहे हैं और रूसी औरतें चीन आना चाहती हैं.' इसके बाद वो रूसी मिठाइयों का प्रचार करने लगती थीं.

ये सब वीडियो देखकर ओल्गा को बहुत ग़ुस्सा आया. उनका परिवार अब भी यूक्रेन में रह रहा है.

लेकिन, ओल्गा के मामले ने आर्टिफ़िशियल इंटेलिजेंस के ख़तरों की तरफ़ दुनिया का ध्यान खींचा है, जो इतनी तेज़ी से विकसित हो रही है कि उससे जुड़े नियम बनाना और लोगों की हिफ़ाज़त करना एक वास्तविक चुनौती बन गया है.

यूट्यूब से शियाओहोंग्शू तक

ओल्गा की चीनी भाषा बोलने वाली हमशक्लें 2023 में उस वक़्त सामने आनी शुरू हुई थीं, जब उन्होंने अपना एक यूट्यूब चैनल शुरू किया था, जिसको वो नियमित रूप से अपडेट भी नहीं करती हैं.

लगभग एक महीने बाद ओल्गा को ऐसे लोगों के मैसेज आने शुरू हो गए, जो ये दावा कर रहे थे कि उन्होंने ओल्गा को चीन के सोशल मीडिया प्लेटफॉर्म्स पर चीनी भाषा बोलते देखा है.

ओल्गा इस बात से काफ़ी हैरान थीं. उन्होंने ख़ुद भी ऐसे वीडियो की तलाश शुरू कर दी. उन्हें शियाओहोंग्शू पर आर्टिफ़िशियल इंटेलिजेंस से तैयार की गई अपनी हमशक्ल दिख गई.

शियाओहोंग्शू, इंस्टाग्राम की तरह का एक चीनी सोशल मीडिया प्लेटफॉर्म है. इसके अलावा, ओल्गा को बिली-बिली पर भी अपने चेहरे वाले वीडियो मिले, जो यूट्यूब जैसी ही वीडियो वाली वेबसाइट है.

ओल्गा को अपने चेहरे का इस्तेमाल करके बनाए गए लगभग 35 सोशल मीडिया अकाउंट मिले. वो बताती हैं, "ऐसे बहुत से अकाउंट थे. कुछ ने तो अपने बायो में रूस का झंडा भी लगा रखा था."

जब ओल्गा के मंगेतर ने इन खातों के बारे में ट्वीट किया, तो हे-जेन नाम की एक कंपनी ने इस पर प्रतिक्रिया दी. हे-जेन ने ही आर्टिफ़िशियल इंटेलिजेंस का वो टूल विकसित किया है, जिससे किसी का हमशक्ल तैयार किया जा सकता है.

कंपनी के एक प्रवक्ता ने बीबीसी से कहा कि उनके सिस्टम को हैक करके ‘अनाधिकृत कंटेंट’ तैयार करने के लिए इस्तेमाल किया गया था.

प्रवक्ता ने ये भी कहा कि उन्होंने फ़ौरन ही अपनी सुरक्षा को बेहतर बनाया था और वेरिफिकेशन के प्रोटोकॉल अपडेट किए थे, ताकि उनके प्लेटफ़ॉर्म का आगे से दुरुपयोग न किया जा सके.

लेकिन, यूनिवर्सिटी ऑफ हॉन्गकॉन्ग की एंजेला झैंग कहती हैं कि ओल्गा के साथ जो कुछ हुआ वो तो ‘चीन में बहुत आम बात है.’

एंजेला कहती हैं, "चीन में ‘नक़ली सामान तैयार करने, किसी के निजी डेटा का दुरुपयोग करने और डीपफ़ेक तैयार करने की एक विशाल अर्थव्यवस्था चोरी चुपके से फल-फूल रही है."

चीन दुनिया के उन देशों में से है जिन्होंने सबसे पहले आर्टिफ़िशियल इंटेलिजेंस के नियम क़ायदे बनाने की कोशिश की थी, ताकि ये तय किया जा सके कि इसका इस्तेमाल किस काम में किया जा सकता है. चीन ने तो अपने सिविल कोड में भी बदलाव किया है, ताकि डिजिटल हेराफेरी करके किसी की नक़ल करने के अधिकार महफ़ूज़ किए जा सकें.

2023 में सार्वजनिक सुरक्षा विभाग के आंकड़ों से पता चला था कि अधिकारियों ने 515 लोगों को ‘आर्टिफ़िशियल इंटेलिजेंस से चेहरों की नक़ल तैयार करने’ के जुर्म में गिरफ़्तार किया था. ऐसे मामले चीन की अदालतों में भी चल रहे हैं.

फिर आख़िर ओल्गा की हमशक्लों वाले इतने वीडियो सोशल मीडिया पर कैसे आ गए?

वीडियो बनाने के पीछे क्या वजह?

इसकी एक वजह ये हो सकती है कि इनमें चीन और रूस की दोस्ती की बातों को प्रचारित किया जा रहा था.

हाल के वर्षों में चीन और रूस एक दूसरे के बेहद क़रीब आ गए हैं. चीन के राष्ट्रपति शी जिनपिंग और रूस के राष्ट्रपति व्लादिमीर पुतिन ने दोनों देशों की दोस्ती को ‘असीमित’ बताया है. दोनों नेता इसी हफ़्ते बीजिंग में फिर मुलाक़ात करने वाले हैं.

चीन के सरकारी मीडिया में यूक्रेन पर रूस के हमले को जायज़ ठहराने वाली बातें प्रचारित की जाती हैं. रूस का ही पक्ष रखा जाता है. सोशल मीडिया पर इस युद्ध को लेकर बातचीत को सेंसर किया जाता है.

यूनिवर्सिटी ऑफ बोलोना और केयू ल्यूवेन में क़ानून और तकनीक की रिसर्चर एमी हाइन कहती हैं, "ये स्पष्ट नहीं है कि ये खाते एक दूसरे के साथ तालमेल करके सामूहिक मक़सद से चलाए जा रहे थे. लेकिन, सरकार के प्रोपेगैंडा से मेल खाने वाली बातों का प्रचार करना निश्चित रूप से उनके लिए फ़ायदे का सौदा है."

लेकिन, इसका एक मतलब ये भी है कि ओल्गा जैसे आम लोगों के लिए ख़तरा बढ़ जाता है और जानकार चेतावनी देते हैं कि उनके ऊपर चीन के क़ानूनों के उल्लंघन का मामला भी बन सकता है.

ऑक्सफोर्ड यूनिवर्सिटी में तकनीक और भू-राजनीति की रिसर्चर केयेला ब्लोमक्विस्ट आगाह करती हैं, "इस बात का ख़तरा है कि आर्टिफिशियल इंटेलिजेंस से तैयार राजनीतिक रूप से संवेदनशील कंटेंट तैयार करके कुछ ख़ास लोगों को मुश्किल में डाला जा सकता है."

वे कहती हैं, "इसके बाद उन्हें बिना तय क़ानूनी प्रक्रिया का पालन किए हुए तेज़ी से सज़ा भी दी जा सकती है."

केयेला ये भी कहती हैं कि आर्टिफिशियल इंटेलिजेंस और ऑनलाइन प्राइवेसी को लेकर चीन का ज़ोर शोषण करने वाले निजी किरदारों से ज्यादा ग्राहकों के अधिकारों की रक्षा पर है. लेकिन, वो इस बात पर भी ज़ोर देती हैं कि, ‘सरकार के हवाले से देखें तो आम नागरिकों के अधिकार बेहद कमज़ोर हैं.’

एमी हाइन इसी बात को इस तरह समझाती हैं, "चीन में आर्टिफिशियल इंटेलिजेंस के नियम तैयार करने में चीन का बुनियादी मक़सद सामाजिक स्थिरता को बनाए रखते हुए आविष्कार और आर्थिक विकास को बढ़ावा देने के बीच संतुलन बनाने पर है."

एमी कहती हैं, "किताबों में तो क़ानून बेहद सख़्त नज़र आते हैं. लेकिन, इस बात के पर्याप्त सबूत हैं कि इन क़ानूनों को चुने हुए तरीक़े से लागू किया जाता है. ख़ास तौर से जेनरेटिव एआई के लाइसेंस से जुड़े नियमों के मामले में. जिनका मक़सद शायद आविष्कार के लिए ज़्यादा मुफ़ीद माहौल बनाना है और इसके पीछे बुनियादी सोच शायद यही है कि ज़रूरत पड़ने पर क़ानून के तहत कार्रवाई करने का अधिकार तो मिल ही जाता है."

‘वो आख़िरी शिकार नहीं’

ओल्गा के मामले का असर चीन की सीमाओं से आगे बढ़कर होता भी नज़र आता है.

इससे एक ऐसे उद्योग के फलने-फूलने में दिक़्क़तों का पता चलता है, जिसके बारे में लग रहा है कि वो तूफ़ानी रफ़्तार से विकसित हो रही है, और जिसको लेकर नियम क़ायदे बनाने वाले पीछा ही करते रह जा रहे हैं. लेकिन, इसका ये मतलब नहीं कि वो कोशिश नहीं कर रहे हैं.

इसी साल मार्च में यूरोपीय संसद ने एआई एक्ट को मंज़ूरी दी थी, जो इस तकनीक के जोख़िमों को कम करने वाला दुनिया का पहला व्यापक क़ानूनी ढांचा है.

यही नहीं, पिछले साल अक्टूबर में अमेरिका के राष्ट्रपति जो बाइडन ने एक कार्यकारी आदेश जारी किया था, जिसमें आर्टिफिशियल इंटेलिजेंस के डेवेलपर्स के लिए अपना डेटा सरकार के साथ साझा करना अनिवार्य बना दिया गया था.

वैसे तो, आर्टिफ़िशियल इंटेलिजेंस की प्रगति की तुलना में राष्ट्रीय और अंतरराष्ट्रीय स्तर पर नियम बनाने की प्रक्रिया धीरे धीरे चल रही है. लेकिन, केयेला कहती हैं, "हमें इसके सबसे भयानक ख़तरों को लेकर अपनी समझ को और स्पष्ट बनाना होगा और इस बात पर भी आम सहमति बनानी होगी कि हम उसके ख़तरों को कैसे कम करें."

इस बीच, व्यक्तिगत स्तर पर लोग ऐसा कंटेंट ऑनलाइन पोस्ट न करने के सिवा कोई और ठोस क़दम शायद नहीं उठा सकते हैं.

एमी हाइन कहती हैं, "हम सिर्फ़ यही कर सकते हैं कि उन लोगों को ऐसा कोई कंटेंट न दें, जिनका वो दुरुपयोग कर सकें. हम अपने फ़ोटो, वीडियो या ऑडियो सार्वजनिक रूप से सोशल मीडिया पर अपलोड न करें."

वो कहती हैं, "हालांकि, ग़लत काम करने वाले तो हमेशा ही दूसरों की नक़ल करने की कोई न कोई वजह तलाश लेंगे और अगर सरकारें कार्रवाई भी करती हैं, तो भी नियम क़ायदों की दीवार में सेंध लगाने का सिलसिला तो जारी ही रहने वाला है."

ओल्गा को पक्का यक़ीन है कि वो जेनरेटिव एआई की आख़िरी शिकार नहीं हैं. लेकिन, उन्होंने पक्का इरादा बना रखा है कि इस वजह से उन्हें कोई इंटरनेट से दूर न कर सके.

उन्होंने अपना तजुर्बा अपने यूट्यूब चैनल पर साझा किया है और कहती हैं कि चीन के कुछ ऑनलाइन यूज़र्स भी उनकी हमशक्ल वाले वीडियो पर कॉमेंट करके, उन्हें नक़ली बताते हुए ओल्गा की मदद कर रहे हैं.

ओल्गा ने बताया कि अब उनमें से कई वीडियो हटा लिए गए हैं.

वो कहती हैं, "मैं अपनी कहानी सबसे साझा करना चाहती हूं. मैं ये सुनिश्चित करना चाहती हूं कि लोग ये समझें कि ज़रूरी नहीं है कि आप जो कुछ भी ऑनलाइन देख रहे हैं, वो सच ही है."

ओल्गा का कहना है, "मुझे दुनिया के साथ अपने ख़यालात साझा करना अच्छा लगता है और इनमें से कोई भी धोखेबाज़ मुझे ऐसा करने से रोक नहीं सकता है."

(बीबीसी हिन्दी के एंड्रॉएड ऐप के लिए आप यहां क्लिक कर सकते हैं. आप हमें फ़ेसबुक, ट्विटर, इंस्टाग्राम और यूट्यूब पर फ़ॉलो भी कर सकते हैं.)