'भारतभरि आगो लाग्न सक्छ': चुनावमा एआईबाट सिर्जित सामग्री र डीपफेकको बिगबिगी

गत वर्षको नोभेम्बरमा यूकेमा हुँदा तमिल भाषामा लाइभस्ट्रीम हेरिरहेका मुरलीकृष्णन चिन्नादुराईले एउटा अनौठो कुरा देखे।

आफूलाई लिबरेशन टाइगर्स अफ तमिल ईलम (एलटीटीई) का प्रमुख भेलुपिल्लई प्रभाकरनकी छोरी द्वारका भनेर चिनाउने एक महिलाले त्यहाँ भाषण गर्छिन्।

द्वारकाको मृत्यु एक दशकअघि नै भइसकेको थियो। सन् २००९ मा श्रीलङ्काको गृहयुद्धको अन्त्यतिर २३ वर्षे द्वारका घातक हवाई आक्रमणमा परेकी थिइन्। उनको शव भने कहिल्यै फेला परेन।

तर उनी त्यो लाइभस्ट्रीममा देखा परेकी थिइन्। अधबैँसे उमेरकी ती महिला विश्वभरिका तमिलहरूलाई आफ्नो स्वतन्त्रताका लागि राजनीतिक सङ्घर्ष अघि बढाउन उक्साइरहेकी थिइन्।

भारतको दक्षिणी राज्य तमिलनाडुमा तथ्यजाँचको काम गर्ने चिन्नादुराईले उक्त भिडिओ राम्रोसँग हेरे। त्यसमा उनले केही त्रुटिहरू पहिल्याए र छोटो समयमै लाइभमा बोलिरहेकी महिला 'आर्टिफिशल इन्टेलिजन्स' (एआई) बाट सिर्जना गरिएको पत्ता लगाए।

यसको सम्भावित कारण बुझ्न पनि चिन्नादुराईलाई समय लागेन।

“चुनाव नजिकिँदै गर्दा यो तमिलनाडुका लागि मानिसहरूको भावनासँग जोडिएको विषय हो। अनि भ्रामक सूचना छिटो फैलिन सक्छ,” उनले भने।

मानिसहरू किन झुक्किन सक्छन्

अहिले भारतमा लोकसभाको निर्वाचन विभिन्न चरणमा भइरहेको छ।

चुनावको प्रचारका लागि बनाइएका सामग्रीमा एआईबाट सिर्जित भिडिओहरू, भारतका विभिन्न स्थानीय भाषामा व्यक्तिलाई नै सम्बोधन गरेर आउने अडिओ सन्देशहरू र उम्मेदवारकै दुरुस्त आवाजमा मतदाताहरूलाई सम्बोधन गरेर आउने स्वचालित टेलिफोन कलबाट जोगिन कठिन छ।

'कन्टेन्ट क्रिएटर'को रूपमा काम गर्ने शहिद शेखलाई एआईका टूलहरू प्रयोग गरेर खेलाडीहरूको पोसाकमा, साङ्गीतिक उपकरण बजाइरहेका र नाचिरहेका राजनीतिज्ञहरूको कृत्रिम स्वरूप बनाउन रमाइलो लाग्छ।

त्यस्ता टूल धेरै परिष्कृत हुँदै गएकाले एआईबाट सिर्जित मानिसका स्वरूपहरू वास्तविक हुन् भनेर मानिसहरू झुक्कि नसक्ने चिन्ता विज्ञहरूको छ।

“अफवाह फैलाउने काम चुनावी प्रचारको एउटा अङ्गजस्तै बनिसकेको छ। सामाजिक सञ्जालको युगमा यो झन् डढेलो जसरी फैलिन सक्छ,” भारतका भूतपूर्व प्रमुख निर्वाचन आयुक्त एसवाई कुरेशी भन्छन्।

“यसले वास्तवमै देशमा आगो लगाउन सक्छ।”

केकेमा र कहाँकहाँ प्रयोग भएको छ

एआईमा भएको पछिल्लो विकासको फाइदा लिनेमा भारतीय राजनीतिज्ञहरू मात्रै हैनन्। सीमापारि पाकिस्तानमा जेलमा रहेका भूतपूर्व प्रधानमन्त्री इमरान खानलाई यसले त चुनावी र्‍यालीहरूमै सम्बोधन गर्ने सुविधा दियो।

भारतका प्रधानमन्त्री नरेन्द्र मोदीले पनि यो उदयीमान प्रविधिको प्रयोग आफ्नो चुनावी प्रचारमा प्रभावकारी रूपमा गर्दै आएका छन्। भारतको सरकारद्वारा विकसित एआई टूल 'भाषिणी'को सहयोगमा उनले हिन्दीमा गरेको भाषण तत्काल तमिलमा अनुवाद भयो।

एआई कहिलेकाहीँ शब्द र सन्देशलाई "तोडमोड" गर्न पनि प्रयोग हुन सक्छ।

गत महिना बलीवुडका अभिनेता रणवीर सिंह र आमिर खानले विपक्षी कांग्रेस पार्टीको चुनावी प्रचार गरिको देखिने दुइटा भिडिओ भाइरल भए। दुवै जनाले आफ्नो अनुमति नलिई "डीपफेक" भिडिओ बनाइएको भन्दै प्रहरीमा उजुरी दिएका छन्।

त्यसलगत्तै एप्रिल २९ प्रधानमन्त्री मोदीले आफूसहित आफ्नो सत्तारूढ दल भारतीय जनता पार्टीका नेताहरूको भनाइ बङ्ग्याउन एआईको दुरुपयोग भएको भन्दै चिन्ता व्यक्त गरेका थिए।

त्यसको भोलिपल्ट प्रहरीले गृहमन्त्री अमित शाहको तोडमोड गरिएको भिडिओ बनाएको आरोपमा आमआदमी पार्टी र कांग्रेस पार्टीका एक-एक कार्यकर्तालाई पक्राउ गर्‍यो।

विपक्षीहरूले मोदीको भारतीय जनता पार्टीमाथि पनि यस्ता भिडिओहरू बनाएको आरोप लगाउने गरेका छन्।

नियमन गर्न कस्ता चुनौती

विज्ञहरूले भने मानिसहरूलाई पक्राउ गर्नुबाहेक यस्ता गतिविधिलाई रोक्ने विस्तृत नियमन नभएको औँल्याएका छन्।

"त्यो भनेको यदि तपाईँ कुनै गलत काम गरिरहनुभएको छ भने तपाईँको नाडी अँठ्याइने छ,” एक डेटा सुरक्षा अनुसन्धाता श्रीनिवास कोदाली भन्छन्।

नियमको अभावमा के गर्ने र के नगर्ने भन्ने कुरा आफ्नो नैतिकताका आधारमा निर्णय लिने गरेको एआई प्रयोग गरेर विभिन्न सामग्री गराउने सर्जकहरूले बीबीसीसँग बताए।

नेताहरूले एआई सर्जकहरूलाई आफ्ना प्रतिस्पर्धीको छविमा क्षति पुर्‍याउन अश्लील तस्बिरदेखि अडिओ र भिडिओमा अरूको अनुहार जोडेर देखाइदिनेसम्म अनुरोध गर्ने गरेको बीबीसीले थाहा पाएको छ।

“मलाई एक पटक साँच्चिकै जस्तो देखिने गरी डीपफेक बनाइदिन अनुरोध आएको थियो। किनभने यदि त्यो व्यापक रूपमा शेअर भयो भने त्यसले कुनै नेतालाई खराब देखाउन सक्थ्यो,” दिव्येन्द्र सिंह जादौनले भने।

“उनीहरूको टोलीले डीपफेक बनाएर वास्तविक कुरालाई छायामा पार्न खोजिरहेको थिए।”

एआईको 'ओपन सोर्स' प्रयोग गरेर भारतीय राजनीतिज्ञहरूलाई चुनावी प्रचारको सामग्री बनाउने टूल बनाउने 'इन्डियन डीपफेकर'का संस्थापक जादौन आफूले बनाउने एआईका स्वरूपहरूमा त्यो वास्तविक तस्बिर नभएको जानकारी राख्ने गरिएको बताउँछन्।

नियन्त्रण गर्न किन कठिन

तर एआईको बढ्दो प्रयोगलाई नियन्त्रण गर्न भने कठिन छ।

नेपालसँगको सीमावर्ती भारतीय राज्य पश्चिम बङ्गालको एउटा मार्केटिङ एजेन्सीमा काम गर्ने शेख आफ्नो सिर्जनालाई राजनीतिज्ञ वा दलहरूसँग सम्बन्धित पेजहरूमा आफ्नो अनुमतिबिनै राख्ने गरिएको देख्छन्।

“एक नेताले मैले बनाएको मोदीको तस्बिर त्यसको सन्दर्भ र एआईबाट बनाइएको हो भन्ने उल्लेख नगरी राखेको फेला पर्‍यो,” उनले भने।

अहिले त डीपफेक बनाउन पनि निकै सजिलो भएको छ र जोसुकैले पनि बनाउन सक्छ।

"पहिला हामीलाई सात-आठ दिन लाग्ने कुरा अहिले तीन मिनेटमै बनाउन सकिन्छ," जादौन भन्छन्। "तपाईँसँग कम्प्युटर भने हुनुपर्छ।"

दुई जनाबीच 'फेक फोन कल' बनाउन कति सजिलो छ भन्ने बीबीसीले प्रत्यक्ष देख्न पायो। त्यसका लागि बीबीसी संवाददाता र अमेरिकाका पूर्वराष्ट्रपतिबीचको नक्कली फोन संवाद सिर्जना गरियो।

नयाँ कानुन बनाउने आवश्यकता किन

जस्तोसुकै जोखिम भए पनि भारतले पहिला एआईबारे कानुन बनाउने योजना नभएको बताएको थियो। तर गत मार्च महिनामा 'के मोदी फासीवादी हुन्?' भन्ने प्रश्नको उत्तरमा गुगलको 'जेमिनाई' च्याटबटले दिएको उत्तरपछि भारतमा आक्रोश उत्पन्न भयो।

त्यसपछि भने भारत सरकार एआईसम्बन्धी कानुन बनाउन लागेको छ।

सूचनाप्रविधिसम्बन्धी मामिला हेर्ने राज्यमन्त्री राजीव चन्द्रशेखरका अनुसार उक्त प्रकरणमा भारतको सूचनाप्रविधिसम्बन्धी कानुनको उल्लङ्घन भएको थियो।

त्यसपछि भारत सरकारले प्रविधिको क्षेत्रमा काम गर्ने कम्पनीहरूलाई "अविश्वसनीय" र "पर्याप्त परीक्षण नगरिएका" जेनरेटिभ एआईका मोडल वा टूलहरू सार्वजनिक गर्नुअघि अनुमति लिन निर्देशन दिएको थियो।

सरकारले ती टूलबाट "निर्वाचन प्रक्रियाको निष्ठामा खलल पुर्‍याउने" खालको प्रतिक्रिया नआओस् भनेर सावधान पनि गराएको थियो।

रोक्ने उपाय के हो

तर त्यति गर्नु मात्र पर्याप्त हुँदैन। तथ्यजाँच गर्नेहरूले त्यस्ता सामग्री मिथ्या हुन् भनेर देखाउने काम कठिन भएको बताएका छन्। विशेष गरी भ्रामक सूचना उत्कर्षमा पुग्ने निर्वाचनको बेलामा त्यो काम झनै कठिन हुन्छ।

"सूचना १०० किलोमिटर प्रतिघण्टाको गतिमा फैलिन्छ," चिन्नादुराई भन्छन्, "हामीले खोतलेर प्रसार गरेको सूचनाको गति २० किलोमिटर प्रतिघण्टा मात्रै हुन्छ।"

केही मिथ्या सामग्री त मूलधारका सञ्चारमाध्यममा पनि देखा परेको कोदाली बताउँछन्। "तैपनि यो विषयमा निर्वाचन आयोग मौन छ।"

"कुनै नियमकानुन छैन," कोदाली भन्छन्, "नियम बनाउनुको साटो प्रविधि उद्योगलाई स्वनियमन गर्न छोडिएको छ।"

विज्ञहरूका अनुसार यो विषयलाई नियन्त्रण गर्ने सरल उपाय देखिँदैन।

"तर अहिले मिथ्या सामग्री फैलाउने मानिसहरूलाई कारबाही गरियो भने अरू मानिसले डराएर अपुष्ट जानकारी प्रसार गर्न छोड्न सक्छन्," कुरेशीले भने।

बीबीसी न्यूज नेपाली यूट्यूबमा पनि छ। हाम्रो च्यानल सब्स्क्राइब गर्न तथा प्रकाशित भिडिओहरू हेर्न यहाँ क्लिक गर्नुहोस्। तपाईँ फेसबुक, इन्स्टाग्राम र ट्विटरमा पनि हाम्रा सामग्री हेर्न सक्नुहुन्छ। अनि बीबीसी नेपाली सेवाको कार्यक्रम बेलुकी पौने नौ बजे रेडिओमा सोमवारदेखि शुक्रवारसम्म सुन्न सक्नुहुन्छ।