डीपफ़ेक कैसे बन सकता है लोगों के लिए ख़तरा?

पिछले कुछ दिनों से आप अख़बारों, टीवी न्यूज़ और सोशल मीडिया पर डीपफ़ेक या डीपफ़ेक वीडियो के बारे में बार-बार सुन देख रहे होंगे.

डीपफ़ेक तकनीक के शिकार होने के मामले लगातार सामने आ रहे हैं.

इस तकनीक के ग़लत इस्तेमाल से जहां आम लोग प्रभावित हो रहे हैं, वहीं हाल के दिनों में सेलिब्रिटीज़ के भी कई डीपफ़ेक वीडियो वायरल हुए हैं.

इस कड़ी में फ़िल्म अभिनेत्री रश्मिका मंदाना, काजोल, कटरीना का नाम सामने आया वहीं प्रधानमंत्री नरेंद्र मोदी का गरबा करते हुए वायरल हुए वीडियो ने सब को चौंका भी दिया कि क्या ये सच है?

लेकिन ये डीपफ़ेक के मामले केवल भारत तक सीमित हो ऐसा नहीं है.

अमेरिका के पूर्व राष्ट्रपति बराक ओबामा से लेकर फे़सबुक जो अब मेटा के नाम से जाना जाता है के प्रमुख मार्क ज़करबर्ग भी इससे अछूते नहीं रहे हैं.

ये सभी वीडियो जो आपने देखें हैं ये सभी डीपफ़ेक हैं.

डीपफे़क है क्या?

डीपफे़क दरअसल आर्टिफिशियल इंटेलीजेंस(एआई) का इस्तेमाल करता है जिसके ज़रिए किसी की भी फे़क(फ़र्जी) इमेज या तस्वीर बनाई जाती है.

इसमें किसी भी तस्वीर,ऑडियो या वीडियो को फ़ेक(फ़र्ज़ी) दिखाने के लिए एआई के एक प्रकार डीप लर्निंग का इस्तेमाल होता है और इसलिए इसे डीपफेक़ कहा जाता है.

इसमे से ज़्यादातर पोर्नाग्राफिक या अश्लील होते हैं.

एम्सटर्डम स्थित साइबर सिक्सयोरिटी कंपनी डीपट्रेस के मुताबिक़ 2017 के आख़िर में इसकी शुरुआत के बाद डीपफे़क का तकनीकी स्तर और इसके सामाजिक प्रभाव में तेज़ी से विकास हुआ.

डीपट्रेस की साल 2019 में छपी इस रिपोर्ट के मुताबिक कुल 14,678 डीपफे़क वीडियो ऑनलाइन थे. इनमें से 96 फ़ीसदी वीडियो पोर्नोग्राफिक सामग्री थी और चार फ़ीसदी ऐसे थे जिनमें ये सामग्री नहीं थी.

डीपट्रेस ने जेंडर, राष्ट्रीयता और पेशे के आधार पर जब डीपफेक़ वीडियो का आकलन किया तो पाया कि डीपफ़ेक पोर्नोग्राफी का इस्तेमाल महिलाओं को नुकसान पहुंचाने के लिए किया जाता है.

वहीं डीपफ़ेक पोर्नोग्राफी वैश्विक स्तर पर बढ़ रही है और इन पोर्नोग्राफी वीडियो में मनोरंजन जगत से जुड़ी अभिनेत्रियों और संगीतकारों का इस्तेमाल किया गया था.

वकील पूनीत भसीन कहती हैं कि कुछ साल पहले सुली और बुली बाई के मामले सामने आए थे जिनमें महिलाओं को टारगेट किया गया था.

लेकिन डीपफ़ेक में महिलाओं के साथ साथ पुरुषों की भी टारगेट किया गया है. ये अलग बात है कि ज़्यादातर मामलों में पुरुष ऐसे फ़र्जी सामग्री को दरकिनार कर देते हैं.

मुंबई में रहने वाली पुनीत भसीन साइबर लॉ और डेटा प्रोटेक्शन प्राइवेसी की एक्सपर्ट हैं और वे मानती है कि डीपफ़ेक अब समाज में दीमक की तरह से फ़ैल रहा है.

वे कहती हैं, ''पहले भी लोगों की तस्वीरों को मॉर्फ़ किया जाता था लेकिन वो पता चल जाता था लेकिन एआई के ज़रिए जो डीपफ़ेक किया जा रहा है वो इतना परफेक्ट (सटीक) होता है कि सही या ग़लत में भेद कर पाना मुश्किल होता है. ये किसी के शील का अपमान करने के लिए काफ़ी होता है.''

जानकार बताते हैं कि ये तकनीक इतनी विकसित है कि वीडियो या ऑडियो रियल या वास्तविक नज़र आता है.

लेकिन क्या ये केवल वीडियो तक सीमित हैं?

ये तकनीक केवल वीडियो में ही उपयोग में नहीं लाई जाती बल्कि फ़ोटो को भी फेक दिखलाया जाता है और ये पता लगाना इतना मुश्किल होता है कि असल नहीं बल्कि फ़र्जी है.

वहीं इस तकनीक के ज़रिए ऑडियो का भी डीपफ़ेक किया जाता है. बड़ी हस्तियों की आवाज़ बदलने के लिए वॉयस स्किन या वॉयस क्लोन्स का इस्तेमाल किया जाता है.

साइबर सिक्योरिटी और एआई विशेषज्ञ पवन दुग्गल कहते हैं, ''डीपफे़क- कंप्यूटर, इलेक्ट्रानिक फ़ॉरमेट और एआई का मिश्रण है. इसे बनाने के लिए किसी तरह के प्रशिक्षण की ज़रुरत नहीं होती. इसे मोबाइल फ़ोन के ज़रिए भी बनाया जा सकता है जो एप और टूल के ज़रिए बनाया जा सकते हैं.''

कौन कर रहा है डीपफे़क का उपयोग?

एक सामान्य कंप्यूटर पर अच्छा डीपफ़ेक बनाना मुश्किल है.

डीपफ़ेक एक उच्च-स्तरीय डेस्कटॉप पर बेहतरीन फ़ोटो और ग्राफिक्स कार्ड के ज़रिए बनाया जा सकता है.

पवन दुग्गल बताते हैं कि इसका ज़्यादातर इस्तेमाल साइबर अपराधी कर रहे हैं.

वे बताते हैं, ''ये लोगों के अश्लील वीडियो बनाते हैं और फिर ब्लैक मेल करके फ़िरौती के लिए इसका इस्तेमाल करते हैं. किसी व्यक्ति की छवि को ख़राब करने के लिए सोशल मीडिया पर डाल देते हैं और इसका उपयोग ख़ासकर सेलीब्रिटीज़, राजनीतिज्ञों और बड़ी हस्तियों को नुकसान करने के लिए किया जा रहा है.''

इसका एक और कारण बताते हुए पुनीत भसीन कहती हैं कि लोग ऐसे वीडियो इसलिए भी बनाते हैं क्योंकि ऐसे वीडियो ज़्यादा लोग देखते हैं और उनके व्यू बढ़ते हैं और इससे उनका फ़ायदा होता है.

वहीं पवन दुग्गल ये अशंका जताते हैं कि डीपफ़ेक का इस्तेमाल चुनावों को भी प्रभावित कर सकता है.

उनके अनुसार, '' राजनेताओं के डीपफ़ेक वीडियो बनाए जा सकते हैं, इससे न केवल उनकी छवि को धूमिल किया जा सकता है लेकिन पार्टी की जीत की संभवनाओं पर भी असर पड़ सकता है.''

चुनावों में डीपफ़ेक वीडियो के उपयोग की बात की जाए तो दिल्ली विधानसभा चुनाव से पहले बीजेपी ने एआई का इस्तेमाल करके पार्टी नेता मनोज तिवारी के डीपफ़ेक वीडियो बनाए थे.

इसमें दिखाया गया था कि वो मतदाताओ से दो भाषाओं में बात करके वोट डालने की अपील कर रहे थे.

इस डीपफ़ेक वीडियो में वे हरियाणवी और हिंदी में लोगों से वोट डालने की अपील कर रहे थे.

क़ानून में क्या है प्रावधान?

भारतीय जनता पार्टी के दिवाली समारोह में प्रधानमंत्री ने एआई का इस्तेमाल कर डीपफ़ेक बनाने पर चिंता ज़ाहिर की थी.

उन्होंने कहा था, ''डीपफ़ेक भारत के सामने मौजूद सबसे बड़े ख़तरों में से एक है. इससे अराजकता पैदा हो सकती है.''

केंद्रीय सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव कह चुके है कि सरकार जल्द ही डीपफ़ेक पर सोशल मीडिया से चर्चा करेगी और अगर इन मंचों ने उपयुक्त कदम नहीं उठाए तो उन्हें आईटी अधिनियम के सेफ़ हार्बर के तहत इम्यूनिटी या सरंक्षण नहीं मिलेगा.''

उन्होंने ये भी कहा कि डीपफ़ेक के मुद्दे पर कंपनियों को नोटिस भी जारी किया गया था और इस सिलसिले में उनके जवाब भी आए हैं.

डीपफे़क के मामले सामने आने के बाद इस बात पर बहस तेज़ हो गई है कि क्या कड़े क़ानून बनाने की ज़रुरत है?

वकील पुनीत भसीन कहती हैं कि भारत में आईटी एक्ट के तहत सज़ा का प्रावधान हैं.

वहीं पिछले साल इस सिलसिले में इंटरमिडियरी गाइडलाइन्स भी आई थी जिसमें कहा गया था कि ऐसी सामग्री जिसमें नग्नता, अश्लीलता हो और अगर किसी की मान, प्रतिष्ठा को नुकसान हो रहा हो तो ऐसी सामग्री को लेकर किसी भी प्लेटफॉर्म को शिकायत जाती है तो उन्हें तुरंत हटाने के दिशानिर्देश हैं.

वे कहती हैं, ''पहले ये प्लेटफॉर्म कहते थे कि वे अमेरिका या जिस देश में है वहां के स्थानीय क़ानून द्वारा नियमित है. लेकिन अब ये कंपनियां एफ़आईआर दर्ज कराने के लिए कहती है और फिर सामग्री को प्लेटफॉर्म से हटाने के लिए कोर्ट के ऑर्डर की मांग करती हैं.''

वे आईटी मंत्री के कंपनियों को इम्यूनिटी देने के मामले पर कहती हैं, ''आईटी एक्ट के सेक्शन 79 के एक अपवाद के तहत कंपनियों को सरंक्षण मिलता था. अगर किसी प्लेटफॉर्म पर सामग्री किसी तीसरी पार्टी ने अपलोड की है लेकिन प्लेटफॉर्म ने सामग्री को सरकुलेट नहीं किया है तो ऐसे में प्लेटफॉर्म को इम्यूनिटी मिलती थी और माना जाता था कि प्लेटफॉर्म ज़िम्मेदार नहीं है.''

लेकिन इंटरमिडियरी गाइडलाइंस में ये स्पष्ट किया गया कि प्लेटफॉर्म के शिकायत अधिकारी के पास सामग्री को लेकर ऐसी शिकायत आती है तो और कोई कार्रवाई नहीं की जाती है तो सेक्शन 79 के अपवाद के तहत इम्यूनिटी नहीं मिलेगी और इस प्लेटफॉर्म के ख़िलाफ़ भी कार्रवाई होगी.

ऐसे में जिसने सामग्री प्लेटफॉर्म पर डाली है उसके ख़िलाफ़ तो मामला बनेगा ही वहीं जिस प्लेटफॉर्म पर अपलोड किया गया उसके ख़िलाफ़ भी सज़ा होगी.

भारत के आईटी एक्ट 2000 , के सेक्शन 66 ई में डीपफ़ेक से जुड़े आपराधिक मामलों के लिए सज़ा का प्रावधान किया गया है.

इसमें किसी व्यक्ति की तस्वीर को खींचना, प्रकाशित और प्रसारित करना, निजता के उल्लंघन में आता है और अगर कोई व्यक्ति ऐसा करता हुआ पाया जाता है तो इस एक्ट के तहत तीन साल तक की सज़ा या दो लाख तक के ज़ुर्माना का प्रावधान किया गया है.

वहीं आईटी एक्ट के सेक्शन 66 डी में ये प्रावधान किया गया है कि अगर कोई किसी संचार उपकरण या कंप्यूटर का इस्तेमाल किसी दुर्भावना के इरादे जैसे धोख़ा देने या किसी का प्रतिरुपण के लिए करता है तो ऐसे में तीन साल तक की सज़ा या एक लाख रुपए तक के ज़ुर्माने का प्रावधान है.

भारत के आईटी एक्ट 2000 , के सेक्शन 66 ई में डीपफ़ेक से जुड़े आपराधिक मामलों के लिए सज़ा का प्रावधान किया गया है.

कैसे जानें डीपफ़ेक के बारे में?

किसी भी डीपफ़ेक सामग्री को जानने के लिए कुछ बिंदुओं का इस्तेमाल कर सकते हैं.

आंखों को देखकर - अगर कोई वीडियो डीपफ़ेक है तो उसमें लगा चेहरा पलक नहीं झपक पाएगा.

होठों को ध्यान से देखकर -डीपफ़ेक वीडियो में होठों के मूवमेंट और बातचीत में सामंजस्य नहीं दिखाई देगा.

बाल और दांत के ज़रिए -डीपफ़ेक में बाल के स्टाइल से जुड़े बदलाव को दिखाना मुश्किल होता है और दांत को देखकर भी पहचाना जा सकता है कि वीडियो डीपफ़ेक है.

जानकारों का मानना है कि डीपफ़ेक एक बड़ी समस्या है और इस पर लगाम लगाने के लिए कड़े क़ानून बनाए जाने की ज़रुरत है नहीं तो भविष्य में इसके घातक परिणाम हो सकते हैं.

(बीबीसी हिन्दी के एंड्रॉएड ऐप के लिए आप यहां क्लिक कर सकते हैं. आप हमें फ़ेसबुक, ट्विटर, इंस्टाग्राम और यूट्यूब पर फ़ॉलो भी कर सकते हैं.)