DeepFake : हे तंत्रज्ञान लोकांसाठी कशाप्रकारे ठरत आहे धोकादायक?

गेल्या काही दिवसांपासून आपण वृत्तपत्रं, टीव्ही न्यूज आणि सोशल मीडियावर डीपफेक किंवा डीपफेक व्हिडिओबाबत वारंवार ऐकत किंवा पाहत असाल.

डीपफेक तंत्राचे शिकार बनणाऱ्यांची प्रकरणं सातत्यानं समोर येत आहेत.

या तंत्रज्ञानाच्या चुकीच्या वापरामुळं एकीकडं लोकांवर परिणाम होत आहे, त्याचवेळी गेल्या काही दिवसांमध्ये सेलिब्रिटींचेही डीपफेक व्हिडिओ व्हायरल झाले आहेत.

या साखळीमध्ये चित्रपट अभिनेत्री रश्मिका मंदाना, काजोल, कतरिना यांची नावं समोर आली आहेत. तर पंतप्रधान नरेंद्र मोदी यांचाही गरबा खेळतानाचा व्हायरल झालेला व्हिडिओ पाहून सगळेच आश्चर्यचकित झाले.

पण ही डीपफेक प्रकरणं भारतापर्यंतच मर्यादित आहेत, असं नाही.

अमेरिकेचे माजी राष्ट्राध्यक्ष बराक ओबामांपासून ते आता मेटाच्या नावानं ओळखल्या जाणाऱ्या फेसबुकचे प्रमुख मार्क झुकेरबर्ग यांनाही याचा फटका बसलेला आहे.

तुम्ही पाहिलेले हे सगळे व्हिडिओ डीपफेक आहेत.

डीपफेक काय आहे?

डीपफेक आर्टिफिशियल इंटेलिजन्स(एआय) चा वापर करतं. त्याद्वारे कोणाचाही फेक (बनावट) फोटो तयार केला जातो.

त्यात एखाद्याचा फोटो, ऑडिओ किंवा व्हिडिओ फेक (बनावट) पद्धतीनं दाखवण्यासाठी एआयच्या डीप लर्निंग या प्रकाराचा वापर होतो. त्यामुळं याला डीपफेक म्हटलं जातं.

त्यात बहुतांश पोर्नोग्राफिक किंवा अश्लिल असतात.

अॅम्सटरडममधील सायबर सेक्युरिटी कंपनी डीपट्रेसनुसार 2017 च्या अखेरीस याची सुरुवात झाल्यानंतर डीपफेकचा तांत्रिक स्तर आणि सामाजिक प्रभावा याचा वेगानं विकास झाला.

डीपट्रेसच्या 2019 मधील या अहवालानुसार एकूण 14,678 डीपफेक व्हिडिओ ऑनलाइन होते. त्यापैकी 96 टक्के व्हिडिओ पोर्नोग्राफिक कंटेंट असलेले होते. तर चार टक्के व्हिडिओमध्ये वेगळा कंटेंट होता.

डीपट्रेसनं लिंग, राष्ट्रीयत्व आणि व्यवसायाच्या आधारावर डीपफेक व्हिडिओचा अभ्यास केला तेव्हा डीपफेक पोर्नोग्राफीचा वापर महिलांना नुकसान पोहोचवण्यासाठी केला जात असल्याचं त्यांच्या लक्षात आलं.

दुसरीकडं डीपफेक पोर्नोग्राफी जागतिक स्तरावर वाढत असून या पोर्नोग्राफी व्हिडिओमध्ये मनोरंजन क्षेत्राशी संलग्न अभिनेत्री आणि संगीतकार यांचा वापर करण्यात आला आहे.

वकील पुनित भसीन म्हणाल्या की, काही वर्षांपूर्वी सुली आणि बुली बाई प्रकरणं समोर आली होती. त्यात महिलांना लक्ष्य करण्यात आलं होतं.

डीपफेकमध्ये महिलांबरोबरच पुरुषांनाही टार्गेट करण्यात आलं आहे. पण बहुतांश प्रकरणांमध्ये पुरुष अशा कंटेंटकडं दुर्लक्ष करत असतात.

मुंबईत राहणाऱ्या पुनित भसीन सायबर लॉ आणि डेटा प्रोटेक्शन प्रायव्हसीच्या एक्सपर्ट आहेत. डीपफेक समाजात वाळवीसारखं पसरत असल्याचं त्यांचं मत आहे.

"लोकांचे फोटो आधीही मॉर्फ करण्यात येत होते. पण ते लक्षात यायचं. मात्र आता एआयच्या माध्यमातून डीपफेक केलं जात आहे. ते एवढं परफेक्ट (सटिक) असतं की खरं आणि बनावट यात फरक कळणं कठिण ठरतं. एखाद्याच्या चारित्र्यावर शिंतोडे उडवण्यासाठी ते पुरेसं ठरतं," असं त्या म्हणाल्या.

तज्ज्ञांच्या मते, हे तंत्रज्ञान एवढं विकसित आहे की, व्हिडिओ किंवा ऑडिओ रियल किंवा वास्तविक असल्याचं प्रथमदर्शनी वाटतं.

डीपफेक एवढं परफेक्ट असतं की खरं आणि बनावट यात फरक कळणं कठिण ठरतं. एखाद्याच्या चारित्र्यावर शिंतोडे उडवण्यासाठी ते पुरेसं ठरतं.

हे फक्त व्हीडिओपुरतं मर्यादित आहे का?

हे तंत्रज्ञान फक्त व्हिडिओसाठी वापरलं जातं असं नाही. तर फोटोही फेक दाखवले जातात. ते खरे आहेत की खोटे हे शोधणं अत्यंत कठिण असतं.

त्याचवेळी या तंत्रज्ञानाच्या माध्यमातून ऑडिओलाही डीपफेक केले जाते. बड्या हस्तींचा आवाज बदलण्यासाठी व्हाइस स्किन किंवा व्हाइस क्लोन्सचा वापर केला जातो.

सायबर सेक्युरिटी आणि एआय तज्ज्ञ पवन दुग्गल म्हणाले की, "डीपफेक-कम्प्युटर, इलेक्ट्रॉनिक फॉरमॅट आणि एआयचं मिश्रण आहे. ते तयार करण्यासाठी कोणत्याही प्रशिक्षणाची गरज नसते. ते मोबाइल फोनच्या माध्यमातूनही तयार केले जाऊ शकते. अॅप आणि टूलच्या माध्यमातून ते तयार करता येते."

डीपफेकचा वापर कोण करत आहे?

सर्वसामान्य कम्प्युटरवर चांगलं डीपफेक तयार करणं कठीण आहे.

उच्च-श्रेणीच्या डेस्कटॉपवर चांगले फोटो आणि ग्राफिक्स कार्डच्या माध्यमातून ते तयार केले जाते.

पवन दुग्गल म्हणाले की, याचा वापर शक्यतो, सायबर गुन्हेगार करत आहेत.

"ते लोकांचे अश्लिल व्हिडिओ तयार करतात आणि नंतर ब्लॅकमेल करून खंडणीसाठी त्याचा वापर करतात. एखाद्या व्यक्तीची प्रतिमा मलीन करण्यासाठी ते सोशल मीडियावर पोस्ट करतात आणि शक्यतो त्याचा वापर सेलिब्रिटी, राजकारणी आणि मोठ्या हस्तींना नुकसान पोहोचवण्यासाठी केला जात आहे," असं ते म्हणाले.

पुनित भसीन यांनी याचं आणखी एक कारण सांगितलं. अधिक लोकांनी व्हिडिओ पाहून व्हूयज वाढावे आणि त्यातून फायदा व्हावा या उद्देशानंही असे व्हिडिओ तयार केले जातात, असं त्या म्हणाल्या.

तर पवन दुग्गल यांनी डीपफेकचा वापर निवडणुकांवर प्रभाव टाकण्यासाठीही केला जाऊ शकतो, असं म्हटलं.

त्यांच्या मते, "राजकीय नेत्यांचे डीपफेक व्हिडिओ तयार केले जाऊ शकतात. त्यामुळं त्यांची प्रतिमा मलीन करता येतेच पण त्याचबरोबर पक्षाच्या विजयाच्या शक्यतेवरही परिणाम होतो."

निवडणुकांमध्ये डीपफेक व्हिडिओच्या वापराबद्दल बोलायचं तर, भाजपनं एआयचा वापर करून पक्षाचे नेते मनोज तिवारी यांचे डीपफेक व्हिडिओ तयार केले होते.

त्यात मनोज तिवारी मतदारांशी दोन भाषांमध्ये बोलत मतदान करण्याची विनंती करताना दाखवले होते.

या डीपफेक व्हिडिओमध्ये ते हरियाणवी आणि हिंदीमध्ये लोकांना मतदानाची विनंती करत होते.

कायद्यातील तरतूद काय?

भारतीय जनता पार्टीच्या दिवाळी स्नेहमिलन कार्यक्रमात पंतप्रधान नरेंद्र मोदी यांनी एआयचा वापर करून डीपफेक तयार करण्याबाबत चिंता जाहीर केली होती.

"डीपफेक सध्या भारतासमोर असलेल्या सर्वात मोठ्या धोक्यांपैकी एक आहे. या माध्यमातून अराजकता निर्माण केली जाऊ शकते," असं ते म्हणाले होते.

केंद्रीय माहिती व प्रसारण मंत्री अश्विनी वैष्णव यांनी सरकार लवकरच डीपफेकबाबत सोशल मीडिया प्लॅटफॉर्मबाबत चर्चा करेल आणि त्यांनी योग्य पावलं उचलली नाही, तर आयटी अधिनियमाच्या सेफ हार्बर अंतर्गत इम्युनिटी किंवा संरक्षण मिळणार नाही, असं सांगितलं.

डीपफेकच्या मुद्द्यावर कंपन्यांना नोटीसही जारी करण्यात आली होती. त्याबाबतीत त्यांच्याकडून उत्तरंही आली आहेत, असंही ते म्हणाले.

डीपफेकची प्रकरणं समोर आल्यानंतर याबाबत कठोर कायदे करण्याची गरज आहे का? यावरील चर्चा अधिक जोमानं सुरू झाली.

वकील पुनित भसीन म्हणाल्या की, भारतात आयटी अॅक्ट अंतर्गत शिक्षेची तरतूद आहे.

तसंच यासंदर्भात गेल्यावर्षी इंटरमिडियरी गाइडलाइन्सही मिळाल्या होत्या. त्यात नग्नता, अश्लिलला असलेल्या कंटेंटमुळं एखाद्याची पत, प्रतिष्ठा याला धक्का पोहोचत असेल तर ते लगेचच हटवण्याचे दिशानिर्देशही देण्यात आलेले आहेत.

त्यांनी म्हटलं की, "आधी हे प्लॅटफॉर्म असं म्हणायचे की, ते अमेरिका किंवा ज्या देशात आहेत त्याठिकाणच्या कायद्याचं त्यांच्यावर नियंत्रण आहे. पण आता या कंपन्या एफआयआर दाखल करण्यास सांगतात आणि कंटेंट हटवण्यासाठी कोर्टाच्या आदेशाची मागणी करतात."

कंपन्यांना इम्युनिटी देण्याबाबत त्यांनी म्हटलं की, "आयटी अॅक्टच्या कलम 79 च्या एका अपवादाअंतर्गत कंपन्यांना संरक्षण मिळत होतं. एखाद्या प्लॅटफॉर्मवर तिसऱ्या कोणीतरी कंटेंट अपलोड केला असेल पण प्लॅटफॉर्मनं कंटेंट सर्क्युलेट केला नसेल तर त्या प्लॅटफॉर्मला इम्युनिटी मिळत होती. त्यासाठी प्लॅटफॉर्मला जबाबदार मानलं जात नव्हतं."

पण इंटरमिडियरी दिशानिर्देशांमध्ये स्पष्ट करण्यात आलं होतं की, प्लॅटफॉर्मच्या तक्रार अधिकाऱ्याकडं अशा कंटेंटबाबत तक्रार आली आणि त्यांनी त्यावर कारवाई केली नही, तर कलम 79 च्या अपवादांतर्गत त्यांना इम्युनिटी मिळणार नाही. त्यामुळं त्या प्लॅटफॉर्मच्या विरोधातही कारवाई होईल.

अशा स्थितीत ज्यानं कंटेंट प्लॅटफॉर्मवर टाकला आहे, त्याच्या विरोधात तर गुन्हा दाखल होईलच. पण ज्या प्लॅटफॉर्मवर तो अपलोड करण्यात आला आहे, त्याच्या विरोधातही कारवाई होईल.

भारताच्या आयटी अॅक्ट 2000 च्या कलम 66 ई मध्ये डीपफेकशी संबंधित गुन्हेगारी प्रकरणांसाठी शिक्षेची तरतूद करण्यात आली आहे.

त्यात एखाद्या व्यक्तीचा फोटो काढणे, प्रकाशित किंवा प्रसारीत करणे गोपनीयतेचे उल्लंघन या अंतर्गत येते. एखादी व्यक्ती तसं करताना आढळली तर त्याला या कायद्यांतर्गत तीन वर्षांपर्यंत शिक्षा किंवा दोन लाखांपर्यंत दंडाची तरतूद आहे.

त्याचवेळी आयटी अॅक्टच्या कलम 66 डी मध्ये एखाद्या कम्प्युटर किंवा इतर उपकरणाचा वापर धोका देणे किंवा गैरवापरासाठी होत असेल तर तीन वर्षांपर्यंतची शिक्षा किंवा एका लाखापर्यंतच्या दंडाची तरतूद आहे.

भारताच्या आयटी अॅक्ट 2000 च्या कलम 66 ई मध्ये डीपफेकशी सबंधित गुन्हेकारी प्रकरणांसाठी शिक्षेची तरतूद आहे.

डीपफेकबाबत कसं जाणून घ्याल?

कोणताही डीपफेक कंटेंट ओळखण्यासाठी प्रामुख्यानं काही गोष्टींचा वापर करता येतो.

तज्ज्ञांच्या मते, डीपफेक एक गंभीर समस्या आहे. त्यावर लगाम लावण्यासाठी अनेक कठोर कायदे करण्याची गरज आहे. नसता भविष्यात त्याचे घातक परिणाम होऊ शकतात.

हेही वाचलंत का?

(बीबीसी न्यूज मराठीचे सर्व अपडेट्स मिळवण्यासाठी आम्हाला YouTube, Facebook, Instagram आणि Twitter वर नक्की फॉलो करा.

'गोष्ट दुनियेची', 'सोपी गोष्ट' आणि '3 गोष्टी' हे मराठीतले बातम्यांचे पहिले पॉडकास्ट्स तुम्ही Gaana, Spotify आणि Apple Podcasts इथे ऐकू शकता.)