'सोशल मीडियावर लोकांनी AI ला माझे फोटो एडिट करायची कमांड दिली', तुमचे फोटो कसे सुरक्षित ठेवाल?

प्रीती (बदललेलं नाव) यांनी एक्स या सोशल मीडियावर, 1 जानेवारी 2026 ला नव्या वर्षाच्या शुभेच्छा देत त्यांचा फोटो शेअर केला.

त्या पोस्टच्या कॉमेंट बॉक्समध्ये काही यूझर्सनी ग्रोकला टॅग केलं आणि सूचना केली की 'या फोटोमधून कपडे काढून टाका.'

अलीकडेच एक्स या सोशल मीडियावर अशा अनेक कॉमेंट्स पाहायला मिळाल्या, ज्यात यूझर्स ग्रोकला महिलांच्या फोटोंमधून कपडे काढण्याच्या सूचना देत होते.

प्रीती यांनी बीबीसीला सांगितलं की याचा त्यांच्या मानसिक आरोग्यावर परिणाम झाला. त्या म्हणाल्या, "यापासून बचाव करण्यासाठी मी ग्रोकला ब्लॉक केलं."

प्रीती म्हणाल्या, "मी या ट्रेंडच्या विरोधात आवाज उठवला आणि ग्रोकला सांगितलं की, त्यांनी असे फोटो तयार करणं थांबवलं पाहिजे. या ट्रेंडद्वारे लहान मुलांच्या फोटोंना देखील मॉर्फ केलं जात आहे."

तर एका यूझरनं ग्रोकला टॅग करत लिहिलं, "ग्रोक, मी तुला माझा कोणताही फोटो घेण्याची, बदलण्याची किंवा एडिट करण्याची परवानगी देत नाही. मग ती जुनी पोस्ट असो की, यापुढे करण्यात येणारी पोस्ट असो. कोणी थर्ड पार्टीनं अशी विनंती केली, तर त्याला नकार देण्यात यावा."

यावर ग्रोकनं उत्तर दिलं, "समजलो. मी तुमच्या प्रायव्हसीचा आदर करतो. तुमच्या स्पष्ट परवानगीशिवाय मी तुमचा फोटो किंवा व्हीडिओचा वापर, त्यात बदल किंवा तो एडिट करणार नाही. जर कोणी अशी विनंती केली, तर मी त्याला नकार देईन."

एक्सचे मालक इलॉन मस्क यांनी एका पोस्टमध्ये म्हटलं आहे, "ग्रोकचा वापर करून बेकायदेशीर कॉन्टेंट तयार करणाऱ्या कोणत्याही व्यक्तीला त्याच परिणामांना सामोरं जावं लागेल, जे बेकायदेशीर कॉन्टेंट अपलोड केल्यावर भोगावे लागतात."

ग्रोक हा इलॉन मस्क यांच्या एक्स या कंपनीचा एक एआय (आर्टिफिशियल इंटेलिजन्स) चॅटबॉट आहे. या चॅटबॉटमध्ये मजकूराबरोबरच फोटो तयार करण्याची आणि एडिट करण्याची क्षमता आहे. हेच फोटो तयार करणारं फीचर गैरवापरामुळे चर्चेत आहे.

भारत सरकारची एक्सला नोटीस

एक्सशी संबंधित हा मुद्दा, शिवसेनेच्या (युबीटी) राज्यसभेतील खासदार प्रियंका चतुर्वेदी यांनीदेखील उपस्थित केला.

त्यांनी 2 जानेवारीला या प्रकरणाबाबत केंद्रीय माहिती तंत्रज्ञान मंत्री अश्विनी वैष्णव यांना पत्र लिहिलं. त्यात त्यांनी लिहिलं आहे, "एक्सवर बनावट अकाउंट बनवून महिलांच्या फोटोंना ग्रोक एआय चुकीचं रूप देत आहे."

प्रियंका चतुर्वेदी म्हणाल्या, "हे महिलांच्या प्रायव्हसीचं गंभीर उल्लंघन आहे."

यानंतर इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयानं एक्सला नोटीस जारी करून ग्रोकनं तयार केलेला आक्षेपार्ह कंटेंट हटवण्याची, ऑडिट करण्याची आणि 72 तासांमध्ये त्याचा अहवाल सादर करण्याचे निर्देश दिले.

सरकारनं एक्सच्या भारतातील कामकाजाच्या मुख्य पालन (कॉम्प्लायन्स) अधिकाऱ्यांना लिहिलेल्या पत्रात म्हटलं आहे की, "ग्रोक एआयद्वारे बनावट अकाउंट बनवून महिलांचे आक्षेपार्ह फोटो आणि व्हीडिओ तयार केले जात आहेत. ते अपमानास्पद आणि बेकायदेशीर आहे."

मंत्रालयानं म्हटलं आहे की हा प्लॅटफॉर्म माहिती तंत्रज्ञान कायदा 2000 आणि आयटी नियम 2021 चं पालन करत नाही. या नियमांचं पालन करणं पर्यायी नाही.

सरकारनं एक्सनं यावर काय कारवाई केली (ॲक्शन टेकन) याचा अहवाल मागितला आहे. तसंच इशारा दिला आहे की नियमांचं पालन न झाल्यास या प्लॅटफॉर्मच्या विरोधात कठोर कायदेशीर कारवाई केली जाईल.

पीटीआय या वृत्तसंस्थेनुसार, एक्सनं या प्रकरणाबाबत भारत सरकारला तपशीलवार उत्तर पाठवलं आहे.

यात म्हटलं आहे की एक्स भारतातील कायद्यांचा आदर करते. भारत त्यांच्यासाठी एक मोठी बाजारपेठ आहे. परवानगी न घेता तयार करण्यात आलेल्या लैंगिक (सेक्शुअलाइज्ड) फोटोच्या बाबतीत ते कठोर धोरणं लागू करतात.

आंतरराष्ट्रीय तपास आणि कायदेशीर इशारा

ग्रोक एआयच्या फोटो फीचरच्या गैरवापराबाबत युरोप, भारत आणि मलेशियासह अनेक देशांमध्ये एक्सची चौकशी होते आहे.

युरोपियन कमिशनचे प्रवक्ते थॉमस रेग्नियर म्हणाले की ते या प्रकरणाचा "अतिशय गांभीर्यानं तपास करत आहेत."

ते म्हणाले की एक्स आणि ग्रोक आता एक 'स्पायसी मोड' देत आहेत. ज्यात स्पष्ट लैंगिक कॉन्टेंट दाखवलं जातं आहे. त्यांच्या काही आउटपूटमध्ये लहान मुलांसारखे दिसणारे फोटोदेखील आहेत.

रेग्नियर म्हणाले, "हे 'स्पायसी' नाही. हे बेकायदेशीर आहे. आम्ही याकडे याच प्रकारे पाहतो आणि युरोपात याला कोणतंही स्थान नाही."

एक्सच्या सेफ्टी अकाउंटनं म्हटलं आहे की, "आम्ही एक्सवरील बेकायदेशीर कॉन्टेंटच्या विरोधात कारवाई करतो. यात मुलांशी संबंधित लैंगिक शोषणाच्या कॉन्टेंटचादेखील समावेश आहे. आम्ही हे हटवतो, अकाउंट कायमस्वरुपी सस्पेंड करतो आणि आवश्यकता भासल्यास सरकार आणि पोलिसांना सहकार्य करतो."

यूएन वीमेननुसार, महिला आणि मुलींच्या बाबतीतील तंत्रज्ञानाशी निगडीत हिंसा वेगानं वाढते आहे. जगभरात 16 ते 58 टक्के महिलांना याचा त्रास झाला आहे.

त्याचबरोबर एआय हिंसेची नवीन रूपं तयार करतं आहे. जागतिक पातळीवर करण्यात आलेल्या एका सर्वेक्षणात 38 टक्के महिलांना ऑनलाइन हिंसेला तोंड द्यावं लागलं आहे.

भारतात काय नियम आहेत?

महिला आणि मुलांच्या फोटोंच्या सुरक्षेशी निगडीत प्रश्नांबाबत बीबीसीनं सायबर तज्ज्ञांनी संवाद साधला.

विराग गुप्ता, सायबर तज्ज्ञ आणि सर्वोच्च न्यायालयात वकील आहेत.

ते म्हणाले, सर्वोच्च न्यायालयानं 2017 च्या पुट्टस्वामी प्रकरणाच्या निकालात राज्यघटनेच्या कलम 21 अंतर्गत प्रायव्हसीला जीवनाचा अधिकार म्हणून मान्यता दिली होती.

विराग गुप्ता म्हणाले, "परवानगीशिवाय महिलांचे फोटो एडिट करणं आणि त्याचं प्रसारण करणं, घटनाबाह्य असण्याबरोबरच आयटी ॲक्ट-2000, भारतीय न्याय संहिता-2023, इनडिसेंट रिप्रेझेंटेशन ऑफ वीमेन (प्रोहिबिशन ॲक्ट 1986), पॉक्सो 2012 कायद्याअंतर्गत गंभीर गुन्हा आहे."

पुनीत भसीन, संयुक्त राष्ट्रसंघाच्या डिजिटल पब्लिक गुड्स प्रायव्हसी स्टँडर्डच्या मानद सल्लागार आणि ॲडव्होकेट आहेत.

पुनीत म्हणाल्या, "आयटी ॲक्टच्या कलम 67 अंतर्गत, सायबर पॉर्नोग्राफीला एक गंभीर गुन्हा मानलं जातं. जर एखाद्या एआय टूलद्वारे परवानगी नसताना किंवा मुलांशी निगडीत आक्षेपार्ह कॉन्टेंट तयार करण्यात आला, तर त्याची गुन्हेगारी जबाबदारी यूझरबरोबरच प्लॅटफॉर्मची देखील असते."

पुनीत भसीन पुढे म्हणाल्या, "अशाप्रकारचा कॉन्टेंट तयार करणाऱ्या यूझरला गुन्हेगार मानलं जातं. आयटी ॲक्टअंतर्गत चाईल्ड पॉर्नोग्राफी हा एक गंभीर गुन्हा आहे. यात सामान्य पॉर्नोग्राफिक कॉन्टेंटच्या तुलनेत अधिक कठोर शिक्षेची तरतूद आहे. कारण यामध्ये अल्पवयीन मुलं आणि लहान मुलांचा समावेश असतो."

भारतीय न्याय संहितेनुसार, महिला आणि मुलांचा डिजिटल लैंगिक छळ हा एक दखलपात्र आणि अजामीनपात्र गुन्हा आहे, यात वॉरंटशिवाय अटक होऊ शकते.

विराग गुप्ता म्हणाले, "इंटरनेट कंपन्यांना 'इंटरमीडियरी' असल्यामुळे सेफ हार्बरची कायदेशीर सुरक्षा मिळते. मात्र ही तेव्हाच लागू होते, जेव्हा ते आयटी इंटरमीडियरी नियम 2021 चं पालन करतात.

या नियमांअंतर्गत आक्षेपार्ह आणि बेकायदेशीर कॉन्टेंट हटवणं, रिपोर्टिंग सिस्टम आणि तक्रार निवारण व्यवस्था राखणं बंधनकारक आहे."

डीपफेक आणि वाढतं कायदेशीर आव्हान

पुनीत भसीन म्हणतात की बहुतांश प्लॅटफॉर्मचं बिझनेस मॉडेल, कॉन्टेंट व्हायरल होण्यावर अवलंबून असतं. यात जास्त व्ह्यूज, डाउनलोड आणि वापरामुळे वाढ होते.

सुरुवातीच्या टप्प्यात अनेक प्लॅटफॉर्म वादग्रस्त मार्गांचा अवलंब करतात. कारण प्रसिद्धी चांगली असो की वाईट, ती प्रसिद्धीच असते.

भसीन म्हणाल्या, "ग्रोक एआयच्या प्रकरणात हे मुद्दाम झालं आहे की अनावधानानं झालं आहे, हे सांगणं कठीण आहे. मात्र या वादामुळे अशा लोकांनादेखील याबद्दल माहित झालं असेल, ज्यांनी कधीही ग्रोकचा वापर केलेला नाही."

"याप्रकारच्या नकारात्मक प्रसिद्धीमुळे प्लॅटफॉर्मची व्याप्ती आणि त्याबद्दलची जागरुकता वाढते. यामुळे सुरुवातीच्या टप्प्यातील यूझर बेस तयार करण्यास मदत होते. मग भलेही कायदेशीर आणि नैतिकतेच्या समस्या निर्माण का होईना."

विराग गुप्ता म्हणतात, "ग्रोक प्लॅटफॉर्ममध्ये सुरक्षा फिल्टर आणि मॉडरेशनची व्यवस्था योग्यप्रकारे काम करत नाहीये. यातून कंपनीचं अपयश दिसून येतं."

"एक्स आणि ग्रोक या दोन्ही कंपन्यांच्या सामूहिक अपयशामुळे लाखो महिलांचं अश्लील आणि अपमानास्पद चित्रण झालं आहे. यासाठी भारतात त्यांच्यावर कायदेशीर आणि गुन्हेगारी जबाबदारी निश्चित करण्यात आली पाहिजे."

विना सहमती न्यूड किंवा इंटिमेट किंवा कोणतंही अपायकारक कॉन्टेंट सर्क्युलेट झाल्यावर, पुनीत भसीन लगेच कारवाई करण्याचा सल्ला देतात.

अशा प्रकरणांमध्ये काय केलं पाहिजे?

शा प्रकरणांमध्ये ऑनलाइन तक्रार नोंदवावी. cybercrime.gov.in या वेबसाईटवर जा. महिला किंवा मुलांशी संबंधित प्रकरणात निनावी तक्रार करणंदेखील शक्य आहे. तक्रार केल्यानंतर पोचपावती (ॲक्नॉलेज) क्रमांक घ्या.

(बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन)