बेबी डॉल आर्ची नावाचे प्रेयसीचे खोटे इन्स्टा अकाउंट, लाखो फॉलोअर्स आणि 'पॉर्न स्टारसोबत'च्या फोटोमागचे रहस्य

इन्स्टाग्रामवर प्रसिद्ध असलेल्या बेबीडॉल आर्ची या प्रोफाईलला तिचे फॉलोअर्सची संख्या दुपटीनं वाढवून 14 लाखांपर्यंत नेण्यासाठी फक्त काही दिवस लागले. सोशल मीडियावर व्हायरल झालेल्या तिच्या काही कॉन्टेंट, व्हिडिओमुळे हे शक्य झालं.

एका व्हिडिओमध्ये ती लाल रंगाच्या साडीमध्ये डेम उन गर या एका रोमानियन गाण्यावर कामुक नृत्य करत असल्याचं दिसते. तसंच इन्स्टाग्रामवर तिनं एक फोटो पोस्ट केला होता. त्यात ती अमेरिकन पॉर्न स्टार केंद्रा लस्टबरोबर पोज देताना दिसली होती.

त्यामुळे अचानक तिच्याबद्दल उत्सुकता निर्माण झाली. बेबीडॉल आर्ची हे नाव गुगलवर ट्रेंड करू लागलं. तिच्यावर असंख्य मीम्स आणि फॅन पेज तयार झाले. मात्र या सर्वांमधून एक बाब समोर येत होती. ती म्हणजे या ऑनलाइन प्रसिद्धी, सेन्सेशनच्या मागे कोणतीही खरी महिला नव्हती.

इन्स्टाग्रामवरील हे अकाउंट बनावट होतं. अर्थात यात त्यांनी वापरलेला चेहरा एका खऱ्या किंवा प्रत्यक्षातील महिलेसारखा दिसत होता. ही महिला आसामच्या दिब्रुगड शहरातील एक गृहिणी आहे. त्या महिलेला आपण 'सांची' असं म्हणूया.

या महिलेच्या भावानं या सर्व प्रकाराची पोलिसात तक्रार केल्यावर हे सत्य समोर आलं. त्यानंतर सांचीचा माजी प्रियकर प्रतिम बोरा याला अटक करण्यात आली.

प्रेयसीबरोबर भांडण झाल्यानं माजी प्रियकरानं घेतला बदला

वरिष्ठ पोलीस अधिकारी सिझल अगरवाल या प्रकरणाच्या तपासाचं नेतृत्व करत आहेत. सिझल अगरवाल यांनी बीबीसीला सांगितलं की सांची आणि बोरी यांच्यात भांडण झालं होतं आणि त्यानंतर बोरानं सांचीवर 'निव्वळ सूड' घेण्यासाठी तिचं एआय रुप तयार केलं होतं.

बोरा हा मेकॅनिकल इंजिनीअर आहे. तो स्वत:च आर्टिफिशियल इंटेलिजन्स शिकला असून त्यानं या कौशल्याचा वापर सांचीचे खासगी फोटो वापरून तिचं फेक प्रोफाईल तयार करण्यासाठी केला, असं सिझल अगरवाल म्हणाल्या.

बोरा सध्या पोलिसांच्या ताब्यात आहे. त्यानं अद्याप कोणतीही प्रतिक्रिया दिलेली नाही किंवा वक्तव्यं केलेलं नाही. बीबीसीनं त्याच्या कुटुंबाशी संपर्क साधला आहे. ज्यावेळेस बोराचे कुटुंबीय यासंदर्भात काही वक्तव्यं देतील, तेव्हा त्याचा या लेखात समावेश केला जाईल.

बेबीडॉल आर्ची हे फेक प्रोफाईल 2020 मध्ये तयार करण्यात आलं होतं. तर मे 2021 मध्ये या अकाउंटवर पहिल्यांदा फोटो अपलोड करण्यात आले होते. सुरुवातीला सांचीचे मॉर्फ करण्यात आलेले खरे फोटो अपलोड करण्यात आले होते, असं सिझल अगरवाल म्हणाल्या.

मात्र कालांतरानं बोरानं चॅटजीपीटी आणि डीझाईनसारख्या टूलचा वापर करून बेबीडॉल आर्चीचं आर्टिफिशयल इंटेलिजन्सवर आधारित कॉन्टेंट तयार केलं. मग त्यानं या अकाउंटमध्ये मोठ्या संख्येनं डीपफेक फोटो आणि व्हिडिओ टाकले.

कॉन्टेंट झालं व्हायरल, मात्र महिलेला कल्पनाच नाही

गेल्या वर्षापासून या अकाउंटवरील कॉन्टेंटला लाईक्स मिळू लागले. मात्र यावर्षी एप्रिल महिन्यापासून ते लोकप्रिय होऊ लागलं, असं सिझल अगरवाल यांनी पुढे सांगितलं.

सांची सोशल मीडियावर नाहीत. त्यामुळे त्यांना या अकाउंटची माहिती मुख्य प्रवाहातील प्रसारमाध्यमांमधूनच मिळाली. माध्यमांनी बेबीडॉल आर्चीचा उल्लेख 'इन्फ्लुएन्सर' म्हणून केल्यावर सांची यांना याबद्दल माहित झालं.

सांचीबद्दल विविध स्वरूपाच्या बातम्यादेखील येऊ लागल्या. सांची अमेरिकेतील पॉर्न इंडस्ट्रीत काम करण्यास सुरूवात करू शकतात, असा अंदाज बातम्यांमधून लावला जात होता. तसं झाल्यास पॉर्न इंडस्ट्रीत काम करणाऱ्या त्या ईशान्य भारतातील आसामसारख्या राज्यातील पहिल्याच व्यक्ती ठरणार होत्या.

हा सर्व प्रकार लक्षात आल्यानंतर सांचीच्या कुटुंबानं 11 जुलैच्या रात्री पोलिसांकडे तक्रार नोंदवली. या दोन परिच्छेदांच्या छोटेखानी तक्रारीबरोबर पुरावा म्हणून काही फोटो आणि व्हिडिओंच्या प्रिंटआऊट जोडलेल्या होत्या.

पोलिसांनी लावला आरोपीचा छडा

सिझल अगरवाल म्हणतात की या तक्रारीत कोणाचंही नाव नव्हतं. कारण यामागे नेमकं कोण असू शकतं याची त्यांना काहीही कल्पना नव्हती.

बेबीडॉल आर्ची हे नाव पोलिसांना अपरिचित नव्हतं. अगरवाल म्हणतात की इन्स्टाग्रामवरील हे अकाउंट आर्टिफिशियल इंटेलिजन्सचा वापर करून तयार करण्यात आल्याचा अंदाज प्रसारमाध्यमांमधून व्यक्त करण्यात आला होता. तसंच सोशल मीडियावर देखील अशाच स्वरूपाच्या प्रतिक्रिया आल्या होत्या. पोलिसांनी ते पाहिलं होतं.

त्यामुळे त्यांना या अकाउंटची कल्पना होती. मात्र हे प्रोफाईल एखाद्या खऱ्या व्यक्तीवर म्हणजे महिलेवर आधारित असल्याची कोणतीही माहिती नव्हती.

पोलिसांकडे तक्रार नोंदवण्यात आल्यानंतर, त्यांनी इन्स्टाग्रामला पत्र लिहून हे अकाउंट सुरू करण्याची माहिती मागितली.

वरिष्ठ पोलीस अधिकारी सिझल अगरवाल म्हणाल्या, "इन्स्टाग्रामकडून या अकाउंटविषयीची माहिती आम्हाला मिळाल्यानंतर, आम्ही सांची यांना विचारलं की त्या प्रतिम बोरा नावाच्या एखाद्या व्यक्तीला ओळखतात का?"

"त्यांनी याबद्दल खातरजमा केल्यानंतर, आम्ही शेजारच्या तिनसुकिया जिल्ह्यातील प्रतिम बोराचा पत्ता शोधला. त्यानंतर 12 जुलैच्या संध्याकाळी आम्ही त्याला अटक केली."

आरोपीनं बनावट प्रोफाईलमधून केली लाखोंची कमाई

अगरवाल म्हणतात की पोलिसांनी "त्याचा लॅपटॉप, मोबाईल फोन, हार्ड ड्राईव्ह आणि त्यांच्या बँक खात्याची कागदपत्रं जप्त केली आहेत."

"या खात्याची लिंकट्रीवर 3,000 सबस्क्रिप्शन होती. आम्हाला वाटतं की त्यानं यातून 10 लाख रुपयांची कमाई केली होती. तसंच त्याचा अटक करण्याच्या फक्त पाच दिवस आधीच त्यानं 3 लाख रुपये कमावले होते, असं आम्हाला वाटतं," असं त्या पुढे म्हणाल्या.

अगरवाल म्हणाल्या की "या सर्व प्रकरणामुळे सांची खूपच अस्वस्थ आहेत. मात्र आता त्यांना आणि त्यांच्या कुटुंबियांना समुपदेशन दिलं जात आहे आणि ते यातून सावरत आहेत."

"यासारखा प्रकार घडण्यापासून रोखण्याचा खरोखरंच कोणताही मार्ग नाही. मात्र आम्ही जर आधीच कारवाई केली असती, तर या प्रोफाईलला इतकी प्रसिद्धी मिळण्यापासून आम्ही रोखू शकलो असतो," असं अगरवाल म्हणाल्या.

"मात्र सांची यांना या सर्व प्रकाराची काहीही कल्पना नव्हती. कारण त्या सोशल मीडियाचा अजिबात वापर करत नाहीत. त्यांच्या कुटुंबालादेखील या अकाउंटवर ब्लॉक करण्यात आलं होतं. या अकाउंटवरील कॉन्टेंट व्हायरल झाल्यानंतरच त्यांना याची माहिती मिळाली," असं त्यांनी पुढे सांगितलं.

या प्रकरणाबाबत बीबीसीनं मेटा (इन्स्टाग्रामची मूळ कंपनी) ला काही प्रश्न विचारले होते. मेटानं त्यांना प्रतिसाद दिला नाही. मात्र सर्वसाधारणपणे मेटा नग्न किंवा लैंगिक स्वरुपाचं कॉन्टेंट पोस करण्यास परवानगी देत नाही.

गेल्या महिन्यात सीबीएसनं (अमेरिकन मीडिया हाऊस) वृत्त दिलं होतं की खऱ्या लोकांचे फोटो वापरून स्पष्टपणे लैंगिक डीपफेक कॉन्टेंट तयार करण्यासाठी वापरण्यात येणाऱ्या आर्टिफिशियल इंटेलिजन्सवर आधारित टूल्सचा प्रचार करणाऱ्या अनेक जाहिराती काढून टाकल्या आहेत.

इन्स्टाग्रामवरील बेबीडॉल अकाउंटमध्ये 282 पोस्ट होत्या. ते आता लोकांसाठी उपलब्ध नाही. अर्थात सोशल मीडियावर त्याचे फोटो आणि व्हिडिओ मोठ्या प्रमाणात आहेत. एका इन्स्टाग्राम अकाउंटवर ते सर्व आहेत असं दिसतं. बीबीसीनं मेटाला विचारलं की याबाबतीत ते काय करणार आहेत.

'असं घडण्यापासून रोखणं अशक्य'

मेघना बाल आर्टिफिशियल इंटेलिजन्स तज्ज्ञ आणि वकील आहेत. त्या म्हणतात की, सांची यांच्या बाबतीत जे घडलं, "ते खूपच भयावह आहे. मात्र तसं घडण्यापासून रोखणं जवळपास अशक्य आहे."

त्या न्यायालयात जाऊ शकतात आणि सोशल मीडिया किंवा ऑनलाईन स्वरुपात त्यांच्या या प्रोफाईलविषयी उपलब्ध असलेलं कॉन्टेंट पूर्णपणे हटवण्याची किंवा त्याचा अॅक्सेस काढून टाकण्याच्या अधिकाराची मागणी करू शकतात.

न्यायालय त्यांच्या नावाचा उल्लेख असलेल्या बातम्या काढून टाकण्याचे आदेश देऊ शकतं. मात्र इंटरनेटवरून या प्रोफाईलशी निगडीत सर्व गोष्टी हटवणं कठीण आहे.

सांची यांच्या बाबतीत जे घडलं, ते महिलांच्या बाबतीत नेहमीच घडत आलं आहे. बदला घेण्यासाठी महिलांचे फोटो आणि व्हिडिओ शेअर केले जातात, असं मेघना बाल म्हणतात.

एकीकडे कायदेशीर कारवाई तर दुसरीकडे अभिव्यक्ती स्वातंत्र्य

त्या पुढे म्हणतात, "आता हे करणं आर्टिफिशियल इंटेलिजन्समुळे खूपच सोपं झालं आहे. मात्र अशा घटना आपल्याला वाटतं तितक्या अजूनही सर्रासपणे होत नाहीत."

"तसंच बदनामीच्या भीतीमुळे त्याविषयी केल्या जाणाऱ्या तक्रारींचं प्रमाण कमी असू शकतं किंवा जे पीडित आहेत त्यांना या प्रकरणात घडल्याप्रमाणे त्यांच्या बाबतीत असं काही होत असल्याची माहितीदेखील नसेल."

तसंच जे लोक हे पाहत आहेत त्यांना सोशल मीडिया किंवा सायबरक्राईम पोर्टलवर याची तक्रार नोंदवण्यास कोणत्याही प्रकारचं प्रोत्साहन किंवा लाभ मिळत नाही, असं मेघना बाल म्हणतात.

प्रतिम बोरा याच्या विरोधातील तक्रारीत पोलिसांनी लैंगिक छळ, अश्लील साहित्याचं वितरण, बदनामी, प्रतिष्ठेला हानी पोहोचवण्यासाठी फसवेगिरी, खोट्या व्यक्तिमत्वाद्वारे फसवणूक आणि सायबर क्राईम यांच्याशी संबंधित कायद्याची कलमं लावली आहेत. जर या प्रकरणात प्रतिम बोरा दोषी आढळला तर त्याला 10 वर्षांच्या तुरुंगवासाची शिक्षा होऊ शकते.

गेल्या काही दिवसात सोशल मीडियावर या प्रकरणाबद्दल प्रचंड संताप व्यक्त केला जातो आहे. काहीजण अशा प्रकारच्या प्रकरणांना हाताळण्यासाठी कठोर कायदे आणण्याची मागणी करत आहेत.

मेघना बाल यांना वाटतं की याप्रकारच्या प्रकरणांना हाताळण्यासाठी पुरेसे कायदे आहेत. मात्र जनरेटिव्ह आर्टिफिशियल इंटेलिजन्स कंपन्यांना हाताळण्यासाठी नवीन कायदे करण्यास वाव आहे की नाही, हे पाहायला हवं.

मेघना बाल म्हणतात, "मात्र आपण हे देखील लक्षात ठेवलं पाहिजे की डीपफेक नेहमीच वाईट असतात असं नाही. त्यामुळे याच्याशी संबंधित कायदे अतिशय काळजीपूर्वक तयार करावे लागतात. कारण त्यांचा वापर अभिव्यक्ती स्वातंत्र्यांची गळचेपी करण्यासाठी केला जाऊ शकतो."

(बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन.)