ज्यूंवरील अत्याचाराच्या बनावट फोटोंमधून पैसा कमावणारं रॅकेट BBC ने केलं उघड

आंतरराष्ट्रीय स्तरावरील स्पॅमर्सचं जाळं हॉलोकास्टच्या पीडितांचे आर्टिफिशियल इंटेलिजन्सचा वापर करून तयार केलेले फोटो फेसबुकवर पोस्ट करत त्यातून कमाई करत असल्याची बाब बीबीसीनं 'एआय स्लॉप'च्या केलेल्या तपासातून समोर आली आहे.

नाझी जर्मनीत ज्यूंवर छळछावणीमध्ये जे अत्याचार करण्यात आले, त्यांच्या ज्या सामूहिक हत्या करण्यात आल्या, त्याला हॉलोकास्ट म्हणतात.

तर, कमी दर्जाचा मीडिया ज्यात लेखन किंवा फोटोंचाही समावेश आहे, जे आर्टिफिशियल इंटेलिजन्सचा वापर करून निर्माण केलं जातं, त्याला 'एआय स्लॉप' म्हटलं जातं.

हॉलोकास्टच्या स्मृती जतन करण्यासाठी समर्पित असलेल्या संस्था म्हणतात की, आर्टिफिशियल इंटेलिजन्सचा वापर करून तयार करण्यात आलेल्या या फोटोंमुळे हॉलोकास्टमधून वाचलेले आणि त्यांचे कुटुंबीय दु:खी होत आहेत. हे पाहून त्यांना वेदना होत आहेत.

फेसबुकची मूळ प्रवर्तक कंपनी असलेल्या मेटावरदेखील या संस्थांनी टीका केली आहे. त्यांनी म्हटलं आहे की या भयंकर अत्याचाराच्या घटनेचं रुपांतर 'भावनिक खेळा'त करण्यास फेसबुक त्यांच्या युजर्सना परवानगी देतं.

छळछावणीतील पीडितांचे बनावट फोटो पोस्ट करणाऱ्यांचं जाळं

दुसऱ्या महायुद्धाच्या काळातील ऑशविट्झ छळछावणीच्या आतील काही मोजकेच फोटो उपलब्ध आहेत.

मात्र गेल्या काही महिन्यांमध्ये एआय स्पॅमर्सनं अनेक खोटे किंवा बनावट फोटो पोस्ट केले आहेत. ते छळछावणीतील असल्याची बतावणी करत त्यांनी हे फोटो टाकले आहेत.

कैदी व्हायोलिन वाजवत आहेत किंवा प्रेमी या छळछावण्यांच्या कुंपणावर भेटत आहेत, असे हे फोटो आहेत. या फोटोंना हजारोंच्या संख्येनं लाईक्स मिळाले आहेत आणि ते मोठ्या प्रमाणात शेअर करण्यात आले आहेत.

"कोणीतरी कहाण्या तयार करतं आहे. सोशल मीडियावर सुरू असलेल्या एका विचित्र भावनिक खेळासाठी या कहाण्या तयार केल्या जात आहेत," असं पावेल सॉविकी म्हणाले. ते पोलंडमधील ऑशविट्झ मेमोरियलचे प्रवक्ते आहेत.

"हा काही खेळ नाही. हे खरं, वास्तविक जग आहे. हे खरं दु:ख आहे आणि लोकही खरे आहेत, ज्यांच्या दु:खाचं, वेदनेचं आपल्याला स्मरण करायचं आहे."

बीबीसीनं यातील अनेक फोटोंचा मागोवा घेतला. त्या पाकिस्तानस्थित कॉन्टेन्ट तयार करणाऱ्यांच्या अकाउंटवरील आहेत. फेसबुकवर पैसे कमवण्यासाठी एकमेकांना सहकार्य करणाऱ्यांचं हे जाळं आहे.

फेसबुकवर बनावट फोटो टाकून मोठी कमाई

ते मेटाच्या कॉन्टेन्ट मॉनिटायझेशन (सीएम) कार्यक्रमाचा म्हणजे कॉन्टेन्टद्वारे पैसे कमावण्याच्या सुविधेचा वापर करत आहेत. ही 'इव्हाईट-ऑन्ली' व्यवस्था असून ती खूप अधिक चालणाऱ्या किंवा पाहिल्या जाणाऱ्या आणि व्हयूज मिळणाऱ्या कॉन्टेन्टसाठी युजर्सना पैसे देते.

यातील एका खात्याचं नाव 'अब्दुल मुघीस' असं आहे. हा युजर पाकिस्तानात राहतो. या खात्यावरून मेटासह, इतर सोशल मीडियावरील मॉनेटायझेशन स्कीममधून 20,000 डॉलरची कमाई केल्याचे स्क्रीनशॉट पोस्ट करण्यात आले होते.

दुसऱ्या एका पोस्टमध्ये असं दिसून येतं की या खात्यानं गेल्या चार महिन्यांच्या कालावधीत टाकलेल्या कॉन्टेन्टला 1.2 अब्जहून अधिक व्ह्यूज मिळाले आहेत.

आम्ही स्वतंत्रपणे कोणत्याही कॉन्टेन्ट क्रिएटरच्या कमाईची स्वतंत्रपणे पडताळणी करू शकलो नाही.

अब्दुल मुघीस या खात्यावरून फेसबुकवर अनेक पोस्ट टाकण्यात आल्या आहेत. त्यात, हॉलोकास्टच्या काल्पनिक बळींचे आर्टिफिशियल इंटेलिजन्सद्वारे तयार करण्यात आलेले फोटो आणि खोट्या कहाण्या असलेल्या अनेक पोस्टचादेखील समावेश आहे.

यात लाकडी फरशीखाली लपलेलं मूल किंवा छळछावणीच्या बाहेर असणाऱ्या रेल्वे रुळावर सोडून दिलेल्या बाळाचा समावेश आहे.

एआय स्लॉप पोस्ट करणारे फेसबुक पेजेस

या खात्याच्या आणि याच्यासारख्याच डझनभर इतर खात्यांच्या ऑनलाइन अॅक्टिव्हिटीचं बीबीसीनं विश्लेषण केलं. त्यातून आढळलं की ते जवळपास फक्त 'एआय स्लॉप' पोस्ट करत आहेत.

एआय स्लॉप म्हणजे एआयद्वारे निर्मित केलेले कमी दर्जाचे फोटो आणि मजकूर. ते मोठ्या प्रमाणात तयार केले जातात आणि आवश्यकता नसताना सोशल मीडियावर शेअर केले जातात.

ऑशविट्झ हा इतिहासाची थीम असलेल्या पेजेसवर आणि गटांमध्ये एक लोकप्रिय विषय बनला आहे. यातील काही खाती 'टाइमलेस टेल्स' आणि 'हिस्ट्री हेवन' अशा नावांची आहेत. त्यावरून दिवसातून 50 पेक्षा अधिक वेळा पोस्ट टाकल्या जात होत्या.

जून महिन्यात, ऑशविट्झ संग्रहालयानं इशारा दिला होता की, याप्रकारची खाती त्यांच्या पोस्ट चोरत आहेत. ते एआय मॉडेलचा वापर करून या पोस्टवर प्रक्रिया करत आहेत.

ते अनेकदा ऐतिहासिक तपशीलाचं विकृतीकरण करत आहेत किंवा पूर्णपणे बनावट पीडित आणि कहाण्या बनवत आहेत.

या संग्रहालयानं फेसबुकवरील त्यांच्या एका पोस्टमध्ये म्हटलं आहे की हे फोटो 'धोकादायक विकृती' आहेत, ज्यामुळे "पीडितांचा अनादर होतो आणि त्यांच्या स्मृतींना वेदना होतात."

'हे घडू दिलं गेलं आहे, याबद्दल दु:ख वाटतं आहे'

सॉविकी म्हणाले की खोट्या किंवा बनावट फोटोंची त्सुनामी, हॉलोकास्टविषयी जागरुकता निर्माण करण्याच्या ऑशविट्झ मेमोरियलच्या ध्येयाला कमकुवत करत आहे.

"आमच्या फेसबुक पोस्टवर अशी कॉमेंट्स येऊ लागल्या आहेत की "अरे, हा एक एआय-द्वारे निर्मित फोटो आहे'," असं ते म्हणाले.

हॉलोकास्टबद्दल शिक्षण आणि संशोधनाला प्रोत्साहनाला देणाऱ्या एका संस्थेनुसार, हॉलोकास्टमधून वाचलेले आणि त्यांची कुटुंबंदेखील हॉलोकास्टच्या एआय स्लॉपमुळे अस्वस्थ झाले आहेत.

"ते काय पाहत आहेत, हे त्यांना समजत नाही," असं इंटरनॅशनल हॉलोकास्ट रिमेंबरन्स अलायन्सचे डॉ. रॉबर्ट विल्यम्स म्हणाले.

ते म्हणाले की हॉलोकास्टमधून बचावलेल्या लोकांना, सरकार आणि परोपकारी संस्था जागरुकता निर्माण करण्यासाठी मोहीम राबवत असूनदेखील "हे घडू दिलं गेलं आहे, याबद्दल दु:ख वाटतं आहे."

"त्यांना असं वाटतं की त्यांचे प्रयत्न पुरेसे नाहीत," असं ते म्हणाले.

"ही खूपच दु:खद बाब आहे. कारण त्या छळातून वाचलेल्यांपैकी शेवटचा व्यक्ती लवकरच जगाचा निरोप घेईल," असं ते म्हणाले.

हॉलोकास्टच्या कहाण्यांसह खोट्या कहाण्या पोस्ट करण्यास मेटा मुद्दाम प्रोत्साहन देत नाही. मात्र मेटाची व्यवस्था ज्या कॉन्टेन्ट किंवा पोस्टला चांगला प्रतिसाद मिळतो त्यांना कमाईची संधी देते. बीबीसीला भारत, व्हिएतनाम, थायलंड आणि नायजेरियामध्ये देखील एआय स्लॉप खाती आढळली आहेत.

बीबीसीचा विशेष तपास

सोशल मीडियावरील खात्यांचं हे जाळं विशिष्ट प्रकारचं कॉन्टेन्ट मोठ्या प्रमाणात का तयार करत आहेत, हे समजून घेण्यासाठी बीबीसी फजल रहमान या पाकिस्तानी व्यक्तीशी बोललं.

रहमान यांनी कॉन्टेन्टचं मॉनिटायझेशन करणाऱ्या अनेक सोशल मीडिया स्कीममध्ये नोंदणी केलेली आहे. ते म्हणतात की हे काम त्यांच्या उत्पन्नाचं एकमेव साधन बनलं आहे.

ते म्हणतात की, ते स्वत: हॉलोकास्टची कोणतेही फोटो तयार करत नाहीत. तसंच सुरुवातीला जेव्हा त्यांना याबाबत विचारले तेव्हा या शब्दाचा अर्थ काय आहे, हे त्यांना माहित नव्हतं. मात्र याप्रकारचे फोटो किंवा कॉन्टेन्ट तयार करणाऱ्या फेसबुक ग्रुपमध्ये ते काम करतात.

रहमान म्हणाले की 3 लाख फॉलोअर्स असलेलं एखाद्या फेसबुक पेजनं जर युके, अमेरिका आणि युरोपातील उच्च मूल्याच्या प्रेक्षकांसाठी 'प्रीमियम कॉन्टेन्ट' पुरवलं तर त्या पेजच्या मालकाची दर महिन्याला 1,000 अमेरिकन डॉलर्सची कमाई होऊ शकते.

त्यांचा अंदाज आहे की एका पोस्टसाठीच्या आशियातील व्ह्यूजपेक्षा पाश्चात्य देशांमधील व्ह्यूजचं मूल्य आठ पट अधिक आहे.

ऑनलाइन ट्रॅफिक मिळवण्यासाठी इतिहासाचा वापर

ते म्हणाले की ऑनलाइन ट्रॅफिकसाठी इतिहास हा एक खात्रीशीर मार्ग आहे.

इतर कॉन्टेन्ट क्रिएटर याच्याशी सहमत आहेत. सातत्यानं बनावट ऐतिहासिक फोटो आणि मजकूर तयार करण्यासाठी लोकप्रिय एआय मॉडेल्सचा वापर कसा केला जाऊ शकतो याची स्टेप-बाय-स्टेप माहिती देणारे व्हिडिओ बीबीसीनं पाहिले आहेत.

एका व्हिडिओमध्ये कॉन्टेन्ट क्रिएटरनं एआय चॅटबॉटला कॉन्टेन्ट तयार करण्यासाठी वापरता येणाऱ्या महत्त्वाच्या ऐतिहासिक घटनांची यादी देण्यात सांगितलं. त्याचं उत्तर देताना त्याला हॉलोकास्टचा विषयदेखील देण्यात आला.

इतर काही कॉन्टेन्ट क्रिएटर्सनी दिलेल्या सल्ल्यांमध्ये प्रेक्षकांना कसं फसवायचं याच्या टिप्सचा समावेश आहे. यासाठी इतर लोकांची तोतयागिरी करून मेटाच्या कॉन्टेन्ट मॉनिटायझेशनसाठी पात्र होण्यासाठी पेज कसं तयार करायचा हेदेखील त्यात होतं.

फेसबुकचं एक ट्रान्सपरन्सी फीचर आहे. त्याद्वारे युजर्सना पेजच्या आधीच्या नावांचा मागोवा घेता येतो. याचा वापर करून, बीबीसीला असे अनेक पेज सापडले ज्यांनी हॉलोकास्ट एआय स्लॉप पोस्ट केले होते.

हे एआय स्लॉप एकेकाळी अमेरिकेतील अधिकृत अग्निशमन विभाग, व्यवसाय आणि अमेरिकन इन्फ्लुएन्सर्ससह विविध संस्था म्हणून सादर करण्यात आले होते - तेही त्यांच्या परवानगीशिवाय.

कॉन्टेन्ट क्रिएटर्सच्या सार्वजनिक पोस्टनुसार, ही पेजेस, ज्यांना कॉन्टेन्ट क्रिएटरच्या मार्केटमध्ये प्रवेश करायचा आहे, अशांना विकली किंवा भाड्यानं दिली जाऊ शकतात.

मेटाकडून तोतयागिरीसाठी कारवाई

ज्या प्रोफाईलवरून हॉलोकास्ट थीम असलेलं एआय कॉन्टेन्ट पोस्ट करण्यात आलं होतं आणि जी प्रोफाईल फसव्या कॉन्टेन्टमध्येही सहभागी होती, अशा असंख्य प्रोफाईलबद्दल बीबीसीनं मेटाला विचारलं.

अनेक प्रोफाईल आणि गट काढून टाकण्यात आले होते. यात जून महिन्यात ऑशविट्झ मेमोरियलनं मूळात आक्षेप घेतलेल्या गटांचा समावेश होता.

मेटाच्या प्रवक्त्यानं सांगितलं की त्या बनावट फोटोंमुळे त्यांच्या कॉन्टेन्टसंदर्भातील धोरणाचं उल्लंघन झालेलं नसलं तरी त्यांनी त्या खात्यांची चौकशी केली आणि त्यांना आढळलं की त्यांनी तोतयागिरी आणि पेजच्या व्यापारासंदर्भातील कंपनीच्या नियमांचं उल्लंघन केलं आहे.

"आम्हाला माहिती देण्यात आलेले पेजेस आणि गट आम्ही काढून टाकले आहेत. तसंच स्पॅमसंदर्भातील आणि अप्रामाणिक वर्तनासंदर्भातील आमच्या धोरणांचं उल्लंघन केल्याबद्दल हे पेजेसे चालवणरी खाती बांद केली आहेत," असं ते म्हणाले.

हॉलोकास्टचं स्मरण करण्यासाठी आणि खऱ्या पीडितांच्या कहाण्या जिवंत करण्यासाठी भूतकाळात आर्टिफिशियल इंटेलिजन्सचा वापर करण्यात आला आहे.

मात्र इंटरनॅशनल हॉलोकास्ट रिमेम्बरन्स अलायन्सचे डॉ. विल्यम्स यांनी इशारा दिला की हॉलोकास्टचा इतिहास एकप्रकारे बनावट आहे, अशी भावना निर्माण होण्याचा धोका त्यात आहे.

"इतर व्यक्ती किंवा त्यांच्या भावना किंवा विचार यांच्यावर प्रभाव टाकण्यासाठीची कोणत्याही प्रकारची अतिरेकी स्वरुपाची हाताळणी आपण टाळली पाहिजे," असं ते म्हणतात.

(बीबीसी उर्दूच्या उमर द्राझ नांगियाना यांच्या अतिरिक्त वार्तांकनासह)

बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन.