AI चा वापर करून लहान मुलांवरील आक्षेपार्ह व्हीडिओंमध्ये वाढ, यंत्रणांसमोर नवा पेच
- Author, लिडिया डॉलिंग रनेरा आणि हेलेन बर्चेल
- Role, बीबीसी न्यूज, केंब्रिजशायर
आर्टिफिशिएल इंटेलिजन्समुळे पोलीस आणि यंत्रणांसमोर नवीन पेच निर्माण झाला आहे. लहान मुलांशी संबंधित आक्षेपार्ह कंटेंट मोठ्या प्रमाणात तयार करुन इंटरनेटवर अपलोड केले जात आहे.
आणि पोलीस तसेच यंत्रणांचा वेळ या फेक व्हीडिओंचा छडा लावण्यात जात असल्यामुळे खऱ्या पीडित मुलांना मदत मिळण्याचे आव्हान तयार झाल्याचे एका स्वयंसेवी संस्थेनी म्हटले आहे.
केंब्रिजजवळील हिस्टन या ठिकाणी असलेल्या इंटरनेट वॉच फाऊंडेशन (IWF) ने हे निरीक्षण मांडले आहे.
लहान मुलांसंबंधित आक्षेपार्ह व्हीडिओ तयार करुन कुणी टाकले असतील तर ते शोधून त्यांना इंटरनेटहून हटवण्याचे काम ही संस्था करते.
IWF ने असं म्हटलं आहे की 2023 च्या तुलनेत 2024 मध्ये लहान मुलांच्या लैंगिक शोषणासंबंधी AI जनरेटेड कंटेंटचे प्रमाण 300 टक्क्यांनी वाढले आहे. यामुळे IWF चे काम आणखी गुंतागुंतीचे झाल्याचे या संस्थेतील अधिकाऱ्यांनी बीबीसीला सांगितले.
कृत्रिम पीडितांमुळे खरे पीडित संरक्षणापासून वंचित
डॅन सेक्सटन इंटरनेट वॉच फाऊंडेशनचे मुख्य तंत्रज्ञान अधिकारी आहेत.
डॅन सेक्सटन म्हणाले की, AI जनरेटेड इमेजेसच्या वाढीमुळे आता कायदा सुव्यवस्था राखणाऱ्या आणि इतर यंत्रणा अस्तित्वातच नसलेल्या मुलांना वाचवण्याचा प्रयत्न होतील. यात त्यांच्या शक्तीचा अपव्यय होईल पण यामुळे ज्या मुलांना खरोखरंच गरज आहे त्यांच्यापर्यंत पोहचण्यास यंत्रणांना वेळ लागेल.
दोन वर्षांपूर्वी लहान मुलं असलेल्या आक्षेपार्ह AI इमेज सर्क्युलेट होत होत्या. तेव्हा स्पष्टपणे कळायचं की हे AI जनरेटेड कंटेंट आहे. पण आता तंत्रज्ञान इतकं विकसित झालं आहे की खरं काय आणि खोटं काय यातला फरक करणे अवघड झाले आहे, असे सेक्सटन यांनी म्हटलं.
फोटो स्रोत, IWF
सेक्सटन म्हणाले की इंटरनेट वॉच फाऊंडेशननं (आयडब्ल्यूएफ) कंटेंट कुठे तयार होतं आहे आणि ते कुठून शेअर केलं जातं आहे याबद्दलचे ट्रेंड शोधण्याचा प्रयत्न केला.
AI जनरेडेट इमेजेस आणि खऱ्या इमेजेसच्या वर्गीकरणात आमचा वेळ जात आहे त्यामुळे खऱ्या मुलांना मदत वेळेत पोहचेल की नाही याची आम्हाला चिंता सतावते आहे.
AI निर्मित फोटोंची वाढ आणि IWFचे प्रयत्न
विशेष म्हणजे, आर्टिफिशियल इंटेलिजन्सद्वारे निर्मित प्रतिमांचा छडा लावण्यासाठी इंटरनेट वॉच फाऊंडेशन आर्टिफिशियल इंटेलिजन्सचाच वापर करण्याचा विचार करत आहे.
सेक्सटन म्हणतात, "या समस्येवर मात करण्यासाठी आम्हाला AI टुल्सचीच मदत घ्यावी लागणार आहे."
फोटो स्रोत, Lydia Dowling Ranera/BBC
सेक्सटन पुढे म्हणाले की लहान मुलांच्या शोषणासंबंधित AI जनरेटेड इमेजेसचे प्रमाण अगदी नगण्य व्हावे असे मला वाटते, पण दुर्दैवाने अजून ते घडत नाहीये.
नतालिया (बदललेले नाव) जवळपास पाच वर्षांपासून इंटरनेट वॉच फाऊंडेशनमध्ये अॅनालिस्ट आहेत. त्या AI तज्ज्ञ आहेत.
त्या म्हणाल्या की AI जनरटेड मुलांचे व्हीडिओ खऱ्या मुलांचे व्हीडिओ यातील फरक सांगणे दिवसेंदिवस कठीण होत चालले आहे.
"आर्टिफिशियल इंटेलिजन्सद्वारे तयार करण्यात आलेलं कंटेंट अस्सल तर दिसतंच पण ते तंत्रज्ञान झपाट्याने विकसितही होत आहे, ही खरोखरच चिंताजनक बाब आहे," असं त्या म्हणाल्या.
नतालिया पुढे म्हणाल्या, "इंटरनेट वॉच फाऊंडेशननं 2023 मध्ये पहिल्यांदा AI जनरेटेड इमेजेस पाहिल्या. मात्र 2024 मध्ये अशा प्रकरणांची संख्या चौपट झाली."
'खऱ्या फोटोंपेक्षा AI च्या फोटोंमुळे पीडितांचं अधिक नुकसान'
नतालिया यांनी आर्टिफिशियल इंटेलिजन्सबद्दलच्या त्यांची चिंता एका प्रकरणातून स्पष्ट केली. 2011 मध्ये एक प्रकरण घडलं होतं जिथे एका मुलीचा चेहरा घेऊन, AI चा वापर करून फोटो तयार करण्यात आले होते, असं त्यांनी सांगितलं.
त्या पुढे सांगतात की ते फोटो अतिशय भयंकर होते. ज्या व्यक्तीने हे फोटो शेअर केले त्याला ताब्यात घेण्यात आलं पण तोवर ते फोटो सगळीकडे पसरले होते.
फोटो स्रोत, IWF
नतालिया यांना वाटतं, "जेव्हा कुणीच पीडित नसेल आणि AI जनरेटेड इमेजेस असतील तर ती वेगळी गोष्ट आहे. पण AI चा वापर करुन पीडित व्यक्तीची ओळख वापरणे हे तर खूपच भयंकर आहे. यामुळेच खरे नुकसान आहेत."
नॅशनल क्राईम एजन्सीच्या एका प्रवक्त्यानं सांगितलं, "AI जनरेटेड इमेजेसमुळे क्लिअर वेब ( नेहमीचे इंटरनेट) आणि डार्क वेबवर लहान मुलांसंबंधित कंटेंटचे प्रमाण मोठ्या प्रमाणात वाढेल.
ते पुढे म्हणाले, "मात्र, या धोक्याचा सामना करण्यासाठी, आम्ही विविध स्तरांवर काम करत आहोत. तसेच लहान मुलांचे यापासून संरक्षण व्हावे यासाठी तंत्रज्ञानात आम्ही मोठ्या प्रमाणात गुंतवणूक करत आहोत."
(बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन.)
