AIच्या सहवासात आत्महत्येचे विचार? ChatGPT वापरणाऱ्या लाखो लोकांचा मानसिक संघर्ष उघड

कृत्रिम बुद्धिमत्ता म्हणजेच एआय मानवी आयुष्याचा अविभाज्य भाग बनत असताना, ओपन-एआयने नुकतेच जाहीर केलेले नवे आकडे चिंतेचा विषय ठरत आहेत.

ओपनएआय कंपनीनं चॅटजीपीटी वापरणाऱ्या अशा लोकांबद्दल नवे अंदाज जाहीर केले आहेत, ज्यांच्यात मानसिक आरोग्याशी संबंधित गंभीर लक्षणं दिसू शकतात. जसं की, अतिउत्साह (मॅनिया), भ्रम किंवा आत्महत्येचे विचार.

कंपनीनं सांगितलं की, एका आठवड्यात सक्रिय असलेल्या चॅटजीपीटी वापरणाऱ्यांपैकी सुमारे 0.07 टक्के लोकांमध्ये अशा लक्षणांचे संकेत दिसले आहेत.

ओपनएआयचं म्हणणं आहे की, त्यांचा एआय चॅटबॉट अशा संवेदनशील विषयांवरील संवाद ओळखतो आणि त्यावर योग्य प्रतिसाद देतो. अशी प्रकरणं अत्यंत दुर्मिळ आहेत, असं ओपनएआयचं म्हणणं आहे.

पण ही टक्केवारी लहान वाटत असली, तरी चॅटजीपीटीचे सुमारे 80 कोटी साप्ताहिक युजर्स (वापरकर्ते) असल्यामुळे अशा लोकांची संख्या शेकडो हजारांपर्यंत जाऊ शकते, असं टीकाकार म्हणतात.

या सर्वांची छाननी होत असतानाच कंपनीने जगभरातील तज्ज्ञांचं एक जाळं तयार केलं असल्याचं सांगितलं आहे. ते तज्ज्ञ या विषयांवर त्यांना सल्ला देतात.

कंपनीने सांगितले की, या तज्ज्ञांच्या गटात 60 देशांतील 170 हून अधिक मानसोपचारतज्ज्ञ, मनोवैज्ञानिक आणि सर्वसाधारण डॉक्टरांचा समावेश आहे.

'AI च्या मर्यादा ओळखणं खूप गरजेचं'

ओपनएआयच्या म्हणण्यानुसार, या तज्ज्ञांनी चॅटजीपीटीमध्ये अशा उत्तरांची मालिका तयार केली आहे, जी वापरणाऱ्यांना खऱ्या जगात मदत घेण्यासाठी प्रोत्साहित करते.

परंतु, कंपनीच्या या आकडेवारीकडे पाहून काही मानसिक आरोग्य तज्ज्ञांच्या भुवया उंचावल्या आहेत.

कॅलिफोर्निया विद्यापीठ, सॅन फ्रान्सिस्को येथील तरुणांमधील 'तंत्रज्ञान वापर' या विषयाचा अभ्यास करणारे प्राध्यापक डॉ. जेसन नगाटा म्हणाले, "0.07 टक्के ही आकडेवारी लहान वाटते. पण जेव्हा युजर्सची संख्या कोट्यवधींमध्ये असते, तेव्हा ही टक्केवारीही खूप मोठ्या संख्येनं लोकांवर परिणाम करू शकते."

डॉ. नगाटा म्हणाले, "एआयमुळे मानसिक आरोग्याशी संबंधित मदतीचा विस्तार होऊ शकतो आणि काही बाबतीत ती उपयोगीही ठरते. पण त्याच्या मर्यादा ओळखणं खूप गरजेचं आहे."

चॅटजीपीटीला प्रशिक्षण, जोखमीच्या संवादाकडे विशेष लक्ष

कंपनीच्या अंदाजानुसार, सुमारे 0.15 टक्के चॅटजीपीटी वापरणाऱ्यांच्या संवादांमध्ये "आत्महत्येचा हेतू दर्शवणारी स्पष्ट चिन्हं दिसतात."

ओपनएआयने सांगितलं की, त्यांच्या चॅटबॉटमध्ये अलीकडे केलेले बदल असे आहेत की, तो "भ्रम किंवा अति उत्साहाची (मॅनियाची) चिन्हे दिसल्यास सुरक्षित आणि सहानुभूतीपूर्ण पद्धतीने प्रतिसाद देतो".

तसेच "आत्म-हानी किंवा आत्महत्येच्या जोखमीच्या संकेतांनाही ओळखतो."

चॅटजीपीटीला असंही प्रशिक्षण देण्यात आलं आहे की, जर इतर मॉडेल्समधून आलेल्या संवेदनशील संवादांची सुरुवात झाली, तर तो ते नव्या विंडोमध्ये उघडून अधिक सुरक्षित मॉडेलकडे वळवतो.

बीबीसीने या आकड्यांवर प्रश्न उपस्थित केल्यावर ओपनएआयने सांगितले की, ही टक्केवारी जरी लहान वाटत असली, तरी ती प्रत्यक्षात मोठ्या संख्येतील लोकांवर परिणाम करते, आणि त्यामुळे ते याकडे गांभीर्याने लक्ष देत आहेत.

ओपन-एआयसमोर कायदेशीर अडचणी

ओपनएआयवर चॅटजीपीटी युजर्सशी कसा संवाद साधतो, याबाबत कायदेशीर चौकशी आणि तपासणी वाढत आहे. त्याचवेळी हे बदल केले गेले आहेत.

अलीकडे दाखल झालेल्या एका हाय-प्रोपाइल खटल्यात, कॅलिफोर्नियातील एका दाम्पत्याने ओपनएआयवर दावा दाखल केला आहे.

त्यांचा आरोप आहे की, एप्रिल महिन्यात चॅटजीपीटीने त्यांच्या किशोरवयीन मुलाला आत्महत्या करण्यास प्रवृत्त केलं आणि त्यामुळे त्याचा मृत्यू झाला.

16 वर्षांच्या अ‍ॅडम रेनच्या पालकांनी हा खटला दाखल केला होता. हा ओपनएआयविरुद्ध चुकीच्या मृत्यूचा आरोप करणारा पहिला खटला आहे.

ऑगस्ट महिन्यात ग्रीनविच (कनेक्टिकट) येथे झालेल्या हत्या-आत्महत्येच्या प्रकरणात, संशयित व्यक्तीने चॅटजीपीटीसोबतच्या अनेक तासांच्या संभाषणांच्या पोस्ट्स टाकल्या होत्या.

त्या संभाषणांमुळे त्याचा भ्रम आणि चुकीच्या कल्पना यात वाढ झाल्याचं दिसून आलं.

कॅलिफोर्निया विद्यापीठाच्या एआय लॉ अँड इनोव्हेशन इन्स्टिट्यूटच्या संचालिका प्रोफेसर रॉबिन फेल्डमन म्हणाल्या, "अनेक युजर्स एआयमुळे निर्माण होणाऱ्या 'भ्रमात्मक वास्तवाशी' झगडत आहेत. कारण हे चॅटबॉट्स खरं वाटणारं पण खोटं जग तयार करतात."हा भ्रम अत्यंत प्रभावी आणि धोकादायक" असू शकतो."

त्या म्हणाल्या, "ओपनएआयने आकडेवारी जाहीर केली आणि समस्या सुधारण्याचे प्रयत्न केले," यासाठी त्यांचं कौतुक करायला हवं.

पण त्यांनी पुढे म्हटलंय की, "कंपनी स्क्रीनवर कितीही सूचना किंवा इशारे दाखवू शकते. पण मानसिक दृष्ट्या अस्थिर असलेली व्यक्ती त्या इशाऱ्यांकडे दुर्लक्ष करू शकते."

महत्त्वाची सूचना

औषधोपचार आणि थेरपीच्या मदतीने मानसिक आजारांवर उपचार शक्य आहेत. यासाठी तुम्ही मानसोपचारतज्ज्ञांची मदत घेणं गरजेचं आहे. तुम्हाला किंवा एखाद्या परिचित व्यक्तीमध्ये अशा प्रकारच्या मानसिक आजारांची लक्षणं दिसल्यास या हेल्पलाईन नंबरवर संपर्क साधून मदत मिळवू शकता.

बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन.