गूगल ने 'बचपन में नहाते हुए फोटो' अपलोड करने पर क्यों बंद किया इंजीनियर का अकाउंट

भारत में नहाते समय छोटे बच्चों की तस्वीरें लेना आम बात है. आम तौर पर परिवार वाले इसे बच्चों की स्मृति चिन्ह के तौर पर संजो कर रखते हैं.

समय के साथ आम लोगों के जीवन में तकनीक का दख़ल बढ़ता जा रहा है. लोग तस्वीरों और वीडियो संबंधी अपनी स्मृतियों को तकनीक की मदद से लंबे समय तक सेव करने लगे हैं, लेकिन बचपन की नहाते हुए तस्वीरों को गूगल पर अपलोड करने से आपकी मुश्किलें बढ़ सकती हैं.

हाल ही में गुजरात के आईटी प्रोफेशनल के साथ ऐसा ही हुआ है.

अहमदाबाद के 26 साल के नील शुक्ला को अपने बचपन की एक तस्वीर के कारण गूगल जैसी मल्टीनेशनल कंपनी के ख़िलाफ़ गुजरात हाई कोर्ट का दरवाजा खटखटाना पड़ा.

नील शुक्ला कहते हैं, "मेरी दादी मुझे बचपन में नहलाती थीं, इससे गूगल को क्या फ़र्क पड़ता है? गूगल ने बचपन की उस तस्वीर के कारण मेरा अकाउंट ब्लॉक कर दिया."

गूगल ने उनका खाता तब ब्लॉक किया जब उन्होंने दादी के हाथों नहलाने वाली अपनी तस्वीर को डिज़िटली सेव करने के लिए अपलोड किया था. इतना ही नहीं उन्हें गूगल से एक संदेश मिला जिसमें उन्हें बताया गया था कि उनका ईमेल का डेटा भी डिलीट कर दिया जाएगा, जिसमें उनका पेशेवर करियर, शैक्षणिक दस्तावेज़, वित्तीय लेन-देन की सुविधा वाला गूगल पे आदि शामिल थे.

नील शुक्ला ने गूगल को उनका अकाउंट डिलीट करने से रोकने संबंधी पत्र लिखा. इसके बाद गुजरात सरकार के विज्ञान एवं प्रौद्योगिकी विभाग, गुजरात पुलिस के साइबर क्राइम विभाग को लिखित शिकायत की, लेकिन इस समस्या का कोई समाधान न मिलने पर नील शुक्ला ने गुजरात हाई कोर्ट में मामला दायर किया है.

गूगल के फैसले के खिलाफ हाई कोर्ट में अपील

इस मामले में गूगल ने बीबीसी को बताया कि कंपनी विशिष्ट सवालों का जवाब नहीं दे सकती है, क्योंकि मामला माननीय हाई कोर्ट के समक्ष लंबित है, लेकिन कंपनी ने बाल यौन शोषण सामग्री के संबंध में गूगल की सीएसएएम नीति और कार्यक्रम का हवाला दिया.

कंपनी ने कहा कि बच्चों को दिखाने वाली किसी भी सीएसएएम या यौन सामग्री को तुरंत हटा दिया जाता है और खाता भी समाप्त किया जा सकता है.

मामला जितना दिखता है उससे कहीं ज्यादा गंभीर है, क्योंकि भारत में लाखों लोग और हज़ारों कंपनियां अपने अकाउंट के ज़रिए गूगल की विभिन्न सेवाओं का इस्तेमाल करते हैं.

ऐसी समस्याओं के लिए हाई कोर्ट में केस दाख़िल करने की समझ और सुविधा सभी लोगों के पास नहीं होती है.

गूगल अपनी ये सेवाएं अधिकतर मुफ़्त में प्रदान करता है, लेकिन कुछ सेवाओं के लिए लोग और कंपनियां गूगल को भुगतान भी करते हैं.

नील के पिता समीर शुक्ला कहते हैं, ''यह सिर्फ़ ग्राहक और कंपनी के बीच का झगड़ा नहीं है, लेकिन लाखों लोगों की निजता के अधिकार के कथित उल्लंघन के ख़िलाफ़ क़ानून की सुरक्षा मांगने का मामला है.''

नील और उनके परिवार के अनुसार, ''गूगल और उसके कर्मचारी आपकी जानकारी और सहमति के बिना आपके व्यक्तिगत और निजी डेटा को अपने पास रख सकते हैं. उस डेटा का अपने तरीक़े से इस्तेमाल कर सकते हैं."

"इतना ही नहीं, आपको पक्ष रखने का उचित मौका दिए बिना अकाउंट डिलीट करने से वित्तीय नुकसान के साथ-साथ मानसिक तनाव भी हो सकता है और सामाजिक प्रतिष्ठा पर सवाल खड़े हो सकते हैं.''

ऐसे ही सवालों के साथ नील शुक्ला ने गूगल को उनका अकाउंट डिलीट करने से रोकने के लिए हाई कोर्ट में अर्ज़ी दाख़िल की है.

एक ही अकाउंट में हैं सारी जानकारियां

गौरतलब है कि नील शुक्ला को अगस्त 2023 से उनका अकाउंट डिलीट करने से रोकने के लिए गूगल को भेजे गए क़ानूनी नोटिस का गूगल ने कोई जवाब नहीं दिया.

मंगलवार, 2 अप्रैल 2024 को गुजरात हाई कोर्ट में हुई इस मामले की सुनवाई में भी गूगल का कोई वकील मौजूद नहीं था.

गूगल की ओर से नील शुक्ला को बताया गया था कि उनका खाता पांच अप्रैल को स्थायी रूप से हटा दिया जाएगा, लेकिन उन्हें अपना डेटा डाउनलोड करने की अनुमति भी नहीं मिली है.

हालांकि इस मामले में गूगल ने उनका खाता हटाया है या नहीं, ये स्पष्ट नहीं हो सका है.

गुजरात हाई कोर्ट में जस्टिस वैभवी नानावटी की अदालत ने इस मामले में अगले आदेश तक गूगल के नील शुक्ला का अकाउंट डिलीट करने पर रोक लगा दी है. इस मामले की अगली सुनवाई अब 30 अप्रैल को होगी.

नील शुक्ला ने बीबीसी से कहा, "मेरी दादी मुझे नहला रही थीं, इसकी गूगल को क्या परवाह? मेरे बचपन की उस तस्वीर की वजह से गूगल ने मेरा अकाउंट ब्लॉक कर दिया है. इसकी वजह से गूगल से जुड़े मेरे सभी सोशल मीडिया अकाउंट भी ब्लॉक कर दिए गए हैं. मेरे व्यवसाय संचालन, मेरी सारी बचत और निवेश संबंधी डेटा उस खाते में था."

उन्होंने कहा, ''मैंने गुजरात हाई कोर्ट में केस दायर किया है ताकि मेरे जैसे दूसरे लोग गूगल की इस मनमानी का शिकार न बनें.''

सूचना प्रौद्योगिकी इंजीनियरिंग की पढ़ाई करने वाले नील ने कहा, "यह गूगल अकाउंट मेरे पास 2013 से था. मैंने पढ़ाई के बाद अपना बिज़नेस शुरू किया और उस अकाउंट के ज़रिए इसे बढ़ाने के लिए मार्केटिंग और प्रमोशन किया. इसके ज़रिए मुझे बिज़नेस भी मिल रहा था."

उन्होंने यह भी बताया, "मैंने सॉफ्टवेयर के क्षेत्र में खुद को अपडेट करने के लिए इस खाते के माध्यम से आर्टिफिशियल इंटेलिजेंस पर अलग-अलग एडवांस ऑनलाइन कोर्स पूरे किए हैं. मैंने अपने सभी प्रोजेक्ट गूगल खाते पर ही सेव रखे थे. ऑनलाइन पाठ्यक्रमों के प्रमाणपत्र भी ईमेल पर आते हैं."

"यह सब मेरे ईमेल खाते में था. शेयर बाज़ार में निवेश, मेरे बैंक खाते, मेरे ग्राहकों के साथ बिजनेस ईमेल भी उसी खाते में थे. जो अब बंद हैं. मेरे ग्राहक मुझे ईमेल करते हैं, लेकिन मैं नहीं देख सकता."

नील ने अपने डेटा को ऑनलाइन सेव करने के लिए गूगल से दो टीबी का स्टोरेज़ भी अलग से ख़रीदा था.

उन्होंने कहा, "हमारे परिवार के पास बहुत सारी तस्वीरें हैं. मैंने उन्हें डिजिटाइज़ करने और ऑनलाइन ड्राइव में स्टोर करने का फ़ैसला लिया था, क्योंकि हार्ड डिस्क के भी करप्ट होने का ख़तरा होता है. उन सैकड़ों तस्वीरों में से एक ऐसी भी तस्वीर थी जो तब ली गई थी जब दादी मुझे नहला रही थीं."

अपने गूगल खाते पर तस्वीर अपलोड करने के तुरंत बाद नील को 11 मई, 2023 को गूगल से एक अधिसूचना प्राप्त हुई, जिसमें बताया गया कि उनका खाता ब्लॉक कर दिया गया है.

गूगल ने सीएसएएम प्रोग्राम के बारे में क्या कहा?

गूगल के मुताबिक, नील ने उनकी सेवा शर्तों का उल्लंघन किया है. वहीं नील की ओर से भी गूगल पर कई आरोप लगाए गए हैं.

अपने आरोपों के साथ उन्होंने हाई कोर्ट का रुख़ करते हुए कहा है कि गूगल ने उनके व्यक्तिगत अधिकारों का उल्लंघन किया है.

उन्होंने याचिका में कहा है कि गूगल ने पांच तरह से उनके अधिकारों का उल्लंघन किया है. वे कहते हैं-

आवेदन में कहा गया है कि ये तस्वीरें 1999-2000 के बीच ली गई थीं. उस समय, कोई भी कल्पना नहीं कर सकता था कि जिस तकनीक पर किसी की निगरानी नहीं थी, वह लोगों के जीवन को बदलने वाले निर्णय ले लेगी.

नील ने कहा, "मैं गूगल की शर्तों के तहत उस तस्वीर को अपने स्टोरेज़ से हटा दूंगा लेकिन मेरे पास वैसा करने का विकल्प भी मौजूद नहीं है."

गूगल का क्या कहना है?

गूगल ने बीबीसी संवाददाता पारस झा को एक ईमेल में बताया कि हम इस मामले में सवालों का उत्तर नहीं दे सकते क्योंकि मामला माननीय हाई कोर्ट के समक्ष लंबित है, लेकिन हम सीएसएएम सामग्री के संबंध में अपनी नीतियों और कार्यक्रमों के बारे में बता सकते हैं.

गूगल ने बीबीसी को बताया, "हम अपने किसी भी प्लेटफ़ॉर्म पर बाल यौन शोषण सामग्री को शेयर होने से रोकते हैं. हम बच्चों को शोषण से बचाने के लिए प्रतिबद्ध हैं."

"जब भी हमें सीएसएएम या यौन सामग्री मिलती है जिसमें बच्चे शामिल होते हैं, तो हम उसे तुरंत हटा देते हैं और खाता भी बंद कर सकते हैं."

गूगल ने कहा कि हालांकि हमारे प्लेटफ़ॉर्म पर अपलोड या साझा की गई सामग्री में CSAM सामग्री की मात्रा बहुत कम है, फिर भी हम इस संबंध में बहुत सतर्क हैं.

गूगल ने ये जानकारी भी दी है कि कंपनी ने एक विशिष्ट तकनीक विकसित की है जो हमारी सीएसएएम सामग्री परिभाषा को पूरा करने वाली किसी भी अपलोड की गई सामग्री को तुरंत पहचानती है और हटा देती है.

सीएसएएम सामग्री की पहचान करने के लिए गूगल आर्टिफिशियल इंटेलिजेंस और हैश-मैचिंग तकनीक का उपयोग करती है.

गूगल ने कहा, "हमारी तकनीक उस पैमाने और गति को संभालने के लिए डिज़ाइन की गई है जिस पर दुर्भाग्य से दुनिया भर से इस प्रकार की घृणित सामग्री अपलोड की जा रही है."

'दादी का बच्चे को नहलाना चाइल्ड पोर्नोग्राफ़ी नहीं'

नील के पिता समीर शुक्ला पेशे से आर्किटेक्ट हैं. उन्होंने क़ानून की पढ़ाई भी की है.

उन्होंने बीबीसी से कहा, ''गूगल इतनी बड़ी कंपनी बन गई है कि वह भारतीय संस्कृति, भारतीयों की भावनाओं को समझने के लिए तैयार नहीं है? भारतीय संस्कृति में दादी का बच्चे को नहलाना कभी भी चाइल्ड पोर्नोग्राफ़ी नहीं है, लेकिन कंपनी अपने आप फ़ैसले ले रही है."

उन्होंने कहा, ''एक और बड़ी समस्या यह है कि सिविल कोर्ट के पास सूचना प्रौद्योगिकी अधिनियम के तहत ऐसे मामलों में कार्रवाई करने का अधिकार क्षेत्र नहीं है. यह कार्रवाई 2000 में बने नए नियमों के अनुसार साइबर अपीलेट ट्रिब्यूनल को दी गई है. वहां भी अपील की, लेकिन कोई कार्रवाई नहीं की गई.''

सूचना प्रौद्योगिकी अधिनियम के लिए निर्धारित नियमों के अनुसार, ऐसे मामलों में आपराधिक शिकायतों की जांच पुलिस की साइबर अपराध शाखा करेगी और विवादों की सुनवाई राज्य के विज्ञान और प्रौद्योगिकी विभाग के सचिव के पास होती है.

इस मामले में नील शुक्ला ने गुजरात के विज्ञान एवं प्रौद्योगिकी विभाग की प्रमुख सचिव मोना खंडधार के समक्ष भी आवेदन दिया था.

इस मामले में मोना खंडधार ने बीबीसी से कहा, ''सूचना प्रौद्योगिकी अधिनियम के तहत हमारे विभाग को ऐसी शिकायतें मिलती हैं.''

हालांकि, उन्होंने विवरण की जांच किए बिना किसी व्यक्तिगत मामले पर टिप्पणी करने से इनकार कर दिया.

केंद्र सरकार के आईटी एक्ट में क्या है प्रावधान?

गुजरात सरकार के विज्ञान और प्रौद्योगिकी विभाग में अधिनियम से परिचित एक अधिकारी ने नाम न छापने का अनुरोध करते हुए कहा कि आईटी अधिनियम के अध्याय 9 में पहले धारा (43) और 43 (ए) थीं.

उन्होंने कहा कि इस धारा 43 (ए) के तहत बड़ी कॉरपोरेट कंपनियों से इस मामले में जवाब मांगा जा सकता है, लेकिन डिजिटल पर्सनल डेटा प्रोटेक्शन एक्ट, 2023 (डीपीडीपी एक्ट, 2023) के बाद केंद्र सरकार ने आईटी एक्ट से धारा 43(ए) को हटा दिया है. इसलिए इस घटना पर क्या कार्रवाई की जा सकती है, इस पर कोई स्पष्टता नहीं है.

हालांकि, साइबर कानून विशेषज्ञ और सुप्रीम कोर्ट के वकील डॉक्टर पवन दुग्गल के अनुसार, आईटी अधिनियम की धारा 43 (ए) अभी भी इस मामले में लागू की जा सकती है और कानूनी कार्रवाई में इसका इस्तेमाल किया जा सकता है.

उन्होंने कहा, "यह सच है कि सरकार ने आईटी अधिनियम में संशोधन कर धारा 43 (ए) को हटा दिया है, लेकिन डीपीडीपी अधिनियम-2023 को अभी भी लागू किया जाना बाक़ी है. इसलिए आज तक 43 (ए) की विधायी प्रक्रिया आईटी अधिनियम अभी भी लंबित है और इसका उपयोग किया जा सकता है."

गुजरात हाई कोर्ट में नील शुक्ला के वकील दीपेन देसाई ने बीबीसी को बताया, "हाई कोर्ट ने गुजरात सरकार के विज्ञान और प्रौद्योगिकी विभाग, केंद्र सरकार के साइबर अपीलेट ट्रिब्यूनल को एक नोटिस जारी किया है कि इस मामले में जवाब दें और अगले आदेश तक नील का अकाउंट गूगल डिलीट नहीं करे. मामले की अगली सुनवाई 30 अप्रैल को होगी."

एआई से क्या है ख़तरा और क़ानून की सुरक्षा क्या है?

गूगल जैसी वैश्विक प्रौद्योगिकी कंपनियों के आर्टिफिशियल इंटेलिजेंस के इस्तेमाल और इसके खतरों के बारे में डॉ. पवन दुग्गल कहते हैं, "जब तकनीक मानवीय मामलों के लिए निर्णय लेने लगती है, तो ग़लतियाँ होना स्वाभाविक है, क्योंकि तकनीक अभी इतनी परिपक्व नहीं है कि मानव संस्कृति, मानवीय भावनाओं और मानव व्यवहार की बारीकियों को समझ सके."

वो कहते हैं, "यही वजह है कि प्रौद्योगिकी छवि में मानव को केवल एक प्रकार के डेटा के रूप में देखती है और फिर उस डेटा की तुलना सीएसएएम (बाल यौन शोषण सामग्री) के नियमों से करती है. अगर यह नियमों को पूरा करता है तो एआई तकनीक उन निर्णयों को लेती है, तो शायद ऐसा हुआ होगा.”

डॉ. दुग्गल इस घटना को एक चेतावनी के तौर पर देखते हैं. उन्होंने कहा, "यह एक तरह से चेतावनी देने वाला मामला है. गूगल जैसी कंपनी को यह सुनिश्चित करना होगा कि ऐसा दोबारा न हो."

"यह मुद्दा बड़े सवाल की ओर इशारा करता है कि क्या गूगल जैसे मध्यस्थों को अपने कार्यों और उद्देश्यों के लिए एआई का उपयोग शुरू करते समय उचित स्तर का मानव नियंत्रण बनाए रखने की आवश्यकता है. एआई को पूरी तरह से छूट और स्वायत्तता देना उचित नहीं है."

(पारस झा की अतिरिक्त रिपोर्टिंग के साथ)

(बीबीसी हिन्दी के एंड्रॉएड ऐप के लिए आप यहां क्लिक कर सकते हैं. आप हमें फ़ेसबुक, ट्विटर, इंस्टाग्राम और यूट्यूब पर फ़ॉलो भी कर सकते हैं.)