'બાળપણમાં સ્નાનના ફોટા'ના કારણે ગૂગલે ગુજરાતી ઍન્જિનિયરનું એકાઉન્ટ બ્લૉક કેમ કર્યું, શું છે સમગ્ર મામલો?

"મારી દાદી મને નવડાવે એમાં ગૂગલને શું કામ વાંધો હોવો જોઈએ? મારા બાળપણના એ ફોટોગ્રાફને કારણે ગૂગલે મારું એકાઉન્ટ બ્લૉક કરી દીધું છે."

આ શબ્દો છે અમદાવાદમાં રહેતા 26 વર્ષના નીલ શુક્લના જેમને પોતાના બાળપણના એક ફોટોને કારણે ગૂગલ જેવી મહાકાય કંપની સામે ગુજરાત હાઈકોર્ટમાં જવું પડ્યું છે.

નીલ શુક્લ પોતે ઇન્ફોર્મેશન ઍન્ડ કૉમ્યુનિકેશન ટેકનૉલૉજી (આઈસીટી) ઍન્જિનિયર છે અને તેમના જ બાળપણનો ફોટોગ્રાફ (જેમાં તેમનાં દાદી તેમને સ્નાન કરાવે છે) ગૂગલમાં પોતાના એકાઉન્ટમાં યાદગીરી માટે ડિજિટલ ફૉર્મેટમાં અપલોડ કર્યો તો ગૂગલે તેમનું એકાઉન્ટ બ્લૉક કરી દીધું છે.

નોંધપાત્ર બાબત એ છે કે, નીલે હાઈકોર્ટમાં કરેલી અરજી પ્રમાણે આ તસવીર અશ્લીલ છે કે નહીં, તેની ચકાસણી ગૂગલ દ્વારા ઉપયોગમાં લેવાતા આર્ટિફિશિયલ ઇન્ટેલિજન્સના પ્રોગ્રાંમ દ્વારા કરવામાં આવી હતી. નીલે તેની સામે ગૂગલમાં કરેલી બે અપીલનો નિર્ણય પણ આર્ટિફિશિયલ ઇન્ટેલિજન્સના પ્રોગ્રામે જ કરી હોવાનો દાવો તેમણે પોતાની અરજીમાં કર્યો છે.

એટલું જ નહીં આ તસવીર ગૂગલની નીતિ પ્રમાણે બાળકના જાતીય શોષણની અશ્લીલ સામગ્રી હોવાનું કારણ આપીને તેમના એકાઉન્ટમાં રહેલા વ્યાવસાયિક, વ્યક્તિગત અને શૈક્ષણિક દસ્તાવેજોનો ડેટા ધરાવતા ઇમેલ, ગૂગલ પે (યુપીઆઈ) જેવી આર્થિક લેવડદેવડની સુવિધા વગેરેનો ડેટા ડિલીટ કરી દેવાનો મૅસેજ આપ્યો છે.

નીલ શુક્લે ગૂગલ, ગુજરાત સરકારના સાયન્સ ઍન્ડ ટેકનૉલૉજી ડિપાર્ટમેન્ટ, ગુજરાત પોલીસના સાયબર ક્રાઇમ વિભાગ એ તમામને લેખિત ફરિયાદો કર્યા બાદ પણ આ સમસ્યાનું કોઈ નિરાકરણ ન આવતા આખરે તેમણે ગુજરાત હાઈકોર્ટમાં કેસ દાખલ કર્યો છે.

આ મામલે ગૂગલે બીબીસીને જણાવ્યું કે આ મામલો માનનીય હાઈકોર્ટમાં ન્યાયાધીન હોવાથી કંપની ચોક્કસ પ્રશ્નોના જવાબ નહીં આપી શકે. પરંતુ કંપનીએ CSAM (ચાઇલ્ડ સેક્સ્યુઅલ ઍબ્યુઝ મટિરિયલ) કન્ટેન્ટની લગતી ગૂગલની પૉલિસી અને પ્રોગ્રામને ટાંકતા કહ્યું કે CSAM કે એવો સેક્સયુલ કન્ટેનટ મળે કે જેમાં બાળકોને પણ દેખાડવામાં આવ્યાં છે તો તરત જ તેને હટાવાય છે અને તે એકાઉન્ટને પણ બંધ કરી શકાય છે."

આ કેસની ચર્ચા શા માટે છે?

આ મામલો દેખાય છે તેના કરતાં વધુ ગંભીર એટલા માટે છે કારણ કે ભારતમાં કરોડો લોકો અને હજારો કંપનીઓ ગૂગલની વિવિધ સેવાઓનો ઉપયોગ તેમના એકાઉન્ટ દ્વારા કરે છે. આ પ્રકારની સમસ્યાઓ માટે હાઈકોર્ટમાં કેસ થઈ શકે તેવી સમજ અને સગવડ બધા જ લોકો પાસે નથી હોતી.

ગૂગલ મોટે ભાગે આ સેવાઓ ગૂગલ વિનામૂલ્યે આપે છે, પરંતુ કેટલીક સેવાઓ માટે લોકો અને કંપનીઓ ગૂગલને નાણાં પણ ચૂકવે છે.

નીલના પિતા સમીર શુક્લ કહે છે કે 'આ માત્ર ગ્રાહક અને કંપની વચ્ચેની તકરાર નથી. પરંતુ કરોડો લોકોની પ્રાઇવસી (નિજતા)ના અધિકારના કથિત હનન સામે કાયદાનું રક્ષણ મેળવવાનો કેસ છે.'

નીલ અને તેમના પરિવારના મતે 'ગૂગલ અને તેના કર્મચારીઓ તેમની પાસે રહેલા તમારા વ્યક્તિગત અને ખાનગી ડેટાને તમારી જાણબહાર અને મંજૂરી વિના જોઈ શકે છે. એ ડેટાનું પોતાની રીતે અર્થઘટન પણ કરી શકે છે. એટલું જ નહીં, તેને તમારો પક્ષ રજૂ કરવાની યોગ્ય તક આપ્યા વિના તમારું એકાઉન્ટ ડિલીટ કરીને તમને આર્થિક નુકસાનની સાથે સાથે માનસિક તણાવ આપવા અને તમારી સામાજિક ઇમેજ સામે પ્રશ્નો પણ ઊભા કરાવી શકે છે.'

આવા જ પ્રશ્નો સાથે નીલ શુક્લે હાઈકોર્ટમાં ગૂગલને પોતાનું એકાઉન્ટ ડિલીટ કરવાથી રોકવા માટે અરજી કરી છે.

નોંધપાત્ર બાબત એ છે કે, ઑગસ્ટ 2023થી નીલ શુકલને પોતાનું એકાઉન્ટ ડિલીટ થવાથી રોકવા માટે ગૂગલને મોકલાવેલી લીગલ નોટિસનો કોઈ જ જવાબ ગૂગલે આપ્યો નથી. મંગળવાર, 2 એપ્રિલ, 2024ના દિવસે ગુજરાત હાઈકોર્ટમાં થયેલી આ કેસની સુનાવણીમાં પણ ગૂગલ તરફથી તેના કોઈ વકીલ હાજર રહ્યા નહોતા.

નીલ શુક્લનું એકાઉન્ટ 5 એપ્રિલના દિવસે કાયમ માટે ડિલીટ કરી દેવામાં આવશે તેમ ગૂગલ દ્વારા તેમને જણાવવામાં આવ્યું હતું, પરંતુ એમના એ બ્લૉક થયેલા એકાઉન્ટમાંથી તેમનો ડેટા ડાઉનલોડ કરવા માટે તેમને એ એકાઉન્ટનું એક્સેસ આપવામાં આવ્યું નહોતું.

જોકે, ગુજરાત હાઈકોર્ટમાં જસ્ટિસ વૈભવી નાણાવટીની કોર્ટ દ્વારા ગૂગલને નીલ શુક્લનું એકાઉન્ટ ડિલીટ કરવા સામે આ કેસમાં બીજો કોઈ ઑર્ડર થાય ત્યાં સુધી સ્ટે આપવામાં આવ્યો છે.

આર્ટિફિશિયલ ઇન્ટેલિજન્સે એકાઉન્ટ બ્લૉક કરવાનો કેસ શું છે?

નીલ શુક્લ બીબીસી સાથે વાત કરતા કહે છે, "મારી દાદી મને નવડાવે એમાં ગૂગલને શું કામ વાંધો હોવો જોઈએ? મારા બાળપણના એ ફોટોગ્રાફને કારણે ગૂગલે મારું એકાઉન્ટ બ્લૉક કરી દીધું છે. તેને લીધે ગૂગલ સાથે જોડાયેલાં મારા તમામ સોશિયલ મીડિયા એકાઉન્ટ્સ પણ બ્લૉક થઈ ગયાં છે. મારા બિઝનેસનું તમામ કામકાજ, મારી બચત અને ઇન્વેસ્ટમેન્ટનો બધો જ ડેટા એ એકાઉન્ટમાં જ હતો."

તેમણે કહ્યું, "મારી જેમ બીજા લોકો પણ ગૂગલની આ મનમાનીનો ભોગ ના બને તે માટે મેં ગુજરાત હાઈકોર્ટમાં કેસ દાખલ કર્યો છે."

આઈસીટી એન્જિનિયરિંગનો અભ્યાસ કર્યા બાદ નીલ ઇન્ફોર્મેશન ટેકનૉલૉજી ક્ષેત્રમાં ઝડપથી આવતાં પરિવર્તનોથી સતત વાકેફ રહેવા માટે સતત ઑનલાઇન કોર્સિસ કરતા હતા. તેમણે કહ્યું, "મારી પાસે ગૂગલનું આ એકાઉન્ટ વર્ષ 2013થી હતું. મેં અભ્યાસ પછી મારો બિઝનેસ શરૂ કર્યો અને તેને વિકસાવવા માટેનું માર્કેટિંગ અને પ્રમોશન પણ એ એકાઉન્ટ મારફતે જ કર્યું હતું. મને બિઝનેસ પણ મળી રહ્યો હતો."

તેમણે વધુમાં કહ્યું, "સૉફ્ટવેર ક્ષેત્રે થઈ રહેલાં નવાં પરિવર્તનો સાથે અપડેટ કરવા માટે મેં આ એકાઉન્ટ મારફતે જ જુદા જુદા આર્ટિફિશિયલ ઇન્ટેલિજન્સનાં ઍડ્વાન્સ ઑનલાઇન કોર્સ કર્યા હતા. મારા બધા પ્રોજેક્ટ મેં સોશિયલ મીડિયા પર રાખ્યા હતા.ઑનલાઇન કોર્સનાં સર્ટિફિકેટ પણ ઈમેલ પર જ આવે છે."

"આ બધું મારા ઇમેલ એકાઉન્ટમાં જ સંઘરાયેલું હતું. મેં સ્ટૉક માર્કેટમાં કરેલું ઇન્વેસ્ટમેન્ટ, મારી બૅન્કની લેવડદેવડના હિસાબો, મારા ક્લાયન્ટ સાથેનો બિઝનેસ માટેનો ઇમેલ સંદેશાવ્યવહાર બધું જ એ એકાઉન્ટમાં હતું. જે બ્લૉક થઈ ગયું છે. મારા ક્લાયન્ટ્સ મને ઇમેલ કરે છે, પરંતુ હું તેને જોઈ નથી શકતો."

નીલે ગૂગલ પાસે પોતાનો ડેટાનો ઑનલાઇન સંગ્રહ કરવા માટે ગૂગલે નિર્ધારિત કરેલો ચાર્જ આપીને 2 ટીબી (2 ટેરાબાઇટ) જેટલી સ્ટોરેજ સ્પેસ પણ ખરીદી હતી.

તેમણે કહ્યું,"અમારા પરિવાર પાસે ખૂબ તસવીરો છે. મેં એનું ડિજિટાઇજેશન કરીને તેને ઓનલાઇન ડ્રાઇવમાં સ્ટોર કરવાનું નક્કી કર્યું હતું. કારણ કે, હાર્ડડિસ્કમાં પણ વાઇરસ આવીને તે ખરાબ થઈ જવાનો ભય રહે છે. અમારી પાસે રહેલી સેંકડો તસવીરોમાંથી એક તસવીર મને બાળપણમાં મારાં દાદી નવડાવી રહ્યાં હોય તેવી પણ છે."

નીલે એ તસવીર તેમના ગૂગલ એકાઉન્ટમાં અપલોડ કરી તેના થોડા સમય બાદ તેમને 11 મે, 2023ના દિવસે ગૂગલમાંથી નોટિફિકેશન આવ્યું અને એમને એ એકાઉન્ટ બ્લૉક થઈ ગયું હોવાની જાણ થઈ.

ગૂગલના કહેવા પ્રમાણે નીલે તેમની ટર્મ્સ ઑફ સર્વિસ (સેવાની શરતો)નું ઉલ્લંઘન કર્યું છે.

ગૂગલ પર નીલના અધિકારોનું હનન કરવાનો કયા આરોપ છે?

નીલે તેમના વ્યક્તિગત અધિકારોનું ગૂગલના એક આર્ટિફિશિયલ ઇન્ટેલિજન્સથી ચાલતા પ્રોગ્રામે કેવી રીતે ઉલ્લંઘન કર્યું છે તેમ મામલે હાઈકોર્ટમાં રજૂઆત કરી છે.

તેમણે અરજીમાં જણાવ્યું છે, "ગૂગલે નીલના અધિકારોનું પાંચ બાબતે ઉલ્લંઘન કર્યું છે. જેમાં

-તેમનો પક્ષ સાંભળ્યા વિના જ તેમનું એકાઉન્ટ બ્લૉક કરી દેવામાં આવ્યું

- તેમના અધિકારોનું ઉલ્લંઘન કરવાનો આ નિર્ણય કોઈ માણસે નહીં પણ સંપૂર્ણપણે ટેકનૉલૉજીએ કર્યો છે.

- ગૂગલની ટર્મ્સ ઑફ સર્વિસીસ CSAM (ગૂગલ અશ્લીલ સામગ્રીને ચકાસવા માટે જેનો ઉપયોગ કરે છે તે આર્ટિફિશિલ ઇન્ટેલિજન્સના પ્રોગ્રામનું નામ)ને ટેકો આપે છે જે અનુચિત અને બાધક છે.

- CSAM ના નિર્ણયો સમગ્ર વિશ્વના વપરાશકર્તાઓને અસર કરે છે તેમ છતાં આ પ્રોગ્રામને અલગ જાતિના લોકો તરફ ખરાબ વર્તન ધરાવતા અને ભેદભાવ યુક્ત વલણ ધરાવતા ડેટા દ્વારા ટ્રેનિંગ આપવામાં આવી છે.

- CSAMને બાળકનું શરીર દેખાય તેવી તમામ સામગ્રીને બાળઅધિકારોના ઉલ્લંઘન તરીકે નક્કી કરી લેવાની ટ્રેનિંગ અપાઈ છે, જેમાં નીલના બાળપણમાં લેવાયેલી એ ભૂતકાળની તસવીરો પણ સામેલ છે."

અરજીમાં જણાવવામાં આવ્યું છે કે એ તસવીરો 1999-2000ના સમયગાળામાં લેવામાં આવી હતી. એ સમયે કોઈને એવો વિચાર પણ નહીં આવ્યો હોય કે જેની પર કોઈ દેખરેખ નથી રખાતી તેવી ટેકનૉલૉજી લોકો માટે તેમનું જીવન બદલી નાખે તેવા નિર્ણયો કરશે.

નીલે કહ્યું, "જો મારે ગૂગલની શરતોને આધીન એ તસવીરો મારા સ્ટોરેજમાંથી દૂર કરવી હોય તો પણ મને એ દૂર કરવા માટેની કોઈ તક જ નથી."

ગૂગલે CSAM પ્રોગ્રામ વિશે શું કહ્યું?

ગૂગલે બીબીસીના સંવાદદાતા પારસ જ્હાને એક ઇમેઇલ થકી જણાવ્યું કે આ મામલો માનનીય હાઈકોર્ટમાં ન્યાયાધીન હોવાથી અમે ચોક્કસ પ્રશ્નોના જવાબ નહીં આપી શકીએ. પરંતુ અમે CSAM કન્ટેન્ટની લગતી અમારી પૉલિસી અને પ્રોગ્રામ વિશે જણાવી શકીએ.

ગૂગલે બીબીસીને જણાવ્યું, "અમે ગેરકાયદેસર રીતે થઈ રહેલી બાળકોની જાતીય સતામણીને લગતા કન્ટેન્ટને અમારા કોઈપણ પ્લેટકઑર્મ પર ફેલાવતા અટકાવીએ છે. અમે બાળકોને શોષણમાંથી બચાવવા માટે પ્રતિબદ્ધ છીએ."

"અમને જ્યારે પણ CSAM કે એવો સેક્સયુલ કન્ટેનટ મળે કે જેમાં બાળકોને પણ દેખાડવામાં આવ્યાં છે તો અમે તરત જ તેને હટાવીએ છીએ અને તે એકાઉન્ટને પણ બંધ કરી શકીએ છીએ."

ગૂગલે ઉમેર્યું કે અમારા પ્લૅટફૉર્મ પર અપલૉડ કે શેર થતા મટિરિયલમાં CSAM કન્ટેન્ટની સંખ્યા ખૂબ જ ઓછી છે તેમ છતાં આ બાબતે અમે એકદમ સાવચેતીપૂર્વક કામ કરીએ છીએ.

અમે એક ચોક્કસ ટેકનૉલૉજી વિકસાવી છે જે અમારી CSAM કન્ટેન્ટની વ્યાખ્યા અનુસાર અપલૉડ કરાયેલા કોઈપણ કન્ટેન્ટની ઝડપથી ઓળખ કરીને તેને હટાવી નાખે છે.

અમે CSAM કન્ટેન્ટની ઓળખાણ કરવા માટે આર્ટિફિશયલ ઇન્ટેલિજન્સ અને હેશ-મૅચિંગ ટેકનોલોજીના સંયોજનનો ઉપયોગ કરીએ છીએ.

ગુગલે કહ્યું, "અમારી ટેકનૉલૉજીને એ રીતે ડિઝાઇન કરવામાં આવી છે કે એ સ્કેલ અને ઝડપ સાથે કામ કરી શકે જે ઝડપે આ પ્રકારના ધૃણાસ્પદ કન્ટેન્ટને કમનસીબે આખી દુનિયામાંથી અપલૉડ કરવામાં આવે છે."

આવી સમસ્યાના ઉકેલ માટે હાઈકોર્ટમાં જ જવું પડે?

નીલના પિતા સમીર શુક્લ વ્યવસાયે આર્કિટેક્ટ છે અને તેમણે કાયદાનો પણ અભ્યાસ કર્યો છે. તેમણે બીબીસીને કહ્યું, કહ્યું, "ગૂગલ એટલી મોટી કંપની થઈ ગઈ છે કે ભારતીય સંસ્કૃતિ, ભારતીયોની લાગણીઓ સમજવા તૈયાર નથી? ભારતીય સંસ્કૃતિમાં દાદી બાળકને સ્નાન કરાવે એ કોઈકાળે ચાઇલ્ડ પૉર્નોગ્રાફી નથી. અહીં આર્ટિફિશિયલ ઇન્ટેલિજન્સથી ઑટોમૅટેડ નિર્ણય કરવામાં આવે છે."

તેમણે કહ્યું, "બીજી મોટી તકલીફ એ છે કે ઇન્ફોર્મેશન ટેકનૉલૉજી ઍક્ટ અનુસાર સિવિલ કોર્ટને આવા મામલે કાર્યવાહી કરવાની સત્તા નથી. આ કાર્યવાહી 2000માં બનેલા નવા નિયમ પ્રમાણે સાયબર ઍપલેટ ટ્રિબ્યુનલને સત્તા આપવામાં આવી છે. અમે એમાં પણ રજૂઆત કરી પણ કોઈ પગલાં નથી લેવાયા."

ઇન્ફોર્મેશન ટેકનૉલૉજી ઍક્ટ માટે નિર્ધારિત થયેલા નિયમો અનુસાર આ પ્રકારના કિસ્સામાં આવતી ગુનાઇત ફરિયાદોની તપાસ પોલીસના સાયબર ક્રાઇમ વિભાગે કરવાની હોય છે અને તેની વિવાદોની ફરિયાદની સુનાવણી જે-તે રાજ્યના સાયન્સ ઍન્ડ ટેકનૉલૉજી વિભાગના સેક્રેટરીએ (ક્વૉસી જ્યુડિશિયલ) ન્યાયાધીશ તરીકે કરવાની હોય છે.

આ મામલે નીલ શુક્લે ગુજરાતના સાયન્સ ઍન્ડ ટેકનૉલૉજી વિભાગનાં અગ્ર સચિવ મોના ખંધાર સમક્ષ અરજી પણ કરી હતી. આ મામલે મોના ખંધારે બીબીસીને જણાવ્યું, "ઇન્ફોર્મેશન ટેકનૉલૉજી ઍક્ટ હેઠળ અમારા વિભાગ પાસે આ પ્રકારની ફરિયાદો આવે છે."

જોકે તેમણે કોઈ વ્યક્તિગત કેસ મામલે પૂરતી વિગતો તપાસ્યા વિના ટિપ્પણી કરવાનો ઇનકાર કરી દીધો હતો.

કેન્દ્ર સરકારના આઈટી ઍક્ટમાં શું જોગવાઈ છે?

ગુજરાત સરકારના સાયન્સ ઍન્ડ ટેકનૉલૉજી વિભાગમાં આ ઍક્ટથી માહિતગાર અધિકારીએ નામ ન લખવાની વિનંતી કરતાં જણાવ્યું કે આઈટી એક્ટના ચૅપ્ટર 9માં અગાઉ સેક્શન (43) અને 43(A) હતી. આ સેક્શન 43(A) હેઠળ મોટી કૉર્પોરેટ કંપનીઓ પાસેથી આ મામલે જવાબ માંગી શકાય તેમ હતો. પરંતુ ડિજિટલ પર્સનલ ડેટા પ્રોટેક્શન ઍક્ટ 2023 (ડીપીડીપી ઍક્ટ, 2023) બન્યા પછી આઈટી એક્ટમાંથી કેન્દ્ર સરકારે કરેલા સુધારામાં સેક્શન 43(A) દૂર કરી દેવામાં આવી છે. એટલે આ ઘટનામાં શું પગલાં લઈ શકાય તેની કોઈ સ્પષ્ટતા નથી.

જોકે સાઇબર લૉ એક્સપર્ટ અને સુપ્રીમ કોર્ટના ઍડ્વોકેટ ડૉ.પવન દુગ્ગલના મતે આ ઘટનામાં હજી પણ આઈટી એક્ટની સેક્શન 43(A) લાગુ પડી શકે છે અને તેનો ઉપયોગ કાયદાકીય પ્રક્રિયામાં થઈ શકે છે. તેમણે કહ્યું, "એ વાત ખરી છે કે સરકારે આઈટી ઍક્ટમાં સુધારો કરીને સેક્શન 43(A) દૂર કરી છે. પરંતુ ડીપીડીપી ઍક્ટ-2023નો અમલ હજી નથી થયો. એટલે આપણે અત્યારે વાત કરી રહ્યા છીએ ત્યાં સુધી આઈટી ઍક્ટની 43(A) કાયદાકીય પ્રક્રિયા માટે ઉપલબ્ધ છે અને તેનો ઉપયોગ કરી શકાય તેમ છે."

ગુજરાત હાઈકોર્ટમાં નીલ શુક્લના વકીલ દીપેન દેસાઈએ બીબીસીને જણાવ્યું હતું કે, "હાઈકોર્ટે સુનાવણી કરીને ગુજરાત સરકારના સાયન્સ ઍન્ડ ટેકનૉલૉજી વિભાગ, કેન્દ્ર સરકારની સાયબર ઍપલેટ ટ્રિબ્યુનલને આ મામલે જવાબ રજૂ કરવા નોટિસ આપી છે. અને ગૂગલને નીલ શાહનું એકાઉન્ટ વધુ હુકમ ન થાય, ત્યાં સુધી ડિલીટ ન કરવાનો નિર્દેશ આપ્યો છે. આ કેસની સુનાવણી સુપ્રીમ કોર્ટમાં ચાલુ છે અને 30 એપ્રિલે વધુ સુનાવણી હાથ ધરવામાં આવશે."

આર્ટિફિશિલ ઇન્ટેલિજન્સનું જોખમ કેટલું અને કાયદાનું રક્ષણ કેવું છે?

ગૂગલ જેવી વૈશ્વિક ટેકનૉલૉજી કંપનીઓ દ્વારા થઈ રહેલા આર્ટિફિશિયલ ઇન્ટેલિજન્સના ઉપયોગ અને તેના જોખમો વિશે ડૉ. પવન દુગ્ગલ કહે છે, "ટેકનૉલૉજી માનવીય બાબતો માટે જ્યારે નિર્ણય લેવાનું શરૂ કરે ત્યારે તેમાં ભૂલો થવાની જ. કારણ કે હજી પણ ટેકનૉલૉજી માનવીય સંસ્કૃતિ, માનવીય ભાવનાઓ, અને માનવીય વર્તનની ઝીણવટભરી બાબતો સમજી શકે તેટલી પરિપક્વ નથી થઈ."

"જેના પરિણામસ્વરૂપે ટેકનૉલૉજી તસવીરમાં દેખાતા માણસને માત્ર એક ડેટાના એક પ્રકાર તરીકે જ જુએ છે અને ત્યારપછી તે ડેટાને CSAM (ચાઇલ્ડ સેક્સ્યુઅલ ઍબ્યુઝ મટિરિયલ) માટેના નિયમો સાથે સરખાવે છે. જો તે નિયમોને અનુરૂપ જોવા મળે ત્યારે એ એઆઈ ટેકનૉલૉજી આ પ્રકારના નિર્ણયો લઈ લે છે. એટલે આમ બન્યું હોઈ શકે."

ડૉ. દુગ્ગલ આ ઘટનાને ચેતવણીરૂપ માને છે. તેમણે કહ્યું, "આ એક પ્રકારે ચેતવણીરૂપ કિસ્સો છે. જેમાં ગૂગલ જેવી એ બાબત સુનિશ્ચિત કરવી પડશે કે આવી ઘટના ન બને."

"આ મુદ્દો વધુ એક મોટા પ્રશ્ન તરફ ધ્યાન દોરે છે કે ગૂગલ જેવી ઇન્ટરમિડિયરીઝે તેમનાં કાર્યો અને હેતુઓ માટે આ પ્રકારે એઆઈનો ઉપયોગ કરવા લાગે ત્યારે તેમણે યોગ્ય પ્રમાણમાં માનવીય નિયંત્રણ રાખવું પડે. એઆઈને સંપૂર્ણ છૂટ અને સ્વાયત્તતા આપી દેવી એ અયોગ્ય છે."

(આ સ્ટોરીમાં વધારાની વિગતો પારસ જ્હા દ્વારા આપવામાં આવી છે)

તમે બીબીસી ગુજરાતીને સોશિયલ મીડિયા પર અહીં ફૉલો કરી શકો છો

Facebook પર સમાચાર વાંચવા અહીં ક્લિક કરો.

Instagram પર બીબીસી ગુજરાતીને અહીં ફૉલો કરો.

YouTube પર બીબીસી ગુજરાતીના વીડિયો જોવા માટે અહીં ક્લિક કરો.

Twitter પર બીબીસી ગુજરાતીની ફૉલો કરવા અહીં ક્લિક કરો.