ડીપફેક છેતરપિંડી: ઉત્તેજક એઆઈ સામગ્રી માટે ભારતીય મહિલાની ઓળખનો દુરુપયોગ

ઇન્સ્ટાગ્રામ પર અત્યંત લોકપ્રિય ભારતીય બેબીડોલ આર્ચીના ફૉલોઅર્સ થોડા દિવસોમાં જ બમણા વધીને 14 લાખ થઈ ગયા હતા. તેનું કારણ વાઇરલ થયેલી કેટલીક સોશિયલ મીડિયા પોસ્ટ હતી.

એ પૈકીના એક વીડિયોમાં બેબીડોલ આર્ચી લાલ સાડી પહેરીને એક રોમાનિયન ગીતની તરજ પર નાચતાં જોવાં મળ્યાં હતાં. પ્લૅટફૉર્મ પર પોસ્ટ કરવામાં આવેલા એક ફોટામાં આર્ચી અમેરિકન એડલ્ટ ફિલ્મ સ્ટાર કેન્ડ્રા લસ્ટ સાથે પોઝ આપતાં જોવાં મળ્યાં હતાં.

અચાનક ઘણા બધા લોકો તેમના વિશે જાણવા ઉત્સુક બન્યા હતા અને બેબીડોલ આર્ચી નામ ગૂગલ સર્ચમાં ટ્રેન્ડ થવા લાગ્યું હતું.

અસંખ્ય મીમ્સ અને ફેન પેજ બન્યાં હતાં, પરંતુ આ બધાની વચ્ચે એક મુદ્દો ઊભરી આવ્યો હતોઃ ઑનલાઇન સેન્સેશન પાછળ ખરેખર કોઈ વાસ્તવિક મહિલા ન હતાં.

એ ઇન્સ્ટાગ્રામ એકાઉન્ટ નકલી હતું, પરંતુ તેમાં જે ચહેરો વાપરવામાં આવ્યો હતો તે આસામની એક ગૃહિણીના ચહેરા સાથે સામ્ય ધરાવતો હતો. આપણે તે મહિલાને સાંચી કહીશું.

સાંચીના ભાઈએ ફરિયાદ નોંધાવી પછી સત્ય બહાર આવ્યું હતું. સાંચીના ભૂતપૂર્વ બૉયફ્રેન્ડ પ્રતિમ બોરાની ધરપકડ કરવામાં આવી હતી.

આ કેસમાં તપાસનું નેતૃત્વ કરી રહેલા વરિષ્ઠ પોલીસ અધિકારી સિઝલ અગ્રવાલે બીબીસીને જણાવ્યું હતું કે સાંચી અને પ્રતિમ વચ્ચે ઝઘડો થયો હતો. તેથી પ્રતિમે રીતસર બદલો લેવા માટે આર્ટિફિશ્યલ ઇન્ટેલિજન્સ (એઆઈ) લાઇકનેસનો ઉપયોગ કર્યો હતો.

સાંચીના અંગત ફોટાનો બદલો લેવા માટે ઉપયોગ

સિઝલ અગ્રવાલના જણાવ્યા મુજબ, પ્રતિમ બોરા એક મિકેનિકલ એન્જિનિયર હોવાની સાથે એઆઈના સ્વશિક્ષિત ચાહક છે. તેમણે નકલી પ્રોફાઇલ બનાવવા માટે સાંચીના પ્રાઇવેટ ફોટોગ્રાફ્સનો ઉપયોગ કર્યો હતો.

પ્રતિમ બોરા હાલ પોલીસ કસ્ટડીમાં છે અને તેમણે હજુ સુધી કોઈ નિવેદન આપ્યું નથી. બીબીસીએ તેમના પરિવારનો સંપર્ક કર્યો હતો. તેમનો પ્રતિભાવ મળશે ત્યારે આ સ્ટોરી અપડેટ કરવામાં આવશે.

બેબીડોલ આર્ચીનું સર્જન 2020માં કરવામાં આવ્યું હતું. તેમાં પ્રથમ અપલોડ્સ મે, 2021માં કરવામાં આવ્યા હતા. વાસ્તવિક પ્રારંભિક ફોટોગ્રાફ્સને મૉર્ફ કરવામાં આવ્યા હતા.

સિઝલ અગ્રવાલે કહ્યું હતું, "સમય પસાર થવાની સાથે પ્રતિમ બોરાએ એઆઈ વર્ઝન બનાવવા માટે ચેટજીપીટી અને ડિઝાઇન જેવા ટૂલ્સનો ઉપયોગ કર્યો હતો. એ પછી તેમણે એ હેન્ડલમાં સંખ્યાબંધ ફોટોગ્રાફ્સ અને વીડિયો અપલોડ કર્યા હતા."

સિઝલ અગ્રવાલે ઉમેર્યું હતું કે તે એકાઉન્ટને ગયા વર્ષથી લાઇક્સ મળવાનું શરૂ થયું હતું, પરંતુ ટ્રેક્શન મળવાનું આ વર્ષે એપ્રિલથી શરૂ થયું હતું.

સોશિયલ મીડિયા પર ટ્રેન્ડ શરૂ થવાથી ખબર પડી

સાંચી સોશિયલ મીડિયા પર નથી, પરંતુ મેઇનસ્ટ્રીમ મીડિયાએ બેબીડોલ આર્ચીને 'ઇન્ફ્લ્યુએન્સર' તરીકે વર્ણવવાનું શરૂ કર્યું પછી સાંચીને આ એકાઉન્ટની ખબર પડી હતી.

સાંચી ટૂંક સમયમાં અમેરિકન પોર્ન ઉદ્યોગમાં જોડાશે, તેવી ધારણા અહેવાલોમાં કરવામાં આવી હતી.

ઈશાન ભારતીય રાજ્ય આસામની કોઈ વ્યક્તિ માટે આ પહેલી ઘટના હતી.

સાંચીના પરિવારે 11 જુલાઈની રાતે પોલીસને ટૂંકી ફરિયાદ કરી હતી અને પુરાવા તરીકે કેટલાક ફોટોગ્રાફ્સ અને વીડિયોના પ્રિન્ટઆઉટ્સ આપ્યા હતા.

સિઝલ અગ્રવાલના જણાવ્યા મુજબ, ફરિયાદમાં કોઈનું નામ આપવામાં આવ્યું નથી, કારણ કે આ કૃત્ય કોણે કર્યું હશે તેની તેમને ખબર ન હતી.

બેબીડોલ આર્ચી પોલીસ માટે અજાણ્યું નામ ન હતું, એમ જણાવતાં સિઝલ અગ્રવાલે ઉમેર્યું હતું કે બેબીડોલ આર્ચી એઆઈ જનરેટેડ હોવાની ધારણાવાળા અહેવાલો અને કૉમેન્ટ્સ તેમણે વાંચ્યાં હતાં.

બેબીડોલ આર્ચી વાસ્તવિક વ્યક્તિ પર આધારિત હોવાનું તેમાં ક્યાંય જણાવવામાં આવ્યું ન હતું.

ફરિયાદ મળ્યા પછી પોલીસે ઇન્સ્ટાગ્રામને આ એકાઉન્ટ બનાવનારની વિગતની માગણી કરતો પત્ર લખ્યો હતો.

સિઝલ અગ્રવાલે કહ્યું હતું, "ઇન્સ્ટાગ્રામ પાસેથી માહિતી મળ્યા બાદ અમે સાંચીને પૂછ્યું હતું કે તેઓ કોઈ પ્રતિમ બોરાને ઓળખે છે કે કેમ.''

સાંચીએ પુષ્ટિ કર્યા પછી અમે પાડોશી જિલ્લા તિનસુકિયામાં પ્રતિમનું સરનામું શોધી કાઢ્યું હતું અને 12 જુલાઈની સાંજે તેમની ધરપકડ કરી હતી."

"પોલીસે પ્રતિમનું લૅપટૉપ, મોબાઇલ ફોન, હાર્ડ ડ્રાઇવ અને બૅન્ક એકાઉન્ટના દસ્તાવેજો જપ્ત કર્યા હતા, કારણ કે પ્રતિમે તે એકાઉન્ટ મૉનેટાઇઝ કર્યું હતું."

તેમણે ઉમેર્યું હતું, "તે એકાઉન્ટમાં લિંકટ્રી પર 3,000 સબ્સ્ક્રિપ્શન હતા અને અમારું માનવું છે કે પ્રતિમે તેમાંથી રૂ. દસ લાખની કમાણી કરી હતી. ધરપકડના પહેલાના પાંચ દિવસમાં જ પ્રતિમ રૂ. ત્રણ લાખ કમાયા હોવાનું અમારું માનવું છે."

વરિષ્ઠ પોલીસ અધિકારીના જણાવ્યા મુજબ, સાંચી "ખૂબ જ વ્યથિત હતી, પરંતુ હવે તેમને તથા તેમના પરિવારને કાઉન્સેલિંગ મળી રહ્યું છે. તેથી તેમની સ્થિતિ સારી બની છે."

ખરેખર આવું થતું અટકાવવાનો કોઈ રસ્તો નથી, "પરંતુ વહેલાં પગલાં લેવામાં આવ્યાં હોત તો તેને લોકપ્રિય બનતું અટકાવી શકાયું હોત," એમ સિઝલ અગ્રવાલે કહ્યું હતું.

"હકીકતમાં સાંચીને કોઈ ખ્યાલ ન હતો, કારણ કે તેઓ સોશિયલ મીડિયા પર નથી. તેમના પરિવારને પણ આ એકાઉન્ટમાંથી બ્લૉક કરવામાં આવ્યો હતો. એકાઉન્ટ વાઇરલ થયા પછી જ તેમને ખબર પડી હતી."

મેટાએ આ કેસ અંગેના બીબીસીના સવાલોના જવાબ આપ્યા નથી, પરંતુ તે સામાન્ય રીતે નગ્નતા અથવા જાતીય સામગ્રી પોસ્ટ કરવાની પરવાનગી આપતું નથી.

સીબીએસે ગયા મહિને અહેવાલ આપ્યો હતો કે વાસ્તવિક લોકોના ફોટોગ્રાફ્સ દ્વારા લૈંગિક ડીપફેક બનાવવા માટે ઉપયોગમાં લેવાતા એઆઈ ટૂલ્સને પ્રોત્સાહન આપતી સંખ્યાબંધ જાહેરાતો તેણે હઠાવી દીધી છે.

282 પોસ્ટ્સ ધરાવતું બેબીડોલ આર્ચીનું ઇન્સ્ટાગ્રામ એકાઉન્ટ હવે જાહેર જનતા માટે ઉપલબ્ધ નથી.

અલબત્ત, સોશિયલ મીડિયામાં તેમના સંખ્યાબંધ ફોટોગ્રાફ્સ અને વીડિયો જોવા મળે છે. એક ઇન્સ્ટાગ્રામ એકાઉન્ટમાં તો એ બધું જ છે.

બીબીસીએ મેટાને સવાલ કર્યો હતો કે આ બાબતે તેમની શું કરવાની યોજના છે?

એઆઈ નિષ્ણાત શું કહે છે?

એઆઈ નિષ્ણાત અને વકીલ મેઘના બાલના કહેવા મુજબ, સાંચી સાથે જે બન્યું તે "ભયાનક છે, પરંતુ તેવું થતું અટકાવવું લગભગ અશક્ય છે."

સાંચી કોર્ટમાં જઈ શકે છે અને વિસ્મૃતિનો અધિકાર માગી શકે છે. કોર્ટ સાંચીના નામના મીડિયા અહેવાલોને દૂર કરવાનો આદેશ આપી શકે છે, પરંતુ ઇન્ટરનેટ પરથી બધું ભૂંસી નાખવું મુશ્કેલ છે.

મેઘના બાલના જણાવ્યા અનુસાર, સાંચી સાથે થયું તેવું સ્ત્રીઓ સાથે હંમેશાં થતું રહ્યું છે. સ્ત્રીઓના ફોટોગ્રાફ્સ અને વીડિયો બદલો લેવા માટે સર્ક્યુલેટ કરવામાં આવતા રહ્યા છે.

"આવું કરવું એઆઈને બહુ સરળ બન્યું છે, પરંતુ આવી ઘટનાઓ આપણે ધારીએ છીએ તેટલી સામાન્ય નથી. કલંકના ભયથી આ બાબતે ઓછી ફરિયાદ નોંધાવવામાં આવે તે પણ શક્ય છે. આવા કિસ્સામાં નિશાન બનેલા લોકો, સાંચીના કિસ્સામાં થયું તેમ, ખબર ન હોય એવું પણ બની શકે."

મેઘના બાલે ઉમેર્યું હતું કે આવી સામગ્રી નિહાળતા લોકોને સોશિયલ મીડિયા પ્લૅટફૉર્મ અથવા સાયબર ક્રાઇમ પોર્ટલ દ્વારા પ્રોત્સાહિત કરવામાં આવતા નથી.

સોશિયલ મીડિયા પર આક્રોશ

પ્રતિમ બોરા સામેની ફરિયાદમાં પોલીસે જાતીય સતામણી, અશ્લીલ સામગ્રીના વિતરણ, પ્રતિષ્ઠાને નુકસાન પહોંચાડવા માટે બનાવટ, વ્યક્તિત્વ દ્વારા છેતરપિંડી અને સાયબર ક્રાઇમ સંબંધી કાયદાઓનો ઉપયોગ કર્યો છે.

પ્રતિમ બોરા દોષિત સાબિત થશે તો તેમને 10 વર્ષ સુધીની જેલ સજા થઈ શકે છે.

આ કેસને પગલે તાજેતરના દિવસોમાં સોશિયલ મીડિયા પર આક્રોશ ફેલાયો છે. કેટલાક લોકોએ આવા કિસ્સામાં સામનો કરવા માટે આકરા કાયદાની માગ પણ કરી છે.

મેઘના બાલ માને છે કે આવા કેસો માટે પૂરતા કાયદા છે, પરંતુ જનરેટિવ એઆઈ કંપનીઓ સાથે કામ પાર પાડવા માટે નવા કાયદા ઘડવાનો અવકાશ છે કે કેમ તે વિચારવું જરૂરી છે.

તેમણે ઉમેર્યું હતું, "આપણે એ યાદ રાખવું પડશે કે ડીપફેક ખરાબ જ હોય તે જરૂરી નથી. કાયદાઓ કાળજીપૂર્વક ઘડવા પડશે, કારણ કે એ કાયદાનો ઉપયોગ વાણી સ્વાતંત્ર્યને દબાવવા માટે પણ કરી શકાય છે."

બીબીસી માટે કલેક્ટિવ ન્યૂઝરૂમનું પ્રકાશન