Qizning akslaridan sun’iy aql yordamida qanday erotik videoalar tayyorlashgan?

Hindistonlik Instagram yulduzi "Babydoll Archi"ning obunachilari soni ijtimoiy tarmoqdagi atigi bir necha video ortidan ikki barobarga oshib, 1,4 millionga yetdi.

Ushbu videolardan birida u qizil sari kiygan holda rumin qo‘shig‘i "Dame Un Grr"ga jozibali raqs tushadi. Yana biri esa uning kattalar uchun filmlar yulduzi, amerikalik Kendra Last bilan tushgan suratini Instagram'da e’lon qilgani edi.

Shu zahoti barcha u haqda bilishni xohlab qoldi – "Babydoll Archi" nomi Google qidiruvida trendga chiqdi, minglab memlar va muxlislar sahifalari paydo bo‘ldi. Ammo bir jiddiy muammo chiqishi tayin edi, bu onlayn sensatsiya ortida aslida haqiqiy ayol yo‘q edi.

Instagram'dagi ushbu akkaunt soxta bo‘lib chiqdi. Ammo u foydalangan yuz bir ayolga – Assam shtatidagi Dibrugarx shahrida yashovchi uy bekasiga (biz uni Sanchi deb ataymiz) juda o‘xshardi.

Haqiqat uning akasi politsiyaga arz qilgandan keyin ochildi. Sanchining sobiq yigiti Pratim Bora hibsga olindi.

Tergovga rahbarlik qilayotgan politsiya boshligi Sizal Agarval Bi-bi-siga ma’lum qilishicha, Sanchi va Bora o‘rtasida ziddiyat chiqqan va Bora sun’iy intellekt yordamida "intiqom" olish uchun shu ishlarni qilgan ekan.

Muhandis va sun’iy intellekt texnologiyasini mustaqil o‘rgangan Bora, Sanchining shaxsiy suratlaridan foydalanib, soxta Instagram profili yaratgan, deydi Agarval xonim.

Bora hibsda saqlanmoqda va hozircha hech qanday izoh bergani yo‘q. Bi-bi-si uning yaqinlaridan izoh olishga harakat qilmoqda.

Babydoll Archi nomi bilan tanilgan akkaunt 2020 yilda yaratilgan, ilk postlar esa 2021 yil may oyida joylangan. Agarval xonimning so‘zlariga ko‘ra, dastlab joylangan fotosuratlar Sanchining haqiqiy tasvirlari bo‘lib, grafik tahrir qilingan edi.

"Vaqt o‘tishi bilan, Bora ChatGPT va Dzine kabi vositalardan foydalanib, sun’iy intellekt yordamida qiyofa yarata boshladi. Keyin esa akkauntni dipfeyk foto va videolar bilan to‘ldirdi."

Uning aytishicha, akkaunt o‘tgan yildan buyon ommalasha boshlagan, ammo bu yil aprel oyidan keskin o‘sgan.

Sanchi ijtimoiy tarmoqlarda faol emas va u Babydoll Archi haqida faqat OAV uni "inflyuenser" sifatida yoritishni boshlaganidan so‘ng xabar topgan. Xabarlarda u AQShdagi porno film sanoatiga qo‘shilishi mumkinligi haqida taxminlar paydo bo‘lgan edi.

11 iyul kuni kechqurun Sanchining oilasi politsiyaga shikoyat arizasi berishdi.

Agarval xonimning ta’kidlashicha, arizada hech kimning ismi yo‘q edi, chunki ular voqea ortida kim turganini bilishmasdi.

Babydoll Archi nomi politsiya uchun ham yangilik emas edi. Agarval xonim aytishicha, ular OAVda bu obraz sun’iy intellekt yordamida yaratilgan bo‘lishi mumkinligi haqidagi taxminlarni ko‘rgan, biroq u aslida real insonga asoslangani to‘g‘risida hech qanday ma’lumot bo‘lmagan.

Politsiya shikoyatni olgach, Instagram'ga akkaunt yaratuvchisi haqida ma’lumot so‘rab murojaat qilgan.

"Instagram'dan ma’lumot olgach, biz Sanchidan Pratim Borani tanish-tanimasligini so‘radik. U kimligini aytgach, uning manzilini Tinsukiya tumanidan aniqlab, 12 iyul kuni kechqurun hibsga oldik."

Agarval xonimning aytishicha, politsiya Boraning noutbuki, telefoni, tashqi disklari va bank hujjatlarini musodara qilgan, chunki u akkauntdan daromad olayotgan ekan.

"Akkaunt linktree orqali 3 000 obunachiga ega edi va biz u orqali taxminan 1 million rupiy ishlaganini aniqladik. Faqat hibsga olinganidan oldingi besh kunda 300 000 rupiy daromad olgan", dedi u.

Agarval xonim ta’kidlashicha, Sanchi "juda og‘ir holda edi – ammo hozir u va oilasi psixologik yordam olmoqda va ahvollari sezilarli yaxshilangan".

Bu kabi holatlarni to‘liq oldini olish mumkin emas, deydi u, "lekin biz avvalroq harakat qilganimizda, ehtimol bu darajada ommalashishiga yo‘l qo‘ymasdik".

"Sanchi ijtimoiy tarmoqlarda umuman faol emas, oilasi esa akkauntdan butunlay bloklangan ekan. Ular faqat u keng tarqalgandan keyingina xabardor bo‘lishgan", deydi u.

Meta kompaniyasi Bi-bi-sining bu voqea haqidagi savollariga javob bermadi. Ammo kompaniya siyosatiga ko‘ra, shahvoniy mazmundagi kontentlarni joylashtirish taqiqlangan. O‘tgan oy CBS xabariga ko‘ra, Meta haqiqiy odamlar suratlari asosida yasalgan shahvoniy dipfeyklar uchun ishlatilgan AI vositalarini reklama qiluvchi bir necha e’lonlarni o‘chirgan.

282 ta posti bo‘lgan Babydoll Archi'ning Instagram akkaunti endilikda omma uchun yopiq. Biroq ijtimoiy tarmoqlar uning surati va videolariga to‘la – hatto bir akkaunt ularni yig‘ib jamlagan. Bi-bi-si Meta'dan bu borada qanday chora ko‘rilayotgani haqida so‘radi.

Sun’iy intellekt bo‘yicha mutaxassis va huquqshunos Mehna Balning ta’kidlashicha, Sanchi bilan sodir bo‘lgan voqea "dahshatli, ammo deyarli oldini olib bo‘lmasdi".

U sudga murojaat qilib, "unutilish huquqi"ni talab qilishi mumkin, ya’ni u haqdagi matbuot xabarlarini olib tashlash haqida sud qaror chiqarishi mumkin. Ammo internetdan barcha izlarni batamom o‘chirib tashlash juda murakkab.

Sanchi ta’kidlashicha, uning boshidan kechgan holat – aslida ayollar boshiga doim tushib kelayotgan voqelik: ularning surat va videolari intiqom sifatida tarqatiladi.

"Buni hozir sun’iy intellekt orqali amalga oshirish ancha osonlashgan. Lekin bunday holatlar kutilganchalik ko‘p emas yoki yetarlicha xabar qilinmayotgan bo‘lishi mumkin. Chunki bunday holatlarga nisbatan jamiyatda hanuz tahqirlanish, sha’nga dog‘ tushishi kabi qo‘rquvlar saqlanib qolgan. Yoki aynan Sanchi holatida bo‘lganidek, jabrlanuvchilar o‘zlari ham bundan bexabar bo‘lishi mumkin", deydi Bal.

Uning aytishicha, bu kabi videolarni tomosha qilgan odamlarda ijtimoiy tarmoq platformasiga yoki kiberjinoyatlar portaliga murojaat qilish uchun hech qanday rag‘bat yo‘q.

Boraga qarshi berilgan shikoyatda politsiya unga nisbatan jinsiy ta’qib, o‘ta yoqimsiz materiallarni tarqatish, tuhmat, sha’n va obro‘ni qasddan toptash maqsadida soxta ma’lumotlar tarqatish, boshqa shaxs sifatida o‘zini ko‘rsatib firibgarlik qilish va kiberjinoyat sodir etish moddalarini qo‘llagan. Agar aybdor deb topilsa, u 10 yilgacha ozodlikdan mahrum etilishi mumkin.

Oxirgi kunlarda ushbu ish ijtimoiy tarmoqlarda keng muhokamalar va g‘azabga sabab bo‘ldi. Ko‘pchilik bunday holatlarga qarshi qonunlarni yanada qattiqroq qilishni talab qilmoqda.

Balning fikricha, bu kabi ishlarga qarshi amaldagi qonunlar yetarli. Biroq generativ sun’iy intellekt kompaniyalarini tartibga solish uchun alohida qonun kerakmi-yo‘qmi – bu alohida o‘rganilishi kerak.

"Bir narsani unutmaslik lozim: dipfeyklar har doim ham yomon emas. Qonunlar juda ehtiyotkorlik bilan tuzilishi kerak, chunki ular so‘z erkinligini bo‘g‘ish quroliga aylanib qolishi mumkin", deydi u.