'பேபிடால் ஆர்ச்சி': பாலியல் உள்ளடக்கத்துக்காக திருடப்பட்ட இந்திய பெண்ணின் முகம் - என்ன நடந்தது?

டீப்ஃபேக் மோசடி, பேபிடால் ஆர்ச்சி, மெட்டா, இன்ஸ்டாகிராம், சமூக ஊடகம்

பட மூலாதாரம், Babydoll Archi

படக்குறிப்பு, பேபிடால் ஆர்ச்சியின் இன்ஸ்டாகிராம் கணக்கில் 1.4 மில்லியன் பின்தொடர்பவர்கள் இருந்தனர்.
    • எழுதியவர், கீதா பாண்டே
    • பதவி, பிபிசி நியூஸ்

இன்ஸ்டாகிராமில் 'பேபிடால் ஆர்ச்சி' என்ற இந்திய பிரபலத்தின் பின்தொடர்பவர்களின் எண்ணிக்கை சில நாட்களிலேயே 1.4 மில்லியனாக உயர்ந்தது. காரணம், பேபிடால் ஆர்ச்சியின் சில பதிவுகள் சமூக ஊடகங்களில் வைரலாகின.

அதில் ஒன்று, அவர் சிவப்பு நிற புடவையில், 'டேம் அன் கிர்ர்' என்ற ரோமானிய பாடலுக்கு கவர்ச்சிகரமான நடனமாடுவதைக் காட்டும் ஒரு வீடியோ. மேலும் சமூக ஊடகங்களில் வெளியிடப்பட்ட ஒரு புகைப்படம், அமெரிக்க ஆபாச திரைப்பட நட்சத்திரமான கென்ட்ரா லஸ்டுடன் அவர் போஸ் கொடுப்பதைக் காட்டியது.

திடீரென்று எல்லோரும் பேபிடால் ஆர்ச்சி பற்றி தெரிந்து கொள்ள விரும்பினர். பேபிடால் ஆர்ச்சி என்ற பெயர் கூகுள் தேடலில் பிரபலமடைந்து எண்ணற்ற மீம்ஸ்கள் மற்றும் ரசிகர் பக்கங்களை உருவாக்கியது. ஆனால் ஒரு புதிய பிரச்னை வெளிவரவிருந்தது - ஆன்லைனில் பரபரப்பை ஏற்படுத்திய அந்தப் பெயருக்கு பின்னால் உண்மையான பெண் யாரும் இல்லை.

அந்த இன்ஸ்டாகிராம் கணக்கு போலியானது, இருப்பினும் அது பயன்படுத்திய முகம் ஒரு உண்மையான பெண்ணின் முகம் போல இருந்தது. அசாமின் திப்ருகார் நகரத்தைச் சேர்ந்த அவரை நாம் 'சாஞ்சி' என்று இந்தக் கட்டுரையில் அழைப்போம்.

சாஞ்சியின் சகோதரர் போலீசில் புகார் அளித்த பிறகு இந்த உண்மை வெளிப்பட்டது. அதைத் தொடர்ந்து, சாஞ்சியின் முன்னாள் காதலன் பிரதிம் போரா கைது செய்யப்பட்டார்.

விசாரணைக்கு தலைமை தாங்கும் மூத்த காவல்துறை அதிகாரி சிசல் அகர்வால் பிபிசியிடம் பேசுகையில், சாஞ்சிக்கும் போராவுக்கும் இடையே கருத்து வேறுபாடு ஏற்பட்டதாகவும், சாஞ்சியைப் போலவே தோற்றமளிக்கும் வகையில் அவர் உருவாக்கிய செயற்கை நுண்ணறிவு பிம்பம், சாஞ்சியை பழிவாங்கும் நோக்கில் பயன்படுத்தப்பட்டது என்றும் கூறினார்.

இயந்திரப் பொறியாளரும், செயற்கை நுண்ணறிவு (AI) பற்றி தானாக படித்து அறிந்தவருமான போரா, சாஞ்சியின் தனிப்பட்ட புகைப்படங்களைப் பயன்படுத்தி ஒரு போலி சமூக ஊடக கணக்கை உருவாக்கினார் என்று அகர்வால் கூறினார்.

இப்போது காவல்துறையின் கட்டுப்பாட்டில் உள்ள போரா, இதுகுறித்து இன்னும் எந்த கருத்தையும் தெரிவிக்கவில்லை. பிபிசி அவரது குடும்பத்தினரிடம் பேச முயற்சித்துள்ளது, அவர்கள் பேசும்போது கட்டுரையைப் புதுப்பிப்போம்.

மார்பிங் செய்யப்பட்ட புகைப்படங்கள்

டீப்ஃபேக் மோசடி, பேபிடால் ஆர்ச்சி, மெட்டா, இன்ஸ்டாகிராம், சமூக ஊடகம்

பட மூலாதாரம், Reuters

படக்குறிப்பு, 'ஒரு ஏஐ பதிப்பை உருவாக்க சாட்ஜிபிடி போன்ற தொழில்நுட்ப கருவிகளை போரா பயன்படுத்தினார்'

'பேபிடால் ஆர்ச்சி' கணக்கு 2020இல் உருவாக்கப்பட்டது மற்றும் முதல் பதிவேற்றங்கள் மே 2021இல் செய்யப்பட்டன. ஆரம்பகட்ட புகைப்படங்கள், மார்பிங் செய்யப்பட்ட சாஞ்சியின் உண்மையான படங்கள் என்று அகர்வால் கூறினார்.

"காலப்போக்கில், ஒரு ஏஐ பதிப்பை உருவாக்க சாட்ஜிபிடி மற்றும் 'Dzine' போன்ற தொழில்நுட்ப கருவிகளை போரா பயன்படுத்தினார். பின்னர் அந்த சமூக ஊடக கணக்கில் டீப்ஃபேக் புகைப்படங்கள் மற்றும் வீடியோக்களை பதிவேற்றினார்."

இந்தக் கணக்கு கடந்த ஆண்டு முதல் லைக்குகளைப் பெறத் தொடங்கியது, ஆனால் இந்த ஆண்டு ஏப்ரல் முதல் அது பலரின் கவனத்தை ஈர்க்கத் தொடங்கியது என்று அவர் கூறினார்.

சாஞ்சி சமூக ஊடகங்களில் இல்லை, மேலும் பிரதான ஊடகங்கள் பேபிடால் ஆர்ச்சியை 'செல்வாக்கு மிக்க ஒரு நபர்' என்று வர்ணிக்கத் தொடங்கியபோதுதான் அந்தக் கணக்கு பற்றி அவருக்கு தெரியவந்தது. பேபிடால் ஆர்ச்சி, அமெரிக்க ஆபாச திரைப்படத் துறையில் சேரக்கூடும் என்று தகவல்கள் ஊகித்தன.

ஜூலை 11ஆம் தேதி இரவு சாஞ்சியின் குடும்பத்தினர் காவல்துறைக்கு அளித்த இரண்டு பத்திகள் கொண்ட குறுகிய புகார், சில புகைப்படங்கள் மற்றும் வீடியோக்களை ஆதாரமாக கொண்டிருந்தது.

இதற்குப் பின்னால் யார் இருக்கக்கூடும் என்று அவர்களுக்குத் அப்போது தெரியாததால், புகாரில் யாருடைய பெயரையும் குறிப்பிடவில்லை என்று அகர்வால் கூறுகிறார்.

கைது செய்யப்பட்டது எப்படி?

டீப்ஃபேக் மோசடி, பேபிடால் ஆர்ச்சி, மெட்டா, இன்ஸ்டாகிராம், சமூக ஊடகம்

பட மூலாதாரம், Getty Images

படக்குறிப்பு, பெண்களின் புகைப்படங்களும் வீடியோக்களும் பெரும்பாலும் பழிவாங்கும் நோக்கில் பரப்பப்படுகின்றன.

'பேபிடால் ஆர்ச்சி' என்பது காவல்துறையினருக்குப் பரிச்சயமில்லாத பெயர் அல்ல. இந்தப் புகைப்படங்கள் செயற்கை நுண்ணறிவால் உருவாக்கப்பட்டிருக்கலாம் என ஊகிக்கும் செய்திகள் மற்றும் கருத்துகளையும் தாங்கள் பார்த்ததாகவும், ஆனால் அவை ஒரு உண்மையான நபரை அடிப்படையாகக் கொண்டது என்பதற்கான எந்தக் கருத்தையும் பார்க்கவில்லை என்றும் அகர்வால் கூறுகிறார்.

புகாரைப் பெற்றவுடன், கணக்கை உருவாக்கியவரின் விவரங்களைக் கேட்டு போலீசார் இன்ஸ்டாகிராமிற்கு மின்னஞ்சல் அனுப்பினர்.

"இன்ஸ்டாகிராமில் இருந்து எங்களுக்கு தகவல் கிடைத்ததும், சாஞ்சியிடம், பிரதிம் போரா என யாரையாவது தெரியுமா என்று கேட்டோம். அவர் உறுதிப்படுத்தியதும், பக்கத்து மாவட்டமான டின்சுகியாவில் அவர் தங்கியிருந்த முகவரியைக் கண்டுபிடித்தோம். ஜூலை 12 ஆம் தேதி மாலை நாங்கள் அவரைக் கைது செய்தோம்."

"போராவின் மடிக்கணினி, மொபைல் போன்கள், ஹார்டு டிரைவ்கள் மற்றும் அந்த சமூக ஊடக கணக்கை 'மானிடைஸ்' (பணம் ஈட்டும் முறை) செய்தது தொடர்பான வங்கி ஆவணங்களை போலீசார் பறிமுதல் செய்துள்ளனர்" என்று அகர்வால் கூறுகிறார்.

"அந்தக் கணக்கிற்கு லிங்க்ட்ரீ-இல் 3,000 உறுப்பினர் பதிவுகள் இருந்தன. அந்தக் கணக்கின் மூலம் அவர் 10 லட்சம் ரூபாய் சம்பாதித்ததாக நாங்கள் நம்புகிறோம். கைது செய்யப்படுவதற்கு முந்தைய ஐந்து நாட்களில் அவர் 3,00,000 ரூபாய் சம்பாதித்ததாக நாங்கள் கருதுகிறோம்," என்று அவர் கூறினார்.

"இந்த விஷயத்தில் சாஞ்சி மிகவும் கலக்கமடைந்துள்ளார், ஆனால் இப்போது அவருக்கும் அவரது குடும்பத்தினருக்கும் கவுன்சிலிங் வழங்கப்படுகிறது, அவர்கள் நன்றாக இருக்கிறார்கள்" என்று அகர்வால் கூறுகிறார்.

இதுபோன்ற ஒன்று நடப்பதைத் தடுக்க உண்மையில் எந்த வழியும் இல்லை, "ஆனால் முன்பே செயல்பட்டிருந்தால், இந்த விஷயம் பலரின் கவனத்தை பெறுவதைத் தடுத்திருக்க முடியும்" என்று அகர்வால் கூறினார்.

"ஆனால் சாஞ்சிக்கு சமூக ஊடக கணக்குகள் ஏதும் இல்லாததால் அவருக்கு எதுவும் தெரியாது. அவரது குடும்பத்தினரும், இந்தக் கணக்கைப் பார்வையிடுவதிலிருந்து போராவால் தடுக்கப்பட்டிருந்தனர். இது வைரலான பிறகுதான் அவர்களுக்குத் தெரியவந்தது," என்று அகர்வால் கூறினார்.

மெட்டா நிர்வாகத்தின் நடவடிக்கை என்ன?

டீப்ஃபேக் மோசடி, பேபிடால் ஆர்ச்சி, மெட்டா, இன்ஸ்டாகிராம், சமூக ஊடகம்

பட மூலாதாரம், Getty Images

படக்குறிப்பு, நிர்வாணம் அல்லது பாலியல் உள்ளடக்கத்தை பதிவிட மெட்டா அனுமதிப்பதில்லை.

இந்த வழக்கு தொடர்பான பிபிசி கேள்விகளுக்கு மெட்டா நிர்வாகம் பதிலளிக்கவில்லை. ஆனால் பொதுவாக, நிர்வாணம் அல்லது பாலியல் உள்ளடக்கத்தை பதிவிட மெட்டா அனுமதிப்பதில்லை. கூடுதலாக, பாலியல் ரீதியாக வெளிப்படையான டீப்ஃபேக் புகைப்படங்களை உருவாக்க நிஜ மனிதர்களின் புகைப்படங்களைப் பயன்படுத்தும் ஏஐ தொழில்நுட்பங்களுக்கான சில விளம்பரங்களை மெட்டா நீக்கியுள்ளதாக கடந்த மாதம் சிபிஎஸ் செய்தி முகமை கூறியது.

282 பதிவுகளைக் கொண்ட 'பேபிடால் ஆர்ச்சி'-இன் இன்ஸ்டாகிராம் கணக்கை இனி பொதுமக்கள் அணுக முடியாது. இருப்பினும் சமூக ஊடகங்களில் பேபிடால் ஆர்ச்சியின் புகைப்படங்கள் மற்றும் வீடியோக்கள் பரவிக் கிடக்கின்றன, குறிப்பாக ஒரு இன்ஸ்டாகிராம் கணக்கில் அவை அனைத்தும் இருப்பதாகத் தெரிகிறது. இது குறித்து என்ன செய்யத் திட்டமிட்டுள்ளீர்கள் என்று மெட்டாவிடம் பிபிசி கேட்டுள்ளது.

"சாஞ்சிக்கு நடந்தது மோசமான ஒரு விஷயம், ஆனால் அதைத் தடுப்பதும் கிட்டத்தட்ட சாத்தியமற்றது" என்று ஏஐ நிபுணரும் வழக்கறிஞருமான மேக்னா பால் கூறுகிறார்.

அவர் நீதிமன்றத்தில் முறையிட்டு தன்னைக் குறித்து பரவிய விஷயங்கள் 'மறக்கப்படுவதற்கான' உரிமையைப் பெறலாம், நீதிமன்றமும் அவரது பெயர் குறிப்பிடப்பட்ட பத்திரிகைச் செய்திகளை நீக்க உத்தரவிடலாம். ஆனால் இணையத்திலிருந்து அனைத்துத் தடயங்களையும் அழிப்பது கடினம்.

சாஞ்சிக்கு நடந்ததுதான் பல பெண்களுக்கு தொடர்ந்து நடந்து வருகிறது என்றும், அவர்களின் புகைப்படங்களும் காணொளிகளும் பழிவாங்கும் விதமாக பரப்பப்படுகின்றன என்றும் அவர் கூறுகிறார்.

"இப்போது செயற்கை நுண்ணறிவு காரணமாக இதைச் செய்வது மிகவும் எளிதாகிவிட்டது, ஆனால் இதுபோன்ற சம்பவங்கள் நாம் எதிர்பார்ப்பது போல் இன்னும் பொதுவான பிரச்னையாக மாறவில்லை அல்லது சமூகம் குறித்த அச்சம் காரணமாக அதைப் பற்றிய புகார்கள் பதிவாகவில்லை என்று கூறலாம். அல்லது சாஞ்சி விஷயத்தில் நடந்தது போல, பாதிக்கப்பட்டவர்கள் இந்த விஷயத்தைக் குறித்து அறியாமல் இருக்கலாம்." என்று பால் கூறுகிறார்.

மேலும் இதைப் பார்க்கும் மக்களுக்கு, அந்த சமூக ஊடக தளத்திலோ அல்லது சைபர் கிரைம் போர்ட்டலில் புகாரளிக்கவோ எந்த அவசியமும் ஊக்கமும் இல்லை என்று அவர் கூறுகிறார்.

பிபிசி தமிழ் வாட்ஸ்ஆப் சேனலில் இணைய இங்கே கிளிக் செய்யவும்.
படக்குறிப்பு, பிபிசி தமிழ் வாட்ஸ்ஆப் சேனலில் இணைய இங்கே கிளிக் செய்யவும்.

புதிய சட்டங்கள்

போராவுக்கு எதிரான புகாரில், பாலியல் துன்புறுத்தல், ஆபாச உள்ளடக்கத்தை விநியோகித்தல், அவதூறு பரப்புதல், நற்பெயருக்கு தீங்கு விளைவிக்கும் வகையில் மோசடி செய்தல், ஆள்மாறாட்டம் மூலம் ஏமாற்றுதல் மற்றும் சைபர் கிரைம் ஆகிய சட்டப் பிரிவுகளை போலீசார் பயன்படுத்தியுள்ளனர். குற்றம் நிரூபிக்கப்பட்டால், போராவுக்கு 10 ஆண்டுகள் வரை சிறைத்தண்டனை விதிக்கப்படலாம்.

சமீப நாட்களில் சமூக ஊடகங்களில் சீற்றத்தை ஏற்படுத்தியுள்ளது இந்த வழக்கு. இதுபோன்ற வழக்குகளைக் கையாள்வதற்கு கடுமையான சட்டங்களை உருவாக்க வேண்டுமென சிலர் கோரிக்கை வைத்துள்ளனர்.

இதுபோன்ற வழக்குகளைக் கையாள போதுமான சட்டங்கள் இருப்பதாக பால் நம்புகிறார், ஆனால் புதிய ஏஐ நிறுவனங்களைக் கையாளும் வகையில் புதிய சட்டங்களை உருவாக்க வாய்ப்பு உள்ளதா என்பதைப் பார்க்க வேண்டும்.

"இருப்பினும், டீப்ஃபேக்குகள் எப்போதும் தீங்கு விளைவிப்பதில்லை என்பதையும், பேச்சு சுதந்திரத்தை நசுக்க ஒரு ஆயுதமாகப் பயன்படுத்தப்படலாம் என்பதால், சட்டங்கள் கவனமாக உருவாக்கப்பட வேண்டும் என்பதையும் நாம் மனதில் கொள்ள வேண்டும்." என்கிறார் பால்.

- இது, பிபிசிக்காக கலெக்டிவ் நியூஸ்ரூம் வெளியீடு