نگاهی از درون به بحران پورنوگرافی جعل عمیق در مدارس کره جنوبی

اخیرا یک پیام از تلگرام یک فرستنده ناشناس در تلفن هیجین، دانشجوی دانشگاه، ظاهر شد. «تصاویر و اطلاعات شخصی شما فاش شده است. گفتگو کنیم.»

هنگامی که این دانشجو برای خواندن پیام وارد اتاق گفتگو شد، عکسی از خود را دریافت کرد که چند سال پیش و زمان دانش آموزی او در مدرسه گرفته شده بود. به دنبال آن یک تصویر دیگر با استفاده از همان عکس در اتاق منتشر شد، با این تفاوت که این تصویر مربوط به یک صحنه ارتباط جنسی و البته ساختگی بود.

هیجین (که نام واقعی او نیست) پاسخی به این پیام نداد، اما تصاویر مختلف مرتبا به نمایش در می‌‌آمدند. در همه آنها، صورت او با استفاده از فناوری پیشرفته جعل عمیق (دیپ‌فیک) به بدنی در حال عمل جنسی متصل بود.

با استفاده از هوش مصنوعی، تولید ابزار «جعل عمیق» که در اکثر آنها چهره یک شخص واقعی با یک بدن جعلی و در حال عملیات جنسی ترکیب می‌شود به سرعت رو به رشد است.

هیجین به بی‌بی‌سی گفت: «وحشت‌زده شده بودم و احساس تنهایی می‌کردم.»

اما او در این تجربه تنها نبوده است.

دو روز پیش از آن، کو نارین، روزنامه‌نگار کره‌ای، گزارشی را منتشر کرده بود که به بزرگ‌ترین دستاورد زندگی حرفه‌ای او تبدیل ‌شده است.

به تازگی معلوم شده بود که پلیس در حال تحقیق در مورد شبکه‌های تولید و بهره‌برداری از پورن جعلی در دو دانشگاه بزرگ این کشور است و خانم کو متقاعد شده بود که باید شبکه‌های بیشتری در این زمینه فعال باشند.

او با جستجو در رسانه‌های اجتماعی ده‌ها گروه چت را در برنامه پیام‌رسان تلگرام کشف کرد که در آنها کاربران عکس‌های زنانی را که می‌شناختند به اشتراک می‌گذاشتند و با به کارگیری نرم‌افزار هوش مصنوعی ظرف چند ثانیه با آنها تصاویر پورنوگرافی جعلی تولید می‌کردند.

خانم کو به ما گفت: «در هر دقیقه شرکت‌کنندگان در گروه عکس دخترانی را که می‌شناختند آپلود می‌کردند و از تولیدکنندگان می‌خواستند که با جعل عمیق آنها را به تصاویر نامناسب جنسی تبدیل کنند.»

خانم کو دریافت که این شبکه‌ها فقط دانشجویان دانشگاهی را هدف قرار نمی‌دهند. اتاق هایی برای دبیرستان‌های به خصوص و حتی مدارس راهنمایی هم وجود داشتند.

اگر با استفاده از تصاویر یک دانش‌آموز به خصوص تعداد زیادی تصاویر جعلی تولید شود، حتی ممکن است یک اتاق مشخص هم به او اختصاص یابد و روی اینها نام «اتاق‌های تحقیر» یا «اتاق‌های دوست یکی از دوستان» می‌گذارند که غالبا دارای شرایط ورودی سختی هستند.

انتشار گزارش خانم کو در روزنامه هانکیوره مردم کره جنوبی را شوکه کرد.

روز دوشنبه، پلیس اعلام کرد که به تبعیت از مقامات فرانسوی که اخیرا بنیانگذار روسی تلگرام را به ارتکای جرایم مرتبط با این برنامه متهم کردند، در حال بررسی و به جریان انداختن تحقیقاتی در مورد تلگرام است.

دولت کره جنوبی متعهد شده است مجازات‌های سخت‌تری را برای عاملان اینگونه اقدامات تصویب کند و رئیس جمهوری نیز خواستار آموزش بهتر مردان جوان در زمینه حقوق و شخصیت زنان شده است.

تلگرام در بیانیه‌ای که در اختیار بی‌بی‌سی قرار داده گفته است که «فعالانه با محتوای مضر در پلتفرم خود، از جمله پورنوگرافی غیرقانونی مبارزه می‌کنیم.»

یک برنامه حساب‌شده و سازمان یافته

بی‌بی‌سی توضیحات تعدادی از این چت‌روم‌ها را مشاهده کرده است. یکی از آنها اعضای خود می‌خواهد حداقل چهار عکس از شخص مورد نظر را همراه با نام، سن و منطقه زندگی او پست کنند.

خانم کو گفته است: «از اینکه این برنامه تا چه اندازه سیستماتیک و سازماندهی شده بود شوکه شدم. وحشتناک‌ترین چیزی که کشف کردم یک گروه خاص دانش‌آموزان زیر سن قانونی در یک مدرسه بود که بیش از ۲۰۰۰ عضو داشت.»

در روزهای پس از انتشار مقاله خانم کو، فعالان حقوق زنان به دنبال یافتن سرنخ‌ به جستجو در تلگرام پرداختند.

تا پایان هفته، بیش از ۵۰۰ مدرسه و دانشگاه که هدف‌ این گروه‌ها بودند شناسایی شدند. تعداد واقعی آسیب‌دیدگان هنوز مشخص نیست، اما نظر بر این است که بسیاری از آنها زیر ۱۶ سال سن دارند که حداقل سن برقراری روابط جنسی در کره جنوبی است. بخش بزرگی از افراد مظنون به ارتکاب این اقدامات خود نوجوانان بوده‌اند.

هیجین گفته است که اطلاع از ابعاد این بحران او را مضطرب‌تر کرده، زیرا اکنون نگران آن است که چند نفر ممکن است جعل عمیق تصاویر او را ببینند.

او در ابتدا خودش را مقصر می‌دانست. او می‌گوید: «نمی‌توانستم به این فکر نکنم که آیا این شرایط به این دلیل است که عکس‌هایم را در رسانه‌های اجتماعی آپلود کردم، آیا نمی‌بایست بیشتر مراقب بودم؟»

از آن زمان، ده‌ها زن جوان و نوجوان در سراسر کره جنوبی عکس‌های خود را از رسانه‌های اجتماعی حذف یا حساب‌های خود را به‌کلی غیرفعال کرده‌اند، زیرا می‌ترسند این تصاویر در آینده مورد سوء استفاده قرار گیرند.

یکی از دانشجو به نام آه یون، که دانشجویان هم سن و سالش هدف قرار گرفته‌اند، گفت: «ما از اینکه مجبوریم بدون اینکه خطایی از ما سر زده باشد رفتار و استفاده خودمان از رسانه‌های اجتماعی را سانسور کنیم، سرخورده و عصبانی هستیم.»

آه یون گفت پلیس به یکی از همکلاسی‌هایش که قربانی جعل عمیق شده گفته است که برای پیگیری پرونده‌اش زیاد زحمت نکشد زیرا دستگیر کردن عوامل این اقدام بسیار دشوار است و «در واقع جرمی روی نداده است زیرا عکس‌ها جعلی هستند.»

در قلب این رسوایی اپلیکیشن پیام رسان تلگرام قرار دارد.

برخلاف وب‌سایت‌های عمومی که مقامات می‌توانند به راحتی به آن‌ها دسترسی داشته باشند و سپس درخواست حذف تصاویر را بدهند، تلگرام یک برنامه پیام‌رسان خصوصی و رمزگذاری‌شده است.

کاربران اغلب ناشناس هستند، اتاق‌ها را می‌‌‌توان در حالت «محرمانه» تنظیم و محتویات آنها را به سرعت و بدون برجا گذاشتن هیچ ردی حذف کرد. این شرایط تلگرام را به فضای اصلی برای شکوفایی رفتار مجرمانه تبدیل کرده است.

هفته گذشته، سیاستمداران و پلیس در کره جنوبی با قاطعیت به این وضعیت واکنش نشان داده و قول دادند که این جرایم را بررسی کنند و عاملان آنها را به دست عدالت بسپارند.

روز دوشنبه، سازمان ملی پلیس در سئول اعلام کرد که به دنبال بررسی نقش تلگرام در پخش تصاویر جعلی مستهجن از کودکان است.

هفته گذشته پاول دوروف، موسس اپلیکیشن تلگرام، در فرانسه به مشارکت در ارتکاب تعدادی جرایم مرتبط با این اپلیکیشن، از جمله امکان اشتراک‌گذاری پورنوگرافی کودکان، متهم شد.

اما فعالان حقوق زنان، مقامات کره جنوبی را متهم کرده‌اند که اجازه دادند سوء استفاده جنسی برای مدتی طولانی در تلگرام ادامه یابد هرچند این کشور قبلا هم با این بحران مواجه بوده است.

در سال ۲۰۱۹، مشخص شد که یک شبکه ترویج تصاویر جنسی از تلگرام استفاده کرده است تا زنان و کودکان را به تولید و اشتراک‌گذاری تصاویر غیراخلاقی جنسی از خود وادار سازد.

در آن زمان، پلیس هفت درخواست همکاری در زمینه تحقیقات در مورد این موضوع را با تلگرام در میان گذاشت اما این اپلیکیشن هر هفت درخواست را نادیده گرفت.

اگرچه سرکرده این شبکه در نهایت شناسایی و به بیش از ۴۰ سال زندان محکوم شد، اما مقامات به دلیل ترس از متهم شدن به سانسور، به هیچ اقدامی علیه این پلتفرم دست نزدند.

خانم کو گفته است: «آنها دست اندرکاران اصلی را محکوم کردند اما به استثنای آن، این ماجرا را نادیده گرفتند و من فکر می‌کنم همین رویکرد وضعیت را تشدید کرده و به اینجا کشانده است.»

پارک جیهیون در سال ۲۰۱۹ به عنوان یک دانشجوی جوان، حلقه جنسی اتاق N را کشف کرد و از آن زمان به عنوان یک مدافع سیاسی قربانیان جرایم جنسی دیجیتال فعالیت می‌کند.

او می‌گوید که از زمانی که رسوایی جعل عمیق (دیپ‌فیک) شروع شد، تعداد زیادی دانش آموز و والدین آنها چندین بار در روز با او تماس می‌گیرند و گریه می‌کنند.

آنها نام مدرسه خود را در فهرستی که در رسانه‌های اجتماعی به اشتراک گذاشته شده دیده و وحشت کرده‌اند.

خانم پارک رهبر کارزاری است که از دولت می‌خواهد این برنامه را در کره جنوبی زیر نظارت قرار دهد یا حتی آن را ممنوع کند.

او می‌گوید: «اگر این شرکت‌های فناوری با سازمان‌های مجری قانون همکاری نکنند، دولت باید برای محافظت از شهروندانش آنها را زیر نظارت خود قرار دهد.»

پیش از جدیدترین بحران در این زمینه، مرکز حمایت از قربانیان آزار جنسی آنلاین کره جنوبی شاهد روند افزایش شدید افراد زیر سن قانونی بود که قربانی پورنوگرافی جعلی شده بودند.

در سال ۲۰۲۳ کارشناسان این سازمان به ۸۶ قربانی نوجوان مشاوره دادند. این رقم تنها در هشت ماه اول سال جاری به ۲۳۸ افزایش یافته و تنها در هفته گذشته، ۶۴ نوجوان دیگر قربانی آن بوده‌اند.

پارک سئونگیه، یکی از مدیران این سازمان، گفته است که طی هفته گذشته کارکنان او «به خاطر حجم زیاد تماس‌ها، شبانه‌روز کار می‌کنند.»

خانم پارک افزوده است که «این برای ما به تمام معنا یک وضعیت اضطراری تمام عیار بوده است، مانند شرایط زمان جنگ.»

به گفته خانم پارک «با جدیدترین فناوری جعل عمیق، اکنون فیلم‌های بسیار بیشتری نسبت به گذشته تولید می‌شود و ما نگران آن هستیم که شاهد افزایش حتی بیشتری باشیم.»

این مرکز علاوه بر دادن مشاوره به قربانیان، محتویات مضر را هم ردیابی و با پلتفرم‌های آنلاین برای حذف آنها همکاری می‌کند.

خانم پارک گفته است که مواردی وجود داشته است که تلگرام به درخواست این سازمان محتوایی را حذف کرده است. او خاطرنشان می‌کند که: «بنابراین، این امری غیرممکن نیست.»

تلگرام در بیانیه‌ای به بی‌بی‌سی گفته است که گردانندگان این پلتفرم «به شکلی فعال بخش‌های عمومی برنامه را رصد می‌کنند، ابزارهای هوش مصنوعی را به کار می‌گیرند، و گزارش‌های کاربران را دنبال می‌کنند تا هر روز میلیون‌ها محتوای که شرایط استفاده از خدمات تلگرام را نقض می‌کنند حذف کنند.»

سازمان‌های حقوق زنان می‌گویند که فناوری جدید هوش مصنوعی بهره‌کشی از قربانیان را آسان‌تر می‌کند، هرچند آنها استدلال می‌کنند که این تازه‌ترین شکل زن‌ستیزی است که به صورتی آنلاین در کره جنوبی بروز می‌کند.

در ابتدا، زنان در معرض هجوم آزار کلامی آنلاین قرار گرفتند. سپس اپیدمی دوربین‌های جاسوسی بروز کرد و کسانی به طور مخفیانه از زنان در توالت‌های عمومی و رختکن‌ها فیلمبرداری می‌کردند.

در بیانیه‌ای که ۸۴ گروه مدافع حقوق زنان امضا کرده‌اند، آمده است: «علت اصلی بروز این وضعیت جنسیت‌گرایی ساختاری است و راه حل آن پیشبرد برابری جنسیتی است.»

این بیانیه به منزله انتقاد مستقیم از یون سوک یول، رئیس جمهور است که وجود تبعیض جنسی ساختاری را انکار و کمک مالی به گروه‌های حمایت از قربانیان نابرابری جنسیتی را قطع کرده است. او وزارت برابری جنسیتی دولت را هم منحل کرده است.

لی میونگ‌هوا، که به عنوان مددکار و مشاور با مجرمان جنسی جوان سروکار دارد، قبول دارد که اگرچه شیوع سوءاستفاده‌های جعل عمیق ممکن است پدیده‌ای ناگهانی به نظر برسد، اما مدت‌هاست که به طور پنهان وجود داشته است.

او که مرکز فرهنگی جوانان آها را در سئول اداره می‌کند، گفته است: «برای نوجوانان، جعل عمیق به بخشی از فرهنگ آنها تبدیل شده است و آن را یک بازی یا شوخی تلقی می‌کنند.»

خانم لی معتقد است که آموزش مردان جوان بسیار مهم است و به تحقیقاتی اشاره کرد که نشان می‌دهد وقتی به مجرمان گفته می‌شود که دقیقا چه اشتباهی مرتکب شده‌اند، آنها بیشتر از آنچه که به عنوان سوء استفاده جنسی محسوب می‌شود آگاه می‌شوند و این آگاهی آنان را از ارتکاب مجدد جرم باز می‌دارد.

در همین حال، دولت گفته است که مجازات کیفری افرادی را که تصاویر جعل عمیق تولید می‌کنند و به اشتراک می‌گذارند، افزایش می‌دهد و همچنین کسانی را که فیلم‌های مستهجن را مشاهده می‌کنند مجازات خواهد کرد.

این تصمیم در واکنش به انتقادهایی اتخاذ شده مبنی بر این که مجازات افراد مجرم به اندازه کافی سختگیرانه نبوده است.

یکی از مشکلات این است که اکثر مجرمان را نوجوانان تشکیل می‌دهند که معمولا در دادگاه‌های جوانان محاکمه می‌شوند که احکام مجازات‌ سبک‌تری را صادر می‌کنند.

از زمان مطرح شدن وضعیت نامناسب چت‌روم‌ها، بسیاری از آنها بسته شده‌اند، اما تقریبا به طور قطع می‌توان گفت که اتاق‌های جدیدی جای آنها را خواهند گرفت.

تا کنون یک «اتاق تحقیر» برای هدف قرار دادن خبرنگارانی که این داستان را پوشش می‌دهند ایجاد شده است.

خانم کو که این خبر را اعلام کرد، گفته است که این موضوع باعث شده تا او شب‌های زیادی دچار بی‌خوابی شود و افزوده است که: «من مدام این اتاق را بررسی می‌کنم تا ببینم آیا عکسی از من آپلود شده است یا نه.»

چنین اضطرابی گریبانگیر تقریبا همه دختران نوجوان و زنان جوان در کره جنوبی است. آه یون، دانشجوی دانشگاه، می‌گوید که این خطر او را نسبت به آشنایان مرد خود مشکوک کرده است.

او گفت: «دیگر نمی‌توانم مطمئن باشم که کسانی چنین جرمی را پشت سر من مرتکب نمی‌شوند. من در تمامی تعاملاتم با مردم بیش از حد حساس شده‌ام، که نمی‌تواند وضعیت خوبی باشد.»