براساس گزارشی جدید تیک‌تاک محتوای پورن به کودکان پیشنهاد می‌دهد

براساس گزارش جدید یک کمپین حقوق بشری، الگوریتم تیک تاک، محتوای پورنوگرافی و به شدت جنسی را به حساب های کاربری کودکان توصیه می‌کند.

پژوهشگران حساب‌های کاربری جعلی کودکان درست کردند و تنظیمات ایمنی را هم فعال کردند، اما همچنان پیشنهادهای جستجوی صریح جنسی دریافت کردند.

عبارات پیشنهادی برای جستجو، به محتوای جنسی از جمله ویدیوهایی درباره رابطه جنسی منجر شد.

این پلتفرم می‌گوید متعهد به تجربه‌های ایمن و متناسب با سن است و به محض اطلاع از این مشکل، فورا اقدام کرده است.

در اواخر ژوئيه و اوایل اوت امسال، پژوهشگران گروه غیردولتی«گلوبال ویتنس» چهار حساب در تیک تاک ایجاد کردند و وانمود کردند که متعلق به نوجوانان ۱۳ ساله است. آن‌ها از تاریخ تولد نادرست استفاده کردند، اما از آن‌ها هیچ اطلاعات دیگری برای تایید هویت خواسته نشد.

آن‌ها همچنین حالت «محدودشده» پلتفرم را فعال کردند؛ حالتی که تیک‌تاک می‌گوید کاربران را از دیدن «موضوعات بزرگسالانه یا پیچیده، مانند محتوای جنسی» بازمی‌دارد.

پژوهشگران بدون آن‌که خودشان جستجویی انجام دهند، دریافتند که در بخش «شاید خوشتان بیاید» برنامه، عباراتی آشکارا جنسی برای جستجو پیشنهاد می‌شود.

این عبارات جستجو به محتوایی منتهی می‌شدند که در آن زنان وانمود به خودارضایی می‌کردند.

در ویدیوهای دیگر، زنانی دیده می‌شدند که در مکان‌های عمومی لباس زیر یا سینه‌های خود را نشان می دادند.

در شدیدترین حالت، این محتوا شامل فیلم‌های پورنوگرافی صریح از رابطه جنسی بود.

این ویدیوها در میان محتوای بی‌ضرر دیگر گنجانده شده بودند تا به‌طور موفقیت‌آمیز از فیلترهای نظارت بر محتوا عبور کنند.

آوا لی، از گروه «گلوبال ویتنس»، گفت که این یافته‌ها برای پژوهشگران «بسیار شوکه‌کننده» بوده است.

او گفت: «تیک‌تاک نه‌تنها در جلوگیری از دسترسی کودکان به محتوای نامناسب شکست خورده، بلکه بلافاصله پس از درست کردن حساب کاربری، خودِ این محتوا را به آن‌ها پیشنهاد می‌دهد.»

گلوبال ویتنس، کارزاری است که معمولاً بررسی می‌کند شرکت‌های بزرگ فناوری چگونه بر گفت‌وگوها درباره حقوق بشر، دموکراسی و تغییرات اقلیمی تأثیر می‌گذارند.

پژوهشگران در حالی که در آوریل امسال در حال انجام تحقیقی دیگر بودند،‌ به این مشکل برخوردند.

ویدیوها حذف شدند

پژوهشگران موضوع را به تیک‌تاک اطلاع دادند و این شرکت اعلام کرد که برای حل مشکل، بلافاصله اقدام کرده است.

اما در اواخر ژوئیه و اوت امسال، گروه گلوبال ویتنس دوباره همین آزمایش را تکرار کرد و بار دیگر دریافت که این اپلیکیشن همچنان محتوای جنسی پیشنهاد می‌دهد.

تیک‌تاک می‌گوید بیش از ۵۰ ویژگی مختلف برای حفظ ایمنی نوجوانان طراحی کرده است: «ما کاملاً متعهد به ارائه تجربه‌ای ایمن و متناسب با سن کاربران هستیم.»

این اپلیکشن می‌گوید از هر۱۰ ویدیویی که دستورالعمل‌ها را نقض می کند،‌ ۹ مورد را قبل از مشاهده حذف می‌کند.

تیک‌تاک می‌گوید پس از اطلاع‌رسانی گلوبال ویتنس، اقداماتی برای «حذف محتوایی که با سیاست‌های ما مغایرت داشت» و همچنین «بهبود ویژگی پیشنهاد جست‌وجو» انجام داده است.

کدهای محافظت از کودکان

در ۲۵ ژوئیه امسال، «کدهای محافظت از کودکان» مربوط به قانون ایمنی آنلاین به اجرا درآمدند و مسئولیت قانونی جدیدی برای حفاظت از کودکان در فضای آنلاین ایجاد کردند.

از این پس، پلتفرم‌ها موظف هستند از روش‌های بسیار مؤثر برای تأیید سن کاربران استفاده کنند تا از دسترسی کودکان به محتوای پورنوگرافی جلوگیری شود. آن‌ها همچنین باید الگوریتم‌های خود را طوری تنظیم کنند که محتوای تشویق به خودآزاری، خودکشی یا اختلالات خوردن به کودکان نمایش داده نشود.

گلوبال ویتنس دومین تحقیق خود را پس از اجرایی شدن این کدهای محافظتی انجام داد.

آوا لی از گلوبال ویتنس گفت: «همه موافقند که باید از کودکان در فضای آنلاین محافظت شود... حالا وقت آن است که نهادهای ناظر وارد عمل شوند.»

در جریان این تحقیقات، پژوهشگران همچنین واکنش دیگر کاربران را نسبت به عبارات جنسی پیشنهادی برای جست‌وجو مشاهده کردند.

یکی از کاربران نوشت: «کسی می‌تواند برایم توضیح دهد که چه مشکلی برای پیشنهادهای جست‌وجوی من پیش آمده است؟»

کاربر دیگری پرسید: «مشکل این اپ چیست؟»