چت‌جی‌پی‌تی «به‌زودی» محتوای اروتیک را برای بزرگسالان به قابلیت‌های خود اضافه می‌کند

سام آلتمن، مدیر «اوپن‌ای‌آی»، می‌گوید این شرکت در راستای اجرای سیاست «رفتار با بزرگسالان مانند بزرگسالان»، محتوای پرتنوع‌تری از جمله محتوای اروتیک را در چت‌جی‌پی‌تی، چت بات محبوب خود ارائه می‌کند.

آقای آلتمن در پیامی در شبکه اجتماعی ایکس نوشت که نسخه‌های آینده‌ این چت‌‌جی‌پی‌تی، می‌تواند بیشتر شبیه انسان رفتار کند «اما فقط در صورتی که بخواهید، نه برای اینکه ما داریم استفاده را به حداکثر می‌رسانیم.»

شبکه اجتماعی ایکس متعلق به ایلان ماسک به گروک، هوش مصنوعی‌اش، دو چت‌بات با محتوای اروتیک اضافه کرده است که به جذب مشترکان پولی کمک کند.

افزوده شدن این قابلیت، احتمالا فشار بر قانون‌گذران را برای اعمال محدودیت‌های شدیدتر بر چت‌بات‌ها تشدید خواهد کرد.

آقای آلتمن گفت که اوپن‌ای‌آی قبلا محدودیت‌های زیادی برای چت‌جی‌پی‌تی ایجاد کرده بود تا مطمئن شود که «ما مراقب مسائل مربوط به سلامت روان هستیم.»

این تغییرات در یک پست وبلاگ در ماه اوت اعلام شد ولی در وبسایت اوپن‌ای‌آی دیده نمی‌شود.

آقای آلتمن دیروز،سه‌شنبه، نوشت: «ما متوجه هستیم که این محدودیت‌ها باعث شد چت‌جی‌پی‌تی برای بسیاری از کاربرانی که هیچ مشکل سلامت روان نداشتند، کمتر مفید/لذت‌بخش باشد، اما با توجه به اهمیت بودن موضوع، می‌خواستیم کار را درست انجام دهیم.»

او گفت: «حالا که توانسته‌ایم مشکلات جدی مربوط به سلامت روان را کاهش دهیم و ابزارهای جدیدی داریم» می‌توانیم به‌زودی محدودیت‌ها را کاهش دهیم.

او افزود: «در ماه دسامبر، با اجرای کامل‌تر سیستم تعیین سن و به‌عنوان بخشی از اصل رفتار با کاربران بزرگسال مانند بزرگسالان، اجازه‌ دسترسی به محتوای بیشتری را خواهیم داد، مانند محتوای اروتیک برای بزرگسالانی که سن آنها تایید شده است.»

اعمال این تغییرات پس از آن است که اوایل امسال والدین یک نوجوان آمریکایی که جان خود را گرفته بود، از شرکت اوپن‌ای‌‌آی شکایت کردند.

دادخواست مت و ماریا رین، والدین آدام رین ۱۶ ساله، اولین اقدام حقوقی علیه این شرکت بود که به «مرگ ناشی از بی‌توجهی» متهم شده است.

مادر و پدر این نوجوان که در ماه آوریل فوت کرد، با استناد به محتوای پیام‌های او با چت‌جی‌پی‌تی گفتند که فرزندشان به گرفتن جان خود فکر می‌کرده است.

در بیانیه‌ای که در آن زمان منتشر شد، این شرکت به بی‌بی‌سی گفت در حال بررسی است و «عمیق‌ترین مراتب تسلیت را در این دوره سخت به خانواده رین» ابراز کرد.

نگرانی‌ها درباره ایمنی کودکان

در بعضی کشورها نظیر بریتانیا، بر اساس قانون ایمنی آنلاین، مطالب شهوانی متنی، نیازی به تایید سن ندارند.

با این حال، تصاویر پورن، از جمله تصاویر هوش مصنوعی، از کاربران می‌خواهند که ثابت کنند بالای ۱۸ ساله هستند.

در ایالات متحده، منتقدان می‌گویند تصمیم اوپن‌ای‌آی برای افزودن محتوای اروتیک، نیاز به مقررات بیشتر در سطح فدرال و ایالتی دارد.

در ماه آوریل شرکت «تک کرانچ» گزارش کرد که اوپن‌ای‌آی به حساب‌های کاربری که افراد زیر سن قانونی در آن ثبت نام کرده بودند، اجازه استفاده از قابلیت تولید تصاویر اروتیک را داده است. این شرکت در آن زمان اعلام کرد که در حال ارائه راه‌ حلی برای محدود کردن چنین محتوایی است.

نتایج نظرسنجی مرکز غیرانتفاعی دموکراسی و فناوری نشان می‌دهد که یک نفر از هر پنج دانش‌آموزی که خود یا دیگران می‌شناسند، با هوش مصنوعی رابطه عاشقانه برقرار کرده‌اند.

آقای آلتمن در زمانی که خبر را اعلام کرد که منتقدان، افزایش سریع ارزش شرکت‌های فناوری هوش مصنوعی را زیر سوال برده‌اند.

درآمد اوپن‌ای‌آی در حال رشد است اما سودآور نبوده است.

راب لالکا، استاد بازرگانی دانشگاه تولین و نویسنده کتاب «کیمیاگران خطرپذیر»، گفت که شرکت‌های بزرگ هوش مصنوعی خود را در نبرد برای سهم بازار می‌بینند: «آنها باید به حرکت در امتداد منحنی رشد ادامه می‌دادند تا جایی که بتوانند بر بازار تسلط پیدا کنند.»