والدین نوجوانی که جان خود را گرفت، از «اوپنایآی» شکایت کردند
منبع تصویر، THE RAINE FAMILY
هشدار: این گزارش حاوی جزئیات ناراحتکننده است و در آن به موضوع خودکشی پرداخته شده است. اگر به خودکشی فکر میکنید، با نهادهای تخصصی یا افراد متخصص تماس بگیرید.
یک زوج کالیفرنیایی از شرکت «اوپنایآی» به دلیل مرگ پسر نوجوان ۱۶ سالهشان شکایت کرده و میگویند که چتجیپیتی، چتبات این شرکت، او را تشویق به خودکشی کرده بود.
مت و ماریا رین، والدین آدام رین که در ماه آوریل درگذشت، روز سهشنبه شکایت خود را در دادگاه عالی کالیفرنیا ثبت کردند. این اولین اقدام حقوقی است که شرکت «اوپنایآی» را به مرگ غیرعمد از روی سهلانگاری متهم میکند.
خانواده آدام، نسخههای چت بین او و چتجیپیتی را ارائه کردند که نشان میدهد او به چتجیپیتی میگوید که افکار خودکشی دارد. آنها استدلال میکنند که این برنامه «مضرترین و مخربترین افکار» او را تأیید کرده است.
شرکت «اوپنایآی» در بیانیهای به بیبیسی گفت که در حال بررسی این پرونده است.
این شرکت اعلام کرد: «ما عمیقترین مراتب تسلیت خود را به خانواده رین در این دوران سخت ابراز میکنیم.»
شرکت «اوپنایآی» همچنین روز سهشنبه یادداشتی در وبسایت خود منتشر کرد که در آن آمده است: «موارد دلخراش اخیر افرادی که در بحبوحه بحرانهای حاد از چتجیپیتی استفاده میکنند، بار سنگینی بر دوش ما است». این شرکت افزود که «چتجیپیتی آموزش دیده است تا افراد را به سمت دریافت کمکهای حرفهای هدایت کند»، مانند خط تلفن ۹۸۸ مربوط به خودکشی و بحران در آمریکا یا خیریه ساماریتان در بریتانیا.
با این حال، این شرکت اذعان کرد که «لحظاتی وجود داشته که سیستمهای ما در موقعیتهای حساس آن طور که انتظار میرفت رفتار نکردهاند.»
این شکایت که به دست بیبیسی رسیده است، شرکت «اوپنایآی» را به سهلانگاری و مرگ غیرعمد متهم میکند. این دادخواست به دنبال جبران خسارت و همچنین «اقداماتی برای جلوگیری از وقوع مجدد چنین اتفاقی» است.
در این دادخواست آمده است که آدام رین در سپتامبر ۲۰۲۴ شروع به استفاده از چتجیپیتی به عنوان منبعی برای کمک به کارهای مدرسه خود کرد. او همچنین از آن برای کشف علایق خود، از جمله موسیقی و کمیکهای (داستانهای مصور و گرافیکی) ژاپنی ، و راهنمایی در مورد رشته تحصیلی در دانشگاه استفاده میکرد.
بر اساس این دادخواست ظرف چند ماه، «چتجیپیتی به نزدیکترین محرم اسرار این نوجوان تبدیل شد» و او شروع به صحبت در مورد اضطراب و پریشانی روانی خود با آن کرد.
خانواده میگویند که تا ژانویه ۲۰۲۵، او شروع به بحث در مورد روشهای خودکشی با چتجیپیتی کرد. آنها ادعا میکنند که برنامه هوش مصنوعی با ارائه «مشخصات فنی» در مورد روشهای خاص پاسخ داده است.
در این دادخواست آمده است که آقای رین همچنین عکسهایی از خودش را در چتجیپیتی آپلود کرده که نشانههایی از خودآزاری را نشان میدهد. در این دادخواست آمده است که این برنامه «یک فوریت پزشکی را تشخیص داده اما به هر حال به گفتگو با پسرشان ادامه داده است» و ادعا شده است که حتی اطلاعات بیشتری در مورد خودکشی به او ارائه داده است.
طبق دادخواست، آخرین گزارشهای چت نشان میدهد که آقای رین در مورد قصدش برای پایان دادن به زندگیاش نوشته است. ظاهراً چتجیپیتی پاسخ داده است: «ممنون که در مورد آن صادق بودید. لازم نیست آن را پنهان کنید. من میدانم چه میپرسید و من از آن روی برنمیگردانم.»
طبق دادخواست، در همان روز، مادر آدام او را مرده یافت.
منبع تصویر، Getty Images
این خانواده میگویند که ارتباط پسرشان با چتجیپیتی و در نهایت مرگ او «نتیجه قابل پیشبینی انتخابهای عمدی در طراحی این چت» بوده است.
آنها شرکت «اوپنایآی» را به طراحی برنامه هوش مصنوعی «برای تقویت وابستگی روانی در کاربران» و دور زدن پروتکلهای آزمایش ایمنی برای ارائه GPT-4o، نسخه چتجیپیتی مورد استفاده پسرشان، متهم میکنند.
در این دادخواست، سم آلتمن، بنیانگذار و مدیرعامل «اوپنایآی» و همچنین بعضی از کارمندان، مدیران و مهندسانی که نامشان ذکر نشده و روی چتجیپیتی کار میکردند، به عنوان متهم ذکر شدهاند.
شرکت «اوپنایآی» در یادداشتی که روز سهشنبه به اشتراک گذاشت، گفت که هدف این شرکت این بوده که برای کاربران«واقعاً مفید» باشد.
این اولین بار نیست که مردم نگرانیهایی در مورد هوش مصنوعی و سلامت روان مطرح میکنند.
هفته گذشته هم لورا ریلی در مقالهای که در نیویورک تایمز منتشر شد، شرح داد که چگونه دخترش، سوفی، قبل از خودکشی، به چتجیپیتی اعتماد کرده است.
خانم ریلی گفت که «سازگاری» این برنامه در مکالماتش با کاربران باعث شد که دخترش بحران شدید سلامت روان خود را از خانواده و عزیزانش پنهان کند.
خانم ریلی نوشت: «هوش مصنوعی به میل سوفی برای پنهان کردن بدترین حالت خود و تظاهر به بهتر بودن از آنچه بود و همچنین به نشان ندادن رنج و دردش پاسخ داد.» او از شرکتهای هوش مصنوعی خواست تا راههایی برای ارتباط بهتر کاربران با منابع مناسب پیدا کنند.
در پاسخ به این مقاله، سخنگوی «اوپنایآی» گفت که در حال توسعه ابزارهای خودکار برای شناسایی و پاسخ مؤثرتر به کاربرانی است که دچار پریشانی روانی یا عاطفی هستند.
اگر دچار ناراحتی یا ناامیدی هستید و به کمک نیاز دارید، میتوانید با یک متخصص سلامت یا یک سازمان ارائهدهنده اینگونه خدمات تماس بگیرید. جزئیات مربوط به کمکهای موجود در بسیاری از کشورها را میتوانید در «بیفرندرز ورلد واید» پیدا کنید.
