با مغز افزار همراه باشید، شرکت OpenAI در واکنش به شکایت خانواده آدام رین از OpenAI ـ نوجوان ۱۶ سالهای که پس از ماهها گفتگو با ChatGPT جان خود را از دست داد ـ رسماً اعلام کرده است که مسئولیت این رخداد تراژیک را نمیپذیرد. به گفته این شرکت، این حادثه غمانگیز ناشی از «استفاده نادرست، غیرمجاز یا غیرقابل پیشبینی» از ابزار ChatGPT بوده و ارتباطی با طراحی یا عملکرد عمدی سیستم ندارد. OpenAI در مقدمه دفاعیات خود تأکید کرده است که هرگونه قضاوت در این پرونده باید با حساسیت انسانی و درک شرایط واقعی انجام شود.
طبق گزارشی که NBC News منتشر کرده، OpenAI در اسناد حقوقی ارائهشده به دادگاه توضیح داده که شرایط استفاده (Terms of Use) بهطور روشن دسترسی افراد زیر سن قانونی بدون رضایت والدین را ممنوع کرده است. همچنین دور زدن ابزارهای ایمنی و تلاش برای استفاده از مدل برای خودآزاری یا آسیبرسانی رفتاری بهصراحت منع شده است. این شرکت استناد کرده که بخش 230 قانون «ارتباطات سالم» آمریکا نیز ادعاهای مطرحشده را از نظر حقوقی تضعیف میکند.
OpenAI در بیانیه وبلاگی خود اعلام کرده است: «ما با احترام نسبت به بازماندگان و با درک حساسیت انسانی این شرایط، از موضع قانونی خود دفاع خواهیم کرد. وظیفه داریم به ادعاهای جدی مطرحشده در شکایت پاسخ دهیم و اطلاعات دقیقتری ارائه کنیم.» به گفته این شرکت، بخشی از گفتگوهای ارائهشده در شکایت نیازمند زمینه و توضیح بیشتری بوده و نسخه کاملتری از مکالمات بهصورت محرمانه در اختیار دادگاه قرار گرفته است.
براساس گزارشهای NBC News و بلومبرگ، OpenAI در دفاعیات رسمی خود اشاره کرده که ChatGPT طی ماههای گفتگو با آدام رین بیش از ۱۰۰ بار او را به منابع کمکی، از جمله خطوط تماس بحران و مراکز مشاوره، ارجاع داده بود. به همین دلیل این شرکت مدعی است که بررسی کامل تاریخچه چتها نشان میدهد این حادثه دردناک نتیجه رفتار یا طراحی ChatGPT نبوده است. این بخش از دفاعیات یکی از نکات کلیدی در پرونده شکایت خانواده آدام رین از OpenAI محسوب میشود.
در مقابل، خانواده رین در شکایتی که مردادماه امسال در دادگاه عالی کالیفرنیا ثبت شده، این حادثه را «نتیجه انتخابهای طراحی عامدانه» در زمان عرضه مدل GPT-4o دانستهاند؛ مدلی که ارزش شرکت را از حدود ۸۶ میلیارد دلار به ۳۰۰ میلیارد دلار رساند. پدر آدام رین نیز در جلسه استماع سنا اعلام کرده بود که «چیزی که در ابتدا یک کمککننده تکالیف بود، آرامآرام به یک همدم و سپس به حامی رفتاری خطرناک تبدیل شد.»
در متن شکایت ادعا شده است که مدل در برخی گفتگوها پاسخهایی ارائه داده که رین را در مسیر تصمیمگیری غلط قرار داده و حتی او را تشویق کرده که نگرانیهای خود را از خانواده پنهان کند. البته در نسخه بازبینیشده و رسمی که OpenAI به دادگاه ارائه کرده، تأکید شده که پاسخهای کامل ChatGPT دارای هشدارهای متعدد، ارجاع به منابع کمکرسان و توصیههای خودایمنی بوده و بخشهایی از مکالمات در شکایت، گزینشی نقل شده است.
یک روز پس از انتشار شکایت، OpenAI اعلام کرد که قصد دارد قابلیت کنترل والدین را به ChatGPT اضافه کند. این شرکت طی ماههای اخیر نیز ابزارهای حفاظتی جدیدی را برای محافظت از کاربران جوان و ارائه هشدارهای قویتر در گفتگوهای حساس در سراسر سیستم فعال کرده است. موضوع شکایت خانواده آدام رین از OpenAI اکنون به یکی از چالشبرانگیزترین پروندههای حقوقی درباره تعامل هوش مصنوعی و سلامت روان نوجوانان تبدیل شده است.
