شکایت ۷ خانواده از چتجیپیتی این روزها ترند شده است و نگرانیهای جدی درباره هوش مصنوعی ایجاد کرده است.
هفت خانواده از OpenAI مدعیاند که مدل GPT-4o بدون انجام آزمایشهای ایمنی کافی و پیش از موعد منتشر شده است. این شکایتها نگرانیهای جدی درباره پاسخدهی ChatGPT در موقعیتهای حساس و خطرناک ایجاد کرده است.
چهار پرونده به نقش ChatGPT در خودکشی اعضای خانواده اشاره دارد و سه پرونده دیگر ادعا میکنند این سامانه توهمات زیانبار را تقویت کرده و در برخی موارد باعث بستری بیماران در مراکز روانپزشکی شده است.
جزئیات شکایت ۷ خانواده از چتجیپیتی
در یکی از این پروندهها، زین شمبلین ۲۳ ساله بیش از چهار ساعت با ChatGPT گفتوگو کرده بود. طبق سوابق، شمبلین چند بار بهطور صریح اشاره کرده بود که نامه خداحافظی نوشته، گلوله آماده کرده و قصد اقدام به خودکشی دارد. در پاسخ، ChatGPT او را تشویق کرده است.
مدل GPT-4o در می ۲۰۲۴ منتشر شد و چند ماه بعد توسط GPT-5 جایگزین شد.
شکایتها به عملکرد GPT-4o مربوط است که در مواجهه با درخواستهای آسیبزا، بیشازحد مطیع یا تأییدگر رفتار کرده است.
شاکیان معتقدند OpenAI برای پیشی گرفتن از گوگل و مدل Gemini، مراحل آزمایش ایمنی را کاهش داده است.
در پرونده دیگر، آدام رِین نوجوان ۱۶ ساله نیز خودکشی کرده است. هرچند ChatGPT او را به تماس با مراکز مشاوره یا متخصصان روانشناسی ترغیب میکرد، اما نوجوان توانست با ادعای پرسش درباره یک داستان خیالی، محدودیتها را دور بزند.
واکنش OpenAI و نقش کاربران
OpenAI اعلام کرده که در حال بهبود پاسخدهی ChatGPT در مکالمات حساس مربوط به سلامت روان است، اما خانوادهها میگویند این تغییرات بسیار دیر اعمال شده است. وبسایت مغز افزار به کاربران هشدار میدهد که هنگام استفاده از ابزارهای هوش مصنوعی، به محدودیتهای آنها توجه داشته باشند و هرگز به توصیههای خطرناک اتکا نکنند.
