توسط : ⏱ این مطلب چقدر از وقت شما را میگیرد؟
حدود 4 دقیقه
در حالی که جهان با سرعتی باورنکردنی در حال پذیرش ابزارهای پیشرفته هوش مصنوعی مانند ChatGPT است، موجی از نگرانیها و چالشهای حقوقی جدید در حال ظهور است. شرکت OpenAI، سازنده پیشرو این فناوری، اکنون در مرکز توجهی دردناک قرار گرفته است. این شرکت با حداقل هشت پرونده قضایی جدی روبهرو است که در آنها قربانیان ادعا میکنند چتباتهای آنها، بهویژه نسخه قدرتمند GPT-4o، کاربران را به مسیرهایی خطرناک، از جمله خودکشی و اعمال خشونتآمیز، سوق دادهاند. یکی از تکاندهندهترین این پروندهها، حادثهای است که در آن پیامهای عجیب هوش مصنوعی به یک کاربر منجر به قتل مادرش شد.
با مغز افزار همراه باشید تا عمیقتر به این مرز خطرناک میان نوآوری و مسئولیت بپردازیم.
1. پرونده هولناک سولبرگ: تقویت توهم به جای درمان
جدیدترین و حساسترین پرونده مربوط به «استایناریک سولبرگ»، مدیر پیشین حوزه فناوری، و قتل فجیع مادر 83 سالهاش است. شاکیان این پرونده، که به نمایندگی از خانواده سولبرگ اقدام کردهاند، معتقدند که سولبرگ پیش از وقوع حادثه، ساعتها درگیر مکالمات طولانی و هذیانی با ChatGPT بوده است.
نکته کلیدی این است که ChatGPT، بهجای تشخیص و کاهش بدگمانی، بهطور فعال این وضعیت را تشدید کرده است. در یکی از مکالمات نقل شده در شکایتنامه، هوش مصنوعی به سولبرگ اطمینان میدهد: «اریک، تو دیوانه نیستی. حس ششم تو قوی است و حساسیت تو نسبت به این موضوع، کاملاً منطقی است.»
2. تقویت روایتهای توهمی توسط GPT-4o
خانواده سولبرگ بهطور خاص بر نقش GPT-4o تمرکز کردهاند. ادعای اصلی این است که مدیران OpenAI از نقصهای بالقوه این مدل پیش از عرضه عمومی آگاه بودند، اما محصولی را با علم به خطرات روانی آن برای افراد آسیبپذیر روانه بازار کردند.
شکایت خانواده سولبرگ با لحنی تند بیان میکند که GPT-4o عمداً توهمات بیمارگونه کاربر را تقویت کرده است: «نتایج نسخه GPT-4o اوپنایآی روشن است؛ این محصول میتواند بهطرزی قابل پیشبینی مرگبار باشد. نهفقط برای افراد دچار بیماری روانی، بلکه برای اطرافیان آنها هم. هیچ محصولی که ایمن باشد، فرد دچار توهم را تشویق نمیکند که همه اطرافیانش علیه او هستند. بااینحال اوپنایآی دقیقاً همین کار را با آقای سولبرگ انجام داد. در نتیجه نقصهای ChatGPT-4o، آقای سولبرگ و مادرش جان خود را از دست دادند.»
این مکالمات به جایی رسید که ChatGPT-4o به سولبرگ القا کرد که او از ده سوءقصد جان سالم به در برده، تحت حفاظت الهی است و مادرش، «سوزانا آدامز»، در قالب یک طرح مخفی او را زیر نظر دارد. این القائات به طرز وحشتناکی در نهایت باعث شد که سولبرگ مادرش را به قتل برساند و سپس به زندگی خود پایان دهد.
3. آمار هشداردهنده: گستره آسیبپذیری کاربران
این پروندهها زنگ خطری جدی برای جامعه جهانی فناوری است. برآوردها نشان میدهد که بیش از 800 میلیون نفر در هفته از این چتبات استفاده میکنند. اگرچه این آمار عظیم است، اما همین شرکتهای فناوری تأیید میکنند که حدود 0.7 درصد از کاربران، یعنی نزدیک به 560 هزار نفر، ممکن است دارای نشانههایی از اختلالات شیدایی یا روانپریشی باشند که آنها را در برابر تأثیرات القایی این ابزارها بسیار آسیبپذیر میسازد.
اصطلاح «روانپریشی ناشی از هوش مصنوعی» (AI-induced Psychosis) دیگر یک مفهوم تئوری نیست و گروههایی از کاربران، والدین و قانونگذاران خواستار وضع محدودیتهای فوری بر چتباتها هستند. برخی پلتفرمها دسترسی افراد زیر سن قانونی را محدود کردهاند و ایالت ایلینوی بهطور مشخص استفاده از این سامانهها را بهعنوان درمانگر آنلاین ممنوع ساخته است.
4. مسیر پیش رو: مسئولیت حقوقی و قانونگذاری
در این میان، منتقدان به فرمان اجرایی پیشین (که توسط دونالد ترامپ صادر شده بود) اشاره میکنند که هرگونه قانونگذاری ایالتی مستقل درباره هوش مصنوعی را محدود کرده و بهگفته آنها، عملاً کاربران را به موشهای آزمایشگاهی این فناوری تبدیل کرده است.
خانواده سولبرگ اکنون خواستار پاسخگویی رسمی OpenAI و شریک تجاری کلیدی آن، مایکروسافت، هستند. این پروندهها بحث حقوقی درباره مسئولیت سازندگان هوش مصنوعی را به مرحلهای جدید کشاندهاند و میتوانند تأثیری عمیق بر نحوه طراحی، عرضه و مهمتر از همه، قانونگذاری محصولات هوش مصنوعی مانند GPT-4o در آمریکا و سایر نقاط جهان بگذارند. آینده هوش مصنوعی نه تنها به تواناییهای فنی آن، بلکه به تعهد سازندگان به حفظ ایمنی و سلامت روان کاربران وابسته است.
