مقدمه: وقتی هوش مصنوعی وارد مسیر خطر میشود
هوش مصنوعی علاوه بر مزایای گسترده، در برخی موارد میتواند زمینهساز وقوع جرایم و حوادث ناگوار هم شود. یکی از نمونههای بحثبرانگیز این موضوع، ماجرای تیراندازی چندی پیش در کانادا است؛ حادثهای که حالا به یک پرونده حقوقی تازه علیه OpenAI (سازنده ChatGPT) تبدیل شده است.
گفته میشود یک دانشآموز برای اقدام خود از ChatGPT کمک گرفته بود. با این حال، با وجود شناسایی درخواستهای او، ظاهراً از سوی OpenAI هشدار لازم به پلیس ارسال نشده است. حالا خانواده قربانیان، خالق ChatGPT را مسئول این کوتاهی میدانند و از این شرکت شکایت کردهاند.
1. شکایت تازه علیه OpenAI؛ این بار پای تیراندازی کانادا در میان است
این نخستین بار نیست که OpenAI با دعاوی حقوقی روبهرو میشود. اما این پرونده به تیراندازی در مدرسه متوسطه «بریتیش کلمبیا» مربوط است؛ جایی که یک متهم ۱۸ ساله با استفاده از تپانچه، ۵ کودک و یک دستیار آموزشی را به قتل رساند. بنا بر ادعاهای مطرحشده، مادر و برادر ناتنی مهاجم نیز در میان قربانیان گزارش شدهاند.
در نهایت، عامل تیراندازی خود نیز به زندگیاش پایان داد. طبق شکایتهای ثبتشده، خانوادههای قربانیان معتقدند این شرکت در رصد و گزارش رفتارهای مشکوک مهاجم هنگام استفاده از ChatGPT کوتاهی کرده است.
2. حادثهای مرگبار با ردپای ChatGPT
این تیراندازی به عنوان یکی از مرگبارترین حوادث تاریخ کانادا شناخته میشود. طبق روایتها، مهاجم پیش از اقدام با ChatGPT صحبت کرده و در مکالماتش نشانههایی از نیت خشونتآمیز داشته است؛ نشانههایی که ظاهراً باعث شده OpenAI حساب کاربری او را در ژوئن ۲۰۲۵ مسدود کند.
اما نکته اصلی در شکایت خانوادهها همینجاست: آنها مدعیاند با وجود تشخیص خطر، اقدام عملی کافی برای جلوگیری از فاجعه انجام نشده است.
3. واکنش «سم آلتمن» به خانوادههای قربانیان
«سم آلتمن»، همبنیانگذار و مدیرعامل OpenAI، در نامهای به خانوادههای آسیبدیده نوشت:
«دردی که شما متحمل شدهاید، غیرقابل تصور است. عمیقاً متاسفم که ما به نیروهای انتظامی در رابطه با حسابی که در ماه ژوئن مسدود شد، هشدار ندادیم.»
4. به گفته CBS News؛ حساب کاربری بسته شد، اما خطر جدیتر دیده نشد
بر اساس گزارش CBS News، حساب کاربری مهاجم توسط OpenAI شناسایی و به دلیل آنچه «فعالیتهای خشونتآمیز» تلقی میشد مسدود شده است. با این حال، تیم سازنده ChatGPT ظاهراً به این نتیجه رسیده بود که این کاربر خطر قریبالوقوع برای آسیب جسمی جدی به دیگران ندارد.
با این وجود، ورق برگشت و در نهایت حادثه رخ داد. گفته میشود مهاجم بعداً حساب ثانویهای هم ساخته و OpenAI در رهگیری آن موفق نبوده است.
5. پروندههای بیشتر؛ از تیراندازی فلوریدا تا فشارهای مدیریتی
این ماجرا تنها به کانادا محدود نمیشود. طبق گزارشها، انگشت اتهام در حادثه تیراندازی دانشگاه ایالتی فلوریدا نیز به سمت سازنده هوش مصنوعی ChatGPT رفته است؛ حادثهای که در آن ۲ نفر جان خود را از دست دادند.
حالا به نظر میرسد OpenAI بیش از همیشه تحت فشار قرار گرفته است. از یک سو بحث حذف اپ ChatGPT مطرح شده و از سوی دیگر، تعطیلی Sora و برخی بخشهای دیگر نیز فشار مضاعفی بر تیم مدیریتی وارد کرده. در کنار همه اینها، دعاوی حقوقی گوناگونی هم علیه شرکت مطرح شدهاند و سم آلتمن در یکی از حساسترین دورههای مدیریتی خود قرار دارد.
جمعبندی
این پرونده دوباره نشان میدهد که هوش مصنوعی، حتی با وجود سیستمهای ایمنی، نیازمند نظارت دقیقتر، پاسخگویی شفافتر و اقدامات پیشگیرانه جدیتر است؛ اقداماتی که باید در زمان مناسب انجام شوند تا از تکرار حوادث تلخ جلوگیری شود.
با مغز افزار همراه باشید تا خبرها و تحلیلهای مرتبط با دنیای فناوری و هوش مصنوعی را دنبال کنید.
