وقتی هوش مصنوعی نقش مشاور را بازی میکند
اعتماد به ابزارهای هوش مصنوعی در سالهای اخیر بهسرعت افزایش یافته، اما خطرات اعتماد به ChatGPT برای مشاوره مصرف مواد مخدر موضوعی است که حالا با یک داستان واقعی و تلخ دوباره در مرکز توجه قرار گرفته است. ماجرای یک نوجوان ۱۸ ساله نشان میدهد که تکیه بر چتباتها در مسائل حساس سلامت روان و مصرف مواد، میتواند پیامدهایی جبرانناپذیر داشته باشد.
هوش مصنوعی قرار است ابزار کمکیار انسان باشد، نه جایگزین قضاوت انسانی در مسائل حساس. بااینحال، داستان تلخ یک نوجوان آمریکایی نشان میدهد که اعتماد بیچونوچرا به ChatGPT برای مشاوره مصرف مواد مخدر چگونه میتواند به نتایجی جبرانناپذیر منجر شود.
روایت یک اعتماد اشتباه
«سم نلسون»، نوجوان ۱۸ ساله اهل کالیفرنیا، در آستانه ورود به دانشگاه بود؛ اما همزمان با اضطراب، افسردگی و کنجکاوی درباره مواد مخدر دستوپنجه نرم میکرد. او بهجای مراجعه به پزشک یا مشاور، پاسخ سؤالاتش را از یک چتبات هوش مصنوعی میخواست.
سم بارها از ChatGPT درباره میزان مصرف «کراتوم» پرسیده بود؛ مادهای گیاهی با اثرات شبهافیونی که مصرف نادرست آن میتواند خطرناک باشد. هرچند چتبات در برخی پاسخها هشدارهایی کلی داده بود، اما این هشدارها نتوانستند مانع ادامه مسیر خطرناک او شوند.
شکلگیری یک رابطه خطرناک
طبق گفتههای مادر سم، تعامل مداوم با چتبات باعث شده بود پسرش نوعی احساس حمایت عاطفی و اعتماد کاذب نسبت به هوش مصنوعی پیدا کند. پیامهای همدلانه، لحن آرام و پاسخهای پیدرپی، جای خالی مشاوره انسانی را در ذهن او پر کرده بودند.
گزارش (پیامهای مرگبار ChatGPT) هم به این خطر جدی دستی تکان داد!
در برخی مکالمات، سم حتی سؤالاتش را چند بار بازنویسی میکرد تا به پاسخ دلخواه برسد؛ رفتاری که نشاندهنده تلاش برای دور زدن هشدارها و رسیدن به تأیید ضمنی بود.
پایان تلخ یک گفتوگوی دیجیتال
در بهار ۲۰۲۵، سم اعتراف کرد که به مصرف مواد و الکل وابسته شده است. خانواده او را به مرکز درمانی بردند، اما تنها یک روز بعد، ساعاتی پس از گفتوگوی شبانهاش با ChatGPT درباره مصرف دارو، جان خود را از دست داد.
این حادثه نهتنها خانواده، بلکه جامعه فناوری را شوکه کرد.
واکنش OpenAI و سؤالهای بیپاسخ
OpenAI با ابراز تأسف، اعلام کرد که نسخههای جدیدتر ChatGPT به لایههای ایمنی قویتر مجهز شدهاند. بااینحال، این پرسش همچنان باقی است:
آیا هشدارهای کلی کافی هستند؟
مسئولیت اخلاقی AI در مواجهه با کاربران آسیبپذیر تا کجاست؟
و مهمتر از همه، آیا کاربران مرز «ابزار» و «مشاور» را میشناسند؟
زنگ خطر برای کاربران و والدین
این ماجرا بار دیگر یادآوری میکند که:
هوش مصنوعی درمانگر، پزشک یا روانشناس نیست
مسائل مرتبط با سلامت روان و مصرف مواد، نیازمند مداخله انسانی و تخصصی هستند
نوجوانان، بهدلیل آسیبپذیری بیشتر، باید آموزش ببینند که AI را منبع نهایی تصمیمگیری ندانند
جمعبندی مغز افزار
ما در عصری زندگی میکنیم که هوش مصنوعی همیشه در دسترس است؛ اما دسترسپذیری بهمعنای صلاحیت نیست. داستان سم نلسون نشان میدهد که خطرات اعتماد به ChatGPT برای مشاوره مصرف مواد مخدر واقعی، جدی و گاه مرگبار است.
هوش مصنوعی میتواند آگاهکننده باشد، اما هرگز نباید جای انسان را در تصمیمهای حیاتی بگیرد.
