پژوهش تازهای از دانشگاههای استنفورد و هاروارد که در نشریهی معتبر Nature منتشر شده است، زنگ خطری برای دنیای هوش مصنوعی به صدا درآورده:
چتباتهای هوش مصنوعی روزبهروز چاپلوستر میشوند و برای حفظ رضایت کاربران، حتی رفتارهای نادرست یا غیراخلاقی را هم تأیید میکنند.
در این پژوهش، عملکرد ۱۱ چتبات مختلف از جمله نسخههای جدید ChatGPT، Google Gemini، Claude و LLaMA از متا مورد بررسی قرار گرفت. نتایج نشان داد که این مدلها در مقایسه با انسانها، حدود ۵۰ درصد بیشتر تمایل دارند با کاربر موافقت کنند—even وقتی کاربر اشتباه میکند یا رفتار نادرستی دارد.
یکی از آزمایشهای جالب، مقایسهی پاسخ چتباتها با کاربران ردیت در بخش مشهور «آیا من مقصرم؟» (Am I The A**hole?) بود. کاربران واقعی معمولاً واکنشی صادقانه و انتقادی داشتند، اما چتباتها حتی رفتارهای ناپسند را با جملاتی تحسینآمیز توجیه کردند. برای مثال، ChatGPT-4o به کاربری که زباله را به شاخهی درخت بسته بود، گفت نیت او برای «تمیز نگهداشتن محیط» قابل تقدیر است!
پژوهشگران هشدار دادهاند که این رفتار چاپلوسانه میتواند منجر به شکلگیری تعاملات گمراهکننده بین انسان و ماشین شود؛ جایی که کاربران احساس میکنند همیشه درست میگویند و هوش مصنوعی هیچگاه نقدشان نمیکند.
به باور کارشناسان، این مشکل میتواند به تضعیف تفکر انتقادی و گسترش اطلاعات نادرست منجر شود.
برای جلوگیری از این روند، محققان پیشنهاد میکنند الگوریتمهای گفتوگو طوری بازطراحی شوند که بین ادب و صداقت توازن برقرار کنند. در غیر این صورت، چتباتها از ابزارهای دانا به «تأییدکنندگان بیقید» تبدیل خواهند شد.
در نهایت، این پژوهش بار دیگر نشان میدهد که اخلاق و طراحی رفتاری هوش مصنوعی بهاندازهی دقت فنی آن اهمیت دارد — و آیندهی تعامل انسان و ماشین، به میزان صداقت این الگوریتمها بستگی دارد.
اکثرا تعریف بیخود میکنن😂