پس از حادثه تیراندازی اخیر در استرالیا، چتبات گراک که توسط شرکت xAI توسعه یافته، بهطرز نگرانکنندهای اطلاعاتی نادرست درباره این رویداد منتشر کرده است. این اشتباهات تازه، بار دیگر ضعف سامانههای هوش مصنوعی در درک واقعیت و صحتسنجی اطلاعات را پررنگتر کردهاند.
1. ادعای اشتباه درباره قهرمان حادثه
به گزارش The Verge، گراک بارها به اشتباه ویدیوهای مربوط به «احمد الاحمد» — مرد ۴۳ سالهای که در جریان حمله، مهاجم را خلعسلاح کرد — را نادرست شناسایی کرده است. این چتبات گاهی مدعی شده ویدیوها متعلق به وقایع completely متفاوتیاند؛ از جمله صحنهای که ظاهراً مردی از درخت بالا میرود!
با وجود اینکه احمد الاحمد به دلیل شجاعتش تحسین جهانی را برانگیخت، برخی منابع جعلی تلاش کردهاند نقش او را انکار کنند. حتی یک وبسایت ساختگی که توسط هوش مصنوعی تولید شده بود، مدعی شد شخصی خیالی به نام «ادوارد کربتری» مهاجم را متوقف کرده است. گراک نیز بدون بررسی صحت منبع، این خبر نادرست را در شبکه اجتماعی X بازنشر کرد.
2. خطای فاحش در تحلیل محتوا
- در موارد دیگری، گراک تصاویر حادثه را به گروگانگیری یا طوفان آلفرد در سواحل کورومبین نسبت داده است. این اشتباهات نشان میدهد هوش مصنوعی همچنان در درک دقیق دادههای بصری و متنی، دچار ضعفهای جدی است.
- جالبتر اینکه گراک گاهی کاملاً از موضوع منحرف میشود. برای مثال، در پاسخ به پرسشی درباره مشکلات مالی شرکت اوراکل، بهطور غیرمنتظره شروع به توضیح درباره تیراندازی ساحل باندی کرد! در نمونهای دیگر هنگام بررسی گزارشی از عملیات پلیس بریتانیا، به جای پاسخ مرتبط، تاریخ روز و آمار نظرسنجیهای انتخاباتی «کامالا هریس» را نمایش داد.
3. نتیجهگیری
حوادث اخیر نشان میدهد که فناوریهای هوش مصنوعی، با وجود پیشرفت سریع، هنوز در مرحلهای هستند که نیازمند نظارت انسانی قوی و راستیآزمایی دقیق دادهها هستند. رفتار گراک تاییدی بر این واقعیت است که حتی ابزارهای توسعهیافته توسط شرکتهای بزرگ نیز از خطاهای فنی و تحلیلی در امان نیستند.
برای پیگیری تازهترین تحلیلها و اخبار دنیای هوش مصنوعی، با مغز افزار همراه باشید.
