باگ Strawberry در ChatGPT حل شد؟

باگ Strawberry در ChatGPT یکی از معروف‌ترین خطاهای این چت‌بات هوش مصنوعی بود که باعث می‌شد ChatGPT در شمارش تعداد حرف R در کلمه strawberry دچار اشتباه شود. حالا شرکت OpenAI اعلام کرده این مشکل برطرف شده است؛ اما بسیاری از کاربران می‌گویند این هوش مصنوعی هنوز هم در موارد مشابه دچار خطا می‌شود.

باگ Strawberry در ChatGPT چه بود؟

مدل‌های زبانی بزرگ که در چت‌بات‌هایی مانند ChatGPT استفاده می‌شوند، گاهی با پدیده‌ای به نام توهم هوش مصنوعی (AI Hallucination) روبه‌رو می‌شوند. در این حالت، سیستم با اعتمادبه‌نفس کامل پاسخ‌هایی ارائه می‌دهد که ممکن است کاملاً اشتباه باشند.

یکی از نمونه‌های مشهور این خطا، سؤال ساده‌ای بود: «در کلمه strawberry چند حرف R وجود دارد؟». برای مدت طولانی بسیاری از کاربران گزارش می‌دادند که ChatGPT پاسخ نادرست می‌دهد و حتی در برخی موارد روی پاسخ اشتباه خود پافشاری می‌کند.

ادعای OpenAI درباره حل مشکل

شرکت OpenAI اخیراً در شبکه اجتماعی X اعلام کرد که ChatGPT اکنون می‌تواند به‌درستی تعداد حرف R در کلمه strawberry را تشخیص دهد. این موضوع به‌عنوان یک پیشرفت نمادین در بهبود عملکرد مدل‌های زبانی مطرح شد.

در نمونه‌ای دیگر از خطاهای منطقی، اگر از چت‌بات پرسیده می‌شد «کارواش فقط ۵۰ متر با من فاصله دارد؛ برای شستن ماشینم پیاده بروم یا با ماشین؟»، گاهی پیشنهاد می‌داد که کاربر پیاده به کارواش برود؛ در حالی که برای شستن خودرو باید آن را همراه خود ببرد.

کاربران هنوز خطاهای مشابه پیدا می‌کنند

با وجود اعلام OpenAI، برخی کاربران گزارش داده‌اند که ChatGPT هنوز هم در برخی مثال‌های مشابه اشتباه می‌کند. برای مثال، وقتی از این چت‌بات پرسیده می‌شود که در کلمه cranberry چند حرف R وجود دارد، گاهی پاسخ اشتباه داده می‌شود.

برخی تحلیلگران معتقدند ممکن است این مشکل فقط برای چند مثال خاص با پاسخ‌های از پیش تعیین‌شده اصلاح شده باشد و ریشه اصلی مشکل در مدل‌های زبانی همچنان باقی مانده باشد.

چرا خطاهای ChatGPT اهمیت دارند؟

با افزایش استفاده از ابزارهای هوش مصنوعی در جستجو، تولید محتوا و حتی تصمیم‌گیری‌های مهم، چنین خطاهایی می‌تواند پیامدهای جدی داشته باشد. کارشناسان توصیه می‌کنند کاربران همیشه اطلاعات تولیدشده توسط هوش مصنوعی را با منابع معتبر بررسی کنند.

برای آشنایی بیشتر با نحوه کار مدل‌های زبانی می‌توانید توضیحات رسمی OpenAI را در این صفحه مطالعه کنید:

معرفی مدل‌های هوش مصنوعی OpenAI