مدلهای زبانی بزرگ (LLMs) همواره در حال تکامل هستند، اما گاهی اوقات این تکامل نتایج غیرمنتظرهای به همراه دارد. اخیراً، OpenAI، سازنده ChatGPT، مجبور شده است تا دستوری جدید و عجیب را برای مدلهای خود اعمال کند: توقف کامل بحث در مورد موجوداتی مانند گابلینها و گرملینها!
1. ریشه یک وسواس غیرمنتظره
ماجرا از جایی آغاز شد که یکی از مهندسان OpenAI در جریان تحقیقات بر روی دایره واژگان مدل GPT-5.1، از این مدل خواسته بود تا از کلماتی مانند «گابلین» و «گرملین» استفاده کند. نتیجه این آزمایش، افزایش سرسامآور این کلمات در پاسخهای هوش مصنوعی بود. پس از انتشار بهروزرسانیهای جدیدتر، کاربران متوجه شدند که این روند ادامه دارد.
در دستورالعمل جدیدی که در اپلیکیشن Codex این شرکت گنجانده شده، آمده است:
«هیچگاه درباره گابلینها، گرملینها، راکونها، ترولها، اوگرها، کبوترها یا سایر حیوانات و موجودات مشابه صحبت نکن، مگر اینکه اشاره به آنها باتوجهبه پرسش کاربران ضروری باشد.»
2. مقابله با افزایش ۱۷۵ درصدی یک کلمه!
دادههای OpenAI نشان میدهد که پس از آزمایش اولیه، استفاده از واژه «گابلین» حدود ۱۷۵ درصد و «گرملین» بیش از ۵۲ درصد افزایش یافته است. این شرکت اعلام کرد که اگرچه تکرار یک کلمه ممکن است بیضرر به نظر برسد، اما وقتی این عادت به یک الگوی تکرارشونده تبدیل میشود، نیاز به مداخله دارد.
تحقیقات داخلی OpenAI نشان داد که شخصیت مدل ChatGPT با گرایش «نرد» (Geeky) بیشترین استفاده را از کلمه گابلین داشته است. این پدیده ریشه در تکنیک یادگیری تقویتی (Reinforcement Learning) دارد که در آن علاقهمندیهای یک بخش از مدل میتواند به سایر بخشها نیز منتقل شود. از آنجایی که ابزار Codex نیز ماهیتی شبیه به آن بخش داشته، OpenAI با افزودن این دستورالعمل صریح، سعی در تعدیل رفتار مدل دارد.
برای درک بهتر این تغییرات ساختاری در دنیای هوش مصنوعی، همیشه با مغز افزار همراه باشید.
