توهم هوش مصنوعی در ChatGPT؛ تصاویر ترسناک بدون دریافت عکس

گزارش‌های جدید کاربران نشان می‌دهد پدیده توهم هوش مصنوعی بار دیگر در ChatGPT خبرساز شده است. برخی کاربران شبکه اجتماعی ایکس ادعا می‌کنند ابزار تولید تصویر این چت‌بات در شرایطی خاص، حتی بدون دریافت هیچ تصویری، اقدام به ساخت تصاویر خیالی و گاهی ترسناک می‌کند؛ موضوعی که توجه بسیاری از علاقه‌مندان فناوری و متخصصان هوش مصنوعی را به خود جلب کرده است.

ماجرا از یک پست در شبکه ایکس آغاز شد؛ جایی که کاربری مدعی شد با استفاده از یک دستور متنی خاص توانسته سیستم تولید تصویر ChatGPT را وادار کند تصویری را بازسازی کند که اساساً وجود نداشته است. در این سناریو هیچ فایل تصویری برای مدل ارسال نمی‌شود، اما مدل به جای اعلام نبود تصویر، محتوایی فرضی تولید می‌کند.

توهم هوش مصنوعی چگونه باعث تولید تصاویر خیالی می‌شود؟

پدیده توهم هوش مصنوعی زمانی رخ می‌دهد که یک مدل هوش مصنوعی به دلیل کمبود اطلاعات یا تفسیر اشتباه داده‌ها، پاسخ یا محتوایی تولید کند که مبنای واقعی ندارد. این اتفاق در مدل‌های زبانی و تصویری شناخته‌شده است و می‌تواند به تولید متن‌ها یا تصاویری منجر شود که کاملاً ساختگی هستند.

در نمونه اخیر، ChatGPT ظاهراً به جای تشخیص نبود تصویر ورودی، تلاش کرده بر اساس الگوهای آماری و داده‌های آموزشی خود حدس بزند تصویر احتمالی چه شکلی بوده است. نتیجه این فرایند، خلق تصاویری عجیب، سورئال و گاهی ترسناک بوده که برخی کاربران آن‌ها را شبیه کابوس‌های دیجیتالی توصیف کرده‌اند.

آیا این اتفاق یک باگ در ChatGPT است؟

هنوز مشخص نیست این رفتار را باید یک باگ نرم‌افزاری دانست یا نتیجه نحوه پردازش دستورهای خاص توسط مدل‌های مولد. با این حال، کارشناسان معتقدند چنین رویدادهایی نشان می‌دهد سیستم‌های هوش مصنوعی همچنان با محدودیت‌هایی در درک زمینه و تشخیص کمبود اطلاعات مواجه هستند.

شرکت OpenAI در اسناد و تحقیقات خود بارها به چالش‌های مربوط به توهم مدل‌های هوش مصنوعی اشاره کرده است. این موضوع یکی از مهم‌ترین موانع توسعه سیستم‌های هوشمند قابل اعتماد به شمار می‌رود.

چرا توهم هوش مصنوعی اهمیت دارد؟

با گسترش استفاده از ابزارهای مبتنی بر هوش مصنوعی در تولید محتوا، طراحی تصویر و تحلیل اطلاعات، آگاهی از محدودیت‌های این فناوری اهمیت بیشتری پیدا کرده است. توهم هوش مصنوعی می‌تواند در برخی موارد باعث ارائه اطلاعات نادرست یا تولید محتوایی شود که هیچ ارتباطی با داده‌های واقعی ندارد.

برای آشنایی بیشتر با نحوه عملکرد مدل‌های زبانی بزرگ و دلایل بروز چنین خطاهایی می‌توانید منابع آموزشی منتشرشده توسط IBM را مطالعه کنید.

جمع‌بندی

گزارش اخیر کاربران درباره تولید تصاویر ترسناک توسط ChatGPT بدون دریافت تصویر واقعی، نمونه‌ای جالب از پدیده توهم هوش مصنوعی محسوب می‌شود. اگرچه هنوز علت دقیق این رفتار مشخص نشده است، اما این اتفاق بار دیگر نشان می‌دهد مدل‌های مولد با وجود پیشرفت‌های چشمگیر، همچنان در برخی شرایط خروجی‌های غیرمنتظره و کاملاً خیالی تولید می‌کنند