شرکت OpenAI اعلام کرده است که مرورگرهای هوش مصنوعی، حتی با وجود ارتقاهای امنیتی گسترده، همچنان در معرض حملات تزریق پرامپت (Prompt Injection) قرار دارند. این نوع حملات شامل فریب دادن عاملهای هوش مصنوعی برای اجرای فرمانهای مخرب پنهان در صفحات وب، ایمیلها یا اسناد آنلاین است. به گفتهی OpenAI، این تهدیدها مشابه حملات فیشینگ و مهندسی اجتماعی در وب هستند و احتمال حذف کامل آنها در آینده نزدیک وجود ندارد.
در بیانیه رسمی OpenAI آمده است که فعالسازی ویژگی Agent Mode در مرورگر ChatGPT Atlas احتمال افزایش سطح تهدیدات امنیتی را بالا میبرد. این موضوع باعث شده متخصصان امنیت سایبری توجه ویژهای به شیوههای کاهش ریسک این نوع حملات داشته باشند.
1. تهدیدی مداوم برای مرورگرهای هوش مصنوعی
مرورگر ChatGPT Atlas در اکتبر عرضه شد و خیلی زود کارشناسان امنیتی دریافتند که حتی افزودن چند واژه ساده در یک سند Google Docs میتواند رفتار مرورگر را تغییر دهد. شرکت Brave نیز درباره خطر «Prompt Injection غیرمستقیم» هشدار داد و آن را مشکلی بنیادی برای مرورگرهای مبتنی بر هوش مصنوعی مانند Perplexity Comet دانست.
بر اساس گزارش مرکز ملی امنیت سایبری بریتانیا (NCSC)، این حملات ممکن است هرگز حذف نشوند و وبسایتها را در معرض نشت اطلاعات قرار دهند. این نهاد تأکید کرده است که تمرکز اصلی باید بر کاهش تأثیر و ریسک حملات باشد، نه حذف کامل آنها.
2. راهکارهای دفاعی OpenAI در برابر تزریق پرامپت
OpenAI این تهدید را یک چالش امنیتی دائمی میداند و از یک چرخه «پایش، شناسایی و واکنش سریع» برای مقابله با آن استفاده میکند. یکی از روشهای کلیدی شرکت، بهرهگیری از یک مهاجم خودکار مبتنی بر LLM است. این سیستم، مشابه یک هکر ش模behavior-hacking، در محیط آزمایشی اقدام به تزریق کدهای مخرب میکند تا نقاط ضعف سیستم پیش از وقوع حملات واقعی شناسایی شوند.
این فرآیند مبتنی بر یادگیری تقویتی (Reinforcement Learning) است و با تکرار حمله، بازبینی واکنش عامل و اصلاح استراتژی، به مرور توانایی دفاعی سیستم را افزایش میدهد.
3. توصیههای امنیتی برای کاربران
کاربران باید در استفاده از عاملهای هوش مصنوعی، دستورالعملهای شفاف و محدودکننده دسترسی را رعایت کنند. دادن آزادی عمل بیش از حد به ایجنتها، حتی در محیطهای امن، میتواند خطرپذیری سیستم را افزایش دهد. OpenAI توصیه میکند کاربرها دسترسی به ایمیلها، دادههای حساس یا APIهای باز را تا حد امکان محدود کنند.
با وجود دشواری محافظت کامل در برابر حملات پرامپت، OpenAI از طریق بهروزرسانیهای مداوم و آزمایشهای میدانی، در تلاش است مقاومت سیستمهای خود را در برابر تهدیدات جدید افزایش دهد. با مغز افزار همراه باشید تا از تازهترین تحلیلها و راهکارهای امنیتی در دنیای هوش مصنوعی مطلع شوید.
4. جمعبندی
بهطور خلاصه، مرورگرهای هوش مصنوعی مانند ChatGPT Atlas، با وجود قدرت و سرعت بالا، هنوز از نظر امنیتی کاملاً ایمن نیستند. حملات تزریق پرامپت میتوانند ساختار تصمیمگیری هوش مصنوعی را تحت تأثیر قرار دهند و دادههای کاربران را در معرض خطر قرار دهند. متخصصان امنیتی میگویند که حفظ تعادل بین کاربردپذیری، نوآوری و امنیت بزرگترین چالش حال حاضر در مسیر توسعه مرورگرهای هوش مصنوعی است.
