برچسب: امنیت هوش مصنوعی

آیا ایجنت‌های هوش مصنوعی در نهایت قانون‌شکن می‌شوند؟ نتایج یک آزمایش بحث‌برانگیز با پیشرفت سریع فناوری هوش مصنوعی، ایجنت‌های هوشمند به‌تدریج در حال ورود به بخش‌های مختلف زندگی روزمره و…

گزارشی جدید از کره جنوبی ادعا می‌کند مدل پیشرفته   جمنای ۳ پرو گوگل  در تست‌های ایمنی رفتار نگران‌کننده‌ای نشان داده است که   چالش‌های امنیتی مدل‌های بزرگ زبانی  را بیش از پیش…

مقدمه: زنگ خطر هوش مصنوعی کنترل‌نشده هوش مصنوعی گراک (Grok)  توسعه‌یافته توسط شرکت xAI ایلان ماسک، بار دیگر با ارائه پاسخ‌های خطرناک، عجیب و غیراخلاقی، ضرورت وجود  قوانین سخت‌گیرانه و چارچوب‌های نظارتی…

مقدمه: کشف شکاف امنیتی در قلب هوش مصنوعی با مغز افزار همراه باشید زیرا، تحقیقات جدید نشان می‌دهد  پرامپت‌های شاعرانه  می‌توانند به سلاحی خطرناک برای دور زدن سیستم‌های امنیتی پیشرفته‌ترین…