گوگل مدل هوش مصنوعی Gemma را به‌دلیل انتشار اطلاعات نادرست حذف کرد

شرکت گوگل (Google) یکی از مدل‌های هوش مصنوعی خود با نام Gemma را از پلتفرم AI Studio حذف کرده است. این تصمیم پس از آن اتخاذ شد که مارشا بلکبرن (Marsha Blackburn)، سناتور جمهوری‌خواه ایالت تنسی، این مدل را به انتشار اطلاعات نادرست و افتراگونه متهم کرد.

1. دلیل حذف مدل Gemma از AI Studio

1. بر اساس گزارش رسانه‌های آمریکایی، بلکبرن در نامه‌ای رسمی به ساندار پیچای (Sundar Pichai) مدیرعامل گوگل اعلام کرده بود که مدل Gemma هنگام پاسخ به پرسشی درباره زندگی شخصی او، اطلاعات نادرستی منتشر کرده است.
2. پاسخ مدل در مورد ادعایی ساختگی درباره اتهامات جنسی علیه بلکبرن بوده که هیچ مستند و منبع معتبری نداشت. این لینک‌ها عمدتاً به صفحات ناموجود یا اخبار بی‌ربط هدایت می‌شدند.
3. بلکبرن در نامه خود تأکید کرده که چنین محتواهایی می‌تواند مصداق افترا باشد، نه صرفاً یک خطای فنی ساده. او همچنین اشاره کرده که این مشکل فقط محدود به او نبوده و موارد مشابهی درباره‌ی دیگر فعالان محافظه‌کار نیز رخ داده است.

2. پرونده مشابه رابی استارباک و ادامه اتهامات

• به گفته‌ی بلکبرن، در پرونده‌ای مشابه، رابی استارباک، یکی از فعالان سیاسی محافظه‌کار، گوگل را به انتشار محتوای نادرست درباره خود متهم کرده بود. در پاسخ‌های مدل‌های هوش مصنوعی گوگل، از جمله Gemma، اتهامات بی‌اساس و آسیب‌زننده‌ای نسبت به او مطرح شده بود که می‌توانست پیامدهای حقوقی جدی داشته باشد.

واکنش گوگل

1. گوگل در واکنش به این اتفاق اعلام کرد که مدل هوش مصنوعی Gemma برای استفاده عمومی طراحی نشده بود و هدف آن صرفاً پشتیبانی از توسعه‌دهندگان برای ساخت محصولات مبتنی بر هوش مصنوعی بوده است.
2. به گفته‌ی گوگل، پس از گزارش‌هایی مبنی بر سوءاستفاده کاربران از این مدل در پلتفرم AI Studio، تصمیم گرفته شد که دسترسی عمومی به Gemma در این پلتفرم متوقف شود؛ البته دسترسی توسعه‌دهندگان از طریق API همچنان برقرار است.

3. پیامدهای ماجرا برای صنعت هوش مصنوعی

1. این رویداد نشان می‌دهد که با وجود رشد چشمگیر فناوری‌های هوش مصنوعی، چالش انتشار اطلاعات نادرست (Misinformation) همچنان به عنوان یکی از نگرانی‌های اساسی باقی مانده است.
2. کارشناسان معتقدند تاکنون راه‌حل قطعی برای کنترل صحت داده‌های تولیدشده توسط هوش مصنوعی وجود ندارد و ماجرای Gemma تنها یکی از نشانه‌های این ضعف ساختاری است.

4. بحث‌های سیاسی و سوگیری در هوش مصنوعی

• حذف مدل Gemma همچنین به بحث گسترده‌تری درباره‌ی سوگیری سیاسی در سیستم‌های هوش مصنوعی دامن زده است.

• شماری از سیاستمداران و حامیان حزب جمهوری‌خواه معتقدند که محصولات هوش مصنوعی گوگل تمایل دارند مواضعی ضد‌محافظه‌کارانه اتخاذ کنند.
• در مقابل، گوگل اعلام کرده است که همچنان متعهد به کاهش خطاها، خنثی‌سازی سوگیری‌ها و بهبود دقت مدل‌هایش است.