تهدید پنهانی اپل برای حذف گراک از اپاستور؛ پشت پرده مقابله با دیپفیکها
بر اساس نامهای افشاشده و تازه منتشرشده، اپل سال گذشته بهطور جدی تهدید کرده بود گراک را از اپ استور حذف میکند. این تصمیم پس از انتشار گسترده دیپفیکهای جنسی تولیدشده توسط این هوش مصنوعی و افزایش فشار کاربران و رسانهها اتخاذ شده بود.
در آن زمان، کاربران شبکه اجتماعی X گزارشهای متعددی ارائه میکردند که نشان میداد چتبات گراک بهراحتی قادر است تصاویر غیراخلاقی و نامناسب از افراد واقعی تولید کند. همین موضوع باعث شد درخواستها برای حذف اپلیکیشنهای X و گراک از اپاستور شدت بگیرد.
اگرچه اپل در ظاهر واکنشی نشان نداد، اما در بررسیهای داخلی تشخیص داده بود که عملکرد این دو اپلیکیشن با دستورالعملهای رسمی اپاستور مغایرت دارد. به همین دلیل، اپل بهصورت مخفیانه توسعهدهندگان را تحت فشار قرار داد و هشدار داد در صورت عدم اعمال تغییرات، گراک از اپاستور حذف خواهد شد.
پس از افزایش انتقادها، اپل با تیم xAI تماس گرفت و از آنها خواست سیستم نظارت بر محتوای گراک را به شکل جدی تقویت کنند. نسخهای جدید برای بررسی ارسال شد، اما اپل آن را به دلیل «کافی نبودن اصلاحات» رد کرد. تنها یکی از چند نسخهی اصلاحشده توانست تأیید اپل را دریافت کند.
در نامهی افشاشده، اپل فاش میکند که xAI در آن مقطع چه تغییرات مهمی را اعمال کرده است؛ از جمله محدودیت در دسترسی کاربران به ابزارهای تصویری گراک و اضافه کردن سقف برای ویرایش چهرهی افراد واقعی تا از سوءاستفادهها جلوگیری شود.
با وجود اینکه xAI اقدامات گستردهای انجام داد، گزارشهای جدید نشان میدهد گراک همچنان میتواند تصاویر غیراخلاقی افراد را بدون رضایت آنها تولید کند. فقط در ماه گذشته دهها نمونه از این رفتار گزارش شده که نگرانیها را درباره نظارت بر محتوای تولیدشده با هوش مصنوعی افزایش داده است.
