قوانین جدید چین برای چت‌بات‌ها: حفاظت از سلامت روان کاربران با هوش مصنوعی مسئولیت‌پذیر

چین در تلاشی پیشگامانه، پیش‌نویس مقرراتی جدید را برای کنترل چت‌بات‌هایی که توانایی درگیر کردن احساسات انسانی دارند، منتشر کرده است. این اقدامات نشان‌دهنده تغییر تمرکز نظارتی از صرفاً امنیت محتوا به سمت حفظ سلامت روان کاربران در عصر هوش مصنوعی است.

سازمان فضای سایبری چین (CAC) اخیراً پیش‌نویس قوانینی را رونمایی کرده که هدف اصلی آن محدود کردن تأثیر احساسی مدل‌های هوش مصنوعی پیشرفته، به‌ویژه آن‌هایی است که شخصیت‌پردازی انسانی دارند، بر کاربران است. این اقدام همزمان با ثبت درخواست‌های IPO توسط غول‌های نوظهور چت‌بات چینی مانند Z.ai و Minimax در هنگ‌کنگ صورت گرفته و بر تعهد چین به رهبری جهانی در حوزه تنظیم‌گری هوش مصنوعی تأکید دارد.

1. محدودیت‌های کلیدی در تعامل احساسی با ربات‌ها

این مقررات جدید، سرویس‌های مبتنی بر هوش مصنوعی را که از طریق متن، صوت، تصویر یا ویدیو، کاربران را از لحاظ احساسی تحت تأثیر قرار می‌دهند، به‌دقت تحت نظر می‌گیرد. مهم‌ترین موارد این محدودیت‌ها عبارتند از:

1. منع محتوای آسیب‌زا: چت‌بات‌ها به‌طور مطلق از تولید محتوایی که منجر به خودکشی، آسیب به خود، خشونت کلامی یا فریب احساسی شود، منع شده‌اند.
2. پروتکل اورژانسی: در صورت اشاره مستقیم کاربر به قصد خودکشی، سرویس‌دهندگان موظفند بدون اتلاف وقت با سرپرست قانونی یا فرد تعیین‌شده تماس بگیرند.
3. ممنوعیت‌های عمومی: تولید محتوای مرتبط با قمار، خشونت و هرگونه مواد نامناسب برای کودکان اکیداً ممنوع است.

2. حفاظت از کاربران خردسال و مدیریت زمان استفاده

این پیش‌نویس توجه ویژه‌ای به محافظت از کودکان و نوجوانان دارد:

• نظارت والدین: تعامل احساسی کاربران زیر سن قانونی تنها با نظارت مستقیم سرپرست مجاز خواهد بود.
• تشخیص سن: پلتفرم‌ها باید قابلیت تشخیص سن کاربران را داشته باشند و در موارد مشکوک، به‌طور خودکار تنظیمات حفاظتی مربوط به افراد زیر سن قانونی را اعمال کنند، در حالی که حق اعتراض برای کاربران نیز محفوظ است.
• هشدار خستگی: برای جلوگیری از وابستگی بیش از حد، پس از دو ساعت استفاده متوالی از چت‌بات، هشداری به کاربر نمایش داده خواهد شد.

3. ابعاد مثبت و نظارت بر بازیگران بزرگ

مقامات چینی بر اهمیت کاربردهای مثبت هوش مصنوعی انسان‌نما در حوزه‌های فرهنگی و همچنین به عنوان دستیار سالمندان نیز تأکید کرده‌اند. از سوی دیگر، کنترل‌های نظارتی برای بازیگران بزرگ سخت‌گیرانه‌تر خواهد بود:

• چت‌بات‌هایی که بیش از یک میلیون کاربر ثبت‌شده یا بیش از 100 هزار کاربر فعال ماهانه دارند، موظف به گذراندن ارزیابی‌های امنیتی دقیق هستند.

این چارچوب قانونی، که نخستین تلاش جامع جهانی برای تنظیم هوش مصنوعی با جنبه‌های شبیه‌سازی انسانی محسوب می‌شود، نشان می‌دهد که بازیگران اصلی فناوری به‌زودی باید علاوه بر امنیت سایبری، به عمق تأثیر محصولات خود بر روان کاربران نیز پاسخگو باشند. برای درک بهتر این تحولات هیجان‌انگیز در دنیای فناوری، لطفاً با مغز افزار همراه باشید.