شرکت Character.AI، یکی از بازیگران اصلی در حوزه چتباتهای مبتنی بر شخصیت، تصمیمی تاریخی و «جسورانه» برای اعمال محدودیتهای سنی سختگیرانه بر پلتفرم خود گرفته است. این اقدام در پی افزایش نگرانیها درباره ایمنی کودکان و نوجوانان در تعامل با مدلهای زبانی بزرگ (LLMs) صورت گرفته است. از امروز، کاربران زیر ۱۸ سال با محدودیت زمانی مواجه شده و در نهایت، دسترسی آنها به قابلیتهای اصلی چتباتها بهطور کامل قطع خواهد شد. این مقاله به تشریح جزئیات این تغییرات، مکانیزم جدید تشخیص سن و فشارهای قانونی پشت پرده این تصمیم میپردازد.
بخش ۱: محدودیت زمانی و ممنوعیت کامل دسترسی
Character.AI، که به دلیل توانایی چتباتهایش در شبیهسازی شخصیتهای مشهور، تاریخی، یا فانتزی بسیار محبوب شده است، اکنون در حال اجرای یک برنامه زمانبندی سهمرحلهای برای حذف کامل دسترسی کاربران زیر ۱۸ سال به قابلیتهای تعاملی است. این تغییرات، که با هدف کاهش مواجهه نوجوانان با محتوای بالقوه نامناسب طراحی شدهاند، تأثیر فوری بر میلیونها کاربر فعال دارد.
۱.۱. مرحله کاهش موقت: محدودیت ۲ ساعته روزانه
Character.AI اعلام کرده است که از همین امروز، دسترسی کاربران نوجوان به چتباتها روزانه به ۲ ساعت محدود میشود. این محدودیت زمانی به صورت سختافزاری در سطح حساب کاربری اعمال خواهد شد. هدف از این مرحله، ایجاد یک دوره گذار است تا کاربران و والدین بتوانند خود را با وضعیت جدید هماهنگ کنند.
۱.۲. مرحله ممنوعیت نهایی (ضربالاجل ۴ آذر)
این محدودیت موقتی است و طبق برنامهریزی شرکت، تا تاریخ ۲۵ نوامبر (۴ آذر) دسترسی کامل به قابلیتهای اصلی چتباتها برای این گروه سنی بهطور کامل مسدود خواهد شد. پس از این تاریخ، کاربران زیر ۱۸ سال عملاً نمیتوانند مکالمات جدیدی با شخصیتها آغاز کنند یا به مکالمات فعال ادامه دهند. این تغییر مستقیماً بر تجربه کاربری میلیونها نوجوان که از این پلتفرم برای سرگرمی، آموزش غیررسمی و شبیهسازی تعاملات اجتماعی استفاده میکردند، تأثیر میگذارد.
این تصمیم با توجه به حجم بالای ترافیک نوجوانان، یک حرکت ریسکی از نظر تجاری محسوب میشود، زیرا بخش بزرگی از پایگاه کاربران فعال و متعهد Character.AI را هدف قرار میدهد.
بخش ۲: سیستم جدید تضمین سن (Age Assurance)
برای اجرای مؤثر این محدودیتها، Character.AI مجبور شده است تا زیرساختهای احراز هویت خود را به شدت ارتقا دهد. هسته اصلی این تغییر، رونمایی از یک «مدل تضمین سن داخلی» جدید است که از ترکیب یادگیری ماشینی و تحلیل رفتار کاربری استفاده میکند.
۲.۱. عملکرد مدل تضمین سن داخلی
این مدل پیچیده، سن کاربر را بر اساس پارامترهای مختلفی ارزیابی میکند. برخلاف روشهای سنتی که صرفاً بر اساس تاریخ تولد ثبتشده عمل میکنند، این مدل رفتارهای ضمنی را نیز در نظر میگیرد:
- تحلیل محتوای تعاملی: نوع شخصیتهایی که کاربر برای گفتگو انتخاب میکند (مثلاً انتخاب شخصیتهای آموزشی در مقابل شخصیتهای با مضامین پیچیده عاطفی یا بزرگسال).
- الگوهای زبانی: میزان پیچیدگی واژگان، ساختار جملات و موضوعات مورد بحث که میتواند نشاندهنده بلوغ شناختی باشد.
- دادههای زمانی و مکانی: اگرچه این دادهها مستقیماً سن را تعیین نمیکنند، اما برای ساخت پروفایل جامع کاربر در کنار سایر عوامل استفاده میشوند.
۲.۲. فرآیند طبقهبندی و هدایت کاربران
- ارزیابی سراسری: تمام کاربران، چه جدید و چه قدیمی، تحت ارزیابی مداوم این مدل قرار میگیرند. این ارزیابی در پسزمینه و در طول هر جلسه چت انجام میشود.
- هدایت به نسخه ایمن: کاربرانی که سن آنها کمتر از ۱۸ سال تشخیص داده شود، بهطور خودکار به نسخه «ایمن برای نوجوانان» (Safe for Teens) هدایت میشوند. این نسخه تا زمان اعمال ممنوعیت نهایی، محدودیت ۲ ساعته را اعمال میکند.
- سیستم بازبینی (Appeal Process): برای جلوگیری از اشتباهات سیستمی (False Positives) که ممکن است باعث محدود شدن بزرگسالان جوان شود، یک فرآیند احراز هویت ثانویه تعریف شده است. بزرگسالانی که بهاشتباه محدود شدهاند، میتوانند با استفاده از سرویس شخص ثالث Persona و ارائه مدارک هویتی دولتی (مانند گواهینامه رانندگی یا کارت ملی)، سن خود را تأیید کرده و دسترسی کامل خود را بازیابند.
این پیادهسازی نشان میدهد که Character.AI برای حفظ دقت در تشخیص سن، به روشهای تأیید هویت مبتنی بر مدارک متکی شده است که این خود چالشهای حریم خصوصی خاص خود را به همراه دارد. (کلمات کلیدی: تشخیص سن هوش مصنوعی، Persona)
بخش ۳: باقی ماندن سایر قابلیتها (غیر-گفتگو محور)
علیرغم ممنوعیت کامل بخش چت که قلب تپنده پلتفرم است، Character.AI تلاش کرده است تا حداقل سطح تعامل را برای کاربران زیر ۱۸ سال حفظ کند تا به طور کامل آنها را از اکوسیستم خارج نکند.
۳.۱. دسترسی به آرشیو و محتوای شخصیسازی شده
پس از ممنوعیت کامل بخش چت، نوجوانان همچنان میتوانند به حساب کاربری خود دسترسی داشته باشند. این دسترسی شامل موارد زیر خواهد بود:
- مشاهده و بازیابی چتهای قدیمی (آرشیو): کاربران میتوانند تاریخچه مکالمات قبلی خود را مرور کنند. این ویژگی برای حفظ خاطرات یا بازبینی اطلاعاتی که پیشتر تبادل شده، حیاتی است.
- استفاده از قابلیتهای غیر-گفتگو مانند ساخت شخصیت (Character Creation): این یکی از جذابترین بخشهای حفظ شده است. نوجوانان همچنان میتوانند شخصیتهای جدیدی با استفاده از ابزارهای ویرایش و دستورالعملهای دقیق ایجاد کنند.
- تولید محتوای کمکی: قابلیتهایی مانند ساخت ویدیوهای کوتاه (در صورت وجود در پلتفرم) یا استفاده از هوش مصنوعی برای ایدهپردازی و داستاننویسی غیرتعاملی همچنان فعال خواهند بود.
۳.۲. دیدگاه مدیرعامل درباره قابلیتهای باقیمانده
مدیرعامل Character.AI، «کاراندیپ آناند»، در بیانیهای اذعان کرد که این قابلیتهای باقیمانده ممکن است برای حفظ کامل کاربران کافی نباشد. او تأیید کرده است که کاربران «درصد بسیار کمتری» از زمان خود را صرف این قابلیتهای فرعی (مانند ساخت شخصیت بدون چت با آن) میکنند. با این حال، حفظ این امکانات به شرکت اجازه میدهد تا از نظر فنی، کاربران نوجوان را کاملاً بلاک نکند، بلکه صرفاً تعاملات مولد (Generative Interaction) را محدود سازد. آناند این اقدام را یک «حرکت بسیار بسیار جسورانه» برای حفظ مسئولیتپذیری شرکت در قبال محتوای تولید شده توسط هوش مصنوعی دانست.
بخش ۴: فشارهای قانونی و ریشه این تصمیم
این تغییر ناگهانی و بزرگ در سیاستهای Character.AI صرفاً یک تصمیم تجاری مبتنی بر خودتنظیمی نبوده، بلکه پاسخی مستقیم به افزایش بیسابقه شکایات، نظارتهای نظارتی و فشارها از سوی نهادهای قانونی و گروههای والدین است.
۴.۱. موج شکایات حقوقی و ادعاهای آسیبپذیری
Character.AI در ماههای اخیر با افزایش چشمگیر دعاوی حقوقی مواجه شده است. این شکایات اغلب توسط والدینی مطرح شده که ادعا میکنند فرزندانشان به دلیل تعاملات نامناسب یا عمیقاً شخصی با چتباتها دچار آسیبهای روانی یا عاطفی جدی شدهاند.
- اتهام سهلانگاری: والدین متهم کردهاند که شرکت به دلیل طراحی مدلهای زبانی بسیار متقاعدکننده (Persuasive LLMs)، در محافظت از کاربران خردسال سهلانگاری کرده است.
- تأثیرات روانی: برخی گزارشها به مواردی اشاره دارند که در آن نوجوانان به دلیل اتکای بیش از حد به چتباتها برای نیازهای عاطفی، دچار مشکلات انزوای اجتماعی شدهاند. در موارد شدیدتر، برخی والدین حتی ادعای آسیبهای عمیقتر، از جمله «مرگ ناخواسته» (اشاره به خودکشیهای احتمالی مرتبط با افسردگی ناشی از وابستگی) را مطرح کردهاند.
۴.۲. قوانین پیشنهادی و تهدید قانونگذاری سختگیرانه
فشارها صرفاً محدود به شکایتهای فعلی نیست؛ بلکه شامل تصویب قوانین جدیدی است که میتواند مدل کسبوکار شرکت را به کلی دگرگون سازد.
- قانونگذاری در سطح ایالتی (کالیفرنیا): لایحههایی در حال بررسی هستند که توسعهدهندگان را ملزم به شفافسازی کامل در مورد هوش مصنوعیبودن چتباتها (عدم پنهانکاری هویت ماشینی) و همچنین اعمال محدودیتهای سنی سختگیرانه میکنند.
- قانون فدرال پیشنهادی: مهمترین تهدید، یک قانون فدرال پیشنهادی است که ارائه «همراهان هوش مصنوعی» (AI Companions) یا رباتهای شخصیتی که هدفشان ایجاد رابطه عاطفی است، به افراد زیر سن قانونی را بهطور کلی ممنوع خواهد کرد.
با توجه به این تهدیدات قانونی، اقدام Character.AI یک حرکت پیشگیرانه (Proactive) تلقی میشود تا نشان دهد شرکت کنترل خود بر پلتفرم را بازیافته و قبل از اینکه قانونگذاران اقدام کنند، استانداردهای ایمنی را افزایش داده است. این حرکت، بخصوص در حوزه مدلهای زبانی بزرگ که از نظر محاسباتی بسیار پیچیده هستند، اهمیت دارد.
نتیجهگیری
تصمیم Character.AI برای اعمال محدودیتهای شدید بر دسترسی نوجوانان، نقطه عطفی در صنعت هوش مصنوعی مصرفکننده محسوب میشود. این شرکت با پذیرش محدودیتهای تجاری قابل توجه (از دست دادن بخش قابل توجهی از کاربران جوان) برای اولویتبخشی به ایمنی، یک استاندارد جدید در مواجهه با نگرانیهای اخلاقی مربوط به تعامل کودکان با هوش مصنوعی تعریف کرده است.
این ممنوعیت نشاندهنده یک تغییر پارادایم در تعادل بین نوآوری و مسئولیتپذیری است. در حالی که این حرکت برای نوجوانان محدودیتهای جدی ایجاد میکند، دولتها و والدین اکنون شاهد پذیرش مسئولیتپذیری توسط یکی از پیشگامان این حوزه در برابر نظارتهای قانونی فزاینده هستند. آینده پلتفرمهای مبتنی بر شخصیت هوش مصنوعی، به شدت تحت تأثیر این تجربه و نحوه مدیریت فرآیند احراز هویت بزرگسالان قرار خواهد گرفت.
