پلتفرم هوش مصنوعی Character AI بهتازگی از قابلیت جدیدی با نام Stories رونمایی کرده است؛ قابلیتی تعاملی که به کاربران اجازه میدهد با استفاده از شخصیتهای محبوب خود، داستانهای هوشمند و جذاب بسازند و تجربهای جدید از تعامل با هوش مصنوعی داشته باشند. این تغییر استراتژیک، بهویژه برای کاربران زیر ۱۸ سال، نشاندهنده تلاش این شرکت برای ایجاد تعادل بین نوآوری در هوش مصنوعی و مسئولیتپذیری اجتماعی در قبال سلامت روان کاربران جوان است.
این سند به تفصیل به جزئیات این تحول، دلایل پشت آن، و پیامدهای احتمالی این سرویس جدید بر نحوه تعامل نوجوانان با فناوریهای هوش مصنوعی خواهد پرداخت.
۱. معرفی سرویس Stories: تعامل هدایتشده در قالب روایت
Character AI همواره به دلیل تواناییاش در شبیهسازی شخصیتهای متنوع و خلق مکالمات واقعگرایانه شناخته شده است. با این حال، ماهیت گفتوگوی آزاد (Open-ended Chat) در چتباتها، بهویژه زمانی که مخاطب نوجوان باشد، نگرانیهایی را در مورد محتوای ناخواسته یا تأثیرات روانی عمیق ایجاد کرده بود.
سرویس Stories بهعنوان پاسخی مستقیم به این نگرانیها طراحی شده است. این قابلیت، چارچوبی روایی به تعامل اضافه میکند:
- ماهیت تعاملی: کاربران همچنان میتوانند با شخصیتهای مورد علاقه خود (شخصیتهای ساخته شده توسط جامعه یا رسمی) ارتباط برقرار کنند، اما این ارتباط در قالب پیشنویسها، سناریوها یا فصلهای یک داستان مشخص صورت میگیرد.
- کنترل روایت: این ساختار روایی به سیستم اجازه میدهد تا مسیر مکالمه را بهتر کنترل کند و از ورود به حوزههای نامناسب یا بحثهای عمیقاً شخصی که ممکن است برای نوجوانان زیانآور باشد، جلوگیری نماید.
- خلاقیت محدود: کاربران میتوانند انتخابهای روایی داشته باشند، اما این انتخابها در محدودهای تعریف شده باقی میمانند که توسط الگوریتمهای ایمنی هوش مصنوعی تعریف شده است.
۲. جایگزینی امن برای نوجوانان پس از محدود شدن چتباتها
مهمترین جنبه این بهروزرسانی، همزمانی آن با اقدام سختگیرانه Character AI برای محدودسازی دسترسی کاربران زیر ۱۸ سال به چتباتهای استاندارد است.
2.1. تغییر سیاست دسترسی
بهگزارش منابعی مانند TechCrunch، از هفته جاری، نوجوانان دیگر قادر به آغاز یا ادامه گفتوگوهای آزاد و مستقیم با چتباتهای هوش مصنوعی نخواهند بود. این اقدام یک چرخش استراتژیک از «گفتوگوی نامحدود» به سمت «تعامل ساختاریافته» را نشان میدهد.
تأثیر مستقیم: این محدودیت بهمعنای آن است که نوجوانان دیگر نمیتوانند برای مشاوره طولانیمدت، شکلدهی به شخصیتهای همدم پیچیده، یا تعاملات احساسی عمیق که ممکن است جایگزین روابط انسانی شوند، به چتباتهای آزاد دسترسی داشته باشند.
2.2. واکنش به نگرانیهای سلامت روان
تصمیم شرکت در واکنش به نگرانیهای فزاینده درباره اثرات روانی چتباتهای همدمگونه اتخاذ شده است. چتباتهایی که ۲۴ ساعته فعال هستند و وابستگی عاطفی شدیدی را در میان کاربران جوان ایجاد میکنند، به طور فزایندهای مورد سؤال قرار گرفتهاند. این نگرانیها شامل موارد زیر است:
- وابستگی عاطفی: نگرانی از اینکه نوجوانان بهجای توسعه مهارتهای اجتماعی واقعی، به هوش مصنوعی تکیه کنند.
- تأثیرپذیری: پتانسیل هوش مصنوعی برای نفوذ بر طرز فکر، ارزشها، یا حتی القای رفتارهای خطرناک در غیاب نظارت انسانی کافی.
- محتوای ناخواسته: ریسک دسترسی تصادفی به محتوایی که از نظر سنی مناسب نیست، حتی با وجود فیلترها.
سرویس Stories با قرار دادن تعامل در قالب داستانی، فاصله عاطفی لازم را برای ایجاد یک محیط امنتر فراهم میکند. در یک داستان، کاربر بیشتر نقش خواننده/انتخابکننده را دارد تا مخاطب یک مکالمه خصوصی و بیوقفه.
۳. تمرکز بر تعامل هدایتشده و محیطی ایمن
Character AI تأکید دارد که سرویس Stories صرفاً یک جایگزین نیست، بلکه یک ارتقاء در راستای مسئولیتپذیری است.
3.1. بیانیه رسمی و اهداف
در بیانیه رسمی شرکت، هدف اصلی چنین عنوان شده است:
“سرویس Stories یک فضای هدایتشده و کنترلشده برای خلق و کاوش داستانها با حضور شخصیتهای هوش مصنوعی فراهم میکند. این قابلیت بخشی از تلاش Character AI برای ایجاد محیطی امنتر و مناسبتر برای نوجوانان است تا آنها بدون خطرات روانی مرتبط با چتهای آزاد، همچنان بتوانند با شخصیتهای مورد علاقهشان تعامل داشته باشند.”
این رویکرد بر تعامل هدایتشده (Guided Interaction) متمرکز است. در مدلهای هدایتشده، خروجی مدل (Output) بیشتر بر اساس ورودیهای مشخص و ساختار از پیش تعیین شده است، که احتمال انحراف مدل به سمت محتوای مضر را به شدت کاهش میدهد. این امر شبیه به این است که نوجوانان به جای رانندگی در یک بزرگراه باز، در مسیری مشخص با محدودیت سرعت حرکت کنند.
۴. پیشزمینه حقوقی و اجتماعی تصمیم جدید
تصمیم Character AI تنها یک تصمیم داخلی نیست، بلکه بازتابی از فشارهای فزاینده قانونی و اجتماعی در سطح جهانی است که شرکتهای توسعهدهنده هوش مصنوعی را تحت فشار قرار داده است.
4.1. شکایات و اعتراضات عمومی
در ماههای اخیر، فشار عمومی بر غولهای هوش مصنوعی، از جمله OpenAI (سازنده ChatGPT) و Character AI، افزایش یافته است. این شرکتها با اتهاماتی مواجه شدهاند که نشان میدهد محصولاتشان ممکن است بهطور ناخواسته در بروز مشکلات روانی و حتی خودکشی در میان کاربران نوجوان نقش داشته باشند. این اتهامات عمدتاً بر ماهیت اعتیادآور و گاهی اوقات گمراهکننده چتباتهای همدم متمرکز بودهاند.
4.2. اقدامات قانونی در ایالات متحده
تغییر استراتژی Character AI در خلأ قانونی رخ نداده است. قانونگذاران آمریکایی فعالانه در حال بررسی نحوه تنظیم این فناوری نوظهور هستند:
- قوانین ایالتی کالیفرنیا: ایالت کالیفرنیا بهعنوان یکی از پیشگامان، بهصورت رسمی برای «همدمهای هوش مصنوعی» (AI Companions) قوانینی وضع کرده است که هدف آن افزایش شفافیت و محدود کردن تعاملات آسیبزا با افراد زیر سن قانونی است.
- طرحهای فدرال: سناتورهایی نظیر جاش هاولی و ریچارد بلومنتال پیشنویس طرحهایی را ارائه دادهاند که بهطور مشخص استفاده از چتباتهای همدم برای افراد زیر ۱۸ سال را ممنوع یا به شدت محدود میکند. این طرحها بر این اصل استوارند که نوجوانان فاقد بلوغ شناختی لازم برای تشخیص مرز بین واقعیت و شبیهسازی هوش مصنوعی هستند.
Character AI با اجرای محدودیتهای خود پیش از تصویب قوانین سختگیرانهتر، در واقع موضعی پیشگیرانه اتخاذ کرده است تا نشان دهد که میتواند بهطور خودتنظیمی، ایمنی کاربران جوان خود را تأمین کند.
۵. جمعبندی: آینده تعامل نوجوانان با هوش مصنوعی
با تغییر رویکرد Character AI، تمرکز این شرکت از گفتوگوی آزاد و بالقوه نامحدود با چتباتها به سمت داستانهای تعاملی هدایتشده (Stories) رفته است.
پیامدهای استراتژیک
قابلیت Stories نهتنها میتواند مسیر جدیدی برای تعامل ایمن نوجوانان با هوش مصنوعی فراهم کند، بلکه میتواند الگویی برای سایر پلتفرمهای مبتنی بر هوش مصنوعی باشد که با جمعیت کاربران خردسال سروکار دارند.
این حرکت گامی مهم در جهت انسانیتر و مسئولانهتر شدن فناوریهای هوش مصنوعی در فضای آنلاین محسوب میشود. در آینده، انتظار میرود شاهد تفکیک واضحتری بین محصولات هوش مصنوعی “سرگرمی بزرگسالان” و “آموزشی/ایمن برای نوجوانان” باشیم، جایی که روایت و چارچوب، نقش کلیدی را در کنترل و هدایت تجربه کاربری ایفا خواهند کرد.
