شرکت OpenAI با رونمایی از قابلیت جدید “مخاطب مورد اعتماد” (Trusted Contact) برای ChatGPT، گامی مهم در جهت ارتقاء ایمنی و سلامت روان کاربران خود برداشته است. این ویژگی به کاربران بزرگسال این امکان را می‌دهد تا فردی را به‌عنوان مخاطب مورد اعتماد معرفی کنند تا در صورت تشخیص نگرانی جدی درباره آسیب به خود، به او هشدار داده شود. با مغز افزار همراه باشید تا با جزئیات این قابلیت نوآورانه بیشتر آشنا شوید.

1. قابلیت “مخاطب مورد اعتماد” چیست و چگونه کار می‌کند؟

• معرفی و فعال‌سازی: این قابلیت که به تدریج برای کاربران بزرگسال ChatGPT در دسترس قرار می‌گیرد، به کاربران اجازه می‌دهد تا یک فرد (حداقل ۱۸ سال) را به‌عنوان مخاطب مورد اعتماد خود انتخاب کنند. پس از انتخاب، دعوتی برای آن فرد ارسال می‌شود که پس از پذیرش، قابلیت فعال می‌گردد.
• فرآیند هشدار خودکار نیست: در صورتی که ChatGPT الگوی مکالمه‌ای نگران‌کننده را تشخیص دهد، ابتدا به کاربر اطلاع می‌دهد که ممکن است مخاطب مورد اعتماد او باخبر شود و او را تشویق به تماس مستقیم می‌کند.
• بررسی انسانی: در مرحله بعد، تیمی از کارشناسان وضعیت را بررسی می‌کنند. تنها در صورت تأیید خطر جدی، مخاطب مورد اعتماد از طریق ایمیل، پیامک یا اعلان درون‌برنامه‌ای مطلع خواهد شد.
• محتوای هشدار: این هشدار شامل جزئیات مکالمات نیست، بلکه صرفاً اعلام می‌کند که موضوع خودآزاری به‌شکلی بالقوه نگران‌کننده مطرح شده و از مخاطب می‌خواهد وضعیت کاربر را پیگیری کند. OpenAI تلاش می‌کند این بررسی انسانی را در کمتر از یک ساعت تکمیل کند.

2. چرایی اهمیت قابلیت Trusted Contact:

این قابلیت بخشی از استراتژی گسترده‌تر OpenAI برای افزایش ایمنی پلتفرم‌های خود است. مشابه ویژگی‌هایی که پیش‌تر برای والدین جهت نظارت بر حساب فرزندان نوجوانشان ارائه شده بود، “مخاطب مورد اعتماد” نسخه ویژه کاربران بزرگسال است. این ویژگی با همکاری پزشکان، پژوهشگران و سازمان‌های سلامت روان مانند “انجمن روان‌شناسی آمریکا” توسعه یافته تا رویکردی مسئولانه در قبال سلامت کاربران اتخاذ شود.

نکته مهم: OpenAI تأکید می‌کند که قابلیت “مخاطب مورد اعتماد” جایگزین خدمات اضطراری یا مراقبت حرفه‌ای سلامت روان نیست و ChatGPT همچنان کاربران را در صورت نیاز به این منابع ارجاع خواهد داد.

نتیجه‌گیری:

ویژگی “مخاطب مورد اعتماد” در ChatGPT نشان‌دهنده تعهد OpenAI به مسئولیت‌پذیری اجتماعی و سلامت کاربران است. این قابلیت با ایجاد یک لایه حمایتی اضافی، می‌تواند در مواقع بحرانی نقش مهمی ایفا کند و به کاربران کمک کند تا حمایت لازم را دریافت نمایند.