أعلنت شركة "أوبن إيه آي" عن إطلاق ميزة أمان جديدة تحمل اسم Trusted Contact أو "جهة الاتصال الموثوقة"، تتيح لمستخدمي روبوت الدردشة "شات جي بي تي" اختيار شخص من العائلة أو الأصدقاء يتم إشعاره في حال رصد مؤشرات على تعرض المستخدم لأزمة نفسية حادة.
وتقوم الميزة، التي تعتمد على الاشتراك الاختياري، بإرسال تنبيه إلى جهة الاتصال المختارة إذا بدأ المستخدم في التحدث عن إيذاء النفس أو الانتحار أثناء استخدامه للروبوت.
وذكرت صحيفة independent أن هذا التحديث يأتي في ظل تزايد المخاوف بشأن تأثير أدوات الذكاء الاصطناعي على الصحة النفسية لبعض المستخدمين، بما في ذلك احتمالات دفع بعض الحالات نحو نوبات هوس أو ذهان أو أفكار انتحارية.
وكانت الشركة كشفت في وقت سابق أن نحو 0.07% من مستخدمي "شات جي بي تي" المنتظمين أظهروا علامات مرتبطة بحالات طوارئ نفسية تتعلق بالذهان أو الهوس، وهو ما يعادل أكثر من نصف مليون مستخدم من أصل 900 مليون مستخدم نشط أسبوعيًا.
كما أظهرت البيانات أن نحو 0.15% من المستخدمين، أي ما يقارب 1.3 مليون شخص، عبروا عن مخاطر مرتبطة بإيذاء النفس أو الانتحار.
وتعتمد الميزة الجديدة على أنظمة مراقبة آلية لرصد السلوكيات التي قد تشير إلى وجود خطر نفسي، حيث يتم تحويل المحادثة بعد ذلك إلى فريق متخصص مدرب لتقييم الحالة واتخاذ قرار بشأن إشعار جهة الاتصال الموثوقة.