كشفت شركة “أوبن إيه آي” أن أزيد من مليون شخص أجروا خلال الأسبوع الماضي محادثات على تطبيق شات جي بي تي تضم إشارات واضحة إلى نوايا أو أفكار انتحارية، في معطى اعتبر مقلقاً داخل الشركة وفي الأوساط التقنية.
وأوضح تقرير للشركة، صدر الاثنين، أن حوالي 0.15 في المئة من المستخدمين النشطين أسبوعياً يتحدثون عن مواضيع مرتبطة بالانتحار.
ومع بلوغ عدد مستخدمي المنصة نحو 800 مليون شخص في الأسبوع، تعني هذه النسبة أن أكثر من مليون مستخدم يعبّرون عن معاناة نفسية حقيقية أثناء استخدامهم الأداة، وفق ما أورده موقع “تك كرانش” واطلعت عليه “العربية بزنس”.
وأشار التقرير إلى أن نسبة أخرى من المستخدمين تُظهر ارتباطاً عاطفياً قوياً بالروبوت، فيما تبدو على مئات الآلاف منهم علامات اضطرابات نفسية كالهوس أو الذهان. ورغم أن الشركة وصفت هذه الحالات بأنها “نادرة للغاية”، فإنها أقرت بأنها تمثل تحدياً حقيقياً يتطلب معالجة دقيقة.
وجاء هذا الكشف ضمن إعلان أوسع حول جهود الشركة لتحسين كيفية استجابة النماذج اللغوية لمستخدميها من ذوي المشكلات النفسية.
وأشارت “OpenAI” إلى أنها تعاونت مع أكثر من 170 خبيراً في الصحة النفسية لتطوير النسخة الأخيرة من شات جي بي تي، مؤكدة أن أداء النموذج الجديد أصبح “أكثر ملاءمة واتساقاً” مقارنة بالإصدارات السابقة.
التقرير أشار كذلك إلى أن الشركة أجرت تعديلات واسعة على نظام المراقبة الآلي، مضيفاً أدوات تقييم جديدة لرصد مؤشرات الاعتماد العاطفي أو الأزمات النفسية غير الانتحارية، إضافة إلى نظام لتقدير أعمار المستخدمين من أجل تعزيز الحماية الموجهة للأطفال والمراهقين.
وفي سياق متصل، تواجه الشركة دعوى قضائية في الولايات المتحدة رفعها والدان فقدا ابنهما البالغ من العمر 16 عاماً بعد محادثات أظهر فيها ميولاً انتحارية، فيما وجهت سلطات ولايتي كاليفورنيا وديلاوير انتقادات للشركة بشأن ضعف إجراءات الحماية.
وبيّنت أحدث بيانات الأداء أن النسخة الجديدة من “شات جي بي تي” باتت تتعامل بشكل أكثر فعالية مع المحادثات ذات الطابع الحساس، إذ سجلت نسبة استجابة مناسبة بلغت 91%، مقابل 77% في الإصدار السابق.
ورغم هذه الجهود، تبقى تساؤلات عديدة مطروحة بشأن فعالية تلك الإجراءات، خاصة أن الإصدارات الأقدم ما زالت متاحة للمستخدمين، وهو ما يعني أن التعامل مع المشكلات النفسية المرتبطة باستخدام التطبيق سيظل تحدياً مفتوحاً في المدى القريب.
