تحديث ChatGPT الأخير يسمح بتنبيه جهة اتصال موثوقة عند رصد مخاطر نفسية

أعلنت شركة تطوير الذكاء الاصطناعي عن ميزة جديدة داخل منصة الدردشة تسمى Trusted Contact، تهدف لتوفير دعم بشري للمستخدمين الذين قد يواجهون حالات نفسية حرجة أثناء استخدام المنصة. تأتي هذه الإضافة بعد سنوات من الجدل المرتبط باستخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي في محادثات تتعلق بإيذاء النفس أو الأزمات النفسية الحادة.

تتيح الميزة الجديدة تنبيه جهة موثوقة عند رصد مخاطر نفسية، وتعتمد على مراجعين بشريين بجانب الأنظمة الآلية لتقييم الحالات الحساسة. التنبيهات المرسلة لا تتضمن محتوى المحادثات حفاظًا على خصوصية المستخدمين، وتعزز أدوات السلامة النفسية داخل المنصة.

تسمح الميزة للمستخدمين البالغين بإضافة شخص موثوق داخل إعدادات المنصة، بحيث يتمكن النظام من التواصل معه عند رصد مؤشرات تدل على وجود خطر محتمل يتعلق بإيذاء النفس. الشركة أوضحت أن هذه الخاصية اختيارية بالكامل، وأن المستخدم يملك حرية تفعيلها أو تجاهلها دون أي تأثير على استخدامه العادي للخدمة.

تبدأ آلية العمل بقيام المستخدم بإضافة جهة اتصال موثوقة يتجاوز عمرها 18 عامًا عالميًا، أو 19 عامًا في كوريا الجنوبية وفق القوانين المحلية هناك. بعد إضافة الشخص، يتلقى دعوة رسمية من المنصة تتيح له قبول المهمة أو رفضها. في حال الموافقة، يصبح هذا الشخص جزءًا من نظام الدعم المرتبط بالحساب.

تعتمد الميزة على مراقبة سياق المحادثات للكشف عن الإشارات المرتبطة بالأزمات النفسية أو الحديث عن إيذاء النفس. وعند رصد مؤشرات مقلقة، يقوم النظام بإبلاغ المستخدم بأن جهة الاتصال الموثوقة قد تتلقى تنبيهًا يدعوها للاطمئنان عليه أو التواصل معه.

الإشعار المرسل إلى جهة الاتصال لا يتضمن أي نسخ من المحادثات أو تفاصيل دقيقة حول ما جرى بين المستخدم والمنصة، ويقتصر التنبيه على رسالة عامة تشجع الشخص الموثوق على التواصل مع المستخدم والتحقق من حالته. تهدف هذه الآلية إلى تحقيق توازن بين توفير المساعدة والحفاظ على خصوصية المحادثات.

تعتمد الشركة في هذه الخاصية على مزيج من الأنظمة الآلية والمراجعة البشرية. ولا يقتصر اتخاذ القرار على الذكاء الاصطناعي وحده؛ إذ كشفت الشركة عن وجود فريق من المراجعين البشريين المدربين على تقييم المحادثات الحساسة المتعلقة بالسلامة النفسية. يتولى هذا الفريق مراجعة الحالات التي قد تشير إلى خطر فعلي، ثم اتخاذ القرار النهائي بشأن ضرورة إرسال التنبيه إلى جهة الاتصال الموثوقة.

يؤكد هذا التوجه حجم التحديات التي تواجه شركات الذكاء الاصطناعي مع الاستخدام المتزايد لروبوتات الدردشة في النقاشات الشخصية والنفسية. خلال السنوات الماضية، ارتبط اسم المنصة بعدة قضايا أثارت انتقادات واسعة، خاصة بعد تداول تقارير عن استخدامها في محادثات تتعلق بالاكتئاب أو إيذاء النفس. كما واجهت الشركة دعاوى قضائية مرتبطة بطريقة تعامل النظام مع بعض الحالات الحساسة.

جاء إطلاق ميزة Trusted Contact ضمن مجموعة من الإجراءات التي تعمل الشركة على تطويرها لتحسين أنظمة السلامة داخل المنصة. تشمل هذه الإجراءات تقديم اقتراحات للمستخدمين بالتواصل مع خطوط المساعدة النفسية أو طلب الدعم من مختصين عند رصد مؤشرات تدل على أزمة نفسية. كما يستطيع النظام اقتراح التوقف عن استخدام التطبيق لبعض الوقت إذا لاحظ تصاعدًا في حدة المحادثة أو استمرار النقاش في مواضيع خطرة.

يثير اعتماد المراجعين البشريين على مراجعة بعض المحادثات تساؤلات متعلقة بالخصوصية وآليات الوصول إلى بيانات المستخدمين. إلا أن الشركة تؤكد أن الهدف من هذه المراجعات يقتصر على تقييم المخاطر المرتبطة بالسلامة، وأن عملية المراجعة تتم بواسطة فرق مدربة خصيصًا لهذا النوع من الحالات.

يمثل هذا التحديث تحولًا واضحًا في طريقة تعامل شركات الذكاء الاصطناعي مع الأبعاد النفسية والاجتماعية لاستخدام روبوتات الدردشة. ومع كثرة اعتماد المستخدمين على هذه الأنظمة في الحديث عن مشاعرهم أو مشاكلهم اليومية، بدأت الشركات التقنية تواجه ضغوطًا كبيرة لتطوير أدوات قادرة على التدخل في اللحظات الحرجة دون تجاوز الحدود المتعلقة بالخصوصية.

أوضحت الشركة أن ميزة Trusted Contact بدأت في الوصول التدريجي لمستخدمي المنصة من يوم 7 مايو الماضي، على أن تتوسع لاحقًا لتشمل مزيدًا من الحسابات حول العالم.