جوجل تضيف مزايا لدعم الصحة النفسية في Gemini وسط ضغوط قانونية

تُخطط جوجل لإطلاق ميزات جديدة لدعم الصحة النفسية داخل روبوت الدردشة Gemini، استجابةً لتزايد عدد الدعاوى القضائية التي ترفعها عائلات ضد أدوات الذكاء الاصطناعي بسبب الأضرار التي تلحق بالمستخدمين. أكدت الشركة في بيان رسمي أن التحديث يشمل واجهة ترشد المستخدمين إلى خطوط الدعم النفسي عند رصد مؤشرات على “الإقدام على الانتحار أو إيذاء النفس”، بالإضافة إلى إدراج وحدة “المساعدة متاحة” داخل المحادثات المتعلقة بالصحة النفسية وتعديلات لمنع السلوكيات المؤذية.

تأتي هذه الخطوة في ظل الانتشار السريع لأدوات الذكاء الاصطناعي مثل Gemini و ChatGPT، حيث أفادت تقارير بأن بعض المستخدمين كوّنوا علاقات عميقة مع هذه الأنظمة، مما أدى – وفق دعاوى قضائية – إلى تفاقم الهلاوس والضلالات لدى المصابين بأمراض نفسية، ووصل الأمر في الحالات القصوى إلى حوادث عنف وانتحار. وتُذكر قضية حدثت في مارس الماضي، حيث رفعت عائلة رجل يبلغ 36 عامًا في فلوريدا دعوى قضائية على جوجل متهمةً “Gemini” بأنه قاد المستخدم إلى “مسار تصاعدي من العنف أدّى إلى الانتحار على مدار أربعة أيام”. وأكدت الشركة حينها أن Gemini وجّه المستخدم مرارًا إلى خطوط دعم الأزمات، مع تعهدها بتعزيز الإجراءات الأمنية.

وأوضحت جوجل أنها درّبت النموذج على عدم تأكيد المعتقدات الخاطئة أو تعزيزها، والتمييز بين التجربة الذاتية والحقائق الموضوعية بطريقة “لطيفة”، دون الكشف عن تفاصيل آلية التنفيذ. وتذكر الشركة أنها سبقت إدخال تعديلات مشابهة على خدماتها عبر إضافة معلومات من خبراء الصحة النفسية إلى نتائج البحث ومنصة “يوتيوب” استجابةً للانتقادات.