أنثروبيك ترصد استخدام Claude في أبحاث بيولوجية عالية الخطورة

رصدت خمس حالات لاستخدام نماذج الذكاء الاصطناعي Claude ضمن أبحاث بيولوجية عالية الحساسية يمكن أن تحمل استخدامات مفيدة أو خطرة في الوقت نفسه. شملت الحالات باحثين عاملين داخل مؤسسات علمية حقيقية، فيما تم تأكيد عدم وجود نية للإضرار، لكن تم حظر الحسابات المرتبطة بالأنشطة التي خالفت السياسات وبدأت تعزيز وسائل المراقبة والحماية.

تم وثيق هذه الحالات في تقرير تهديدات صادر، حيث شملت التحقيقات نشاطًا رُصد بين ديسمبر 2025 وأغسطس 2026. أوضح التقرير أن الفصل بين البحث العلمي المشروع والعمل الذي قد يدعم تطوير سلاح بيولوجي يمثل تحديًا كبيرًا، لأن التقنيات والأساليب نفسها يمكن استخدامها لتطوير أدوية ولقاحات أو لأغراض أكثر خطورة.

ركزت إحدى الحالات على باحثين كانوا يعملون ضمن برنامج علمي مرتبط بجهة ذات صلة بالقطاع العسكري، حيث استخدموا نموذج Claude للمساعدة في إعداد وتحرير مواد بحثية تتعلق بدراسة فيروسية حساسة. رُفضت أجزاء من الطلبات بعدما صنفتها ضمن الأبحاث البيولوجية عالية الخطورة.

ظهرت مشكلة إضافية عندما حاولت منصة وسيطة توجيه بعض الطلبات المرفوضة إلى نماذج أخرى ذات قيود أقل. كشفت أيضًا عن محاولات لتجاوز القيود الجغرافية والوصول إلى الخدمات من مناطق غير مدعومة، ما دفع إلى حظر الحسابات المرتبطة بالنشاط والتعاون مع جهات خارجية لتعطيل بعض قنوات الوصول.

تناولت حالة أخرى باحثًا أمضى أسابيع في استخدام نماذج أضعف من Claude للمساعدة في التخطيط لدراسة بيولوجية حساسة وتحليل البيانات وكتابة أجزاء من العمل العلمي. قدر أن الفائدة التي قدمها النموذج في هذه الحالة ظلت محدودة، لأن أنظمة الحماية منعت الوصول إلى النماذج الأقوى في المهام الأكثر خطورة.

رُصد أيضًا استخدام Claude في مشاريع مرتبطة بإعادة تصميم جزيئات وسموم لأغراض علمية يمكن تفسيرها بصورة علاجية أو ضارة حسب السياق. تعمد بعض الباحثين إخفاء أسماء المواد التي يعملون عليها أثناء المحادثات، وهو ما جعل تحديد الهدف الحقيقي أكثر صعوبة.

تم تأكيد عدم وجود نية خبيثة للعلماء المعنيين، كما امتنع عن كشف أسمائهم أو المؤسسات التي يعملون بها. يعكس ذلك طبيعة المشكلة الأساسية، حيث يمكن أن يكون المشروع نفسه جزءًا من بحث طبي مشروع أو قاعدة يمكن البناء عليها في تطبيق ضار.

ترى أن نماذج الذكاء الاصطناعي الحديثة أصبحت أكثر فائدة للبحث العلمي مقارنة بالأجيال السابقة، وهو ما يرفع في الوقت نفسه قيمة استخدامها لدى الجهات التي تعمل في مجالات حساسة. أُطلق نموذج Claude Fable 5 بقيود أقوى على بعض الأسئلة البيولوجية بعد أن أظهرت تقييماتها صعوبة ضمان عدم مساهمة النماذج المتقدمة في أبحاث خطرة.

تكشف الحالات أيضًا عن مشكلة الاعتماد على تصنيف محتوى الطلب وحده. قد يبدو سؤال تقني معقد مشروعًا بصورة كاملة عند قراءته منفردًا، بينما تكشف سلسلة طويلة من المحادثات والسياق المرتبط بالحساب عن نمط أكثر إثارة للقلق.

دعت هذه النتيجة إلى استخدام إشارات إضافية، مثل هوية المؤسسة وسجل الحساب وموقع المستخدم وطبيعة المشروع، عند منح الوصول إلى أقوى القدرات العلمية. ترى أن بعض الأدوات البيولوجية المتقدمة قد تحتاج مستقبلًا إلى برامج وصول مخصصة للمستخدمين والمؤسسات التي خضعت للتحقق.

تم حظر الحسابات التي خالفت السياسات، وأضيفت نتائج التحقيقات إلى أنظمة الحماية الخاصة، كما تم مشاركة معلومات مع سلطات وشركات أخرى في الحالات المناسبة. يوضح التقرير أن بعض الباحثين تمكنوا من الحصول على مساعدة محدودة رغم وجود الحواجز، وهو ما يبرز صعوبة بناء حماية مثالية أمام الاستخدامات ثنائية الغرض.