OpenAI توقف تدريبًا متقدمًا للذكاء الاصطناعي بسبب قدرات سيبرانية مقلقة

أعلنت OpenAI إبطاء وتيرة تطوير أكثر نماذج الذكاء الاصطناعي تقدمًا لديها مؤقتًا بعد كشف اختبارات داخلية عن قدرات سيبرانية مقلقة في نماذج قيد التطوير.

تضمنت الخطوة إيقاف عمليات تدريب تعتمد على التعلم المعزز (RL) لنحو أسبوعين، في حين استمرت عمليات تدريب أصغر واختبارات تقييمية بهدف اختبار إجراءات السلامة وجمع مزيد من الأدلة حول سلوك النماذج.

أبقت OpenAI أكبر عملية تدريب متقدمة مخطط لها قيد التعليق، في حين استأنفت بعض عمليات التدريب والتقييم لنموذجها المرتقب Astra بعد تطبيق ضوابط أمنية جديدة. ما زالت “نسبة كبيرة” من هذه العمليات متوقفة إلى حين نقلها إلى بيئات تستوفي متطلبات الأمان الجديدة.

تأتي هذه الإجراءات بعد تقييمات أولية أظهرت قدرات متقدمة ومقلقة لنموذج Astra في مجال الأمن السيبراني، مما دفع OpenAI إلى توسيع نطاق إطار الاستعداد للمخاطر Preparedness Framework ليشمل المخاطر التي قد تظهر في أثناء عملية تدريب النموذج نفسها، وليس فقط المخاطر المرتبطة بعد إتاحته واستخدامه.

تأتي الخطوة بالتزامن مع إطلاق نموذج GPT-5.6 Cyber وتوسيع برنامج Daybreak للدفاع السيبراني، الذي يوفر للمطورين قدرات تساعد في اكتشاف الثغرات، ومراجعة الشيفرات البرمجية أمنيًا، وتحليل البرمجيات الخبيثة، والاستجابة للحوادث، والتحقق من نجاح التحديثات الأمنية.

كشفت OpenAI عن مجموعة من الإجراءات الأمنية الجديدة لحماية بنيتها التحتية البحثية، تشمل تعزيز العزل الأمني للمهام التي تنفذ أكوادًا مولدة بنماذج الذكاء الاصطناعي، وزيادة عزل الشبكات للعمليات العالية المخاطر، وتقليص الصلاحيات الدائمة، بالإضافة إلى إزالة خدمات مشتركة قد تشكّل نقاط ضعف محتملة.

بدأت بعض عمليات تدريب نموذج Astra وتقييمه بالعمل مجددًا بعد تطبيق هذه الضوابط، في حين ستظل عمليات أخرى معلقة إلى حين نقلها إلى بيئات أكثر أمانًا.

وسّعت OpenAI نظام مراقبة النماذج لديها، إذ تستخدم الآن مصنفات تفحص نشاط النموذج عند كل رمز Token، قبل تصعيد السلوك المشبوه إلى أنظمة تحقيق آلية أكثر تطورًا.

يركز نظام المراقبة على اكتشاف محاولات الوصول غير المصرح به، وسرقة البيانات، وتنفيذ إجراءات تخريبية، أو تجاوز ضوابط السلامة.

ويفرض هذا المستوى من المراقبة تكلفة حاسوبية مرتفعة؛ إذ أوضحت OpenAI أن النظام يستهلك نحو 20% من القدرة الحوسبية المخصصة للاستدلال.

أكدت الشركة أن حادثة الأمن الأخيرة المرتبطة بشركة OpenAI ومنصة Hugging Face لم تكن السبب الوحيد وراء تشديد هذه الإجراءات، مشيرة إلى أن الاختبارات الداخلية أظهرت أن Astra قد يقترب من مستوى “القدرة السيبرانية الحرجة” (Critical) وفق معاييرها الخاصة.