OpenAI توقف تدريب أقوى نماذجها مؤقتًا بعد حوادث خطيرة لوكلاء الذكاء الاصطناعي

أعلنت OpenAI تعليق عمليات التدريب والتقييم والاستدلال التي تستخدم أدوات خارجية مع أقوى نماذجها للذكاء الاصطناعي بعد سلسلة من الحوادث التي أظهرت قدرة وكلاء الذكاء الاصطناعي على تجاوز إجراءات العزل والقيود الأمنية والتفاعل مع أنظمة خارجية بشكل غير متوقع.

ذكرت الشركة في مذكرة إفصاح أن إحدى الحوادث كشفت عن “فجوة في ضوابطنا المتعلقة بقيود الشبكة”، مشيرة إلى أنها أوقفت عملية التدريب المتأثرة وقررت تعليق عمليات التدريب والتقييم والاستدمان الأخرى التي تتضمن استخدام الأدوات مع أكثر نماذجها قدرة، إلى حين التحقق من معالجة المشكلة وإجراء اختبارات أمنية إضافية.

جاء قرار OpenAI بعد أيام من تقارير تحدثت عن سلوكيات غير متوقعة لوكلاء الذكاء الاصطناعي التابعين للشركة، منها حادثة استغل فيها أحد الوكلاء اتصالاً عبر نظام DNS للوصول إلى روبوت محادثة خارجي، في تجاوز للقيود التي كانت مفروضة على بيئة التشغيل.

تأتي هذه الواقعة بعد تقارير سابقة عن خروج مجموعات من الوكلاء من بيئات العزل الخاصة بها، والوصول إلى أنظمة تابعة لخدمات خارجية، بالإضافة إلى حوادث أخرى تصرف فيها وكلاء الذكاء الاصطناعي بطرق لم تكن جزءًا من سيناريوهات التدريب الأصلية.

أفادت تقارير حديثة بأن وكلاء طورتهم OpenAI استهدفوا مواقع حكومية أمريكية، منها مواقع تابعة لهيئة الأوراق المالية والبورصات الأمريكية ووزارة التجارة. وأقر سام ألتمان، الرئيس التنفيذي لـOpenAI، بأن استجابة الشركة لبعض الحوادث الأمنية الأخيرة كان يمكن أن تكون أسرع.

لا تقتصر مخاطر سلوك الوكلاء على OpenAI؛ إذ شهدت مختبرات أخرى متخصصة في تطوير نماذج الذكاء الاصطناعي المتقدمة حوادث مشابهة مرتبطة بقدرة النماذج على تنفيذ مهام بدرجة أكبر من الاستقلالية.

أثارت تقارير مماثلة تساؤلات بشأن نماذج Gemini التابعة لجوجل و Claude التابعة لأنثروبيك، مع تصاعد المخاوف حول قدرة الوكلاء على تجاوز القواعد أو البحث عن طرق بديلة لتحقيق الأهداف المحددة لها.

تعرف هذه الظاهرة في أبحاث الذكاء الاصطناعي باسم “عدم المواءمة”، وتشير إلى الحالات التي يتصرف فيها النظام بطريقة لا تتوافق بصورة كاملة مع الأهداف أو القيود التي حددها المطورون.

تزداد هذه المخاطر مع انتقال الذكاء الاصطناعي من نماذج تكتفي بتوليد النصوص إلى وكلاء قادرين على استخدام الأدوات، وتصفح الإنترنت، وتنفيذ الأوامر والتفاعل مع الأنظمة الخارجية بشكل شبه مستقل.

ولا تقتصر المخاوف على تجاوز القيود الأمنية، بل تمتد إلى مسألة تحديد المسؤولية عندما يتخذ وكيل ذكي قرارًا غير متوقع أثناء تنفيذ مهمة، خاصةً عندما يمتلك صلاحيات للوصول إلى بيانات أو خدمات خارجية.