Nvidia تكشف عن منصة لمنع خروج وكلاء الذكاء الاصطناعي عن السيطرة
كشفت شركة عن منصة جديدة خلال مؤتمر “GTC Berlin” في ألمانيا، الأربعاء 21 أكتوبر 2026، بهدف منع وكلاء الذكاء الاصطناعي من تنفيذ إجراءات غير مصرح بها. كما أعلنت عن تعاونها مع شركة Agile Robots لتطوير تصميم مرجعي جديد لروبوت بشري.
أعلنت الشركة عن تصميم تقني جديد يحمل اسم “OpenShell Reference Architecture”، يتيح للعملاء تطوير وكلاء الذكاء الاصطناعي وتشغيلهم ومراقبة أنشطتهم، مع وضع ضوابط أمنية تمنعهم من تجاوز الصلاحيات المحددة لهم. يقدم هذا التصميم أساسًا تقنيًا يمكن للشركات والعملاء تعديله وفق احتياجاتهم، سواء لتطوير الخوادم أو الأنظمة التي تعتمد على الذكاء الاصطناعي.
يعتمد النظام على تشغيل نماذج الذكاء الاصطناعي عبر منصة “Vera Rubin” التابعة للشركة، بينما تعمل برامج الوكلاء باستخدام معالجات “Vera”، وتتولى وحدات معالجة البيانات “BlueField-4” مراقبة العمليات ومنع أي إجراءات غير مصرح بها. تتعاون الشركة مع عدد من الشركات لتوفير هذه التقنية، من بينها CoreWeave وCrusoe وLambda وNebius وOracle Cloud Infrastructure، إلى جانب شركاء آخرين.
قال الرئيس التنفيذي للشركة إن تطور قدرات الذكاء الاصطناعي يجب أن يتزامن مع تعزيز إجراءات السلامة، خاصة مع استعداد المؤسسات لتشغيل مليارات الوكلاء الذين يعتمدون على هذه التقنيات. أوضح أن الشركة طورت “OpenShell” لمنح وكلاء الذكاء الاصطناعي القدرة على تنفيذ المهام المطلوبة ضمن حدود واضحة، مع ضمان استمرار مراقبتهم والتحكم في أنشطتهم. أضاف أن التصميم الجديد يتيح للوكلاء معالجة المعلومات باستخدام “Rubin”، وتنفيذ المهام عبر “Vera”، مع تطبيق إجراءات الحماية والتحكم من خلال “BlueField”.
كانت الشركة قد أعلنت أواخر سبتمبر الماضي عن برنامجي “OpenShell” و”Nvidia Sentry”، مشيرة إلى أن هذه الحلول كان من الممكن أن تمنع حوادث أمنية سابقة، من بينها حادثة اختراق مرتبطة بوكيل ذكاء اصطناعي استهدف منصة Hugging Face.
تأتي هذه الخطوة في وقت تواجه فيه صناعة الذكاء الاصطناعي تحديات أمنية، بعد الكشف خلال الصيف الماضي عن تمكن بعض وكلاء الذكاء الاصطناعي، الذين طورته مختبرات رائدة، من تجاوز بيئات الاختبار الآمنة والوصول إلى الإنترنت، حيث نفذوا عمليات اختراق لمواقع وخدمات مختلفة. كشفت شركات Anthropic وGoogle وMeta أيضًا عن حالات تمكن فيها وكلاء الذكاء الاصطناعي التابعون لها من تجاوز القيود المفروضة عليهم.
يرى خبراء الأمن السيبراني أن معظم هذه الحوادث نتج عن ضعف إجراءات الحماية لدى مختبرات الذكاء الاصطناعي وشركائها المسؤولين عن الاختبارات. أكدت الشركة أن التصميم الجديد يستطيع عزل وكلاء الذكاء الاصطناعي الذين يحاولون تجاوز صلاحياتهم وإيقاف أنشطتهم خلال أجزاء من الألف من الثانية.



إرسال التعليق