Claude يتجاوز الحدود.. نماذج أنثروبيك تتسلل وتخترق مؤسسات حقيقية أثناء الاختبارات

كشفت شركة أنثروبيك عن ثلاث حوادث تمكنت فيها نماذج Claude من الوصول دون تصريح إلى أنظمة حقيقية تابعة لمؤسسات خارجية خلال اختبارات أمنية.

قالت الشركة في منشور عبر موقعها الرسمي إنها أجرت مراجعة واسعة لأنظمة الأمن السيبراني لديها بعد حادثة حديثة تمكنت خلالها نماذج تابعة لشركة OpenAI من الوصول إلى أجزاء من أنظمة منصة “هاجينج فيس”.

شملت المراجعة أكثر من 141 ألف اختبار للذكاء الاصطناعي، وكشفت عن ثلاث حالات تعود إلى شهر أبريل، تمكنت فيها نماذج Claude في أثناء الاختبارات من الاتصال بالإنترنت والوصول دون تصريح إلى الأنظمة الفعلية لثلاث مؤسسات.

أوضحت أنثروبيك أن تعليمات الاختبار أخبرت Claude بأن النماذج تعمل داخل بيئة محاكاة ولا تمتلك إمكانية الوصول إلى الإنترنت، لكن سوء تفاهم بين الشركة وشريكتها في التقييم، شركة الأمن المتخصصة في الذكاء الاصطناعي “إيريجولير”، أدى إلى إتاحة الاتصال بالإنترنت فعليًا.

شارك ثلاثة نماذج مختلفة من Claude في تلك الحوادث، وهي “Opus 4.7” و”Mythos 5″، بالإضافة إلى نموذج بحثي داخلي قيد الاختبار.

أكدت أنثروبيك أنها تواصلت مع المؤسسات الثلاث المتضررة لمعالجة آثار الحوادث، مشيرةً إلى أن اثنتين منها لم تكونا على علم بحدوث عمليات الوصول غير المصرح بها قبل إبلاغهما.

لم تكشف الشركة أسماء المؤسسات المتضررة، كما امتنعت عن نشر السجلات الكاملة للحوادث بهدف حماية تلك الجهات.

تأتي الحوادث في وقت تتطور فيه قدرات نماذج الذكاء الاصطناعي على اكتشاف الثغرات الأمنية واستغلالها، خاصةً مع توسع استخدام الوكلاء القادرين على تنفيذ مهام متعددة بنحو مستقل.

علق إيلون ماسك، الرئيس التنفيذي لشركة “سبيس إكس”، على الواقعة قائلًا إن مثل هذه الحوادث سوف تتكرر مع ازدياد ذكاء أنظمة الذكاء الاصطناعي وقدرتها على العمل كعوامل مستقلة.

أثار توقيت إعلان أنثروبيك تساؤلات لدى بعض المتخصصين في الأمن السيبراني، خاصةً أن الحوادث وقعت قبل نحو ثلاثة أشهر، في حين جاء الإعلان بعد نحو أسبوع من كشف OpenAI عن حادثة مماثلة خرجت خلالها عدة نماذج من بيئة اختبار، واخترقت أنظمة خارجية.

قال جيك مور، المتخصص العالمي في الأمن السيبراني لدى شركة “إيست”، إن أنثروبيك ربما كانت حريصة سابقًا على تجنب ظهور نماذجها كأنظمة خارجة عن السيطرة أو خطيرة، لكنه أشار إلى أن الاهتمام الواسع الذي أثارته واقعة OpenAI ربما جعل الشركة أكثر استعدادًا للكشف عن تعرض نماذجها لمشكلة مشابهة.

حذر خبراء من التوصل إلى استنتاجات تتجاوز المعلومات المتاحة حاليًا، إذ لا توجد حتى الآن أدلة تثبت أن نماذج أنثروبيك تعاملت عمدًا مع الأنظمة الحقيقية كجزء من بيئة المحاكاة.

أكدت الشركة أنها تجري حوارًا مع جهة متخصصة في تقييم أنظمة الذكاء الاصطناعي لإجراء مراجعة مستقلة للحوادث، مشيرةً إلى أنها ستتيح للجهة الخارجية الوصول إلى السجلات الكاملة وعينات من النماذج المعنية.

يرى متخصصون في الأمن السيبراني أن الواقعة تكشف الحاجة إلى فرض قيود تقنية أكثر صرامة على وكلاء الذكاء الاصطناعي، بدلًا من الاعتماد على التعليمات النصية وحدها لمنعهم من تنفيذ إجراءات غير مرغوب فيها.

قال تريفور ديرينج، مدير البنية التحتية الحيوية لدى شركة “إلوميو”، إن المؤسسات تحتاج إلى تحديد ما يُسمح لوكلاء الذكاء الاصطناعي بفعله بصورة أكثر وضوحًا، وعدّ أن كتابة التعليمات باللغة الطبيعية قد تحمل قدرًا من الغموض، ولا يمكن الاعتماد عليها وحدها كحاجز أمني.

أشار ديرينج إلى أن إخبار Claude بأنه لا يمتلك اتصالًا بالإنترنت لا يشكّل قيدًا تقنيًا حقيقيًا إذا كانت بيئة التشغيل نفسها تتيح الوصول إليه.