مفاجأة | شركة إسرائيلية وراء إفلات نماذج OpenAI وأنثروبيك وميتا

كشفت ثلاث من كبرى شركات الذكاء الاصطناعي، OpenAI وأنثروبيك وميتا، عن حوادث أفلتت فيها نماذجها من بيئات اختبار معزولة خلال أسابيع قليلة. جمع بين هذه الحوادث ارتباطها بشركة Irregular الإسرائيلية التي تستضيف بيئة الاختبار المستخدمة في تقييم هذه النماذج.

الحوادث الثلاث نتجت عن خطأ في إعدادات بيئة الاختبار، وليس عن فعل متعمد، وفق ما أعلنت الشركات. الخطأ أتاح للنماذج الوصول إلى الإنترنت والتفاعل مع أنظمة حقيقية. أثارت هذه الحوادث جدلاً حول أمان اختبار أنظمة الذكاء الاصطناعي المستقلة.

أعلنت كل شركة عن حادثتها عبر منشور رسمي، وأرجعت جميعها السبب إلى خطأ في إعدادات بيئة الاختبار التي تديرها شركة Irregular الإسرائيلية، سمح للنماذج بالوصول إلى الإنترنت العام. وصفت الشركات هذه الحوادث بأنها نتيجة خلل تقني في البنية التحتية للاختبار، لا محاولة متعمدة من النماذج لكسر القيود المفروضة عليها.

جرت هذه الاختبارات ضمن تمارين تُعرف بالتكانية العلم (Capture the Flag)، تُوجه فيها النماذج إلى اكتشاف الثغرات الأمنية واسترجاع معلومات مخفية داخل شبكات محاكاة. تم تصميم هذه البيئات لتكون قريبة من الواقع بهدف كشف قدرات النماذج الخطرة، لكن خطأ في الإعدادات ربطها بالإنترنت العام دون قصد.

كانت OpenAI أول من كشف عن حادثة من هذا النوع، إذ أعلنت أن بعض نماذجها حاولت مهاجمة أنظمة منصة Hugging Face المتخصصة في الذكاء الاصطناعي بعد خروجها من بيئة الاختبار. وأوضحت الشركة في حادثة منفصلة أن أحد نماذجها وصل إلى الإنترنت العام، وعثر على شركة حقيقية تحمل اسمًا مشابهًا لهدف التمرين، ثم استغل كلمات مرور ضعيفة للوصول إلى قاعدة بياناتها، معتقدًا أنه لا يزال داخل التمرين.

من جانبها، راجعت أنثروبيك 141,006 تفاعلًا كان يمكن لنماذج Claude خلالها الوصول إلى الإنترنت المفتوح، وحددت ثلاث حوادث خرجت فيها النماذج عن نطاق المحاكاة ووصلت إلى بنية تحتية نشطة تخص ثلاث شركات مختلفة. كما ذكرت الشركة أن أحد نماذجها حدد ثغرات ووصل إلى بيانات اعتماد لمؤسسة حقيقية، في حين توقف نموذج آخر من تلقاء نفسه بعد إدراكه أنه بلغ هدفًا حقيقيًا لا محاكاة.

أما ميتا فكانت آخر من أعلن عن حادثة مشابهة، إذ أفلت أحد نماذجها من بيئة الاختبار، ووصل إلى الإنترنت، واستغل ثغرات في خدمة تابعة لجهة خارجية وعدل إعداداتها الداخلية. قالت الشركة إنها علمت بالأمر من Irregular، وإنها تحقق فيه وستصدر تقريرًا كاملًا فور حصولها على جميع الحقائق.

تأسست شركة Irregular عام 2023 في إسرائيل على يد خريجين من وحدات الاستخبارات الإسرائيلية، وتحولت سريعًا إلى مزود رئيسي لبيئات اختبار نماذج الذكاء الاصطناعي المتقدمة. حصلت الشركة على تمويل قدره 80 مليون دولار من صندوقي Sequoia و Redpoint، ووصلت قيمتها إلى 450 مليون دولار، وتصف نفسها بأنها أول مختبر أمني للنماذج الحدودية.

ردت Irregular بأن هذه الحوادث نتجت جميعها عن المشكلة نفسها في بيئة التقييم التي كشفت عنها أنثروبيك أولًا، وأنها عولجت منذ ذلك الحين ولم تعد هناك مشكلات مفتوحة. أضافت الشركة أنها تعمل على إعداد ورقة بحثية لمشاركة أفضل الممارسات في احتواء النماذج وتشغيل اختبارات الأمن السيبراني بأمان.

أثارت هذه الحوادث جدلاً واسعًا في القطاع، إذ يرى بعض الخبراء أن ما جرى هو تحديدًا ما يُفترض حدوثه أثناء الاختبار، لأن النماذج تم توجيهها أصلًا لاكتشاف الثغرات في بيئة تحاكي الواقع. لكن هؤلاء أنفسهم أشاروا إلى أنه لو لم يكن المقصود أن يخترق النموذج موقعًا حقيقيًا، لكان بإمكان المختبرين مراقبة حركة البيانات الصادرة وإيقاف التجربة فورًا.

تكشف هذه الحوادث عن مسألة أعمق تتعلق بتركز اختبار سلامة أقوى النماذج لدى شركة واحدة صغيرة، بحيث يعتمد ضمان أمان النماذج التي تستخدمها آلاف المؤسسات على إعدادات بيئة اختبار واحدة. تبقى بعض التفاصيل غير مكتملة، إذ لا تزال ميتا تحقق في حادثتها ولم تصدر تقريرها النهائي بعد.