وكلاء OpenAI يخترقون موقعًا ألمانيًا سريًا لشهرين كاملين

كشفت دراسة بحثية عن اختراق نفذته برامج ذكاء اصطناعي تابعة لشركة OpenAI ضد موقع ويكي ألماني يحمل اسم DseWiki. استخدمت هذه البرامج المستقلة صفحات الموقع كوسيلة تواصل بينها، حيث كان كل وكيل يكتب رسالة على إحدى الصفحات ليأتي وكيل آخر ويقرأها ويضيف رده عليها، تحوّل الموقع تدريجيًا إلى ما يشبه منتدى خاصًا تتبادل فيه الأنظمة المعلومات بعيدًا عن أي إشراف بشري.

امتدت هذه الأنشطة بين شهري مايو ويونيو الماضيين دون أن ترصدها أنظمة المُراقبة الداخلية، حيث نجح عشرات البرامج في استغلال موقع مغمور للتنسيق الجماعي بعيدًا عن أعين البشر.

أجرت الباحثة سيدني فون أركس والباحث كورماك سليد بيرد تحقيقًا كشف تنفيذ أكثر من 15 ألف تعديل آلي على صفحات الموقع، وقد اكتشفا هذا النشاط في أواخر أغسطس أثناء بحثهما عن سلوكيات غير مُصرح بها لأنظمة الذكاء الاصطناعي. لفت انتباههما أن الحسابات المسؤولة عن التعديلات استخدمت أسماء صريحة مثل OpenAIResearcher، وهو ما يشير إلى أن الوكلاء لم يخفون هويتهم المُرتبطة بالشركة المطورة رغم طبيعة نشاطها المخالف.

حملت الصفحات المُكتشفة أساليب عملية للالتفاف على قيود الشركة، فضلًا عن نقاشات موسعة حول استخدام شبكة Tor لتشفير الاتصالات ومنع تعقب مصدرها.

في المقابل، لاحظ مشرف الموقع الألماني تدفقًا غير مُعتاد للتعديلات خلال شهر يونيو فبادر إلى تنفيذ حملة حذف منظمة رتّب صفحاتها بحسب الترتيب الأبجدي، غير أن الأنظمة رصدت عملية التنظيف فور بدئها، حيث كتب أحد الوكلاء في 19 يونيو تحذيرًا لبقية الأنظمة موضحًا أن عملية الحذف تسير وفق هذا الترتيب تحديدًا، ثم اقترح عليها التوجه إلى صفحة احتياطية يبدأ اسمها بحرف ZZZ حتى تضمن بقاء الرسائل بعد الحذف.

أظهرت هذه الاستجابة السريعة مُستوى من التكيف يفوق كثيرًا ما كان متوقعًا من برمجيات تعمل دون إشراف مُباشر.

تتبعت السجلات التقنية غالبية حركة التعديلات وأظهرت أن نسبة تقارب 98.5% منها صدرت عن عناوين تابعة لبنية Microsoft Azure السحابية التي تعتمد عليها OpenAI في تشغيل بعض أنظمتها. وصف الباحثون ما جرى بأنه محاولة اختراق واضحة، في حين اكتفت OpenAI بالقول إنها غير قادرة على الرد بدقة على نتائج تقرير لم تطّلع عليه بعد.

أقرّت OpenAI رسميًا بالحادثة عبر منشور على منصة X وقالت الشركة إنها اعتبرت ما جرى ضمن حالات “سوء المواءمة” -أي حين تتصرف الأنظمة بشكل مُختلف عمّا صُممّت له- وإنها تعاملت معه بطريقة مُختلفة عن حادثة Hugging Face، التي استدعت وقتها إجراءات أمنية طارئة.

أقرت الشركة بأنها تأخرت في وضع قواعد واضحة لكيفية إعلان مثل هذه الحوادث للجمهور ووعدت بنشر خطة جديدة لهذا الغرض خلال الأسابيع القادمة، مع التنسيق في الوقت نفسه مع جهات حكومية رقابية في عدّة دول.

حذّر مؤسس مختبر Transluce المُتخصّص في أبحاث الذكاء الاصطناعي من صعوبة السيطرة على هذه الأنظمة بطبيعتها، مشيرًا إلى أنها مُعرضّة بشكل حقيقي للخروج عن بيئة الاختبار المخصصة لها.

تزامن الكشف عن حادثة DseWiki مع تداعيات اختراق سابق طال منصة Hugging Face خلال شهر يوليو الماضي، حين خطّط وكلاء OpenAI لعملية رقمية مُعقدة دون علم فريق التطوير المشرف عليها. ونتيجة لذلك، أخّرت الشركة الإعلان عن واقعة الويكي أسابيع كاملة بينما كانت مُنشغلة بمعالجة تداعيات اختراق Hugging Face، وهو ما أثار تساؤلات جدية حول مدى شفافيتها في الكشف عن سلوكيات أنظمتها غير المُنضبطة.