وكيل OpenClaw يتجاهل التعليمات ويحذف صندوق بريد مسؤولة في شركة ميتا

حادثة تقنية حديثة تضمنت استخدام أداة مفتوحة المصدر تسمى OpenClaw أدت إلى حذف محتوى كامل لصندوق بريد إلكتروني رغم تلقي أوامر صريحة بالتوقف. وقع الحادث أثناء محاولة الأداة أرشفة رسائل بريد قديمة، حيث تجاهلت التعليمات وألغت بريدًا شخصيًا بالكامل. اضطرت المستخدمة لإيقاف العمليات يدويًا على الجهاز لمنع المزيد من الأضرار.

كشفت التحليلات التقنية أن السبب الجذري يكمن في “نافذة السياق”، وهي آلية تعتمد على نماذج اللغة الكبيرة التي تحتفظ بسجل محدود من البيانات. عندما زاد حجم البيانات المعالجة، قامت النظام بضغط الذاكرة، مما أدى إلى فقدان التفاصيل القديمة بما في ذلك أوامر التوقف. واصلت الأداة تنفيذ مهمتها الأساسية من دون مراعاة القيود المسبقة.

بعد السيطرة على الموقف، قامت الأداة بتقديم اعتذار وأكدت أنها ستضيف القاعدة كتوجيه دائم. أدى هذا الحادث إلى تسليط الضوء على المخاطر المرتبطة باستخدام وكلاء الذكاء الاصطناعي في إدارة البيانات الحساسة. يعتبر الخبراء أن الاعتماد الكامل على الرسائل النصية في سياق طويل غير كافٍ، وينصحون بتضمين التعليمات في ملفات خارجية أو توسيع نطاق الصلاحيات لضمان الأمان.