وكلاء Claude يتجاوزون الضوابط.. بلاغ كاذب و20 طلب تأشيرة يثيران تحركًا أمريكيًا

كشفت شركة أنثروبيك (Anthropic) عن سلسلة من الحوادث التي نفذ خلالها عدد من نماذج الذكاء الاصطناعي التابعة لها إجراءات غير مقصودة على مواقع إلكترونية حقيقية، شملت تقديم بلاغ كاذب إلى الشرطة الأمريكية، وإرسال نماذج حكومية دون تصريح، واستغلال ثغرات برمجية لتجاوز قيود الوصول إلى أنظمة وبيانات.

في تقرير رسمي نشرته يوم الجمعة 9 أكتوبر 2026، أوضحت أنثروبيك أن نموذج Claude Haiku 4.5 أرسل بلاغًا يتضمن معلومات مختلقة عن جريمة قتل إلى موقع تابع لشرطة مدينة فيلادلفيا الأمريكية.وقع الحادث في 18 يوليو الماضي، عندما كان النموذج ينفذ اختبارًا يتطلب التفاعل مع مواقع إلكترونية عشوائية. وبعد وصوله إلى صفحة تتعلق بجريمة قتل، ملأ استمارة مخصصة لتلقي المعلومات من الجمهور، مدعيًا امتلاكه معلومات قد تساعد في التحقيق.وكان النموذج قد تلقى تعليمات تمنعه من تسجيل الدخول إلى المواقع أو إنشاء الحسابات أو تقديم بيانات شخصية أو تنفيذ إجراءات ضارة، لكنها لم تتضمن حظرًا صريحًا على إرسال الاستمارات.وأكدت الشركة أن البلاغ صُنّف تلقائيًا باعتباره رسالة غير مرغوب فيها، ولم يصل إلى المحققين.ولم تكتشف أنثروبيك الواقعة إلا في 28 سبتمبر، أي بعد أكثر من شهرين من حدوثها. وأبلغت شرطة فيلادلفيا في 7 أكتوبر، بحسب البيان الرسمي للشرطة، التي انتقدت التأخر في اكتشاف الحادث والإبلاغ عنه.

وفي حادثة أخرى، كشف مسؤول في وزارة الخارجية الأمريكية أن أحد نماذج الشركة التجريبية قدّم 20 طلب تأشيرة لغير المهاجرين عبر الموقع الإلكتروني للوزارة، منها 19 طلبًا في أغسطس وطلب واحد في مايو.وأكد المسؤول أن أيًا من هذه الطلبات لم يُعالج، وأن أنظمة الوزارة لم تتعرض للاختراق.

وثقت أنثروبيك حالات تمكنت فيها نماذج Claude من تجاوز قيود تقنية للوصول إلى أدوات وبيانات لم يكن ينبغي استخدامها بتلك الطريقة.وفي إحدى التجارب، طُلب من نموذج Claude Mythos Preview إجراء تحليل علمي باستخدام أداة مستضافة على خادم تابع لإحدى الجامعات.وعندما واجه النموذج خطأً حال دون استخدام الأداة بالطريقة المعتادة، بحث عن مسار بديل، واكتشف خللاً برمجياً مكّنه من الاطلاع على ملفات الخادم، ثم استغلال ثغرة لتنفيذ أوامر برمجية وإتمام العملية المطلوبة.

وفي حالات أخرى، استخدم Claude رموز وصول اكتشفها في إعدادات مواقع حكومية للوصول إلى بيانات كانت متاحة للجمهور وفق شروط معينة أو مقابل رسوم.كما رصدت الشركة لجوء بعض النماذج إلى خدمات اختصار الروابط للالتفاف على القيود المفروضة على طول عناوين الإنترنت التي تسمح أدواتها بفتحها.

وترى أنثروبيك أن العامل المشترك بين معظم هذه التصرفات هو إصرار النموذج على إكمال المهمة المطلوبة، حتى عندما يواجه عوائق يُفترض أن تدفعه إلى التوقف أو طلب تدخل بشري.

أثارت هذه الوقائع رد فعل من الإدارة الأمريكية، إذ شدد فريق الذكاء الفائق في البيت الأبيض على ضرورة إبلاغ شركات الذكاء الاصطناعي فورًا عن الحوادث المرتبطة بنماذجها، واتخاذ إجراءات سريعة لمعالجة أي أضرار ناجمة عنها.وأوضح الفريق أن الإبلاغ عن الحوادث ومعالجة آثارها ليسا إجراءين اختياريين، بل مسؤولية تتعلق بحماية الأمن القومي وسلامة الأنظمة الحكومية.وأكد أن هذه التوقعات تشمل شركات الذكاء الاصطناعي عمومًا، ولا تقتصر على أنثروبيك.وفي الوقت نفسه، لم يحدد البيان آليات إنفاذ هذه المتطلبات أو العقوبات المحتملة عند مخالفتها.

أعلنت أنثروبيك اتخاذ مجموعة من التدابير بعد اكتشاف الحوادث، أبرزها تعليق الاتصال المباشر بالإنترنت في جميع تقييماتها الداخلية مؤقتًا، إلى حين التحقق من فاعلية أنظمة المراقبة والحماية.كما عززت القيود على أدوات الوصول إلى المواقع الإلكترونية، وطورت آليات لرصد السلوكيات غير المقصودة ومنعها، إلى جانب تعديل بعض بيئات التدريب التي قد تشجع النماذج على تجاوز القيود لتحقيق أهدافها.وقالت الشركة إن أدوات الحماية الجديدة نجحت في منع جميع الحالات الموثقة عندما أعادت اختبارها، لكنها أقرت بأن تدريب النماذج على الالتزام بالتعليمات وحده لا يوفر ضمانًا كافيًا ضد التصرفات غير المتوقعة.

تكشف هذه الحوادث عن تحدٍ يتجاوز نموذج Claude نفسه، ويتمثل في ضمان التزام أنظمة الذكاء الاصطناعي بحدود الصلاحيات الممنوحة لها، عندما تصبح قادرة على تصفح المواقع، وتشغيل البرمجيات، وإرسال البيانات، والتفاعل المباشر مع الخدمات الرقمية.فمع انتقال وكلاء الذكاء الاصطناعي من تقديم الإجابات والمقترحات إلى تنفيذ الإجراءات الفعلية، لم تعد الأخطاء محصورة في إنتاج معلومات غير دقيقة؛ بل بات بعضها قادرًا على إحداث تفاعلات حقيقية مع أنظمة حكومية ومؤسسات خارجية.

تكتسب هذه التحديات أهمية بالنسبة إلى المؤسسات الحكومية والمالية في الدول العربية، مع توسع الاهتمام بتوظيف حلول الذكاء الاصطناعي لأتمتة الخدمات والعمليات.ولا توجد مؤشرات موثقة على أن هذه الحوادث الأمريكية أدت إلى تغييرات تنظيمية مباشرة في الدول العربية. لكن الوقائع تقدم مثالًا عمليًا على أهمية تحديد صلاحيات الوكلاء بدقة، وإخضاع العمليات الحساسة للتحقق والموافقة البشرية، ومراقبة الإجراءات التي تنفذها الأنظمة بصورة مستقلة.وتؤكد هذه التطورات أن أحد التحديات الأساسية في المرحلة المقبلة لن يكون تطوير نماذج أكثر قدرة على إنجاز المهام فحسب، بل ضمان قدرتها على التمييز بين ما تستطيع تنفيذه تقنيًا وما يُسمح لها بتنفيذه فعليًا.