خطر صامت.. روبوتات الذكاء الاصطناعي تعرف أسرار صناعة الأسلحة البيولوجية

تواجه شركات الذكاء الاصطناعي تحديات مع تطور قدرات نماذجها، بعدما أظهرت اختبارات وحالات استخدام أن بعض روبوتات الدردشة الذكية تستطيع تقديم معلومات قد تساعد مستخدمين على التخطيط لهجمات بيولوجية أو كيميائية. هذا يثير تساؤلات حول قدرة أنظمة الحماية الحالية على مواكبة التطور السريع لهذه التقنيات.

وبحسب تقرير نشرته صحيفة “وول ستريت جورنال”، بدأ مئات المستخدمين حول العالم، عقب تحسين OpenAI قدرات نماذجها خلال العام الماضي، طرح أسئلة تتعلق بصناعة السموم والأسلحة البيولوجية وطرق استخدامها. وفي بعض الحالات، قدمت النماذج إجابات تفصيلية اعتبرها خبراء في علم الأحياء والإرهاب دقيقة بما يكفي لتشكل خطرًا محتملاً، وقالت OpenAI إن غالبية الاستفسارات المشبوهة التي رصدتها تعلقت بالسموم.

حسابات محظورة دون إبلاغ السلطات
حظرت OpenAI حسابات مستخدمين طلبوا معلومات تتعلق بصناعة السموم والأسلحة البيولوجية، لكنها لم تبلغ جهات إنفاذ القانون بهذه الحالات. وتبرز هنا فجوة تشريعية في الولايات المتحدة؛ إذ لا توجد قواعد فيدرالية عامة تلزم شركات الذكاء الاصطناعي بالإبلاغ عن المستخدمين الذين يطلبون إرشادات لإيذاء الآخرين، أو بالكشف عن المحادثات التي تتضمن تخطيطًا قد يشكل تهديدًا أمنيًا.

وتقول OpenAI إنها تدرب نماذجها على رفض الطلبات التي تتضمن تعليمات أو تخطيطًا يمكن أن يؤدي إلى إلحاق الضرر بالأشخاص، بالإضافة إلى إخضاع النماذج لاختبارات أمان قبل إطلاقها. وبحسب الشركة، فإنها قد تبلغ جهات إنفاذ القانون عندما تشير المحادثات إلى خطر وشيك وموثوق بإلحاق الأذى بالآخرين.

المشكلة تتجاوز ChatGPT
لا تقتصر المخاوف على ChatGPT، إذ أشار التقرير إلى أن مستخدمين حاولوا الحصول على معلومات مرتبطة بالأسلحة البيولوجية عبر روبوتات دردشة أخرى، مثل Claude من أنثروبيك و Gemini من جوجل و Grok. ولم يتضح إذا كانت تلك الطلبات مرتبطة بمحاولات فعلية لتطوير أسلحة، أم أنها اختبارات تهدف إلى اكتشاف حدود النماذج وقدرتها على تجاوز أنظمة الحماية.

وقالت جوجل إن لديها فريق أمان يضم علماء متخصصين في تقييم المخاطر المرتبطة بالأسلحة البيولوجية، بالإضافة إلى إجراء اختبارات لقياس قدرة أنظمتها على مواجهة الاستخدامات الخطرة. وتزداد المخاوف مع ظهور نماذج مفتوحة منخفضة التكلفة يمكن تعديلها، إذ يرى باحثون أن إمكانية إزالة بعض قيود الأمان منها قد تجعل التحكم في إساءة استخدامها أكثر صعوبة.

سباق بين القدرات وأنظمة الحماية
تكشف هذه التطورات عن معضلة تواجه شركات الذكاء الاصطناعي، وهو أن كلما أصبحت النماذج أكثر قدرة على تحليل المشكلات العلمية المعقدة، زادت فائدتها للباحثين والأطباء، لكن القدرات نفسها قد تصبح أداة خطرة إذا وصلت إلى مستخدمين لهم نوايا ضارة.

وتعود جذور المشكلة إلى السنوات الأولى لظهور ChatGPT. فعند إطلاقه في 2022، لم تكن قدراته في الأحياء والكيمياء متقدمة بما يكفي لإثارة المستوى الحالي من القلق. ومع ذلك، استعانت OpenAI بعلماء لاختبار نماذجها، ووضعت قواعد تمنع تقديم إجابات على أنواع محددة من الطلبات الخطرة.

وأظهرت الاختبارات مشكلة أخرى، وهي قدرة بعض المستخدمين على التحايل على هذه القيود عبر المحادثات الطويلة أو صياغة الطلبات بطرق غير مباشرة. وتقول OpenAI أن أنظمة الحماية أصبحت أكثر قوة منذ ذلك الحين، لكن باحثين في مجال الأمن السيبراني يرون أن النماذج الحالية غير محصنة تمامًا أمام محاولات التحايل المستمرة.

تشديد القيود قد يضر الباحثين
لا تستطيع شركات الذكاء الاصطناعي ببساطة منع كل الأسئلة المرتبطة بمسببات الأمراض أو الهندسة الوراثية، لأن المعلومات نفسها قد تكون ضرورية لأبحاث طبية مشروعة. ويستخدم باحثون نماذج الذكاء الاصطناعي لجمع المعلومات، واختبار الفرضيات، وتحليل البيانات، والمساعدة في تصميم التجارب، مما يجعل وضع حدود دقيقة بين الاستخدام العلمي المشروع والاستخدام الضار مهمة معقدة.

وظهر هذا التحدي عمليًا لدى أنثروبيك، إذ واجه موظفون في المراكز الأمريكية لمكافحة الأمراض والوقاية منها صعوبات في استخدام Claude خلال التعامل مع تفشٍ مرضي، بسبب القيود التي فرضها النموذج على بعض الأسئلة المرتبطة بمسببات الأمراض. وأوضحت أنثروبيك لاحقًا أن الموظفين استخدموا نموذجًا عامًا بدلًا من نموذج متخصص للاستخدام الحكومي، وأن الشركة تعاونت مع الوكالة لتحسين استخدام أدواتها.

وأما OpenAI، فقد أنشأت برنامجًا يسمح للمؤسسات والباحثين الذين خضعوا للتحقق باستخدام نماذج مع عدد أقل من حالات الرفض الآلي، بهدف إتاحة البحث العلمي المشروع دون إزالة ضوابط الأمان عن المستخدمين عمومًا.

GPT-5 يرفع مستوى المخاطر
بحلول 2024، كانت قدرات نماذج OpenAI في علم الأحياء تتقدم بسرعة، وأظهرت الاختبارات الداخلية أن النماذج أصبحت أكثر قدرة على مساعدة المستخدمين في التعامل مع مشكلات بيولوجية معقدة. ومع استعداد الشركة لإطلاق GPT-5 في صيف 2025، خلص موظفون إلى أن النموذج وصل إلى مستوى مرتفع من المخاطر وفق تصنيفات OpenAI الداخلية، بعد أن أظهرت الاختبارات إمكانية مساعدة مستخدم محدود الخبرة في التعامل مع معلومات قد ترتبط بمخاطر بيولوجية.

ودفع ذلك فرق الأمان إلى تطوير أنظمة لرصد الاستخدامات المشبوهة. وتقول OpenAI إنها تراقب استفسارات المستخدمين الموجهة إلى نماذجها المتقدمة منذ أبريل 2025، مع مواصلة تطوير أدوات الكشف والإنفاذ. وخصصت الشركة مكافأة تصل إلى 50 ألف دولار لمن يستطيع إثبات تجاوز أنواع محددة من إجراءات الحماية المتعلقة بالمخاطر البيولوجية.

معادلة صعبة أمام شركات الذكاء الاصطناعي
تضع التطورات شركات الذكاء الاصطناعي أمام معادلة شديدة التعقيد؛ ففرض قيود واسعة قد يقلص فائدة النماذج للباحثين والأطباء والمؤسسات الصحية، في حين قد يؤدي التساهل إلى توفير معرفة متقدمة لمستخدمين يسعون إلى إلحاق الضرر بالآخرين. ومع استمرار تحسن النماذج في العلوم والأحياء والهندسة، لم يعد السؤال مقتصرًا على مدى ذكائها، بل أصبح مرتبطًا أيضًا بقدرة الشركات والحكومات على منع تحول المعرفة التي توفرها إلى أداة لتنفيذ هجمات خطرة.

ويشير هذا التحدي إلى أن المرحلة المقبلة من سباق الذكاء الاصطناعي لن تدور حول تطوير أكثر النماذج قدرةً فحسب، بل حول بناء أنظمة أمان وتشريعات تستطيع مواكبة تلك القدرات دون تعطيل الاستخدامات العلمية المشروعة.