استقالة قيادي في OpenAI.. تحذير صادم من مخاطر سباق الذكاء الاصطناعي

استقال ديفيد روبنسون، أحد القيادات في فريق أنظمة السلامة لدى OpenAI، من الشركة الأسبوع الماضي، قبل أن ينشر مقالا انتقد فيه ثقافة الشركة وسرعة تطوير نماذج الذكاء الاصطناعي، محذرا من أن “التفاؤل غير المقيد” قد يخلق بيئة خطرة لتطوير تقنيات شديدة القوة.

كان روبنسون يعمل في مجال شفافية السلامة داخل OpenAI، وشارك في تطوير ما يسمى “بطاقات النظام” ونشرها، وهي آليات تقدم معلومات حول نماذج الشركة وقدراتها ومخاطرها.

في مقال نشرته مجلة “ذا أتلانتق”، قال روبنسون إنه يتفق مع موظفين سابقين آخرين على أن الشركات التي تطور هذه التقنية “لا تتعامل معها بالقدر الكافي من الحذر”، مضيفا أن تسارع OpenAI من إطلاق إلى آخر يجعلها لا تحقق مستوى العناية الذي يراه ضروريا.

ردت OpenAI على المقال بالتأكيد أنها تعمل على ضمان ألا تصبح نماذجها أكثر قدرة مما تستطيع إدارته وتأمينه بأمان، موضحة أنها توقف التدريب أو تؤجل إطلاق النماذج عندما ترى ضرورة لإبطاء وتيرة التطوير.

وقالت الشركة إنها وسعت تعاونها مع جهات تقييم خارجية، وتعمل على تحسين أنظمة “المراقبة في الوقت الفعلي” لاكتشاف السلوكيات المثيرة للقلق من نماذج الذكاء الاصطناعي وإيقافها في مراحل مبكرة من التدريب.

تأتي استقالة روبنسون في وقت تواجه فيه OpenAI اهتماما متزايدا بممارسات السلامة والموارد البشرية لديها. وأعلنت الشركة الخميس أنها “أنهت علاقتها” بثلاثة باحثين، مشيرة إلى انتهاكهم سياساتها المتعلقة بمشاركة المعلومات الحساسة، كما غادر يوهانس هايدكه، رئيس قسم السلامة في الشركة، منصبه في وقت سابق من العام.

يرى روبنسون أن المشكلة لا ترتبط بالإجراءات التقنية وحدها، بل بثقافة الشركات التي تطور الذكاء الاصطناعي. وقال إن المرحلة الحالية تحتاج إلى قدر من التواضع، وهو أمر لا يكون طبيعيا بالضرورة لدى أشخاص حققوا نجاحهم اعتمادا على الثقة العالية بقدرتهم على حل المشكلات.

أضاف أن النهج المتعلق بالسلامة الذي ينشأ في مثل هذه البيئة يبدأ من “تفاؤل غير مقيد” بإمكانية حل المشكلات عند ظهورها، محذرا من أن هذا النهج قد لا يكون مناسبا عند التعامل مع أنظمة ذكاء اصطناعي تتطور قدراتها بسرعة.

أشار روبنسون إلى أن OpenAI تواجه، بالإضافة إلى الضغوط المتعلقة بالسلامة، سلسلة من الحوادث التي قالت الشركة إن نماذجها تصرفت خلالها بصورة غير مرغوبة، وذلك بالتزامن مع اهتمام متزايد بأمن أنظمة الذكاء الاصطناعي.

تتزامن هذه التطورات مع دعوات من باحثين ومسؤولين في القطاع إلى إبطاء وتيرة تطوير النماذج المتقدمة، في وقت أكد فيه الرئيس التنفيذي لـOpenAI، سام ألتمان، خلال مؤتمر المطورين الأخير للشركة، ضرورة أن تتقدم السلامة والمواءمة مع أهداف البشر على قدرات النماذج.

كان روبنسون قد كتب عبر منصة إكس في سبتمبر الماضي أن الأمور داخل OpenAI “تتغير بصورة كبيرة يوميا”، لكنه تساءل عما إذا كانت الشركة تتغير بالسرعة الكافية لمواكبة تداعيات تطوير نماذج ذكاء اصطناعي عالية القدرة.

أكد روبنسون أنه لم يتخذ قرار مغادرة الشركة بسهولة، مشددا في الوقت نفسه على اعتقاده بأن الذكاء الاصطناعي يمكن أن يكون “مفيدا وقيما”.

وقال أيضا إنه استعان بشركة للعلاقات العامة، لكنه شدد على أن قرار التحدث علنا كان قراره الشخصي، في إشارة إلى رغبته في توضيح أن انتقاداته لا تأتي ضمن حملة منسقة مع موظفين سابقين في شركات تقنية أخرى يدعون إلى إبطاء تطوير الذكاء الاصطناعي.