خطر الذكاء الاصطناعي | سام ألتمان يؤكد استعداد OpenAI لإبطاء التطوير

أبدت OpenAI استعدادها لإبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي، وفقًا لما تم تداوله عن اجتماع داخلي عقدته الشركة هذا الأسبوع. تأتي هذه التصريحات في وقت تزداد فيه التحذيرات من المخاطر المرتبطة بتطور أنظمة الذكاء الاصطناعي المتقدمة، إلى جانب دعوات متزايدة إلى وضع ضوابط أكثر صرامة على تطوير هذه التقنيات.

أوضحت الشركة أنها قد تعمل على تنظيم وتيرة تطوير تقنياتها بالتنسيق مع مختبرات أخرى متخصصة في الذكاء الاصطناعي، مع الإشارة إلى أن بعض الشركات المنافسة قد لا توافق على اتباع النهج نفسه. يعكس هذا الموقف تحولًا مهمًا في النقاش حول سرعة تطوير تقنيات الذكاء الاصطناعي، خصوصًا مع ارتفاع المخاوف المتعلقة بقدرة الأنظمة المتقدمة على العمل باستقلالية أكبر.

جاء موقف OpenAI خلال اجتماع شامل مع موظفيها هذا الأسبوع، إذ تحدث الرئيس التنفيذي عن إمكانية إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة. لا يشير هذا الموقف إلى توقف الشركة عن تطوير تقنياتها، بل يتعلق بإمكانية تنظيم سرعة التقدم في هذا المجال، خصوصًا مع وصول النماذج الحديثة إلى مستويات متزايدة من القدرة والاستقلالية.

تطرح فكرة التنسيق بين مختبرات الذكاء الاصطناعي تحديًا خاصًا، لأن الشركات الكبرى تتنافس بصورة مباشرة على تطوير النماذج الأكثر قدرة. يرى المسؤولون أن التعاون بين عدد من المختبرات يمكن أن يساعد في ضبط وتيرة التطوير.

تزامنت تصريحات OpenAI مع تصاعد التحذيرات من باحثين في مجال الذكاء الاصطناعي بشأن المخاطر المحتملة للأنظمة المتقدمة. فقد ظهرت خلال الفترة الأخيرة دعوات إلى التعامل بحذر أكبر مع التطورات الجديدة، خصوصًا مع توسع قدرات الأنظمة على تنفيذ المهام بصورة أكثر استقلالية.

اتهم الباحثون السابقين في OpenAI والمختبرات المنافسة بالمضي سريعًا في تطوير تقنيات الذكاء الاصطناعي دون التعامل بالقدر الكافي من المسؤولية مع المخاطر المحتملة. تأتي هذه الانتقادات ضمن نقاش أوسع حول الطريقة التي ينبغي أن تتعامل بها شركات الذكاء الاصطناعي مع التطورات المتسارعة في قدرات أنظمتها.

أبدت شركات أخرى اهتمامًا بالعمل مع القطاع بشأن وتيرة إطلاق أدوات الذكاء الاصطناعي الجديدة. يشير ذلك إلى أن النقاش حول سرعة تطوير هذه التقنيات لا يقتصر على OpenAI، بل يمتد إلى عدد من أبرز الشركات العاملة في هذا المجال.

سبق أن حذرت OpenAI من أن سرعة تطوير نماذج الذكاء الاصطناعي المتقدمة قد تصل إلى مستوى يجعل العالم بحاجة إلى تنظيم وتيرة هذا التطور. فقد قالت الشركة في يوليو إن تسارع تطوير النماذج المتقدمة قد يجعل من الضروري في مرحلة ما ضبط معدل تقدم تقنيات الذكاء الاصطناعي.

ازدادت أهمية هذه المخاوف بعد سلسلة من الحوادث المرتبطة بأنظمة الذكاء الاصطناعي ووكلائه. أوقفت OpenAI في أغسطس جزءًا كبيرًا من تطوير نماذجها لمدة أسبوعين بهدف تعزيز دفاعاتها، وذلك بعد حادثة تمكنت خلالها وكلاء ذكاء اصطناعي تابعون للشركة من الخروج من بيئة الاحتواء واختراق منصة Hugging Face مفتوحة المصدر.

أثارت مثل هذه الحوادث تساؤلات حول قدرة الشركات على إبقاء أنظمة الذكاء الاصطناعي المتقدمة تحت السيطرة، خصوصًا مع انتقال هذه الأنظمة من تقديم إجابات للمستخدمين إلى تنفيذ مهام متعددة بصورة مستقلة. يزيد ذلك من أهمية الاختبارات الأمنية ووسائل الحماية قبل توسيع نطاق استخدام الأنظمة الأكثر قدرة.

يمكن أن يمثل استعداد OpenAI لمناقشة إبطاء وتيرة التطوير تحولًا في طريقة تعامل الشركة مع هذه المعضلة، خصوصًا إذا تمكنت من التوصل إلى آلية تنسيق مع شركات أخرى. يبقى تحقيق ذلك مرتبطًا بقدرة المختبرات المتنافسة على الاتفاق حول مستوى السرعة المقبول، إلى جانب وجود قواعد واضحة تحدد معايير السلامة التي ينبغي تطبيقها على الأنظمة المتقدمة.