الأمان أولًا.. “سدايا” ترسم معايير إدارة مخاطر الذكاء الاصطناعي في السعودية

أعلنت الهيئة السعودية للبيانات والذكاء الاصطناعي “سدايا” إطلاق “الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي”، بهدف توفير مرجع إرشادي ومنهجية وطنية موحدة تساعد الجهات الحكومية والخاصة داخل المملكة في تحديد مخاطر أنظمة الذكاء الاصطناعي وتقييمها ومعالجتها ومتابعتها، وتعزيز تبني هذه التقنيات بصورة آمنة ومسؤولة تتوافق مع الأولويات الوطنية.

يأتي إطلاق الإطار في وقت يشهد العالم توسعًا متسارعًا في استخدام تقنيات الذكاء الاصطناعي لتطوير الخدمات والأعمال، مع تنامي التحديات المرتبطة بهذه الأنظمة، التي تختلف بطبيعتها عن مخاطر البرمجيات التقليدية، وقد تؤثر في الأفراد والمؤسسات والاقتصاد.

أوضحت “سدايا” أن أنظمة الذكاء الاصطناعي قد تُظهر سلوكًا غير متوقع في أثناء التشغيل، كما قد يتغير أداؤها بمرور الوقت، إضافةً إلى صعوبة تفسير نتائجها وإعادة إنتاجها، وهو ما يزيد تعقيد عملية إدارة المخاطر ويستدعي اعتماد منهجية متكاملة للتعامل معها.

يعتمد الإطار على دورة متكاملة لإدارة المخاطر تضم أربع مراحل رئيسية، تبدأ بتحديد السياق والنطاق، ثم تحديد المخاطر وتقييمها ومعالجتها، وتنتهي بعمليات المتابعة والمراجعة المستمرة، كما يعتمد على مصفوفة لتقييم مستوى الخطر وفق احتمالية وقوعه وحجم تأثيره، بما يحقق توحيدًا لآليات التقييم بين الجهات ويساعد على ترتيب أولويات المعالجة.

يرتكز الإطار على سبعة مبادئ أساسية، وهي النزاهة والإنصاف، والخصوصية والأمن، والإنسانية، والموثوقية والسلامة، والشفافية وقابلية التفسير، والمساءلة والمسؤولية، بالإضافة إلى المنافع الاجتماعية والبيئية. كما يقسم مخاطر الذكاء الاصطناعي إلى سبع فئات رئيسية لضمان شمولية التقييم وعدم إغفال أي مخاطر جوهرية.

يتضمن الإطار سيناريو عمليًا يحاكي استخدام جهة حكومية نموذج ذكاء اصطناعي في إعداد التقارير الداخلية، موضحًا آليات تحديد المخاطر وتقييمها ومعالجتها ومتابعتها، بما يوفر نموذجًا تطبيقيًا يمكن للجهات داخل السعودية الاستفادة منه باختلاف قطاعاتها ومستويات نضجها الرقمي.

أكدت “سدايا” أن إطلاق الإطار يأتي ضمن جهودها لتعزيز الاستخدام المسؤول والآمن لتقنيات الذكاء الاصطناعي، وتمكين الجهات الوطنية من تبنيها وفق أفضل الممارسات، بما يدعم منظومة الابتكار الرقمي ويواكب مستهدفات رؤية المملكة 2030.

للاطلاع على “الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي” الصادر عن “سدايا”، يمكن التوجّه إلى هذا الرابط.