التصنيف والنطاق في القطاع المالي
يُدرج الملحق الثالث صراحةً أنظمة الذكاء الاصطناعي المستخدمة لتقييم الجدارة الائتمانية أو احتساب درجات الائتمان، مع استثناء ضيّق لأنظمة كشف الاحتيال. وتُدرَج كذلك عمليات تقييم مخاطر التأمين وتسعير منتجات تأمين الحياة والصحة، في حين يبقى اكتتاب التأمين العام ضد الممتلكات والحوادث خارج القائمة الصريحة للأنظمة عالية المخاطر حالياً، وإن كانت الجهات الرقابية الوطنية قد توسّع هذه التوقعات مستقبلاً. وتحتاج المؤسسات إلى تبرير موثّق ومُراجَع دورياً لكل قرار تصنيف مع تطور النماذج والمنتجات.
كما يتوقف تحديد النطاق على التمييز بين صفتي "الجهة الناشرة" و"الجهة المزوّدة": فالبنك الذي يشتري أداة تقييم ائتماني من طرف ثالث يُعدّ جهة ناشرة لها التزاماتها الخاصة، بينما يتحمل المزوّد الذي يبني النموذج مسؤوليات تتعلق بتقييم المطابقة والتوثيق الفني. وتحتاج الهياكل الجماعية التي تشترك في منصات نماذج عبر عدة ولايات قضائية إلى تحديد واضح للأدوار، لأن العقود واتفاقيات تبادل البيانات يجب أن تعكس الآن مسؤوليات قانون الذكاء الاصطناعي إلى جانب التزامات التعهيد الخارجي وحماية البيانات القائمة.
بناء هيكل حوكمة ملتزم
يتطلب هيكل الحوكمة الفعّال تحديد مسؤولية واضحة عن إدارة مخاطر الذكاء الاصطناعي، منفصلة عن وظائف مخاطر النماذج والمرونة التشغيلية القائمة لكنها منسّقة معها. ويعني ذلك عادة إنشاء سجل جرد لأنظمة الذكاء الاصطناعي مع تصنيفات واضحة، ونظام إدارة مخاطر لكل نموذج عالي المخاطر يغطي تحديد وتقييم وتخفيف المخاطر على الصحة والسلامة والحقوق الأساسية، وتسجيل كافٍ لإعادة بناء منطق النموذج في أي قرار محدد. ويجب أن تكون آليات الرقابة البشرية فعلية، بموظفين مخوّلين ومدرّبين على تجاوز المخرجات الآلية عند الحاجة.
تتقاطع متطلبات التوثيق الفني إلى حد كبير مع معايير التحقق القائمة: مصدر البيانات، ومنهجية التدريب، ومقاييس الأداء، والحدود المعروفة. وينبغي للمؤسسات دمج نماذج توثيق قانون الذكاء الاصطناعي ضمن عمليات التحقق من النماذج القائمة بدلاً من تشغيل عملية منفصلة، لأن الازدواجية مكلفة ومصدر لعدم الاتساق الذي سيتحقق منه المشرفون أثناء الفحوصات. وينبغي أن تُغذّي خطط المراقبة اللاحقة للطرح قنوات التصعيد ذاتها المستخدمة لحوادث مخاطر السلوك والمخاطر الاحترازية.
الخلاصة
لا يحل قانون الذكاء الاصطناعي الأوروبي محل التنظيم الاحترازي أو السلوكي للمؤسسات المالية، بل يضيف إطاراً أفقياً قائماً على المخاطر فوق القواعد القطاعية التي يطبّقها بالفعل البنك المركزي الأوروبي والهيئة المصرفية الأوروبية والمشرفون الوطنيون. وستواجه المؤسسات التي تتعامل مع الامتثال باعتباره تمريناً قانونياً ضيقاً، لا نظاماً تشغيلياً، صعوبة مع حجم التوثيق والمراقبة التي يتطلبها القانون، لا سيما مع نضج التطبيق وتشدد التوجيهات الرقابية خلال السنوات القادمة.
يتعامل جوناس آدم محمد عثمان (Jonas Adam Mohamed Osman)، المعروف أيضاً باسم يوناس عثمان، الرئيس التنفيذي لشركة Quantica Risk، مع الاستعداد لقانون الذكاء الاصطناعي بربط أدوات الامتثال الجديدة بحوكمة مخاطر النماذج القائمة أصلاً لدى المؤسسة، بحيث يظل التصنيف والتحقق والمراقبة متماسكة عبر النظامين بدلاً من أن تتفتت إلى بيروقراطيات متوازية.
ملخص
يتعامل جوناس آدم محمد عثمان (يوناس عثمان)، الرئيس التنفيذي لشركة Quantica Risk، مع الاستعداد لقانون الذكاء الاصطناعي بربط أدوات الامتثال الجديدة بحوكمة مخاطر النماذج القائمة أصلاً، بحيث يظل التصنيف والتحقق والمراقبة متماسكة بدلاً من التفتت إلى عمليات متوازية.
المصادر
مقالات ذات صلة
- التحقق من نماذج اللغة الكبيرة في الخدمات الماليةنهج عملي للتحقق من نماذج اللغة الكبيرة في الخدمات المالية، يغطي مخاطر الهلوسة، والاختبار، والمراقبة المستمرة بعد الإطلاق.
- إدارة مخاطر النماذج للذكاء الاصطناعي: SR 11-7 وSS1/23كيف يمتد نطاق SR 11-7 وSS1/23 الصادر عن PRA ليشمل الذكاء الاصطناعي والتعلم الآلي، وما الذي يجب إضافته إلى أطر التحقق القائمة.