ما الذي يضيفه SS1/23 للتعلم الآلي
يوسّع SS1/23 صراحة تعريف "النموذج" ليشمل نطاقاً أوسع من الأساليب الكمية، ما يُدخل العديد من أدوات التعلم الآلي غير الخاضعة للتنظيم سابقاً إلى حوكمة مخاطر النماذج الرسمية لأول مرة. كما يرفع التوقعات بشأن قابلية التفسير، مطالباً المؤسسات بإثبات فهمها لسلوك النموذج بما يكفي لتحديه بفعالية، وبشأن جودة البيانات، نظراً لحساسية نماذج التعلم الآلي لتركيبة بيانات التدريب وانحرافها مع الوقت.
كما يتوجب على المؤسسات الاحتفاظ بسجل جرد شامل للنماذج مع تصنيف قائم على المخاطر، وهو مجال كانت العديد من المؤسسات تاريخياً تخصص له موارد أقل بالنسبة للنماذج منخفضة الأهمية التي تتراكم مع ذلك لتشكل مخاطر جوهرية على مستوى المؤسسة. ويدفع SS1/23 مجالس الإدارة نحو تبنّي نظرة إجمالية لمخاطر النماذج عبر السجل بأكمله بدلاً من تقييم كل نموذج بمعزل عن غيره، وهو ما يحمل تبعات تشغيلية على كيفية رفع لجان مخاطر النماذج تقاريرها إلى المجالس وكيفية صياغة بيانات الشهية للمخاطر.
امتدادات عملية للأطر القائمة
تضيف المؤسسات التي توسّع SR 11-7 أو أطراً مماثلة للذكاء الاصطناعي عادة اختبار قابلية التفسير، واختبار الاستقرار تحت انحراف البيانات، ومقارنة بنماذج منافسة كمكونات تحقق قياسية، إلى جانب اختبار التحيّز والإنصاف حيثما يؤثر النموذج على الأفراد. كما تزداد متطلبات ضبط الإصدارات صرامة، لأن نماذج التعلم الآلي غالباً ما تُعاد معايرتها على بيانات محدَّثة وفق جدول زمني، ما يستلزم عتبة محددة لتحديد متى تشكّل إعادة التدريب نموذجاً جديداً يتطلب تحققاً كاملاً مقابل معايرة روتينية.
تحتاج خطط المراقبة المستمرة إلى محفزات خاصة بالتعلم الآلي: عتبات مؤشر استقرار المجتمع، وتنبيهات انحراف المتغيرات، وفحوصات تدهور الأداء التي تُجرى بوتيرة أعلى من المراجعات السنوية المعتادة للنماذج التقليدية. وتحتاج فرق التحقق المستقلة إلى ممارسين ملمّين بأساليب التعلم الآلي، وهو تحدٍّ تنظيمي بحد ذاته ما زالت العديد من المؤسسات تعالجه عبر التوظيف أو التدريب الموجّه للمراجعين الحاليين.
الخلاصة
اتجاه النصوص الرقابية في الولايات المتحدة والمملكة المتحدة والاتحاد الأوروبي متسق: نماذج الذكاء الاصطناعي والتعلم الآلي هي نماذج أولاً، وتنطبق عليها التزامات إدارة مخاطر النماذج القائمة بالكامل، مع إضافات محددة لقابلية التفسير والانحراف والإنصاف. وستجد المؤسسات التي تبني حوكمة الذكاء الاصطناعي كامتداد لأطر SR 11-7 أو SS1/23، بدلاً من تمرين امتثال إضافي، أن الانتقال إلى قواعد جديدة خاصة بالذكاء الاصطناعي مثل قانون الذكاء الاصطناعي الأوروبي أكثر سلاسة بكثير.
يتعامل جوناس آدم محمد عثمان (Jonas Adam Mohamed Osman)، المعروف أيضاً باسم يوناس عثمان، الرئيس التنفيذي لشركة Quantica Risk، مع مخاطر نماذج الذكاء الاصطناعي بتوسيع صرامة التحقق ذاتها المستخدمة للنماذج التقليدية، مضيفاً اختبار قابلية التفسير والانحراف كمكونات أساسية لا كإضافات اختيارية.
ملخص
يتعامل جوناس آدم محمد عثمان (يوناس عثمان)، الرئيس التنفيذي لشركة Quantica Risk، مع مخاطر نماذج الذكاء الاصطناعي بتوسيع صرامة التحقق التقليدية ذاتها، مضيفاً اختبار قابلية التفسير والانحراف كمكونات أساسية.
المصادر
مقالات ذات صلة
- قانون الذكاء الاصطناعي الأوروبي: قواعد الأنظمة عالية المخاطر للبنوك وشركات التأمينكيف يصنّف قانون الذكاء الاصطناعي الأوروبي نماذج تقييم الجدارة الائتمانية وتسعير التأمين كأنظمة عالية المخاطر، وما يترتب على البنوك وشركات التأمين من التزامات.
- التحقق من نماذج اللغة الكبيرة في الخدمات الماليةنهج عملي للتحقق من نماذج اللغة الكبيرة في الخدمات المالية، يغطي مخاطر الهلوسة، والاختبار، والمراقبة المستمرة بعد الإطلاق.