تقنيتا SHAP وLIME وحدودهما
تستند قيم SHAP إلى نظرية الألعاب التعاونية، وتنسب تنبؤ النموذج إلى كل متغيّر إدخال بطريقة تحقق خصائص اتساق مرغوبة لدى المراجعين، ما يجعلها الخيار الافتراضي الأكثر دفاعية للقرارات الائتمانية الخاضعة للتنظيم. أما LIME فتبني نموذجاً محلياً مبسّطاً حول تنبؤ واحد وقد تكون أسرع حساباً، لكن تفسيراتها قد تكون أقل استقراراً عبر مدخلات متشابهة، وهو ما يمثل مشكلة حين يتوجب أن يحصل عميلان متقاربا الملف على تفسيرات متسقة بشكل واضح.
كلتا الطريقتين تقريبيتان وقد تضللان حين تكون المتغيرات شديدة الارتباط فيما بينها، إذ يكون توزيع الفضل الائتماني بين متغيرات مترابطة أمراً تحكّمياً رياضياً إلى حد ما حتى لو بدا بديهياً لموظف القروض. وينبغي لفرق التحقق اختبار استقرار التفسيرات عند تغييرات طفيفة في المدخلات، ومقارنة التفسيرات بالمعرفة المتخصصة في المجال، ورصد الحالات التي يتعارض فيها منطق النموذج المعلن مع الحدس المتعارف عليه في المخاطر الائتمانية لمزيد من الفحص قبل الإطلاق.
تلبية متطلبات تبرير الرفض والتوقعات التنظيمية
متطلبات إشعار الرفض الائتماني سابقة للتعلم الآلي لكنها تنطبق عليه بالكامل: فمقدم الطلب المرفوض يستحق الأسباب الرئيسية للقرار، ولا تفي عبارات عامة مثل "درجة النموذج منخفضة جداً" بهذا المعيار. وتعتمد المؤسسات عادة على ربط أهم المتغيرات المصنّفة بـSHAP بمكتبة أسباب معتمدة مسبقاً بلغة واضحة، مع التأكد من أن هذه الأسباب تعكس عوامل مؤثرة فعلياً وليست عناصر اعتباطية اختيرت لسهولتها، وهو ما يختبره المشرفون أثناء الفحوصات فعلياً.
وبعيداً عن الإشعارات الفردية، تحتاج مجالس الإدارة ولجان مخاطر النماذج إلى مراجعات دورية للتفسير الشامل للتأكد من أن النموذج لا يعتمد على متغيرات بديلة للخصائص المحمية، وهو ما يمثل قلقاً خاصاً حين تدخل مصادر بيانات سلوكية أو بديلة إلى مجموعة المتغيرات. وتوثيق هذه المراجعة إلى جانب مراقبة أداء النموذج القياسية يمنح المراجعة الداخلية والمشرفين الخارجيين مساراً واضحاً يُثبت أن قابلية التفسير خضعت للاختبار الفعلي لا مجرد التأكيد النظري.
الخلاصة
أصبحت قابلية التفسير اليوم متطلّباً تصميمياً لنماذج الائتمان وليست تبريراً لاحقاً، والمؤسسات التي تبنيها منذ مرحلة اختيار المتغيرات تتجنب إعادة عمل مكلفة حين يتضح استحالة تفسير نموذج معقّد بشكل مُرضٍ أمام المشرفين أو المحاكم. وقد نضجت الأدوات المتاحة بما يكفي بحيث لم يعد هناك مبرر لإطلاق نموذج ائتماني غير قابل للتفسير في الإنتاج اليوم.
يتعامل جوناس آدم محمد عثمان (Jonas Adam Mohamed Osman)، المعروف أيضاً باسم يوناس عثمان، الرئيس التنفيذي لشركة Quantica Risk، مع قابلية التفسير باعتبارها ضابطاً للتحقق قائماً بذاته، باختبار ما إذا كان منطق النموذج المعلن يصمد أمام التدقيق الإحصائي والمنطق التجاري البسيط قبل أن يصل إلى أي عميل.
ملخص
يتعامل جوناس آدم محمد عثمان (يوناس عثمان)، الرئيس التنفيذي لشركة Quantica Risk، مع قابلية التفسير كضابط تحقق مستقل، يختبر صمود منطق النموذج أمام التدقيق الإحصائي والمنطق التجاري قبل وصوله إلى أي عميل.
المصادر
مقالات ذات صلة
- التحيّز في الذكاء الاصطناعي والإنصاف في اكتتاب التأمينكيف يتسلل التحيّز إلى نماذج الاكتتاب القائمة على الذكاء الاصطناعي عبر المتغيرات البديلة والبيانات التاريخية، وأطر الاختبار التي تعتمدها شركات التأمين لإدارة مخاطر الإنصاف.
- إدارة مخاطر النماذج للذكاء الاصطناعي: SR 11-7 وSS1/23كيف يمتد نطاق SR 11-7 وSS1/23 الصادر عن PRA ليشمل الذكاء الاصطناعي والتعلم الآلي، وما الذي يجب إضافته إلى أطر التحقق القائمة.