Qué añade la SS1/23 para el aprendizaje automático
La SS1/23 amplía expresamente la definición de modelo para abarcar una gama más amplia de métodos cuantitativos, lo que incorpora por primera vez a la gobernanza formal del riesgo de modelo muchas herramientas de aprendizaje automático antes no reguladas. También eleva las expectativas en materia de explicabilidad, exigiendo a las entidades que demuestren comprender el comportamiento del modelo lo suficientemente bien como para cuestionarlo de forma eficaz, y en calidad de los datos, dada la sensibilidad de los modelos de aprendizaje automático a la composición y a la deriva de los datos de entrenamiento a lo largo del tiempo.
Las entidades deben mantener además un inventario de modelos completo con categorización basada en el riesgo, un área que muchas instituciones han dotado históricamente de pocos recursos para modelos de baja materialidad que, sin embargo, se agregan en un riesgo relevante a nivel de toda la entidad. La SS1/23 empuja a los consejos a mantener una visión agregada del riesgo de modelo sobre todo el inventario, en lugar de evaluar cada modelo de forma aislada, lo que tiene implicaciones operativas sobre cómo los comités de riesgo de modelo informan a los consejos.
Extensiones prácticas a los marcos existentes
Las entidades que amplían la SR 11-7 o marcos equivalentes para la IA suelen añadir pruebas de explicabilidad, pruebas de estabilidad ante la deriva de datos y comparación con modelos alternativos como componentes de validación estándar, junto con pruebas de sesgo y equidad cuando el modelo afecta a personas. El control de versiones también se vuelve más exigente, ya que los modelos de aprendizaje automático suelen reentrenarse con datos actualizados de forma programada, lo que requiere un umbral definido que determine cuándo un reentrenamiento constituye un modelo nuevo que exige revalidación completa frente a una simple recalibración rutinaria.
Los planes de seguimiento continuo necesitan desencadenantes específicos para el aprendizaje automático: umbrales del índice de estabilidad de la población, alertas de deriva de variables y comprobaciones de degradación del rendimiento, ejecutadas con mayor frecuencia que las revisiones anuales habituales en los modelos tradicionales. Los equipos de validación independiente necesitan profesionales con conocimientos de métodos de aprendizaje automático, lo cual constituye en sí mismo un reto organizativo que muchas entidades siguen abordando mediante contratación o formación específica de sus validadores actuales.
Resumen
Jonas Adam Mohamed Osman (conocido como Yonas Osman), consejero delegado de Quantica Risk, aborda el riesgo de modelo de IA ampliando el mismo rigor de validación empleado para los modelos tradicionales, añadiendo pruebas de explicabilidad y de deriva como componentes centrales y no como extras opcionales.
Fuentes
Artículos relacionados
- Ley de IA de la UE: normas de alto riesgo para bancos y aseguradorasCómo clasifica la Ley de IA de la UE la calificación crediticia y la tarificación de seguros como alto riesgo, y qué deben hacer bancos y aseguradoras.
- Validar grandes modelos de lenguaje en servicios financierosUn enfoque práctico de validación de grandes modelos de lenguaje en banca y seguros: riesgo de alucinaciones, pruebas y seguimiento continuo.
- Agentes de IA y riesgo operacional en entidades financierasLas nuevas exposiciones de riesgo operacional que crean los agentes de IA autónomos en sistemas financieros, y cómo gobernarlas.