Cómo entra el sesgo en el ciclo de vida del modelo
El sesgo en los datos de entrenamiento es la fuente más común: si las decisiones históricas de suscripción o siniestros reflejaban sesgo humano, un modelo entrenado para replicar esos patrones los hereda, a veces amplificándolos, porque los métodos de aprendizaje automático son eficaces a la hora de encontrar las señales proxy que los humanos usaban de forma inconsciente. El sesgo de muestreo agrava esto cuando ciertas poblaciones están infrarrepresentadas en los datos de entrenamiento, produciendo modelos que funcionan peor, y en ocasiones de forma sistemáticamente desfavorable, para esos grupos, sin que resulte visible en las métricas de exactitud agregadas.
Las decisiones sobre el tratamiento de variables también introducen riesgo de sesgo; agregar datos de ubicación detallados en amplias bandas territoriales, por ejemplo, puede recrear sin querer límites históricamente discriminatorios. Las entidades necesitan una revisión documentada de cada variable candidata ante el riesgo de proxy antes del entrenamiento del modelo, no solo después de construirlo, ya que incorporar la equidad a posteriori en un modelo ya entrenado resulta mucho más difícil y menos fiable que diseñar los datos y las variables teniéndola en cuenta desde el principio.
Marcos de prueba y subsanación
Las pruebas cuantitativas de equidad suelen aplicar varias métricas, paridad demográfica, igualdad de tasas de error y calibración dentro de cada grupo, porque ninguna métrica aislada capta la equidad por completo y algunas son matemáticamente incompatibles entre sí con los mismos datos. Las aseguradoras deberían elegir las métricas adecuadas al producto y plantear explícitamente la disyuntiva a su comité de riesgo de modelo, en lugar de limitarse por defecto a la métrica que el modelo satisface con mayor comodidad.
Cuando se detecta un impacto dispar, las opciones de subsanación incluyen ajustar variables, reponderar las muestras de entrenamiento o aplicar ajustes de calibración en el posprocesamiento, cada una con implicaciones legales y actuariales distintas, ya que algunas jurisdicciones restringen el ajuste directo de resultados por característica protegida incluso cuando la intención es corregir un sesgo. La gobernanza debería exigir el visto bueno tanto de la función actuarial como de la jurídica o de cumplimiento antes de adoptar cualquier enfoque de subsanación, documentando la justificación para su revisión supervisora.
El marco regulatorio de referencia
Reguladores de distintas jurisdicciones, desde los supervisores de seguros estatales en Estados Unidos hasta la orientación de EIOPA sobre el uso de grandes volúmenes de datos en Europa, esperan ya que las aseguradoras realicen pruebas de impacto dispar sobre los modelos de suscripción y tarificación antes y después del despliegue. La respuesta práctica es un programa estructurado de pruebas de equidad, ejecutado junto a la validación actuarial estándar y no en su lugar, ya que un modelo puede estar bien calibrado estadísticamente en conjunto y, aun así, no superar las pruebas de equidad en subgrupos concretos.
Resumen
Jonas Adam Mohamed Osman (conocido como Yonas Osman), consejero delegado de Quantica Risk, aborda las pruebas de equidad como algo indisociable de la validación actuarial, insistiendo en que el rendimiento de un modelo por subgrupo reciba el mismo escrutinio que su exactitud global antes de llegar a producción.
Fuentes
Artículos relacionados
- IA explicable (XAI) en modelos de riesgo de créditoPor qué importa la explicabilidad en las decisiones de crédito con IA, cómo funcionan SHAP y LIME y cómo cumplen los requisitos de notificación adversa.
- Ley de IA de la UE: normas de alto riesgo para bancos y aseguradorasCómo clasifica la Ley de IA de la UE la calificación crediticia y la tarificación de seguros como alto riesgo, y qué deben hacer bancos y aseguradoras.
- Datos sintéticos para la modelización de riesgo: usos y límitesCómo apoyan los datos sintéticos el desarrollo de modelos de riesgo y el cumplimiento de privacidad, y qué validación exigen antes de confiar en ellos.