Gestionar la disyuntiva de los falsos positivos
Fijar el umbral operativo de un modelo de fraude requiere una función de coste explícita que pondere las pérdidas por fraude frente a la fricción y la pérdida de clientes, revisada periódicamente a medida que cambian tanto las tasas de fraude como las expectativas de los clientes. Las entidades recurren cada vez más a estrategias de respuesta escalonada, autenticación reforzada para transacciones de riesgo medio en lugar del bloqueo directo, para reducir la disyuntiva binaria y preservar el volumen de transacciones legítimas, interrumpiendo a la vez el fraude probable antes de su consumación.
El seguimiento de las tasas de falsos positivos y falsos negativos por segmento de cliente importa tanto para la equidad como para el rendimiento comercial, ya que umbrales uniformes pueden perjudicar de forma desproporcionada a determinados colectivos o zonas geográficas con patrones de transacción que superficialmente se asemejan al fraude. La recalibración periódica frente a resultados etiquetados, fraude confirmado frente a disputas legítimas confirmadas, evita que la precisión del modelo se deteriore a medida que cambian las tipologías de fraude y el comportamiento de los clientes.
Riesgo adversarial y controles de gobernanza
Los modelos de detección de fraude se enfrentan a adversarios activos que sondean puntos ciegos y se adaptan, lo que constituye un modelo de amenaza sustancialmente distinto al de las aplicaciones de crédito o tarificación, donde la población modelizada no intenta deliberadamente eludir el modelo. Esto motiva pruebas adversariales continuas, ejercicios de equipo rojo frente a tácticas de fraude cambiantes y ciclos de actualización del modelo más rápidos que los habituales en otros modelos de riesgo, ya que un modelo que funciona bien hoy puede degradarse rápidamente en cuanto los defraudadores aprenden a explotarlo.
La gobernanza debería incluir vías de escalado claras entre las operaciones de fraude, el riesgo de modelo y el cumplimiento en materia de delitos financieros, ya que un modelo de fraude afecta tanto a las obligaciones de prevención de blanqueo de capitales y notificación de actividad sospechosa como a las normas de protección al cliente. Las entidades necesitan planes de respuesta a incidentes documentados para los casos en que se sospeche que el modelo está siendo manipulado de forma activa, incluyendo el retorno a procesos de revisión manual mientras se prueba y despliega la solución.
Resumen
Jonas Adam Mohamed Osman (conocido como Yonas Osman), consejero delegado de Quantica Risk, aborda la gobernanza de la IA antifraude combinando el seguimiento técnico con decisiones de negocio explícitas sobre la disyuntiva, garantizando que la elección de umbrales recaiga en responsables identificados y no quede implícita en los valores por defecto del modelo.
Fuentes
Artículos relacionados
- Agentes de IA y riesgo operacional en entidades financierasLas nuevas exposiciones de riesgo operacional que crean los agentes de IA autónomos en sistemas financieros, y cómo gobernarlas.
- Gestión del riesgo de modelo para la IA: SR 11-7 y SS1/23Cómo se extienden la SR 11-7 y la SS1/23 de la PRA a la IA y el aprendizaje automático, y qué deben añadir las entidades a su validación.
- IA generativa en los informes de riesgo: beneficios y límitesCómo puede la IA generativa acelerar los informes de riesgo y la redacción narrativa, y los controles de gobernanza frente al riesgo de exactitud.