Métodos de generación y sus disyuntivas
Los enfoques de generación habituales van desde el remuestreo estadístico y el bootstrapping relativamente simples hasta las redes generativas antagónicas y los autocodificadores variacionales, capaces de capturar relaciones complejas y no lineales entre numerosas variables. Los métodos más sofisticados preservan mejor correlaciones realistas, pero requieren conjuntos de datos reales más amplios para entrenarse de forma fiable y conllevan un mayor riesgo de memorizar y filtrar inadvertidamente registros individuales si no se restringen adecuadamente, una consideración importante para las afirmaciones de cumplimiento de privacidad.
Las técnicas de privacidad diferencial pueden incorporarse a los procesos de generación para ofrecer garantías de privacidad formales y cuantificables, en lugar de basarse en la suposición informal de que los registros sintéticos no pueden rastrearse hasta individuos concretos. Las entidades que afirmen beneficios de privacidad derivados de los datos sintéticos deberían poder articular y, en lo posible, cuantificar esa garantía en lugar de afirmarla de forma cualitativa, ya que supervisores y autoridades de protección de datos piden cada vez más detalles concretos.
Validar los datos sintéticos antes de confiar en ellos
Las pruebas de fidelidad comparan propiedades estadísticas, distribuciones marginales, estructuras de correlación y frecuencias de eventos raros, entre los datos sintéticos y los reales, señalando dónde el proceso de generación ha suavizado u omitido comportamientos de cola relevantes específicamente para la modelización de riesgo. Las pruebas de utilidad van más allá: entrenan modelos con datos sintéticos y validan su rendimiento frente a datos reales reservados, ya que la similitud estadística no garantiza que un modelo entrenado con datos sintéticos vaya a generalizar bien a decisiones del mundo real.
Las entidades deberían mantener documentación clara sobre qué modelos se desarrollaron, probaron o validaron usando datos sintéticos en cada fase, ya que los supervisores que revisan la documentación de modelos preguntarán por la procedencia de los datos y podrán exigir evidencia de que la validación final incluyó datos reales, en particular para modelos de alta materialidad como el capital regulatorio o la tarificación. La gobernanza de los datos sintéticos debería formar parte del mismo marco de gobernanza de datos que los datos reales, y no constituir una categoría separada y menos escrutada.
Resumen
Jonas Adam Mohamed Osman (conocido como Yonas Osman), consejero delegado de Quantica Risk, aborda los datos sintéticos como un acelerador del desarrollo que, aun así, exige validación con datos reales antes de que cualquier modelo construido sobre ellos merezca la confianza de producción.
Fuentes
Artículos relacionados
- Sesgo y equidad de la IA en la suscripción de segurosCómo entra el sesgo en los modelos de suscripción con IA a través de variables proxy y datos, y los marcos de prueba que usan las aseguradoras.
- IA explicable (XAI) en modelos de riesgo de créditoPor qué importa la explicabilidad en las decisiones de crédito con IA, cómo funcionan SHAP y LIME y cómo cumplen los requisitos de notificación adversa.
- Gestión del riesgo de modelo para la IA: SR 11-7 y SS1/23Cómo se extienden la SR 11-7 y la SS1/23 de la PRA a la IA y el aprendizaje automático, y qué deben añadir las entidades a su validación.