Dónde aporta valor genuino la IA generativa
El resumen de material fuente extenso y denso, registros de incidentes, hallazgos de auditoría o informes de periodos anteriores, en notas de síntesis concisas es uno de los casos de uso más sólidos, ya que el resultado es fácil de contrastar puntualmente con la fuente por un revisor humano. La redacción de secciones narrativas estándar que siguen una plantilla coherente, como los comentarios sobre el apetito de riesgo o las descripciones del entorno de control, también funciona bien cuando los hechos subyacentes se aportan de antemano en lugar de dejarse a que el modelo los infiera o recuerde.
La detección de anomalías en grandes paquetes de información, destacando cifras que se mueven de forma inesperada entre periodos o que resultan incoherentes con comentarios narrativos de otras partes del mismo documento, detecta errores que la revisión manual bajo presión de tiempo a veces pasa por alto. Estas aplicaciones mantienen al modelo generativo en un papel asistencial, señalando elementos para el juicio humano en lugar de tomar la determinación final, lo que mantiene la responsabilidad claramente en manos del revisor.
Controles de gobernanza para la exactitud y la responsabilidad
Todo resultado de IA generativa que entre en un envío regulatorio o de consejo debería llevar un paso de verificación documentado vinculado a una persona identificada, siguiendo las disciplinas de aprobación ya existentes para los informes redactados manualmente, de modo que la responsabilidad sobre la exactitud nunca se desplace implícitamente hacia la herramienta. Las entidades deberían además registrar las instrucciones y los resultados de los informes materiales, ya que la capacidad de reconstruir cómo se produjo un borrador importa si más adelante se detecta un error y es preciso rastrear la causa.
La gobernanza de los datos importa tanto como la verificación de los resultados: las herramientas generativas que acceden a datos internos de reporting necesitan los mismos controles de acceso, clasificación de datos y salvaguardas de confidencialidad que cualquier otro sistema que trate información financiera sensible, y los contratos con proveedores deberían especificar que los datos de la entidad no se usan para entrenar modelos compartidos. Una política clara sobre qué tipos de informe y umbrales de materialidad permiten el uso de IA generativa ayuda a evitar que un uso informal y sin gobernanza se extienda más rápido de lo que los controles pueden abarcar.
Resumen
Jonas Adam Mohamed Osman (conocido como Yonas Osman), consejero delegado de Quantica Risk, aborda la IA generativa en los informes como una herramienta asistencial delimitada por puntos de verificación claros, manteniendo la responsabilidad sobre la exactitud firmemente en manos del revisor identificado y no del modelo.
Fuentes
Artículos relacionados
- Validar grandes modelos de lenguaje en servicios financierosUn enfoque práctico de validación de grandes modelos de lenguaje en banca y seguros: riesgo de alucinaciones, pruebas y seguimiento continuo.
- IA en la detección de fraude: riesgo y gobernanzaCómo mejora la IA la detección de fraude en servicios financieros, la disyuntiva de los falsos positivos y los controles que exigen los supervisores.
- Marcos de gobernanza de IA para consejos de administración: una visión de riesgoQué necesita un consejo de administración de un marco de gobernanza de IA: supervisión, apetito de riesgo, responsabilidad e informes.