Kernaussage
Die Einschränkung, die Institute durchweg unterschätzen, ist, dass generative Modelle flüssigen Text unabhängig von der zugrunde liegenden Richtigkeit erzeugen, sodass jede Ausgabe, die in eine aufsichtliche Einreichung oder ein Vorstandspapier einfließt, einen menschlichen Verifikationsschritt braucht, der der Wesentlichkeit des Berichteten angemessen ist. Das sinnvolle Betriebsmodell behandelt generative KI als Entwurfs- und Erstprüfungswerkzeug, eingebettet in die bestehende Berichtsgovernance, nicht als Ersatz der Kontrollen, die aufsichtliche Berichterstattung verlässlich machen, etwa Datenherkunft, Freigabehierarchien und Abstimmung mit Quellsystemen.
Institute mit dem größten Erfolg beschränken generative KI auf gut abgegrenzte Aufgaben mit klaren Verifikationspunkten statt auf offene Berichtserstellung.
Wo generative KI echten Mehrwert bietet
Die Zusammenfassung langer, dichter Ausgangsmaterialien, Vorfallprotokolle, Prüfungsfeststellungen oder Vorperiodenberichte, zu knappen Briefing-Notizen ist einer der stärksten Anwendungsfälle, da die Ausgabe für einen menschlichen Prüfer leicht gegen das Quellmaterial stichprobenartig geprüft werden kann. Auch das Entwerfen standardisierter narrativer Abschnitte nach einheitlicher Vorlage, etwa Kommentare zur Risikoappetiterklärung oder Beschreibungen der Kontrollumgebung, funktioniert gut, wenn die zugrunde liegenden Fakten eingespeist werden, statt sie dem Modell zum Ableiten oder Erinnern zu überlassen.
Die Kennzeichnung von Auffälligkeiten in umfangreichen Berichtspaketen, etwa Zahlen, die sich zwischen Perioden unerwartet verändert haben oder die mit narrativen Kommentaren an anderer Stelle im selben Dokument inkonsistent sind, erfasst Fehler, die manuelle Durchsicht unter Zeitdruck manchmal übersieht. Diese Anwendungen halten das generative Modell in einer unterstützenden Rolle, die Punkte für menschliches Urteil aufzeigt, statt die endgültige Entscheidung zu treffen, wodurch die Verantwortung klar beim Prüfer bleibt.
Governance-Kontrollen für Genauigkeit und Verantwortlichkeit
Jede generative KI-Ausgabe, die in eine aufsichtliche oder Vorstandseinreichung einfließt, sollte einen dokumentierten Verifikationsschritt mit einer namentlich benannten Person tragen, der die bestehenden Freigabedisziplinen für manuell erstellte Berichte widerspiegelt, damit die Verantwortung für Genauigkeit niemals implizit auf das Werkzeug übergeht. Institute sollten zudem Prompts und Ausgaben für wesentliche Berichte protokollieren, da die Fähigkeit nachzuvollziehen, wie ein Entwurf entstand, wichtig ist, falls später ein Fehler festgestellt wird und die Ursache zurückverfolgt werden muss.
Datengovernance ist ebenso wichtig wie die Verifikation der Ausgabe: Generative Werkzeuge mit Zugriff auf interne Berichtsdaten brauchen dieselben Zugriffskontrollen, Datenklassifizierung und Vertraulichkeitsvorkehrungen wie jedes andere System, das sensible Finanzinformationen berührt, und Anbieterverträge sollten festschreiben, dass Institutsdaten nicht zum Training gemeinsam genutzter Modelle verwendet werden.
Fazit
Jonas Adam Mohamed Osman (Yonas Osman), CEO von Quantica Risk, behandelt generative KI in der Berichterstattung als unterstützendes Werkzeug mit klaren Verifikationspunkten und hält die Verantwortung für Genauigkeit fest beim namentlich benannten Prüfer statt beim Modell.
Quellen und weiterführende Informationen
Verwandte Seiten
- Große Sprachmodelle in der Finanzbranche validierenPraxisnaher Validierungsansatz für große Sprachmodelle in Banken und Versicherungen: Halluzinationsrisiko, Testverfahren und laufende Überwachung.
- Synthetische Daten für Risikomodelle: Nutzen und GrenzenWie synthetische Daten die Risikomodellentwicklung und den Datenschutz unterstützen und welche Validierungsschritte vor dem Vertrauen nötig sind.
- KI-Governance-Rahmen für Aufsichtsorgane: Eine RisikosichtWas Aufsichtsorgane von einem KI-Governance-Rahmen brauchen: Aufsichtsstruktur, Risikoappetit, Verantwortlichkeit und Berichterstattung zu KI-Risiken.