Was bei KI anders ist
Statistische Standardmodelle haben eine überschaubare Zahl interpretierbarer Parameter. Maschinelles Lernen ersetzt diese Struktur durch flexible Funktionsformen, die Muster gut abbilden, aber Kausalität nicht garantieren und außerhalb des Trainingsbereichs unzuverlässig werden.
Generative Modelle fügen eine weitere Ebene hinzu: nichtdeterministische Ausgaben, Abhängigkeit von externen Anbietern und Inhalte, die plausibel klingen, ohne belegt zu sein. Für Risikoanwendungen ist deshalb entscheidend, wo im Prozess die Ausgabe geprüft wird.
Erklärbarkeit und Verantwortlichkeit
Erklärbarkeit ist kein Selbstzweck, sondern die Voraussetzung dafür, dass ein Entscheidungsträger Verantwortung übernehmen kann. Der erforderliche Grad hängt vom Anwendungsfall ab: Eine interne Priorisierung erfordert weniger als eine Kreditablehnung mit Kundenwirkung.
Verantwortlichkeit bleibt menschlich. Ein Modell trifft keine Entscheidungen, es liefert Eingaben; die Organisation muss benennen, wer die Ausgabe verantwortet und unter welchen Bedingungen sie überstimmt wird.
- Klarer Anwendungsbereich und dokumentierte Grenzen je Modell.
- Nachvollziehbare Datenherkunft, Rechte und Repräsentativität.
- Überwachung von Daten- und Konzeptdrift im Betrieb.
- Menschliche Kontrolle bei Entscheidungen mit Kundenwirkung.
Validierung von KI-Modellen
Die Validierungslogik bleibt bestehen, die Schwerpunkte verschieben sich: mehr Gewicht auf Datenqualität, Stabilität über Zeit und Segmente, Verhalten außerhalb des Trainingsbereichs, Robustheit gegenüber Störungen und Vergleich mit einfacheren Referenzmodellen.
Ein einfaches Benchmarkmodell ist dabei besonders wertvoll: Erreicht es ähnliche Güte, ist der zusätzliche Governance-Aufwand komplexer Verfahren schwer zu rechtfertigen.
Regulatorischer Rahmen
Die EU-KI-Verordnung führt einen risikobasierten Ansatz mit besonderen Anforderungen an Hochrisikoanwendungen ein, während bestehende Anforderungen an Modellrisiko, Auslagerung und Datenschutz unverändert gelten.
Praktisch bedeutet das: KI-Anwendungen gehören in dasselbe Modellinventar wie klassische Modelle, mit zusätzlichen Feldern für Datenherkunft, Anbieterabhängigkeit und Überwachungsmetriken.
Fazit
KI im Risikomanagement ist beherrschbar, wenn sie derselben Governance unterliegt wie jedes andere Modell – ergänzt um Datenherkunft, Driftüberwachung, Erklärbarkeit im erforderlichen Umfang und eine klar benannte menschliche Verantwortung.
Quellen und weiterführende Informationen
Verwandte Seiten
- Modellrisiko und Modellsteuerung in FinanzinstitutenModellrisiko in Banken und Versicherungen: Model Governance, Modellinventar, unabhängige Validierung, Backtesting, Benchmarking und die zweite Verteidigungslinie.
- Modellvalidierung: Methodik, Umfang und BerichterstattungModellvalidierung: Validierungsrahmen, konzeptionelle Prüfung, Datenqualität, Backtesting, Benchmarking, Feststellungen, Maßnahmenpläne und aufsichtliche Erwartungen.
- Die zweite Verteidigungslinie: unabhängige RisikokontrolleDie zweite Verteidigungslinie: Mandat, Unabhängigkeit, effektive Herausforderung, Berichtswege, Zusammenarbeit mit erster Linie und Interner Revision.
- Finanzielles Risikomanagement in Banken und VersicherungenFinanzielles Risikomanagement in Banken und Versicherungen: Marktrisiko, Kreditrisiko, Liquiditätsrisiko, ALM, Kapital, Modellrisiko, Risikoappetit und Governance.