Kernaussage
SS1/23 der Bank of England, veröffentlicht 2023, ist der erste bedeutende Aufsichtstext, der ausdrücklich mit Blick auf maschinelles Lernen verfasst wurde und Erwartungen zu Erklärbarkeit, Datenqualität und Governance kodifiziert, die britische Institute jetzt in ihren Modellrisikorahmen nachweisen müssen. Beide Rahmenwerke laufen auf denselben Kerngedanken zu: Die Komplexität eines Modells sollte durch die Sorgfalt seiner Validierung und die Klarheit seiner Governance gespiegelt werden.
Institute, die Bonitätsbewertung, Betrugserkennung oder algorithmische Handelsmodelle mit Gradient Boosting oder neuronalen Netzen betreiben, können die Einhaltung von SR 11-7 oder SS1/23 nicht durch Rahmenwerke erfüllt sehen, die für regressionsbasierte Modelle konzipiert wurden; Testtiefe und Dokumentationsdetail müssen beide mit Modellopazität und potenzieller Auswirkung skalieren.
Was SS1/23 für maschinelles Lernen ergänzt
SS1/23 erweitert die Definition eines Modells ausdrücklich, um ein breiteres Spektrum quantitativer Methoden zu erfassen, wodurch viele zuvor unregulierte Werkzeuge des maschinellen Lernens erstmals in die formale Modellrisikogovernance einbezogen werden. Es erhöht auch die Erwartungen an Erklärbarkeit und verlangt von Instituten den Nachweis, dass sie Modellverhalten gut genug verstehen, um es wirksam herauszufordern, sowie an Datenqualität, angesichts der Empfindlichkeit von Machine-Learning-Modellen gegenüber der Zusammensetzung und Drift von Trainingsdaten über die Zeit.
Institute müssen zudem ein umfassendes Modellinventar mit risikobasierter Einstufung führen, ein Bereich, den viele Institute historisch bei Modellen geringerer Wesentlichkeit unterbesetzt haben, die sich aber dennoch zu bedeutendem institutsweitem Risiko aufsummieren. SS1/23 drängt Aufsichtsorgane dazu, einen aggregierten Blick auf das Modellrisiko über das gesamte Inventar zu halten, statt jedes Modell isoliert zu betrachten.
Praktische Erweiterungen bestehender Rahmenwerke
Institute, die SR 11-7 oder vergleichbare Rahmenwerke für KI erweitern, ergänzen typischerweise Erklärbarkeitstests, Stabilitätstests unter Datendrift und Vergleichsmodell-Benchmarking als Standardbausteine der Validierung, neben Verzerrungs- und Fairnesstests, wo das Modell Einzelpersonen betrifft. Auch die Versionskontrolle wird anspruchsvoller, da Machine-Learning-Modelle oft nach Zeitplan mit aufgefrischten Daten neu trainiert werden, was eine definierte Schwelle erfordert, ab wann ein Retraining ein neues Modell mit voller Revalidierung darstellt und wann es eine Routinerekalibrierung bleibt.
Pläne zur laufenden Überwachung brauchen maschinelles-Lernen-spezifische Auslöser: Schwellen für den Populationsstabilitätsindex, Warnungen bei Merkmalsdrift und Prüfungen auf Leistungsverschlechterung, häufiger durchgeführt als die für traditionelle Modelle üblichen Jahresprüfungen. Unabhängige Validierungsteams brauchen Praktiker mit Kenntnissen in Methoden des maschinellen Lernens, was selbst eine organisatorische Herausforderung ist, der viele Institute noch durch Einstellung oder gezielte Schulung bestehender Validierer begegnen.
Fazit
Jonas Adam Mohamed Osman (Yonas Osman), CEO von Quantica Risk, geht KI-Modellrisiko an, indem er dieselbe Validierungssorgfalt wie bei traditionellen Modellen ausweitet und Erklärbarkeits- und Drifttests als Kernbausteine statt als optionale Ergänzungen behandelt.
Quellen und weiterführende Informationen
Verwandte Seiten
- EU-KI-Verordnung: Hochrisiko-Vorgaben für Banken und VersichererWie die EU-KI-Verordnung Bonitätsprüfung und Versicherungstarifierung als Hochrisiko einstuft und welche Pflichten Banken und Versicherer jetzt umsetzen müssen.
- Erklärbare KI (XAI) für KreditrisikomodelleWarum Erklärbarkeit bei KI-gestützten Kreditentscheidungen zählt, wie SHAP und LIME funktionieren und wie sie regulatorische Anforderungen erfüllen.
- KI-Governance-Rahmen für Aufsichtsorgane: Eine RisikosichtWas Aufsichtsorgane von einem KI-Governance-Rahmen brauchen: Aufsichtsstruktur, Risikoappetit, Verantwortlichkeit und Berichterstattung zu KI-Risiken.