Jonas Mohamed Osman AbdelghafourQuantica Risk Modelling

Erklärbare KI (XAI) für Kreditrisikomodelle

Erklärbarkeit bei Kreditrisikomodellen ist keine Annehmlichkeit, sondern eine regulatorische Anforderung: Kreditgeber müssen für abgelehnte Anträge konkrete Gründe nennen, und Aufsichtsbehörden erwarten zunehmend, dass Modelle des maschinellen Lernens mit Interpretierbarkeitswerkzeugen ausgestattet sind, die ihrer Komplexität angemessen sind.

Kernaussage

Gradient-Boosting-Bäume und neuronale Netze können logistische Regression bei der Vorhersagegenauigkeit übertreffen, aber dieser Gewinn ist nur nutzbar, wenn ein Institut einzelne Entscheidungen gegenüber Kunden, Prüfern und Aufsichtsbehörden in klaren Worten erklären kann.

Die praktische Antwort verbindet globale Erklärbarkeit, also das Verständnis dessen, was das Modellverhalten insgesamt treibt, mit lokaler Erklärbarkeit, also dem Verständnis, warum ein konkreter Antrag genehmigt oder abgelehnt wurde. Verfahren wie SHAP und LIME haben sich als Praxisstandard etabliert, um beide Sichtweisen aus komplexen Modellen zu erzeugen, bringen aber Vorbehalte bei Stabilität und Rechenaufwand mit sich, die Validierungsteams prüfen und nicht einfach voraussetzen dürfen.

SHAP, LIME und ihre Grenzen

SHAP-Werte, verankert in der kooperativen Spieltheorie, ordnen die Vorhersage eines Modells jedem Eingabemerkmal auf eine Weise zu, die Konsistenzeigenschaften erfüllt, die für Prüfer attraktiv sind, was sie zur eher verteidigungsfähigen Standardwahl für regulierte Kreditentscheidungen macht. LIME baut ein einfacheres lokales Ersatzmodell um eine einzelne Vorhersage herum und kann schneller zu berechnen sein, doch seine Erklärungen können über ähnliche Eingaben hinweg weniger stabil sein, was problematisch ist, wenn zwei Kunden mit nahezu identischen Profilen nachweislich konsistente Begründungen erhalten müssen.

Beide Verfahren sind Näherungen und können in die Irre führen, wenn Merkmale stark korreliert sind, da die Zuordnung von Kreditrelevanz zwischen korrelierten Variablen mathematisch ein Stück weit willkürlich ist, selbst wenn sie einem Kreditsachbearbeiter intuitiv erscheint. Validierungsteams sollten die Stabilität von Erklärungen unter kleinen Eingabeveränderungen testen und Erklärungen mit Fachwissen abgleichen, und Fälle kennzeichnen, in denen die Modellbegründung der etablierten Kreditrisikointuition widerspricht, zur weiteren Prüfung vor dem Einsatz.

Ablehnungsbescheide und regulatorische Erwartungen erfüllen

Pflichten zur Begründung von Ablehnungsbescheiden stammen aus der Zeit vor dem maschinellen Lernen, gelten aber uneingeschränkt dafür: Ein abgelehnter Antragsteller hat Anspruch auf die wesentlichen Gründe der Entscheidung, und generische Aussagen wie „Modellwert zu niedrig“ genügen diesem Maßstab nicht. Institute bilden die am höchsten eingestuften SHAP-Merkmale typischerweise auf eine vorab genehmigte, allgemeinverständliche Bibliothek von Gründecodes ab und stellen sicher, dass die Codes tatsächlich einflussreiche Faktoren widerspiegeln und keine bequem gewählten Platzhalter, was Aufsichtsbehörden bei Prüfungen durchaus hinterfragen.

Über einzelne Bescheide hinaus brauchen Aufsichtsorgane und Modellrisikokommissionen regelmäßige Überprüfungen der globalen Erklärbarkeit, um sicherzustellen, dass das Modell sich nicht auf Stellvertretervariablen für geschützte Merkmale stützt, ein besonderes Anliegen, wenn Verhaltens- oder alternative Datenquellen in den Merkmalsatz einfließen. Die Dokumentation dieser Überprüfung neben der üblichen Leistungsüberwachung gibt sowohl interner Revision als auch externen Aufsehern eine klare Nachvollziehbarkeit, dass Erklärbarkeit getestet und nicht nur behauptet wurde.

Fazit

Jonas Adam Mohamed Osman (Yonas Osman), CEO von Quantica Risk, behandelt Erklärbarkeit als eigenständige Validierungsdisziplin und prüft, ob die Begründung eines Modells sowohl statistischer Prüfung als auch einfachem kaufmännischen Verstand standhält, bevor es je einen Kunden erreicht.

Quellen und weiterführende Informationen

Verwandte Seiten

Alle deutschen Seiten Kontakt