AI-styrning i befintligt ramverk
Den mest hållbara ansatsen är att utvidga befintlig modellstyrning i stället för att bygga ett parallellt AI-ramverk. AI-komponenter förs in i modellinventeringen, klassificeras efter väsentlighet och omfattas av samma krav på ägarskap, dokumentation, validering och uppföljning.
Tillägg behövs dock för datalinjering, promptar och systeminstruktioner, versionshantering av modeller som uppdateras av leverantör, samt loggning av utfall för senare granskning.
Specifika risker att kontrollera
Generativa modeller kan producera innehåll som är språkligt övertygande men sakligt fel. Prediktiva modeller kan drifta när underliggande beteende ändras. Båda kan förstärka bias i historiska data och ge utfall som är svåra att motivera för en kund eller tillsynsmyndighet.
- Hallucinationer och obefogad säkerhet i genererat innehåll.
- Datadrift och konceptdrift över tid.
- Bias, rättvisa och förklarbarhet i kundpåverkande beslut.
- Beroende av tredjepartsmodeller och oannonserade versionsbyten.
- Informationssäkerhet och hantering av känsliga data.
Mänsklig kontroll och användningsgränser
Kontrollnivån bör stå i proportion till konsekvensen. För beslut som direkt påverkar kunder eller kapital behövs granskning av en person med kompetens och mandat att avvika från modellens förslag – och en process som gör avvikelser spårbara.
Lika viktigt är explicita användningsgränser: vad AI-stödet får användas till, och vad det inte får användas till.
Validering av AI-modeller
Validering omfattar datagrund, lämplighet för syftet, prestanda på representativa och utmanande fall, stabilitet över tid, förklarbarhet i förhållande till användningen samt kontroll av att leverantörens uppdateringar inte förändrar beteendet oannonserat. Jämförelse mot en enklare referensmetod är fortsatt ett av de mest informativa testerna.
Sammanfattning
AI förändrar inte principerna för modellrisk – den höjer kraven på inventering, oberoende validering, loggning och tydliga användningsgränser. Institutioner som redan har god modellstyrning har ett betydande försprång.
Källor och vidare läsning
Relaterade sidor
- Modellrisk och modellvalidering inom finansiella institutionerModellrisk i bank och försäkring: modellstyrning, modellinventering, oberoende validering, backtesting, benchmarking och andra försvarslinjens roll.
- Modellvalidering – en praktisk ram för banker och försäkringsbolagEn praktisk ram för modellvalidering: omfattning, konceptuell granskning, datakvalitet, prestandatester, användning, dokumentation och uppföljning.
- Andra försvarslinjen – oberoende riskkontroll och challengeAndra försvarslinjen i praktiken: rollfördelning mellan försvarslinjer, oberoende challenge, limiter, modellutmaning, eskalering och riskstyrning.
- Riskhantering inom bank – kreditrisk, ALM, IRRBB, ICAAP och ILAAPBankrisk i praktiken: kreditrisk och ECL, ränterisk i bankboken, likviditet och finansiering, kapitalplanering samt ICAAP och ILAAP som styrverktyg.