Hur bias kommer in i modellens livscykel
Bias i träningsdata är den vanligaste källan: om historiska tecknings- eller skadebeslut speglade mänsklig bias ärver en modell som tränas att återskapa dessa mönster den biasen, ibland förstärkt eftersom maskininlärningsmetoder är effektiva på att hitta de proxysignaler människor använt omedvetet. Urvalsbias förvärrar detta när vissa grupper är underrepresenterade i träningsdata, vilket ger modeller som presterar sämre, ibland systematiskt ofördelaktigt, för dessa grupper utan att det syns i den samlade träffsäkerheten.
Val vid variabelkonstruktion kan också introducera biasrisk; att aggregera detaljerad platsdata till breda områdesband kan till exempel oavsiktligt återskapa historiskt diskriminerade gränser. Företag behöver en dokumenterad granskning av varje kandidatvariabel med avseende på proxyrisk innan modellträning, inte bara efter att modellen byggts, eftersom det är betydligt svårare och mindre tillförlitligt att i efterhand lägga till rättvisa i en färdig modell än att utforma data och variabler med det i åtanke från början.
Testmetoder och åtgärder
Kvantitativ rättvisetestning tillämpar vanligen flera mått — demografisk paritet, likvärdiga felfrekvenser (equalised odds) och kalibrering inom grupper — eftersom inget enskilt mått fångar rättvisa fullt ut och vissa är matematiskt oförenliga med varandra givet samma data. Försäkringsbolag bör välja mått som är lämpliga för produkten och tydligt redogöra för avvägningen för sin modellriskkommitté, i stället för att automatiskt välja det mått modellen råkar klara bäst.
När en skev påverkan upptäcks innefattar åtgärderna att justera variabler, viktning av träningsurval, eller efterhandsjusteringar i kalibreringen, var och en med olika juridiska och aktuariella konsekvenser eftersom vissa jurisdiktioner begränsar direkt utfallsjustering baserad på skyddad egenskap även när syftet är att korrigera bias. Styrningen bör kräva godkännande från både aktuariefunktion och juridik/compliance innan någon åtgärd vidtas, med motiveringen dokumenterad för tillsynens granskning.
Sammanfattning
Rättvisa i AI-tecknande är en löpande övervakningsskyldighet, inte en engångscertifiering, eftersom befolkningsförändringar, nya datakällor och modelluppdateringar kan återintroducera bias som tidigare testats bort. Försäkringsbolag som bygger in rättvisetestning i sedvanlig modellstyrning, vid sidan av premietillräcklighet och avsättningskontroller, står betydligt bättre rustade när tillsynsmyndigheter eller käranden ställer specifika frågor om utfall för enskilda grupper. Jonas Adam Mohamed Osman (känd som Yonas Osman), vd för Quantica Risk, behandlar rättvisetestning som oskiljaktigt från aktuariell validering och insisterar på att en modells utfall för delgrupper granskas lika noga som dess övergripande träffsäkerhet innan den når produktion.
Källor och vidare läsning
Relaterade sidor
- Förklarbar AI (XAI) för kreditriskmodellerVarför förklarbarhet är avgörande för AI-driven kreditbedömning, hur SHAP och LIME fungerar, och hur de möter kraven på avslagsbesked.
- AI för bedrägeribekämpning: risk och styrningHur AI förbättrar bedrägeribekämpning i finansbranschen, avvägningen kring falska positiva utslag, och de styrkontroller tillsynen förväntar sig.
- AI-styrningsmodeller för styrelser: ett riskperspektivVad styrelser behöver av en AI-styrningsmodell: tillsynsstruktur, riskaptit, ansvarsutkrävande och rapportering om AI-riskexponering.