Comment le biais s'introduit dans le cycle de vie du modèle
Le biais des données d'entraînement est la source la plus fréquente : si les décisions historiques de souscription ou de sinistres reflétaient un biais humain, un modèle entraîné à reproduire ces schémas en hérite, parfois en les amplifiant, car les méthodes d'apprentissage automatique sont efficaces pour retrouver les signaux de substitution que les humains utilisaient inconsciemment. Le biais d'échantillonnage s'y ajoute lorsque certaines populations sont sous-représentées dans les données d'entraînement, produisant des modèles moins performants, et parfois systématiquement défavorables, pour ces groupes, sans que cela soit visible dans les métriques de précision agrégées.
Les choix de construction des variables introduisent aussi un risque de biais : agréger des données de localisation fines en larges zones territoriales peut, par exemple, recréer involontairement des frontières historiquement discriminatoires. Les entreprises ont besoin d'une revue documentée de chaque variable candidate pour le risque de substitution avant l'entraînement du modèle, et pas seulement après sa construction, car corriger l'équité d'un modèle déjà entraîné est bien plus difficile et moins fiable que de concevoir dès le départ les données et les variables en l'ayant à l'esprit.
Cadres de test et remédiation
Les tests quantitatifs d'équité appliquent généralement plusieurs métriques, parité démographique, égalité des chances et calibrage par groupe, car aucune métrique unique ne capture l'équité dans sa totalité et certaines sont mathématiquement incompatibles entre elles sur les mêmes données. Les assureurs devraient choisir des métriques adaptées au produit et exposer explicitement l'arbitrage à leur comité de risque de modèle plutôt que de retenir par défaut la métrique que le modèle satisfait le plus confortablement.
Lorsqu'un impact disparate est constaté, les options de remédiation incluent l'ajustement des variables, la repondération des échantillons d'entraînement ou des ajustements de calibrage en post-traitement, chacune ayant des implications juridiques et actuarielles différentes, certaines juridictions restreignant l'ajustement direct des résultats selon une caractéristique protégée même dans une intention correctrice. La gouvernance devrait exiger une validation conjointe des fonctions actuarielle et juridique ou conformité avant toute remédiation, avec la justification documentée pour revue par les superviseurs.
Une obligation de suivi continu
L'équité de la souscription par IA est une obligation de suivi continu, et non une certification ponctuelle, car les évolutions de population, les nouvelles sources de données et les mises à jour de modèle peuvent réintroduire un biais pourtant déjà corrigé. Les assureurs qui intègrent les tests d'équité à la gouvernance standard des modèles, aux côtés des contrôles d'adéquation tarifaire et de provisionnement, sont bien mieux placés lorsque superviseurs ou plaignants posent des questions précises sur les résultats de sous-groupes spécifiques.
Résumé
Jonas Adam Mohamed Osman, connu sous le nom de Yonas Osman, PDG de Quantica Risk, aborde les tests d'équité comme indissociables de la validation actuarielle, en exigeant que la performance par sous-groupe d'un modèle reçoive autant d'attention que sa précision globale avant sa mise en production.
Sources
Articles liés
- L'IA explicable (XAI) pour les modèles de risque de créditPourquoi l'explicabilité est obligatoire pour les décisions de crédit par IA : fonctionnement de SHAP et LIME, et conformité aux obligations de motivation.
- L'IA dans la détection de fraude : risque et gouvernanceComment l'IA améliore la détection de fraude dans les services financiers, l'arbitrage sur les faux positifs, et les contrôles de gouvernance attendus.
- AI Act de l'UE : les règles pour les systèmes à haut risque des banques et assureursL'AI Act européen classe la notation de crédit et la tarification assurance vie/santé en haut risque : obligations de gouvernance, documentation et conformité pour banques et assureurs.