Gérer l'arbitrage des faux positifs
Fixer le seuil opérationnel d'un modèle de fraude exige une fonction de coût explicite mettant en balance les pertes de fraude et la friction ou l'attrition client, revue périodiquement à mesure que les taux de fraude et les attentes des clients évoluent. Les entreprises utilisent de plus en plus des stratégies de réponse graduée, authentification renforcée pour les transactions à risque moyen plutôt que blocage pur et simple, pour atténuer l'arbitrage binaire et préserver le volume de transactions légitimes tout en interrompant la fraude probable avant son aboutissement.
Le suivi des taux de faux positifs et de faux négatifs par segment de clientèle importe autant pour l'équité que pour la performance commerciale, car des seuils uniformes peuvent pénaliser de façon disproportionnée certaines catégories démographiques ou géographiques dont les schémas de transaction ressemblent superficiellement à de la fraude. Un recalibrage régulier contre des résultats étiquetés, fraude confirmée contre contestation légitime confirmée, évite que la précision du modèle ne dérive à mesure que les typologies de fraude et les comportements clients changent.
Risque adverse et contrôles de gouvernance
Les modèles de détection de fraude font face à des adversaires actifs qui sondent les angles morts et s'adaptent, ce qui constitue une menace sensiblement différente de celle des applications de crédit ou de tarification, où la population modélisée ne cherche pas délibérément à contourner le modèle. Cela justifie des tests adverses continus, du red-teaming contre des tactiques de fraude évolutives, et des cycles de mise à jour plus rapides qu'habituellement appliqués aux autres modèles de risque, car un modèle performant aujourd'hui peut se dégrader rapidement une fois que les fraudeurs apprennent à l'exploiter.
La gouvernance devrait prévoir des circuits d'escalade clairs entre les opérations fraude, le risque de modèle et la conformité financière, car un modèle de fraude recoupe à la fois les obligations de lutte contre le blanchiment, les déclarations d'activité suspecte et les règles de protection des clients. Les entreprises ont besoin de plans documentés de réponse aux incidents pour les cas où le modèle est soupçonné d'être activement manipulé, avec un repli vers des processus de revue manuelle pendant que la remédiation est testée et déployée.
Une réduction de risque qui exige une gouvernance active
La détection de fraude par IA apporte une véritable réduction du risque, mais seulement lorsqu'elle est associée à une gouvernance qui reconnaît son environnement opérationnel adverse et l'arbitrage réel entre pertes de fraude et expérience client. Les entreprises qui valident, surveillent et réactualisent ces modèles avec l'urgence qu'exige le paysage des menaces surclassent celles qui traitent l'IA de fraude comme un outil figé une fois déployé.
Résumé
Jonas Adam Mohamed Osman, connu sous le nom de Yonas Osman, PDG de Quantica Risk, aborde la gouvernance de l'IA de fraude en associant un suivi technique à des décisions d'arbitrage métier explicites, afin que les choix de seuils soient portés par des responsables identifiés plutôt que laissés implicites dans les paramètres par défaut du modèle.
Sources
Articles liés
- Biais et équité de l'IA dans la souscription en assuranceComment le biais s'introduit dans les modèles d'IA de souscription via des variables de substitution, et les cadres de test d'équité utilisés par les assureurs.
- Agents d'IA et risque opérationnel dans les institutions financièresLes nouvelles expositions au risque opérationnel créées par des agents d'IA autonomes agissant dans les systèmes financiers, et comment les gouverner.
- Gestion du risque de modèle pour l'IA : SR 11-7 et SS1/23Comment SR 11-7 et le SS1/23 de la PRA britannique s'étendent à l'IA et au machine learning, et ce que les entreprises doivent ajouter à leurs cadres existants.