Objectifs
- Définir le risque de modèle et expliquer pourquoi l'IA l'amplifie.
- Situer les trois rôles : développement, validation indépendante, utilisation.
Contenu pédagogique : il ne constitue ni un avis juridique, ni un conseil en investissement. Vérifiez l'état du droit et les exigences de votre régulateur à la date de lecture.
Qu'est-ce qu'un risque de modèle ?
Un modèle est une méthode qui transforme des données en estimation ou en décision : score de crédit, prévision de trésorerie, détection d'opérations suspectes, classification de documents. Le risque de modèle est le risque de conséquences négatives (pertes, mauvaises décisions, sanctions, atteinte à la réputation) causées par un modèle erroné, mal conçu, mal utilisé ou devenu inadapté.
En substance, les exigences de gestion du risque de modèle de la plupart des superviseurs reposent sur les mêmes idées : savoir quels modèles existent, les valider de façon indépendante, les surveiller dans le temps, documenter et garder une gouvernance claire. Consultez les textes et orientations de votre autorité de supervision pour le détail applicable à votre établissement.
Ce que l'IA change
- Opacité : un modèle d'apprentissage automatique complexe est plus difficile à expliquer qu'une régression simple.
- Dérive : le modèle apprend sur le passé ; quand les comportements ou le contexte changent, il se dégrade parfois sans signal visible.
- Dépendance aux données : une donnée mal collectée ou biaisée se retrouve dans les décisions.
- Modèles de fournisseurs : on utilise un modèle que l'on n'a ni entraîné ni vu (voir le chapitre 5).
- IA générative : les sorties sont variables et peuvent être inventées (hallucinations) ; la notion même de « bonne réponse » est plus difficile à mesurer.
Trois rôles à séparer
Figure 1 : la validation est indépendante de l'équipe qui développe ; la gouvernance arbitre et garde la trace des décisions.
Le principe clé : celui qui construit un modèle ne le valide pas seul. Dans une petite structure, cette indépendance peut être obtenue par un second regard extérieur à l'équipe, proportionné aux enjeux.
Fil rouge du module
Nous suivrons des établissements fictifs : la banque « Banque Aubrac », l'assureur « Mutuelle Cévennes » et la société de gestion « Gestion Vallée ». Tous les modèles, volumes et résultats cités sont inventés.
Question de réflexion
Citez un modèle de votre organisation (ou un modèle imaginaire) : qui l'a construit, qui l'a validé, qui l'utilise, et qui serait alerté s'il se dégradait ?