Les établissements financiers peuvent-ils défendre les réponses de leur IA ?

Tribune par Julien Peltier, VP Platform Success, Semarchy

À mesure que l’IA passe de la réponse à l’action, la qualité des données et leur traçabilité cessent d’être des sujets de back-office. Pour les institutions financières, ce sont désormais des questions de risque, de conformité et de confiance qui relèvent du conseil d’administration. Demandez à un dirigeant du secteur financier si son organisation est prête pour l’IA : la réponse sera presque toujours oui. Demandez-lui s’il saurait présenter à un régulateur les données ayant conduit à une décision précise prise par une IA : la réponse sera nettement moins assurée. La question n’a rien de théorique : les superviseurs européens, ACPR en tête, attendent des établissements qu’ils documentent les données et les modèles qui sous-tendent leurs décisions, au même titre que les décisions elles-mêmes.

Les chiffres disent l’ampleur de cet écart. 97 % des organisations investissent dans l’IA et 92 % se disent confiantes dans l’atteinte de leurs objectifs. Pourtant, plus de la moitié désignent les données, et non le coût ou les compétences, comme leur principal obstacle . Près d’un tiers ne mesurent pas la qualité de leurs données avant de les transmettre à des systèmes d’IA, et à peine la moitié disposent d’une traçabilité ou d’une explicabilité véritablement documentées. Dans les services financiers, où la confiance est le produit, c’est un risque matériel.

Pourquoi la qualité des données et la traçabilité sont remontées jusqu’au COMEX

Pendant des années, la qualité des données a été traitée comme une affaire d’informatique. Un doublon dans un référentiel client, une contrepartie incohérente ou un identifiant d’instrument discordant créaient un casse-tête de rapprochement ou retardaient un reporting. L’IA change l’échelle et la portée de ces erreurs. Elle ne distingue pas les données de confiance de celles qui ne le sont pas : elle traite ce qu’on lui donne et reproduit les défauts sous-jacents sur l’ensemble des décisions qu’elle alimente.

Le secteur bancaire connaît pourtant l’exigence depuis plus d’une décennie : les principes BCBS 239 sur l’agrégation des données de risque imposent déjà une traçabilité complète et une qualité démontrable des données servant au pilotage des risques. L’IA ne crée pas cette exigence, elle en étend brutalement le périmètre.

Un seul enregistrement erroné peut ainsi fausser simultanément une évaluation de crédit, un rapport d’exposition et une communication client et bien plus vite que n’importe quel processus humain. Dans les services financiers, la qualité des données et leur traçabilité deviennent dès lors des questions de risque métier, de responsabilité et de confiance, et non de simple performance des systèmes.

L’enjeu s’intensifie à mesure que l’IA devient agentique. Lorsque les systèmes agissent au lieu de se contenter de recommander, la question « d’où cela vient-il ? » quitte l’équipe data pour rejoindre le conseil d’administration. Un test utile, pour toute institution : prendre une décision réelle assistée par l’IA et tenter de la reconstituer de bout en bout : les données fournies, leurs systèmes sources, les transformations subies, les contrôles qualité appliqués, la version du modèle, l’intervention humaine et l’action finale. Si l’établissement ne sait pas reproduire cette chaîne rapidement, il ne dispose pas encore d’explicabilité au sens opérationnel du terme. Le règlement européen sur l’IA, dont les obligations entrent progressivement en application, pousse dans la même direction : documentation des données, traçabilité des systèmes et supervision humaine ne seront défendables que si cette chaîne est reconstituable.

Les Data Products gouvernés : un contrôle qui accompagne la donnée

Dans les secteurs fortement réglementés, la réponse la plus concrète est le Data Product gouverné : un ensemble de données fiables, organisé, doté d’un propriétaire et documenté. Par exemple, le golden record d’un client, d’une contrepartie ou d’une entité juridique, conditionné pour être réutilisé sans risque dans toute l’entreprise.

La différence tient à l’endroit où se situe la gouvernance. Dans beaucoup d’établissements, elle est un point de passage que les projets d’IA franchissent à contrecœur avant la mise en production. Dans un Data Product gouverné, la traçabilité, les scores de qualité, les contrôles d’accès et les définitions métier accompagnent la donnée à chaque étape de son cycle de vie. La gouvernance cesse alors d’être un exercice d’approbation distinct : elle fait partie de l’information que les équipes consomment et des contrôles dont elles héritent en la réutilisant.

Les équipes qui construisent un modèle de détection de fraude, un parcours de connaissance client (KYC) ou un reporting réglementaire travaillent dès lors à partir d’informations qui ont déjà un propriétaire identifié, une définition partagée et un niveau de qualité connu. Elles savent d’où elles viennent, comment elles peuvent être utilisées et qui en répond. Il n’y a rien à rattraper, puisque la donnée était gouvernée avant d’arriver au projet.

Où se forme la dette technique de l’IA

Le risque caché de nombreux programmes d’IA, c’est la dette technique : les raccourcis pris pour obtenir un premier résultat deviennent de plus en plus difficiles et coûteux à défaire à mesure que le cas d’usage grandit. Une équipe automatise un processus à partir de données fragmentées, pendant que des analystes corrigent discrètement, en coulisses, doublons et incohérences. Le modèle semble fonctionner, mais sa performance repose sur des correctifs qui n’ont jamais été intégrés aux données ni aux contrôles sous-jacents.

C’est précisément cela, la dette technique de l’IA : s’appuyer sur des interventions manuelles et des correctifs non documentés au lieu d’inscrire des contrôles fiables dans le flux de données. À mesure que le cas d’usage monte en charge, le coût du redressement augmente. Nettoyer un dataset est une chose ; réentraîner des modèles, relancer des analyses, réémettre des rapports et expliquer à un conseil d’administration que des mois de décisions ont reposé sur des données douteuses en est une autre. Pour les acteurs financiers, DORA ajoute une contrainte de plus : la résilience opérationnelle se démontre, y compris sur la chaîne de données qui alimente les modèles. Des correctifs manuels non documentés n’ont pas leur place dans un dispositif que l’on doit pouvoir auditer.

Les priorités des dirigeants du secteur financier

Rendre l’IA sûre, explicable et réellement exploitable tient à quelques décisions qui relèvent du sommet de l’organisation.

• Partir du résultat attendu. Définir d’abord le problème commercial ou de risque, puis remonter vers les données, la gouvernance et les contrôles nécessaires.
• Trancher la question de la propriété et des définitions. Si l’entreprise ne s’accorde pas sur ce que signifie un chiffre, ni sur qui en répond, aucun modèle ne réglera le problème.
• Établir une vision fiable des entités critiques. La gestion des données de référence (MDM) est une condition préalable à une IA sur laquelle les dirigeants peuvent s’appuyer en confiance, pas un raffinement de back-office.
• Traiter la gouvernance comme une infrastructure. Intégrer la traçabilité, la mesure de la qualité et le contrôle d’accès à la plateforme elle-même, de sorte que l’explicabilité découle naturellement de la circulation des données plutôt que d’une course contre la montre avant un audit.

Il faut enfin traiter l’IA comme un consommateur de données à part entière. Les modèles ont besoin de contexte autant que d’enregistrements propres : ce que les données signifient, comment l’entreprise les utilise, comment les indicateurs sont calculés. Les institutions qui tireront le meilleur parti de l’IA ne seront pas nécessairement celles qui la déploieront le plus vite. Ce seront celles qui pourront montrer, à tout moment, d’où viennent leurs données, qui en est responsable, ce qu’elles signifient et pourquoi une décision a été prise.

La question, pour les dirigeants du secteur financier, n’est plus de savoir si un système d’IA sait produire une réponse. Elle est de savoir si l’institution saura défendre cette réponse après coup. Le socle de données n’est pas une case à cocher avant de se lancer dans l’IA. C’est lui qui détermine si l’IA deviendra un avantage ou un passif croissant.

[FIN]