Martin van Oyen, FINOM Payments "Vers une IA éthique et transparente, les fintechs face à l’IA Act"

L'IA Act s'applique à divers acteurs, notamment les fournisseurs, les utilisateurs, les importateurs et distributeurs de systèmes d'IA déployés ou utilisés sur le marché de l'UE. Les acteurs du secteur bancaire y sont également inclus. La nouvelle législation présente à la fois des défis et des opportunités pour les néo-banques et les fintechs. Elle établit des normes de conformité plus strictes pour les systèmes qualifiés à haut risque, tels que ceux utilisés dans l’évaluation d’un crédit, la détection des fraudes et le trading algorithmique. Pour ce faire, elle classe les utilisations de l’IA en fonction de leur niveau de risque, qui peut varier de faible à élevé. Pour répondre à ces exigences, les entreprises fintech doivent s'assurer que leurs systèmes d'IA sont fiables et impartiaux.

Cette règlementation a mis l'accent sur la confidentialité des données et l'éthique, en particulier à l'heure où la technologie s'intègre de plus en plus dans nos activités quotidiennes. La collecte et le traitement des données personnelles par les systèmes d'IA constituent une préoccupation majeure, car s'ils sont mal gérés et peuvent donner lieu à des usurpations d'identité, à des accès illégaux et à des violations de données. La complexité de ces systèmes multiplie les menaces, car ils sont davantage exposés aux intrusions et aux manipulations.

La conformité RGPD et l’impartialité comme boussole

La législation sur l'IA exige un respect rigoureux des lois sur la protection des données telles que le RGPD, des mesures de sécurité robustes et des audits fréquents pour faire face à ces problématiques. Les systèmes d'IA doivent être intelligibles et fiables, afin que les utilisateurs et les régulateurs appréhendent au mieux le processus décisionnel. La transparence, facteur essentiel, nécessite l'obtention du consentement explicite des utilisateurs pour le traitement des données par le biais de systèmes d'intelligence artificielle spécifiques. En recherchant un équilibre entre innovation et garanties pour les consommateurs, les fintechs veillent à ce que ces systèmes d'IA soient conformes aux exigences du RGPD, en permettant aux utilisateurs d'exercer leurs droits, avec la suppression des données, par exemple.

En résumé, maintenir un contrôle total sur les systèmes d’IA tout en garantissant la qualité et la conformité des résultats est le principal défi auquel les Fintechs sont confrontées dans le nouveau cadre réglementaire. « Garder le contrôle » signifie contrôler les données d'échantillonnage utilisées, sélectionner soigneusement les scénarios dans lesquels déployer par l’IA et délimiter clairement les domaines dans lesquels ceux-ci ne seront pas utilisés, même si c'est possible d'un point de vue purement technologique. En adoptant l'IA de manière responsable, les Fintechs peuvent réduire les coûts et remporter un avantage concurrentiel sur les banques traditionnelles.

Si l'IA Act introduit des obstacles réglementaires supplémentaires, elle apporte également de la clarté et permet l'adoption d’une IA éthique. Il est nécessaire que les fintechs examinent de manière proactive les solutions existantes et futures basées sur l'IA afin de s'assurer de leur conformité avec la législation actuelle et nouvelle.

L’autre champ d’activité important est l’utilisation dite responsable de l’IA, qui soulève des questions relatives aux préjugés, à la discrimination et à la prise de décision biaisée. L'éthique associée à la technologie peut mener à une résolution plus impartiale. En effet, l'avantage de l’IA est qu’elle simplifie le processus de décision en se concentrant sur les actions plutôt que sur les informations géographiques ou d’origine. L’accès à un maximum de données et de références comportementales de meilleure qualité permet d’exclure plus facilement les sources de données susceptibles de projeter l’image biaisée d’un sujet.

Prendre pleinement part aux discussions règlementaires

Les Fintechs sont plus petites, plus rapides, plus agiles et plus spécialisées. Pour évoluer efficacement dans ce nouvel environnement, les Fintechs doivent continuer à être proactives et à collaborer de façon transparente avec les régulateurs et les partenaires de l'industrie. Jouer un rôle actif dans les discussions et les audits réglementaires pourrait s'avérer bénéfique. En tant qu'entités réglementées, l'utilisation de l'IA est supervisée. Cela rend plus compréhensible l’utilisation de l’IA pour les régulateurs du secteur, ce qui aide les acteurs du marché et les autorités publiques à repérer plus rapidement les failles législatives. La législation s'est vu évoluer grâce à la participation dynamique des entreprises, les conflits étant résolus et les lois améliorées au fil du temps, comme ce fut le cas dans d'autres domaines (avec par exemple la DSP, la DSP2, la DSP3, le PSR et l'AMLD).

L’IA Act est sur le point d'améliorer l'expérience client pour les utilisateurs des néo-banques et des fintechs. Une intégration plus rapide, un suivi plus précis des transactions et un meilleur service à la clientèle ne sont que quelques-uns des avantages qui sont prévus. En utilisant l'IA de manière responsable, les clients seront protégés des menaces externes, ce qui réduira les pertes financières.

En conclusion, il faut souligner que la législation sur l'IA offre aux Fintechs l’opportunité de montrer leur capacité à s’adapter et leur engagement en faveur de l’adoption d’une IA responsable. En embrassant les défis et les opportunités présentés par cette loi, c’est un nouvel avenir qui sera façonné pour le secteur financier et l’expérience client ne pourra qu’être améliorée.

Martin van Oyen Biographie :

Martin van Oyen est membre du conseil d'administration et Head of Legal de FINOM. Avant FINOM, il a été Legal and Compliance Director chez Midaspay Europe (une société de Tencent) et WeChat Pay.

À propos de FINOM

FINOM est une plateforme de services financiers numériques conçue pour répondre aux besoins uniques des entrepreneurs et des PME à travers l'Europe. Les outils bancaires de FINOM permettent aux chefs d'entreprise d'ouvrir rapidement un compte et leur offrent une approche simplifiée des services bancaires en ligne, du traitement des paiements, de la facturation et de la gestion des dépenses. La société se consacre à la promotion de la croissance des PME grâce à des solutions financières innovantes et détient une licence d'établissement de monnaie électronique (EMI) opérationnelle dans toute l'Europe.  

 FINOM a son siège aux Pays-Bas et des bureaux dans toute l'Europe. Les cofondateurs de FINOM, Andrey Petrov, Kos Stiskin, Oleg Laguta et Yakov Novikov, sont des vétérans de la fintech et dirigent une équipe diversifiée de 300 personnes réparties entre Amsterdam, Londres, Chypre et la Pologne.  
FINOM