Par David Sweenor, Senior Director Product Marketing chez Alteryx.

L'offre d'emploi précisait le besoin de promouvoir, intégrer et commercialiser la pratique et la culture de la donnée dans l'ensemble de l'entreprise pour permettre une organisation axée sur la data – en plus de favoriser l'adoption de méthodologies d'éthique des données pour améliorer la société et atteindre des objectifs stratégiques.

Si les données sont le carburant nécessaire pour générer des perspectives commerciales nouvelles, l'IA est le moteur qui alimente ce processus et fournit de nouvelles solutions à une vitesse inégalée. Toutefois, recourir à l'automatisation de l'IA à cette échelle, sans un responsable de l'éthique des données, et dans un environnement aussi réglementé équivaut à entamer un périple sans carte ni indication.

Les exigences constantes et globales pour les audits ainsi que les contrôles de conformité ont largement contribué à l’application des normes pour garantir une réussite financière, non seulement pour éviter les amendes réglementaires, mais aussi pour prévenir les poursuites judiciaires liées à des erreurs de données. Alors, que se passe-t-il lorsque la vitesse de création des données dépasse la capacité de les traiter efficacement ?

La croissance fulgurante de la génération de données et le potentiel des analyses automatisées

Pour comprendre en quoi l'éthique des données est si fondamentale, il faut d'abord considérer le rôle que joue la data dans le secteur de la finance. Associé à la complexité et au volume des données générées par les entreprises aujourd'hui, le déferlement de données a rapidement dépassé l'infrastructure et les processus initiaux nécessaires pour les analyser efficacement.

Alors que les processus de conformité et de réglementation étaient autrefois exécutés manuellement, ils sont aujourd'hui simplifiés grâce à l'utilisation de technologies analytiques avancées, beaucoup plus accessibles. Dans la mesure où chaque organisation devient essentiellement une « usine à données », l'automatisation de l'analyse est le moyen de transformer rapidement ces myriades de données en informations exploitables.

Aujourd'hui, les deux outils les plus significatifs utilisés dans le secteur financier sont l'automatisation des processus d'entreprise et la génération automatisée d'informations à partir d'ensembles de données. L'automatisation des processus repose sur la capacité de réaliser une tâche spécifique – comme par exemple extraire des données de leur source et les combiner avec celles provenant d'autres domaines – et de créer automatiquement des rapports. Il en résulte des avantages considérables en matière de conformité et d'exigences réglementaires, et cette approche permet de réduire de 99 % le temps de production de rapports, en évitant pratiquement toute erreur.

Le deuxième outil est le recours à l'IA pour la prise de décision. L'IA peut être utilisée pour détecter des tendances dans des ensembles de données et identifier certaines pratiques (telle que des fraudes ou des blanchiments d'argent), ou même pour mettre en évidence des facteurs interdépendants qui peuvent avoir un impact sur la capacité d'un demandeur à rembourser son prêt bancaire. Les avantages de l'automatisation en termes d'efficacité et de rapidité font que cette technologie est en passe de devenir un élément essentiel de la fonction financière moderne.

Dans ce contexte, le défi à relever devient relativement simple : le cerveau humain ne peut tout simplement pas suivre le flux incessant de données, ni les technologies d'analyse nécessaires pour leur donner du sens.

Définition des fondements de la prise de décision éthique grâce à l'IA

Pour que les promesses de l'IA d'apporter des avantages considérables soient tenues, il est indispensable de disposer des attributs fondamentaux adéquats, tels que les compétences analytiques ou les connaissances en matière de données. Parallèlement à la multiplication des données créées et aux exigences accrues en matière de conformité et d'efficacité, il est aussi de plus en plus nécessaire que les personnes concernées comprennent et gèrent ce processus de bout en bout. Pour y parvenir, il faut non seulement acquérir les connaissances requises sur les domaines d'activité de l'entreprise pour fournir des ensembles de données non biaisés, mais également mettre en place les bonnes bases de gouvernance afin de faciliter et amplifier le traitement de données de bonne qualité.

Les institutions bancaires et financières – en particulier celles qui possèdent une certaine ancienneté ainsi qu’une base d'utilisateurs importante – détiennent une mine de données précieuses et ont tout intérêt à l’exploiter. Néanmoins, compte tenu de la nature sensible de ces données financières, la définition de normes et de lignes directrices en matière de gouvernance et d'éthique doit être une priorité. Ainsi, le responsable de l'éthique devient l'élément essentiel pour assurer la croissance et créer la valeur promise par l'automatisation de l'IA.

Plutôt que de croire que l'IA va simplement fournir des informations autonomes correctes, il est impératif de pleinement comprendre comment et pourquoi elle est arrivée à ces conclusions. Aujourd'hui, le rôle de tout responsable de l'éthique est de fournir ces bases éthiques et de veiller à ce qu'elles soient largement adoptées et respectées.

Les modèles d'IA, les résultats explicables et le facteur "Intelligence Humaine"

Bien que l'IA puisse être entraînée à effectuer de nombreuses tâches sans interaction humaine, il est essentiel que ceux qui conçoivent, exploitent et prennent des décisions à partir de ses conclusions comprennent parfaitement les défauts éventuels avant que l'IA ne les amplifie. Sans cette base éthique, fondée sur la gouvernance, les équipes financières ne feront qu'automatiser plus rapidement de mauvaises décisions. La formation, les tests, le contrôle permanent, et l'application continue des normes font partie intégrante de son succès.

Si les responsables de l'éthique assument d'être le fer de lance des meilleures pratiques, l'IA éthique nécessite quant à elle une approche de la culture de la donnée et de l'éthique à l'échelle de l'entreprise. Ces attributs vont de pair avec le développement et le déploiement d'une IA fiable, capable d'augmenter et de compléter les capacités humaines. Ainsi, l'intégrité des données et leur équité dans la prise de décision deviennent les pierres angulaires de toute création de perspectives basées sur l'IA.

L'avenir de l'IA éthique est à nos portes, et une large culture de la donnée sous-tend ses progrès. Les chiffres de GlobalData indiquent que plus de la moitié des postes d'éthique des données annoncés en mai et en juin concernaient des organisations financières. Au vu de l'énorme avantage que représente l'automatisation de l'IA, la seule surprise à ce stade est que l'éthique des données ne soit pas plus répandue dans un secteur aussi fortement réglementé.