Interview | Quelles sont les IA considérées à "haut risque

Comment comprendre une IA à « haut risque » ?
Face à l'émergence de la technologie dans le domaine de l'intelligence artificielle, la commission européenne a publié le 21 Avril 2021 un projet de règlement établissant des règles concernant l'intelligence artificielle (IA).

Ce projet de texte à plusieurs objectifs comme :
• Veiller à ce que les systèmes d'IA mis sur le marché européen soient sûrs et respectent la législation existante concernant les droits et les valeurs de l'union;
• Avoir un cadre juridique pour faciliter l'investissement et l'innovation dans ce domaine;
• Faciliter le développement d'un marché unique pour l'utilisation d'IA légales

Ce projet est fondé sur une approche sur les risques (inacceptables, élevés ou faibles), il vise à distinguer les systèmes d'IA "bénéfiques" de ceux qui pourraient poser problème.

Un système d'IA ayant un risque élevé est un système qui est susceptible d'une part de mettre la vie, la santé et/ou la sécurité d'un individu en danger et d'autre part quand celle-ci peut prendre des décisions pouvant compromettre les droits d'un individu ou la véracité d'une information donnée le concernant. Par exemple une solution émettant un scoring sur le taux de survie d'un greffon suite à une transplantation.
Le projet de règlement adopté par la commission européenne contient des exigences qui permettent de définir quand un système d'IA a un risque élevé pour la santé et la sécurité d'un individu ou pour ses droits.

Cette distinction par les risques permet une interprétation sectorielle et prend en considération les impacts sur les droits et la sécurité.

Quels secteurs sont les plus touchés par la règlementation ?

Les opérateurs de système d'IA à haut risque devront mettre en place des procédures de mise en conformité au futur règlement avant sa mise sur le marché. Quelques catégories de systèmes d'IA considérées comme haut risque ont déjà été établies :
• Identification biométrique et catégorisation des personnes.
• Gestion et exploitation d'infrastructures critiques.
• Formation et formation professionnelle.
• Emploi, gestion des salariés et accès au travail indépendant.
• Accès et jouissance de services privés essentiels et de services publics.
• Application de la loi (exécution d'une décision de justice, enquête judiciaire).
• Immigration, asile et gestion des contrôles à la frontière.
• Administration de la justice et processus démocratiques

Ce sont particulièrement ces secteurs qui seront impactés par la réglementation.

Se conformer à la réglementation coutera-t-il plus cher que prévu pour les entreprises des secteurs concernés ?

Le coût de la mise en conformité au futur règlement dépendra du risque présenté par le système d'IA.
Dans le secteur de la santé, l'arrivée de cette réglementation aura un impact conséquent car elle s'ajoute à la mise en conformité au nouveau règlement 2017/745 relatif aux dispositifs médicaux.