Des robots devant les juges ?

Le Parlement européen vient d’adopter une résolution visant à « mettre en place des normes éthiques ou encore d’établir la responsabilité en cas d’accidents impliquant » des robots intelligents ». Non, il ne s’agit pas d’une blague, mais d’un rapport très sérieux produit par la commission des affaires juridiques du Parlement de Strasbourg et adopté le 12 janvier 2017. La raison ? L’arrivée de robots de plus en plus « intelligents » où il devient de plus en plus difficile, voire impossible de déterminer la responsabilité en cas de dommage causé par ledit robot. Le rapport préconise que la législation européenne instaure un registre des robots permettant de les identifier, qu’elle crée une agence européenne de la robotique et qu’elle établisse les principes de la responsabilité civile pour les dommages causés par les robots. Cette législation devrait être complétée par des codes de conduite en matière d’éthique

Le raisonnement suivi par le rapport est le suivant : plus un robot est autonome – c’est-à-dire capable de prendre des décisions et les mettre en pratique sans intervention humaine – moins il peut être considéré comme un « outil » contrôlé par un tiers (le fabricant, le propriétaire, l’utilisateur, le concepteur…). Autrement dit, plus un robot apprend par lui-même (deep lerning), plus il devient autonome, plus il échappe au contrôle d’un tiers. Or, de telles machines peuvent être amenées à provoquer des accidents et causer des dommages à des tiers. Que l’on songe simplement à la « voiture autonome », mais aussi aux drones, et demain aux actes médicaux effectués par des robots. Se pose alors la question de la responsabilité et de la réparation du préjudice. S’il n’est pas possible de déterminer avec précision qui du concepteur, fabricant, propriétaire ou utilisateur est responsable du dommage causé par le robot, que faire ? Car il n’est pas moins possible de laisser les victimes à leur triste sort. D’où l’idée du Parlement : attribuer la personnalité juridique aux robots ! Ou à tout le moins à certains d’entre eux, afin de pouvoir leur attribuer des devoirs, des droits et même un patrimoine !

Le débat sur la personnalité juridique des robots ne saurait se réduire à une question de responsabilité. C’est bien un débat de société dont il s’agit, et celui de la place de l’humain dans celle-ci, au milieu des autres êtres et choses qui l’entourent. A cet égard, le mouvement entamé il y a déjà plusieurs années visant à la reconnaissance de droits aux animaux s’inscrit dans la même logique que celle conduisant à accorder un statut ou un régime juridique aux robots : celle d’un anthropomorphisme au-delà de l’être humain. Depuis 2015, l’animal est défini dans le code civil comme un « être vivant doué de sensibilité » (nouvel article 515-14) et n’est plus considéré comme un bien meuble (article 528). Ainsi, il n’est plus défini par sa valeur marchande et patrimoniale mais par sa valeur intrinsèque. En sera-t-il de même pour les robots ? Leur complexité conduira-t-elle à créer une nouvelle catégorie juridique ? Ou peut-être même leur reconnaitre des droits plus ou moins identiques à ceux des humains ? Où la réalité rattrape la fiction cinématographique [1].

Avant d’attribuer une telle personnalité juridique aux robots, ne convient-il pas d’abord de répondre aux questions suivantes : qu’entend-on par « robot », ou « intelligence » ou encore « autonomie ». A partir de « quand » une intelligence devient « autonome » ? Et surtout, la question la plus complexe car sans doute sans réponse, un robot peut-il avoir une conscience, une volonté ?

Pour essayer d’y voir plus clair, revenons aux principes : une personne, c’est d’abord une réalité humaine avant d’être un concept juridique. Dit autrement, l’être humain existe en dehors même de son attribution juridique qu’est la personnalité. C’est d’ailleurs là un débat entre philosophes et juristes : l’existence comme personne – et non comme homme - relève-t-elle que du seul ordre juridique ou bien de la réalité des choses ? Le sujet de droit est-il lié au concept de personne ou à celui d’être humain ?

Le droit ne reconnait fondamentalement que deux catégories : les objets de droit (les choses) et les sujets de droit (les personnes). A cet égard, la récente réforme du statut des animaux n’a pas conduit à classer ceux-ci parmi les sujets de droits : ceux-ci continuent d’être qualifiés de biens corporels, bien qu'ils soient définis comme des êtres vivants. Il faut ensuite effectuer une distinction entre sujet de droit, personnalité juridique et capacité juridique. On appelle sujet de droit tout être (pas forcément physique) susceptible d’être titulaire de droits subjectifs et d’obligations. Quant à la personnalité juridique, il s’agit de l’aptitude à être titulaire, de façon active ou passive, de droits subjectifs que le droit objectif reconnait à chacun. C’est ainsi que le droit reconnait cette aptitude tant aux personnes physique qu’aux personnes morales. Quant à la capacité juridique, elle consiste dans l’aptitude pour une personne à exercer ses droits et obligations.

Si aujourd’hui tous les humains sont des personnes juridiques, il n’en a pas été toujours ainsi lorsque certains humains étaient des esclaves, et donc des choses, des biens, et non des personnes (même si au cours des siècles le statut des esclaves a évolué pour leur reconnaitre des « droits »). Et ce débat a été réouvert récemment à propos du statut juridique de l’embryon et du fœtus [2] : le droit considère que le fœtus n’étant pas une personne mais une « personne humaine potentielle », il ne dispose pas de personnalité juridique : la personnalité juridique des personnes physiques commence au moment de la naissance, à condition que l'enfant soit né vivant et viable.

Il convient ainsi de distinguer la personnalité juridique et la personne humaine. La personnalité juridique est le lieu d’imputation droits et obligations alors que la personne humaine est constituée de la personnalité juridique plus le corps physique. Fort de cette distinction, rien n’empêcherait de conférer un statut, voire une personnalité juridique à des robots. En fait, la question de l’attribution de la personnalité juridique comme sujet de droits reflète le passage de l’objectivisme au subjectivisme. L’individu n’est plus seulement destinataire du droit (comme chez les romains) mais aussi titulaire de droits. Il y a alors jonction entre sujet de droit et personnalité juridique.

En fait, tout dépend de ce que l’on attend de la notion de personnalité juridique. Si l’on voit dans celle-ci une capacité d’exprimer une volonté, il n’est pas possible d’attribuer la personnalité juridique aux robots ; si on y voit plutôt un intérêt à protéger, la réponse est positive. Est-il aussi nécessaire que le robot soit doté d’une conscience ? Les personnes morales ne sont pas dotées d’une conscience, et dispose d’une personnalité juridique. Il pourrait en être de même pour les robots. La question de la conscience se posera nécessairement à propos de la responsabilité pénale des robots pour fautes intentionnelles, en particulier en matière pénale.

Pour qu’un robot prenne une décision contrevenant a sa programmation (et ce, malgré les lois d’Asimov selon lesquelles un robot ne peut attenter à la sécurité d’un humain et doit obéir à un être humain sauf en cas de conflit avec le principe précédent), cela revient à considérer qu’il doit se déterminer de façon différente de sa programmation. Autrement dit, qu’il acquiert une « conscience » propre. C’est le passage de l’intelligence artificielle à la conscience artificielle. À l’instar du test de Turing pour décider de l’intelligence d’un programme informatique, on peut imaginer concevoir un test pour évaluer la conscience d’un robot [3]. Mais le problème est que les recherches sur la conscience n’ont pas encore défini de critères rigoureux pour la mesurer. Nous rentrons ici dans la plus complexe des questions : la « conscience » du robot nait-elle de la seule matière constituant l`ordinateur ? Rappelons qu’il n’existe aucun consensus quant à la définition de la conscience ni de savoir si d’autres espèces que l’humain en sont dotées [4]. Pour certains, la conscience est un phénomène lié à la structure même des neurones : il est et sera donc impossible de la réaliser dans une machine. Pour d’autres, au contraire, tenants d’une hypothèse matérialiste, il n’y a aucun obstacle théorique à ce qu’on finisse par mettre au point des programmes informatiques et des robots conscients d’eux-mêmes.

Que conclure ? La question dont s’est emparée le Parlement européen est pertinente, mais la réponse proposée est principalement si ce n’est exclusivement axée sur les aspects financiers : comment réparer les dommages causés par un robot ? Or, décider d’attribuer une personnalité juridique aux robots est d’abord une question anthropologique et philosophique aussi important que l'évolution de la nature humaine. Car c'est la place de l'homme dans la société de demain qui est en jeu. Et de ses relations avec son environnement, y compris les robots.

En viendra-t-on demain à voir des robots juger par de juges-robots ?

Article rédigé par Hubert de Vauplane
Partner at Kramer-Levin (Financial and Banking law, Alternative Financing, Asset Management, Digital Payment)
47, avenue Hoche - 75008 Paris
www.kramerlevin.com

[1] A.I (2001) ; I Robot (2005), Robot (2010), Eva (2012) , Chappie (2014) , Ex Machina (2015)
[2] L’embryon concerne les 8 premières semaines à partir de la fécondation. Passé ce délai, il s’agit du fœtus.
[3] Pour l’instant, les recherches tournent autour de la question de la « conscience de soi » des robots en recourant au test du miroir élaboré dans les années 1970 par le psychologue américain Gordon Gallup. L’idée est d’estimer la conscience de soi chez un animal, y compris un humain, en lui apposant subrepticement une marque sur le front. Face à un miroir, quand l’individu essaie de toucher, d’enlever la trace ou fait simplement mine d’avoir noté le changement, on en conclut qu’il est conscient de son propre corps. Les grands singes, les dauphins ou encore les éléphants sont capables d’une certaine identification d’eux-mêmes et, en conséquence, réussissent le test du miroir. Des espèces inattendues, tels les perroquets et les pies, semblent également réussir le test du miroir sans qu’on puisse dans leur cas parler rigoureusement de conscience de soi.
[4] De nombreux travaux sont publiés depuis une dizaine d’années dans des revues spécialisées, tel le Journal of Machine Consciousness.

Lisez gratuitement :

FINYEAR

Le quotidien Finyear :
- Finyear Quotidien

Sa newsletter quotidienne :
- Finyear Newsletter
Recevez chaque matin par mail la newsletter Finyear, une sélection quotidienne des meilleures infos et expertises en Finance innovation & Digital transformation.

Ses 4 lettres mensuelles digitales :
- Le Directeur Financier
- Le Trésorier
- Le Credit Manager
- The Chief Digital Officer

Finyear magazine trimestriel digital :
- Finyear Magazine

Un seul formulaire d'abonnement pour choisir de recevoir un ou plusieurs médias Finyear

BLOCKCHAIN DAILY NEWS

Le quotidien Blockchain Daily News :
- Blockchain Daily News

Sa newsletter quotidienne :
- Blockchain Daily News Newsletter
Recevez chaque matin par mail la newsletter Blockchain daily News, une sélection quotidienne des meilleures infos et expertises en Blockchain révolution.

Sa lettre mensuelle digitale :
- The Chief Blockchain Officer