Penser un droit européen des robots autonomes: les recommandations du PE, par Thomas Pérennou

De la voiture autonome, au robot sauveteur Walk-Man, en passant par l’intelligence algorithmique des robots de trading à haute fréquence, les robots dits « autonomes » – ou « intelligents » – semblent peu à peu envahir tous les aspects de la vie des européens. Certes les robots véritablement autonomes restent pour bon nombre de personnes un horizon lointain, surtout dessiné par les médias et la science fiction. Mais d’aucuns annoncent une grande révolution de la robotique autonome, à l’image des révolutions industrielles et de l’Internet. Comme ses ainées, cette révolution à venir questionnerait voire bousculerait d’ores et déjà le droit positif, si bien qu’il faudrait dès à présent commencer à penser un droit des robots autonomes.

C’est dans ce contexte que se situe l’initiative du Parlement européen. En mai 2016, la commission des affaires juridiques du Parlement européen a rendu un rapport piloté par la député Mady Delveaux sur les principes juridiques et éthiques de la robotique autonome. Sur la base de ce dernier, le Parlement européen a adopté, le 16 février dernier, une résolution contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique. La résolution est dense et ambitieuse puisqu’elle aborde de nombreux sujets, allant de la définition des robots et des grands principes éthiques, jusqu’aux règles spécifiques applicables aux différents domaines de la robotique autonome : elles augurent d’un véritable droit des robots

Une initiative traduisant la volonté du Parlement européen de voir émerger un droit des robots autonomes

Les députés européens demandent premièrement à la Commission européenne de délimiter le champ de ce que sont les robots autonomes, par le biais d’une définition et d’une classification communes de ces derniers. La définition devrait être basée sur des propriétés du robot propres à caractériser une autonomie :

acquisition d’autonomie grâce à des capteurs de données et/ou échange de données avec l’environnement ;
traitement de ces données;
éventuellement, une capacité d’auto-apprentissage;
existence d’une enveloppe physique minimale;
capacité d’adaptation de son comportement et de ses actes;
entité non vivante au sens biologique du terme.

Le Parlement demande ensuite une classification des robots autonomes qui se traduirait par une immatriculation dont la gestion serait confiée à une nouvelle agence européenne d’immatriculation des robots autonomes.

Le Parlement insiste ensuite sur la nécessité de définir des principes éthiques destinés à protéger les personnes, et dont l’application et la cohérence dans la mise en œuvre au sein du marché unique pourraient être assurées par une nouvelle agence européenne. Les principes éthiques à mettre en œuvre seraient les suivants :

« les principes de bienfaisance, de non-malfaisance, d’autonomie et de justice, sur les principes et valeurs consacrés à l’article 2 du traité sur l’Union européenne et par la Charte des droits fondamentaux de l’Union européenne […] tels que la dignité humaine, l’égalité, la justice et l’équité, la non-discrimination, le consentement éclairé, le respect de la vie privée et de la vie familiale et la protection des données, ainsi que sur d’autres principes et valeurs fondateurs du droit de l’Union, tels que la non-stigmatisation, la transparence, l’autonomie, la responsabilité individuelle et la responsabilité sociale, et sur les pratiques et codes de déontologie existant ».

A cet égard, le Parlement propose la mise en place d’un système de soft law sur l’éthique de la robotique. Cette soflt law se structure au sein d’une charte sur la robotique, dont la Commission doit tenir compte dans ses futures propositions. Cette charte se compose:

d’un « code éthique pour les ingénieurs en robotique »,
d’un code de « déontologique pour les comités d’éthique de la recherche » et
de deux licences à destination des concepteurs d’une part et des utilisateurs d’autre part. Ces dernières définissent les droits et surtout les devoirs des concepteurs et des utilisateurs.

Or qui dit devoir, dit responsabilité civile. Sur ce point, la résolution est également loquace. Selon la Parlement, le point est crucial dans la mesure où une responsabilité harmonisée au niveau de l’Union conditionne le développement de la robotique autonome. Cette responsabilité devrait reposer sur des instruments tant législatifs que non législatifs, ces derniers étant compris dans le système de soft law présenté ci-dessus. S’agissant de la réponse législative, le Parlement précise quels doivent être les principes d’une responsabilité du fait des robots autonomes : elle ne saurait être limitée à certains dommages où au montant de la réparation accordée, au motif que le dommage serait causé par un robot. Le Parlement suggère également de choisir entre un système de responsabilité objective (responsabilité sans faute reposant sur la preuve d’un dommage causé par le fonctionnement dommageable d’un robot) ou un système de responsabilité pour risque (responsabilité centrée sur la personne la mieux à même de gérer les risques liés aux agissements du robot), le dommage étant nécessairement imputable à un être humain, peu importe l’option choisie. Le Parlement rajoute en outre que la responsabilité doit être proportionnelle à la période d’apprentissage du robot et à l’autonomie du robot ; plus cette période est longue, plus la responsabilité de la personne ayant formé le robot sera grande. On imagine donc que cette responsabilité pourrait être celle du concepteur du robot ou du propriétaire ou du gardien du robot. Néanmoins, face à la complexité de l’imputation du dommage dans le cas de robots toujours plus autonomes, le Parlement demande à la Commission d’évaluer la possibilité de mettre en place une assurance obligatoire et un fond de garantie.

Les députés vont même jusqu’à proposer:

« la création, à terme, d’une personnalité juridique spécifique aux robots, pour qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques responsables ».

Le Parlement demande également à la Commission d’envisager les aspects de droit de la propriété intellectuelle, de circulation des données et de normalisation techniques aux fins d’interopérabilité entre les différents systèmes robotiques. Les recommandations dans chacun des trois domaines sont les suivantes : application du cadre général de la propriété intellectuelle en évaluant les adaptations éventuelles, respect du cadre en matière de vie privée et de protection des données, et enfin, des travaux de normalisation technique afin de garantir l’innovation et la sécurité des produits.

Au delà du cadre général, le Parlement traite également de certains robots spécifiques ou de certains secteurs économiques et sociaux en particuliers. Le Parlement établit ainsi la nécessité de prévoir des règles spéciales en matière de:

transports autonomes (véhicules autonomes et drones),
de robots de soin à la personne,
de robots médicaux et
de systèmes robot-humain (réparation et amélioration du corps humain).

Le Parlement relève enfin les effets « disruptifs » que la robotique autonome est susceptible d’avoir sur l’éducation et l’emploi ou sur l’environnement et demande en conséquence à la Commission d’intégrer tous ces aspects dans ses futures propositions.

La richesse et la spécificité des propositions et recommandations du Parlement ne peuvent laisser le lecteur indifférent. Au vu de l’ensemble des principes et de la responsabilité spéciale que le Parlement a présenté, force est de constater que ce dernier appelle de ses vœux la création d’un droit autonome…des robots autonomes. L’approche est ambitieuse et précurseur, peut-être trop, ce qui nous amène à effectuer quelques courtes remarques à ce sujet.

Une initiative trop précoce ?

L’initiative du Parlement européen est intéressante en ce qu’elle engage une réflexion sur une politique européenne de la robotique autonome. Le Parlement propose à ce titre une définition des enjeux et de certaines notions fondamentales, ce qui est un préalable nécessaire à toute entreprise juridique en la matière. La résolution incite également l’Union européenne à ne pas se laisser dépasser sur le plan politique et juridique dans un domaine d’avenir.

Toutefois, on peut s’interroger sur la temporalité de la résolution : cette résolution, de part les évolutions juridiques d’ampleur qui y sont envisagées, n’arrive-t-elle pas trop tôt ? L’on songe ici, par exemple, à la proposition d’une personnalité juridique électronique des robots qui nous semble surdimensionnée par rapport au but recherché, à savoir l’indemnisation du préjudice causé par le robot. L’adaptation des responsabilités existantes ou la création d’un système d’assurance obligatoire paraissent bien plus proportionnées À l’instar de Nathalie Nevejans, on peut également se demander s’il n’est pas profondément inapproprié, du point de vue des concepts juridiques, de vouloir associer la personnalité juridique à une entité mécanique qui ne serait investie d’aucune conscience humaine. A tout le moins, l’idée mériterait une réflexion d’ampleur.

Enfin, on s’interroge sur la pertinence de vouloir proposer rapidement des définitions stables, des catégories de robots identifiés et une normalisation technique, tout en souhaitant favoriser l’innovation. Il y a un début de contradiction à vouloir figer dans la norme les caractéristiques de la robotique de demain, par nature évolutive, tout en souhaitant que l’Union européenne soit innovante et compétitive dans ce domaine.

Pour aller plus loin :