Alain Bensoussan: "Il faut construire un droit spécifique aux robots"

ENTRETIEN. Qui, de l'homme ou du robot, aura le dernier mot en cas de conflit d'autorité ? Pour l'avocat spécialisé, c'est la question essentielle.

Par Laurence Neuer

Publié le 20/11/2017 | Le Point.fr

Sophia, robot citoyen d'Arabie saoudite, sera-t-elle « amie » sur Facebook avec Shibuya Mirai, ce petit robot de 7 ans désormais « résident » du quartier de Shibuya à Tokyo ? Ici et là, ces machines intelligentes articulées, dont l'apparence et la gestuelle imitent de mieux en mieux les humains, obtiennent des droits.

Va-t-on vers une reconnaissance de la « personne robot », ce concept imaginé il y a deux ans par l'avocat Alain Bensoussan ? L'idée fait bondir certains et en séduit d'autres. Il n'empêche : elle fait son chemin. Le Parlement européen planche depuis plusieurs mois sur l'élaboration d'un cadre éthique et juridique pour la robotique civile, et plusieurs États envisagent de doter les robots d'un statut spécifique.

Si les choses tardent à se concrétiser, c'est parce que ce futur « droit » des robots soulève des questions inédites. À commencer par celle de savoir comment la « personne robot » et la personne humaine vont « vivre » ensemble. Comment la relation d'autorité entre l'homme et le robot s'établira-t-elle ? Qui aura le dernier mot en cas de désaccord ? L'esclavagisme technologique est-il une fatalité ? Éléments de réponse avec l'avocat Alain Bensoussan, l'un des promoteurs de la « personne robot ».

Le Point : Accorder la citoyenneté à un robot est-il un acte seulement symbolique ? Qu'est-ce que cela implique juridiquement ?

Alain Bensoussan : Cela veut dire que ce robot va devoir respecter les codes juridiques, éthiques et culturels du pays. Je m'explique : les robots ont des fonctions d'apprentissage qui varient selon le contexte. Par exemple, une voiture autonome au Caire ne conduit pas de la même manière qu'une voiture autonome à Paris. Elle va apprendre du contexte dans lequel elle circule et ne sera pas capable de conduire dans une autre ville que celle dans laquelle elle a été entraînée. C'est la même chose pour la citoyenneté : Sophia devra être programmée de façon à respecter le droit et les valeurs de l'Arabie saouditee. Lorsque l'Inde reconnaît la personnalité au « Gange », on ne demande pas à ce fleuve de se conformer aux droits des résidents indiens. De la même manière, le fait que Sophia ait la citoyenneté saoudienne n'a aucune conséquence sur le statut de la femme saoudienne puisque, par hypothèse, le robot n'a pas le statut d'un être humain. On est simplement en présence d'une nouvelle « espèce », dotée d'un nom, d'un numéro, d'une adresse IP, etc.

Peut-on appliquer le même raisonnement au statut de résident accordé au robot Shibuya Mirai ?

Oui, d'autant qu'au Japon le « quartier » a une valeur clanique forte. C'est une communauté à laquelle est associée la reconnaissance sociale de ceux qui en font partie. Donner le statut de résident à Shibuya Mirai, c'est le faire entrer dans cette communauté, c'est dire « il appartient à notre groupe » qui se caractérise par la mixité de ses membres. Cela a d'autant plus de sens qu'au Japon les objets ont une « âme ». Il est question ici davantage de valeurs culturelles que de droit, car le droit n'est que l'écume des valeurs.

La « personne robot » que vous avez imaginée il y a deux ans est donc une « espèce » singulière qui échappe aux radars du droit et n'entre dans aucune des catégories juridiques traditionnelles ?

Je suis heureux de voir que, deux ans après, cette question nourrit le débat. Cela montre qu'il y a une véritable prise de conscience de la singularité du robot, qui n'est ni un « objet plus » ni un « humain moins » et qui n'est pas non plus comparable à un animal. Le robot n'est pas un humain, il est lui ! La « personne robot » a donc toute sa place dans la société comme, depuis le XIXe siècle, la « personne morale ». Et, paradoxalement, plus le robot est humanoïde et physiquement proche de l'humain, plus il sera important de définir un statut pour cette espèce singulière.

Les humains sont des personnes, mais toutes les personnes ne sont pas des humains

Encore faut-il qu'elle voie le jour ! De l'autre côté de la barre, certains plaident contre la « personne robot ». Quels sont leurs arguments ?

Ils pensent que le droit a suffisamment de plasticité pour répondre aux problématiques posées par les robots. Cela est faux, à mon sens, les droits construits pour les objets (ou biens meubles) et les humains sont inappropriés. Prenons l'exemple du droit d'auteur. Pour qu'une œuvre soit éligible au droit d'auteur, elle doit être « originale » et exprimer la « personnalité » de son auteur. Cela n'est évidemment pas applicable au robot ! Lorsqu'un robot réalise, grâce à un système d'intelligence artificielle, un tableau doté d'un pouvoir émotionnel comparable à l'œuvre d'un humain, qui est « l'auteur » ? Ce n'est ni l'homme qui a conçu la machine ni le robot dont on ne peut dire que l'œuvre exprime sa « personnalité ». La question pour savoir qui, de l'appareil photo qui avait pris le selfie ou du singe photographié, était l'auteur s'était posée aux États-Unis. Ni l'un ni l'autre ! Or on ne va pas laisser tomber ces œuvres dans le domaine public ! On le voit bien, le droit de la propriété artistique ou encore le droit des « biens » ou des animaux n'est pas adapté aux robots. Leur intelligence artificielle apprenante en fait une catégorie juridique singulière qui a sa place dans notre droit. Beaucoup pensent que les notions de « personne » et d'« humain » sont équivalentes. C'est faux, les humains sont des « personnes », mais toutes les personnes ne sont pas des humains. C'est le cas, par exemple, d'une société, qui est une personne morale, et responsable en tant que telle...

Quel droit peut-on bâtir pour cette nouvelle espèce de « personnes » ?

Il faut construire un droit spécifique aux robots. Tout d'abord, un droit de la dignité : les robots devront être conçus « dignité by design ». Par exemple, un robot français devra respecter les valeurs de la République, comme l'égalité entre les hommes et les femmes. La traçabilité est indispensable pour pouvoir déterminer la responsabilité en cas de dommage causé par un robot. Il faudra aussi assurer la transparence de son « cerveau » : si un journaliste robot crée un article, il faut le dire. Les robots ne doivent jamais se cacher derrière un humain. Le robot doit afficher son code. On doit être en mesure de connaître ses « pensées ».

Ce que j’appelle la robohumanité va engendrer une nouvelle civilisation. Une civilisation menacée par l’esclavagisme technologique.

C omment la « personne robot » va-t-elle, juridiquement, coexister avec la personne humaine ? Autrement dit, qui aura le dernier mot en cas de conflit d'autorité ?

C'est la question essentielle : celle de savoir à qui appartiendra la décision en dernier ressort. À l'homme ou au robot ? Si un pilote veut faire chuter un avion rempli de passagers, faut-il laisser le robot prendre la décision de l'en empêcher ? Faut-il laisser l'humain stopper dans son action le robot qui choisit de tuer le conducteur pour sauver les enfants qui traversent ? Le robot pourra-t-il désobéir à un humain et dans quelles situations ? Etc.

« Oser la personnalité robot », comme vous le défendez, n'est-ce pas ouvrir la porte à une humanisation du robot et, symétriquement, à une robotisation de l'espèce humaine ?

Ce que j'appelle la « robohumanité » va engendrer une nouvelle civilisation, une civilisation menacée par l'esclavagisme technologique. Prenez le GPS. On le suit les yeux fermés où qu'il nous conduise. La technologie a toujours raison et le fait de nous y fier nous place dans une situation de dépendance et de perte de pouvoir. Or nous savons que la technologie n'est jamais neutre. Il faudra donc, pour se prémunir contre cet esclavagisme de confort, mettre en place des règles assurant notamment la transparence des algorithmes et la loyauté de leurs intentions. Je pense que les robots vont nous permettre de réécrire le monde. Seule une démocratie transparente, universelle et humaniste pourra, par le droit, régir les relations homme-machine. Et le droit est dans le code. Les bâtisseurs de cathédrales du XXIe siècle, ce seront les codeurs.

Alain Bensoussan - Le Point

[n'ayant pas réussi à simplement mettre le lien vers cet article du Point que je trouve très intéressant, je l'ai ainsi copié-collé pour le partager sur LinkedIn, mais n'en revendique évidemment aucune parternité! Benoît Raulin]