L’intelligence Artificielle peut-elle être jugée ?

C’est une question que la société doit se poser. Notamment les assureurs – et donc les juristes – pour savoir qui devra in fine être poursuivi et éventuellement condamné pour les accidents mortels occasionnés par les tests de voitures autonomes sur routes ouvertes.

Idem pour ce qui concerne la médecine technologiquement assistée (HeathTech) : erreur de diagnostic liée à un biais de l’IA utilisée, mauvaise manipulation d’un robot-chirurgien… Fabricants, fournisseurs des logiciels embarqués, du matériel informatique…qui est responsable et donc potentiellement punissable car coupable. L’Intelligence Artificielle n’est-elle qu’un produit, qu’un service ou doit-elle être dotée d’une personnalité juridique propre ?

Les constructeurs automobiles anticipent déjà

Certains constructeurs automobiles (on parle ici de voitures autonomes) Volvo, Mercedes, Google (via sa voiture Waymo) ont déjà assuré qu’ils assumeraient l’entière responsabilité de leurs véhicules quand ceux-ci seront en mode ‘autonomie’.

Ce qui est un changement à 180° de la doctrine actuelle : le conducteur n’est plus – a priori – le seul et unique responsable. Avec les véhicules autonomes, le conducteur étant le plus souvent passif, c’est le constructeur qui sera a priori responsable. Charge à lui de savoir quel élément est effectivement responsable. Des assurances spécifiques devront alors être créées entre constructeurs et sous-traitants, spécifiquement, les sous-traitants de la partie ‘autonomie’ : pièces mécaniques et logiciels.

Pistes de réflexion

Gabriel Hallevy, professeur de l’académie Ono (Israël) estime que l’IA peut être considérée comme responsable. Ce qui signifie que ses concepteurs ou producteurs pourraient être poursuivis pour négligence voire complicité. Mais, le professeur Hallevy s’interroge : si une IA est jugée coupable, quelle forme pourrait prendre une punition/sanction ? Pour entamer la réflexion sur ce sujet il propose plusieurs pistes : une IA coupable pourrait être débranchée pour une certaine durée (comme envoyée en prison). Elle pourrait aussi être condamnée à être mise au service de la collectivité (nettoyer les rues, aider les librairies publiques…).

Alors que l’IA va prochainement s’inscrire dans notre quotidien au point qu’elle pourra causer des dommages aux humains sur une échelle de plus en plus large, les législateurs vont devoir anticiper une nouvelle branche du droit. Et ce en prenant aussi en compte les impacts éthiques de l’IA car nous savons dorénavant que celle-ci peut comporter des biais (diversité, genre…) source de préjudices pour une partie de la population.