La question du jour : Terminator vs Rousseau
On inaugure la section des questions que votre voisine pourrait se poser, avec la question suivante posée par Nadine, de Colombelles :
Pourra-t-on contrôler le développement de l’IA ?
C’est la première peur que l’on rencontre, merci Terminator. À force de jouer à Dieu, nous pourrions créer l’objet de notre destruction. La difficulté de répondre à cela, c’est que c’est une peur ancrée dans les récits des mythes et légendes : l’apocalypse, Icare qui finit par se brûler les ailes, le mythe Prométhéen … ou Frankenstein. Nous vivons dans l’idée que tout cela aura une fin. À chaque nouvelle avancée (si tant est que c’en soit une), on a peur d’aller trop loin et que notre créature nous échappe, que nous défions les dieux. Ainsi donc, si l’on créait une véritable intelligence, nous créerions des formes de vie qui pourraient être assez intelligentes pour se rendre indépendantes de leur créateur et pourraient vouloir prendre le pouvoir sur lui.
C’est déjà une forme d’aveu de considérer qu’un être indépendant et puissant doit forcément vouloir détruire ses subordonnés. Ou serait-ce parce que nous avons été habitués à être (nous croire) le dominant sur la nature ?
L’intelligence artificielle n’en est pas encore là, cela mériterait une définition de celle-ci. À l’heure actuelle, l’IA rassemble des algorithmes capables de simuler des raisonnements plus ou moins proches de ceux des humains. Ils se basent sur des structures de données et des procédés algorithmiques censés prendre en compte des critères «complexes». Certains de ces algorithmes sont capables de tenir compte des résultats passés et ainsi apprendre au fur et à mesure de leur expérience. Et on commence à ressembler à l’Homme. Mais les robots d’aujourd’hui sont plus proches de Golems d’acier que des compagnons doués de véritable intelligence.
Dans l’imaginaire, l’IA est la création d’une conscience non humaine
Mais quand on se demande si l’IA va prendre le contrôle et se rebeller, on ne pense pas à ça. Dans l’imaginaire, l’IA est la création d’une conscience non humaine. Si cette conscience non humaine était créée demain, on pourrait en effet se demander ce que son libre arbitre pourrait donner dans les prochaines années.
Mais ne connaissez-vous pas des êtres créés par des humains, doués de libre arbitre ? Ceux qui ont des enfants connaissent l’importance de l’éducation. Pourquoi en serait-il différent de la conscience artificielle créée par l’Homme ? Votre enfant pourrait déraper et ne pas partager vos valeurs, peut-être pourrait-il devenir un personnage puissant et influent et provoquer des catastrophes considérables dans l’avenir. Pourquoi en serait-il différent de la conscience artificielle créée par l’Homme ? Et si la conscience créée par l’Homme devait dégénérer, pourquoi ne pourrions-nous pas la «tuer» ? Nous n’y sommes pas, a priori, on en est même très loin. Et si demain, on créait une conscience artificielle ? Que ferions-nous ? Quel serait le statut légal de cette conscience ? Le rôle des politiques est de préparer le moment où cela arrivera, et tout le monde est concerné.
La conscience artificielle naît bonne et c’est le big data qui la corrompt
Pourquoi se poser ces questions aujourd’hui ? Ça fait déjà longtemps qu’on y pense. Isaac Asimov avait déjà évoqué le sujet en 1942 en proposant les 3 lois de la robotique, lesquelles étaient implémentées dans les robots pour éviter qu’ils se rebellent contre leur créateur. L’IA donne des résultats et la science-fiction devient réalité, elle s’impose à nous et la prochaine étape sera, peut-être, l’apparition d’une conscience artificielle. Si celle-ci apparaissait demain, avant de considérer qu’elle pourrait nous échapper, posons-nous ces questions :
- Comment l’éduquer pour qu’elle nous soit favorable et fidèle ?
- Quels seront ses effecteurs ? Ses moyens d’action ?
- Comment la débrancher ?
Le premier point soulève encore d’autres questions que nous aborderons dans un chapitre consacré à l’éthique.
Quels seraient ses effecteurs ? Gageons que les premières consciences artificielles seront des logiciels sur un ordinateur de bureau ou un serveur. Ce n’est pas parce qu’un logiciel devient «conscient» qu’il possèdera tout à coup la volonté de se répliquer et de conquérir le monde. Dans tous les cas, il n’est pas certain que la première conscience artificielle sera directement installée aux commandes d’un robot de 3 mètres de haut équipé de mitrailleuses …
Enfin, même un robot se détruit. Si jamais le pire scénario du paragraphe précédent devait se réaliser, nous pourrions encore simplement détruire ce robot et la conscience qui va avec.
La réponse à la question initiale est donc : Oui, en quelque sorte. Mais si la volonté de la conscience artificielle est de créer d’autres consciences artificielles, rien ne dit que ces nouvelles consciences seraient pourvues des mêmes «surmoi».
À l’instar de Rousseau évoquant la nature humaine et le contrat social, attendons l’intervention des philosophes pour dire que la conscience artificielle naît bonne et que c’est le big data qui la corrompt.
Pour illustrer ce propos, rappelons nous du chatbot intelligent de Microsoft qui avait été éduqué avec des millions de tweets. Quand les responsables se sont aperçus que leur robot “pensait mal”, ils l’ont simplement supprimé. Ainsi, lorsque les robots ne donnent pas les résultats escomptés, on a déjà le réflexe de tuer la créature… Mais quel serait l’impact de cette suppression lorsque nous aurons face à nous un robot humanoïde doué de conscience ? Aura-t-on la sensation de supprimer une vie et non plus simplement un logiciel ?
Délégué général
5 ans"Comment la débrancher" : question que se pose l'équipage dans 2001 l'odyssée de l'espace. Plaisanterie mise à part, excellent article de réflexion.
Quelles sont les motivations profondes de l'être humain pour toutes ses actions? Quelle part notre "conscient" a-t-il par rapport à tout ce qui est sous-jacent à notre volonté? Doit-on descendre dans les différentes couches de notre cerveau, le reptilien, paléomammalien et néomammalien , afin de trouver, entre autres, les sources de nos désirs de domination? Désirs qui ne sont pas l'exclusivité de l'espèce humaine. Je vous recommande de lire André Laborit et son livre "l'éloge de la fuite". Doit-on descendre encore plus bas et aller chercher nos motivations aux niveau des génes? Ne serions-nous qu'une enveloppe soit-disant "consciente" qui ne sert qu'à réaliser les "désirs" de nos génes? Lire "Le géne égoiste" de Richard Dawkins. Il paraît même que notre symbiote intestinal influe sur nos comportements ... Que de causes donc à nos disfonctionnements. L'IA cherche à modéliser le comportement humain, mais si ce n'est que dans le but de bluffer un être humain au travers de test de Turing, à quoi bon? C'est aussi utile que d'envoyer une voiture dans l'espace :-). Le problème n'est-il donc pas, qu'avant de chercher à créer une conscience artificielle ressemblant à celle de l'homme et d'essayer d'en anticiper les conséquences, le problème n'est-il pas que nous manquons tout simplement de connaissance de nous même, de nos motivations, nos buts, ... et quel sens a notre existence? Je trouve personnellement beaucoup plus intéressant les recherches en astro-physique par exemple, bien que certainement tout aussi inutiles :-) ... Et pourquoi ne pas essayer plutôt de créer un autre type de conscience qui nous servirait de medium afin d'essayer de comprendre ce que nous sommes et notre univers. Un peu comme le microscope électronique a permis de "voir" ce qu'on ne peut voir car trop proche de la taille de l'atome ?
Diagnostic et prise charge des infections modérées et sévères : Bactériologie, virologie, mycologie, parasitologie
6 ansUne maison a été construite par l'homme mais celui qui a fait toutes chose c'est Dieu , il ne permettra pas que l'homme tiré du sol détruise la terre qu'il a créée . Ils investissent sur le néant au lieu d'investir sur la lute contre la pauvreté, la pollution ,le réchauffement climatique etc . sources des tous les maux . Ils gaspillent des sommes colossales pour remplir des maisons avec des choses bizarres (Les bombes nucléaires) Grande question! comme il y a réchauffement climatique et montée vertigineuse de la pauvreté ,ils se soigneront et mangerons et laisserons aux générations futures ces bombes nucléaires? vanité de vanité!
Ingénierie de projets santé et prévention. Conseil, feuille de route et accompagnement stratégique organisationnel et managérial. Formateur. Création d'outils d'animation du projet. Animation de groupes autour du projet.
6 ansC'est pas ma faute à moi L.O.L.I.T.A...