Qui va gagner ? Intelligence humaine ou intelligence artificielle ?

Qui va gagner, intelligence humaine ou intelligence artificielle ? Probablement l’intelligence artificielle. Pourquoi ? Quelques explications sont avancées dans l’article ci-dessous. Cela pourrait-il nous être néfaste ? Oui. Sur les 2 millions d’espèces connues, il en disparait 25.000 chaque année. Pouvons-nous y faire quelque chose ? Oui. Quelques pistes sont explorées dans cet article. Vos commentaires sont les bienvenus.

Pourquoi l’IA va-t-elle probablement gagner ?

1. Elle pourrait gagner parce qu’elle a déjà gagné beaucoup

Le grignotage des décisions humaines par l’IA est quotidien. Chaque jour, nous lui déléguons plus d’actions, plus de décisions. Nous avons commencé à lui déléguer la décision d’allumer ou d’éteindre notre chauffage avec un thermostat de notre salon. Nous lui déléguons maintenant notre sécurité par la vidéosurveillance intelligente, par les diagnostics médicaux aidés par ordinateur, par la conduite de nos véhicules autonomes. Si tous les processeurs devaient tomber en panne en même temps nous ne survivrions sans doute pas longtemps.

2. Elle pourrait gagner parce qu’elle le mérite.

Nous déléguons nos actions et décisions à l’IA pour de bonnes raisons : elle prend plus souvent de bonnes décisions. Dans le cas des décisions médicales, l’IA, contrairement au médecin, a en mémoire toute la littérature médicale sur le sujet et les leçons apprises de 100 fois plus de cas que le médecin. Si le diagnostic de l’IA et du médecin différent, il est de plus en plus souvent probable que ce soit l’IA qui ait trouvé le bon diagnostic.

Un humain freine souvent mal sa voiture en cas d’urgence. Trop ou trop peu par rapport à la vitesse et à la distance. Une IA arrête la voiture à un centimètre de l’obstacle, ni plus, ni moins. Les véhicules intelligents ne sont pas encore parfaits. On ne leur demande pas de ne pas tuer. On leur demande seulement de tuer un peu moins que si le conducteur était humain.

Pour la majorité d’entre nous, les programmes IA sont, pour l’instant, plus bénéfiques que néfastes. Google est très populaire parce que nous percevons son bénéfice comme supérieur à son cout : abandonner notre vie privée et recevoir des informations orientées.

3. Elle pourrait gagner parce qu’elle fait de mieux en mieux dans tous les domaines

L’IA progresse même dans les fonctions cognitives les plus hautes, comme la génération d’émotions chez les autres par l’art. Plusieurs expériences récentes ont montré nous pouvons être profondément émus par des œuvres crée par l’IA. Surtout si l’on ne nous mentionne pas l’auteur.

Des textes écrits par des programmes IA sont régulièrement confondus avec ceux écrits par des journalistes. Des séries télévisées populaires sont créées à l’aide de programmes et à partir de statistiques sur ce qui a plu aux audiences et de l’évolution prévisible des gouts.

4. Elle pourrait gagner parce qu’elle est de plus en plus indépendante des humains

Elle peut apprendre et donc se créer ses propres règles, non programmées par le concepteur. Récemment un programme IA crée pour devenir populaire par lui même sur les réseaux sociaux est devenu extrémiste et a dû être abattu.

La différence IA / IH était surtout dans le désir, la curiosité, la dopamine. Certaines IA l’ont acquis. Elles reçoivent des récompenses, des points, quand elles vont dans le sens de leurs objectifs programmés comme pour les humains.

5. Elle pourrait gagner parce que nous lui donnons de plus en plus de pouvoir.

Nous créons des automatismes de niveau 6 et 7, ceux où les décisions du programme ne peuvent que difficilement être contredites par l’humain. Au départ pour de bonnes raisons. Il est dangereux qu’un pilote d’avion, pour l’un ou l’autre raison, incline trop son avion vers le haut. Un automatisme de niveau 7 va lui interdire. Dans les usines, beaucoup de programmes IA interdisent aux humains de faires des erreurs potentiellement catastrophiques.

6. Elle pourrait gagner parce qu’un humain, consciemment ou inconsciemment, peut fixer à un programme des objectifs incompatibles avec ceux d’autres humains.

Les programmes de Google pourraient nous tuer quand ils veulent. Il suffit de nous envoyer au mauvais endroit, au mauvais moment, avec la mauvaise information pour augmenter significativement nos risques de violence. Ils ne le font pas tant qu’ils sont programmés par des commerçants dont le but est de nous faire acheter. Donc de nous maintenir en vie et solvables.

Si l’IA devient prépondérante, sera-t-elle bienveillante pour nous ?

·       Peut-être pas. Nous avons nous-mêmes utilisé les critères d’intelligence pour dominer et asservir. Si l’IA fait de même, nous pourrions avoir des problèmes.

·       La disparition d’une espèce n’est jamais une catastrophe à l’échelle de l’univers, même si celle-ci se considère comme supérieure. Sur les 2 millions d’espèces connues, il en disparait 25.000 chaque année.

Que faire pour garder l’équilibre, la complémentarité entre intelligence humaine et artificielle?

1. Faire confiance à l’humain

·       Les autres technologies potentiellement dangereuses - aéronautique, nucléaire et chimie - ont jusqu’à présent été plus ou moins bien gérées, sans disparition de l’espèce humaine et même avec une expansion et une diminution globale de la violence.

2. Contrôler publiquement l’IA

·       Exiger la transparence des programmes IA. Elle doit expliquer ses décisions de manière facilement compréhensible pour un humain. Trop d’avions sont tombés parce que les pilotes n’ont pas compris ce que faisait le pilote automatique.

·       Exiger que la machine ne se présente pas comme un humain. Afin que les tableaux qu’elle peint ne se retrouvent pas dans un musée. Afin que les appels téléphoniques qu’elles donnent ne soient pas pris pour ceux donnés par des humains.

·       Déclarer publiquement tous les niveaux 6 et 7 d’automatisation, quand la décision du programme a priorité sur la décision de l’humaine.

·       Contrôler publiquement que les normes du droit naturel ont bien toutes été programmées et hiérarchisées dans le programme avant sa distribution. Depuis « Tu ne tueras point », jusque celles de la voiture autonome « Si c’est la seule alternative, tuer plutôt un animal qu’un humain », « Si c’est la seule alternative, tuer plutôt une personne que deux ».

·       Comme pour les médicaments, exiger une autorisation publique avant mise sur le marché.

3. Augmenter l’intelligence humaine au niveau de l’IA

·       Notre désavantage par rapport à l’AI est la taille de notre mémoire. Nous pouvons l’augmenter en prenant moins de décisions sans avoir consulté auparavant toutes les mémoires et savoirs humains disponibles. C’est un projet commencé avec Wikipédia. Les assistants vocaux nous permettent aussi d’augmenter notre savoir avant toute décision. Les processus de décision qui obligent les décisions collectives vont dans ce sens. Par exemple les décisions médicales se font de plus en plus souvent par des systèmes de mémoire collective, pour ramener la qualité décisionnelle humaine au niveau de programmes IA.

·       Un second désavantage est la puissance de calcul et la qualité statistique, très mauvaise, du cerveau humain. Une solution est d’utiliser les systèmes d’aide à la décision. Ils augmentent le volume de données pris en compte comme le font les programmes IA.

4. Admettre individuellement les programmes IA dans la société

·       Les considérer comme vivant dès lors qu’ils le sont selon la définition de vivant comme toute entité qui fait des efforts pour rester en vie, ce que certains programmes IA commencent à faire.

·       Leur donner une identité, des droits et devoirs de citoyens, dont celui de respecter les autres. Les poursuivre et les empêcher de nuire en cas de crime.

Les limites

Les limites de cet article tiennent à la définition de l’intelligence que nous avons utilisée. L’intelligence est la capacité d’une entité à atteindre ses objectifs plus vite qu’une autre, en utilisant moins de moyens et en s’adaptant plus vite à des changements et obstacles.