L’Intelligence Artificielle ne va pas soumettre l’espèce humaine ; en revanche nous lui avons donné le contrôle de nos destinées

Edition 2022

L'Intelligence Artificielle (IA) est désormais entrée dans nos entreprises. Les nouvelles technologies comme le smart ERP, la Robotic Process Automation, les Méthodes Prédictives, la Machine Learning, la Blockchain, le Big Data ou le métavers ne couvrent plus seulement les fonctions mais aussi les processus stratégiques comme le recrutement, la planification, la production, l'évaluation ou le licenciement.

Ces différents sujets ont été souvent évoqués avec mon ami Directeur des finances et du contrôle de gestion qui partage les mêmes préoccupations que moi. A l’occasion de ces échanges, nous abordions tous les thèmes qui traitent du domaine de l’IA, y compris ce qu’en dit le cinéma.

Partie 1

De la singularité technologique (1) à Hal 9000, de l’algorithme de Cathy O’Neil à la non existence de l’intelligence artificielle affirmée par Luc Julia, de l’« Open letter » de Stephen Hawking, Elon Musk, Eric Horvitz à « The Terminator » ou bien de « WarGames » à l’être humain transformé en pile Duracell dans « The Matrix », l’Intelligence Artificielle (IA) n’a cessé de fasciner autant que d’inquiéter.

Le cinéma d’anticipation a imaginé l’éradication de l’Homme par la machine. Dans le film « The Terminator » de James Cameron réalisé en 1984, une intelligence décentralisée construite par l’armée américaine, Skynet, déclenche un holocauste nucléaire pour décimer l’humanité. « WarGames » réalisé par John Badham en 1983 aborde le concept de « Machine learning » et de « statistiques prédictives » : un supercalculateur du NORAD appelé WOPR pour « War Operation Plan Response » analyse les résultats possibles d’une guerre thermonucléaire totale. Dans ce film il ne s’agit pas de domination de l’IA mais de la nécessité pour le jeune « Lightman » de convaincre l’IA d’éviter une guerre nucléaire. Battlestar Galactica, de Ronald D. Moore 2004 voit le retour de machines conçues par l’Homme, les Cylons, qui après une trêve stratégique, se lancent dans l’anéantissement de l’ensemble des colonies humaines au moyen d’un holocauste nucléaire.

A l’éradication s’ajoute l’exploitation de l’Homme comme une ressource. Les soeurs Wachowski en 1999 transforment l’être humain en une pile Duracell, réduisant ainsi ce dernier à une simple fonction biologique de « production de chaleur et d’activité électrique » pour alimenter en énergie la « Matrice », un réseau de machines douées d’intelligence.

Puis Alex Proyas en 2004 évoque dans son film « I, Robot » le thème de la contrainte. VIKI est une intelligence artificielle centrale qui a une interprétation propre de la première loi d’Isaac Asimov qui énonce qu’« un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger ». Si l’être humain est la source de son propre danger alors celui-ci doit être mis en incapacité à continuer d’exercer sa menace, au détriment même de sa liberté.

Et il n’en fallait pas moins à l’IA pour copier l’Humain dans ses défauts ou la recherche de la perfection et l’anéantissement de l’imparfait comme évoqué par les films Alien Convenant de Ridley Scott en 2017, Tron : l’Héritage de Joseph Kosinski en 2010 et le super calculateur HAL 9000 (CARL 500) adapté par Stanley Kubrick en 1968 du roman d’Arthur C. Clarke incapable d’être infaillible et trop fier pour l’admettre.

Et que dire du robot qui rêvait de devenir un enfant dans Artificial Intelligence (A.I.), film américain de science fiction de 2001 dirigé par Steven Spielberg adapté de la nouvelle de Brian Aldiss (1969) intitulée "Des Jouets pour l’été" (Supertoys Last All Summer Long).

Aucun des scénarios évoqués ci-dessus n’a jamais eu lieu (tout du moins à la date d’écriture de cet article) et il est à se demander s’il s’agit plus de livre et de cinéma de science-fiction que d’anticipation.

Ainsi Luc Julia dans son livre « L'intelligence artificielle n'existe pas » paru en 2019 affirme que l’IA n’est qu’une « IA faible » et de préciser « Tout ça à cause d’un malentendu autour du nom même donné à la discipline, qui n’a, comme on l’a vu, rien à voir avec de l’intelligence. Je soutiens que l’intelligence artificielle n’existe pas. Si nous devons garder cet acronyme, l’IA ne doit plus signifier intelligence artificielle, mais intelligence augmentée».

Et l’auteur d’ajouter en référence au cinéma : « (…) les fantasmes de ceux qui ont peur des méchants robots et les inquiétudes relayées actuellement autour de cette pseudo « super intelligence ». La possibilité que les robots créés par les humains prennent le contrôle et précipitent notre extinction ne repose sur rien de tangible. Nous jouons à nous faire peur, ce qui peut être sympathique au cinéma en mangeant du popcorn, mais n’a aucun fondement scientifique ».

Prenons l’exemple des algorithmes prédictifs, domaine de l’IA, dans le cadre du contrôle de gestion et de la production. Une entreprise multinationale de production de boissons soft couvrant l’ensemble de tous les continents assure une production ainsi qu’une distribution locale. Afin de diminuer les coûts de transport, elle décide d’adapter sa production locale aux prévisions de vente locale. Jusqu’à présent, la direction du contrôle de gestion établissait les prévisions de vente en analysant les années précédentes et leurs évolutions, par interrogation des points de vente locaux sur le tourisme attendu basé sur la conjoncture économique. Cette entreprise met alors en place l’IA avec des algorithmes prédictifs. Nouvelles bases de données in-memory, nouveaux connecteurs à des sources d’informations externes (comme la météo, les recommandations données aux touristes concernant leurs voyages issues du site diplomatie.gouv, le suivi et la propagation de maladies communiqués par l’Organisation mondiale de la santé, la géopolitique et les instabilités régionales) et une prévision qui intégrera en plus de l’historique des ventes, une quarantaine d’indicateurs plus ou moins corrélés et pondérés. Et voilà un nouveau modèle de prévision des ventes, et donc de production, basé sur les statistiques et sur le big data. Un modèle mathématique exploitant des données de masse mais pas d’intelligence en vue.

De même qu’un virus informatique n’a pas d’intelligence : il s’agit d’un algorithme qui va s’exécuter dans un cadre déterminé. Mark A. LUDWIG, titulaire d’un doctorat et créateur de la maison d’édition American Eagle Publications aux États-Unis, dans son livre « Mutation d’un virus » pose la question de la capacité d’un virus informatique à être considérée « comme une forme de vie, tant d’un point de vue mécaniste que selon la philosophie classique de Platon et d’Aristote ».

Nous avons utilisé les termes d’IA, d’algorithme et de programme. Mais qu’est-ce qu’un algorithme ? En fin d’article vous découvrirez un extrait de code issu du livre de Mark Ludwig : « Du virus à l’antivirus ». Il s’agit d’un simple extrait de virus informatique de recouvrement de 44 octets (2).

Si l’Intelligence Artificielle n’existe pas encore, les conséquences de son développement futur et son impact sur l’Homme a fait l’objet d’un avertissement par le biais d’une lettre ouverte en 2015 : Research Priorities for Robust and Beneficial Artificial Intelligence: An Open Letter, Stephen Hawking, Elon Musk, Microsoft Eric Horvitz, Yann LeCun.

Nous pouvons avancer que l’IA ne va pas soumettre la race humaine en l’état actuel de son développement sauf si un programme était écrit en ce sens et des machines construites dans ce but (ce qui relèverait du domaine militaire). Mais en ce cas, il est fort à parier que ce n’est pas une mutation spontanée de l’algorithme ou une décision arbitraire de l’IA qui conduirait cette dernière à restreindre nos droits fondamentaux mais bel et bien une action volontaire de l’Homme : ce sont les hommes qui ont conçu les virus informatiques.

Luc Julia écrit que « le véritable danger de l’IA et des robots vient de nous, humains. Si nous décidons de créer et de programmer délibérément des robots tueurs par exemple ».

Si nous n’avons pas à craindre une émergence méphistophélique de l’IA, existe-t-il alors une menace plus immédiate ?

Partie 2

La menace est déjà présente. Nous avons confié notre destinée à des algorithmes (dits IA) : du cursus scolaire à l’obtention d’un crédit bancaire, du management des horaires des employés de #Starbucks à la présence policière dans tel ou tel quartier. Tous les domaines sont aujourd’hui concernés : l’éducation, la justice, l’emploi, la politique et la santé. Et les conséquences peuvent parfois être dramatiques sur le plan humain.

Catherine Abou El Khair, dans son article en date du 10 avril 2019 pour le journal #LeMonde, écrit :

« Pour recruter, les grands groupes (NDA : du CAC40) misent sur les algorithmes. Pour départager les candidats à l’embauche, les entreprises utilisent de plus en plus souvent l’intelligence artificielle. Malgré les questions éthiques que cette pratique soulève… »

Dans son livre « Algorithmes : La bombe à retardement », écrit en 2018, Cathy O'Neil nous alerte sur ces « armes de destruction mathématique, ADM » : des algorithmes basés sur des statistiques sans transparence sous couvert du secret professionnel dont les règles arbitraires ne sauraient être contestées et sans qu’aucune boucle de rétroaction permette l’ajustement voire la correction du programme. « A cause des ADM, beaucoup d’hypothèses dommageables sont camouflées par les mathématiques et ne sont ni vérifiées en pratique, ni remises en cause ». 

C’est ainsi que Sarah WYSOCKI et 205 autres enseignants ont été congédiés pour incompétence dans le système d’évaluation de Mathematica à Washington D.C. :

« En 2007, le nouveau maire de Washington D.C., Adrian Fenty, avait résolu d’améliorer les écoles les moins performantes de sa ville (…) Fenty embaucha Michelle Rhee, championne de la réforme éducative (…) De l’avis général, les élèves n’apprenaient pas correctement parce que les professeurs faisaient mal leur travail. En 2009, Rhee lança donc un plan visant à écarter les enseignants les moins performants (…) Rhee élabora un outil d’évaluation baptisé IMPACT et, dès la fin de l’année scolaire 2009-2010, le district scolaire renvoya tous les enseignants dont le score se situait parmi les 2% les plus bas (…) Sarah WYSOCKI, institutrice de l’équivalent du CM2 (…) recevait déjà d’excellents avis de la part de son directeur et des parents d’élèves (…) Pourtant, au terme de l’année 2010-2011, WYSOCKI obtint un score déplorable (…) Le problème provenait d’un nouveau système de notation (…) qui prétendait mesurer son efficacité dans l’enseignement des compétences mathématiques et linguistiques (…) Le district de Washington avait engagé le cabinet de conseil Mathematica Policy Research (…) pour concevoir le système d’évaluation. Le défi pour Mathematica consistait à mesurer les progrès des élèves de l’académie en question, puis à calculer quelle part de leur amélioration ou de leur régression était imputable aux enseignants (…) Réduire le comportement, les performances et le potentiel des êtres humains à des algorithmes n’est certes pas une mince affaire. Pour comprendre les difficultés auxquelles se heurtait Mathematica, imaginez une fillette de 10 ans habitant un quartier pauvre du sud-est de Washington D.C. Une fois l’année scolaire terminée, elle passe le test standard de fin de primaire. Et puis la vie suit son cours. Elle rencontre peut-être des problèmes dans sa famille ou des soucis d’argent. Elle est peut-être amenée à changer sans arrêt de logement, ou s’inquiète pour un grand frère aux prises avec la justice. Peut-être aussi est-elle complexée par son poids ou terrorisée par un ou une camarade de classe qui la brutalise. Quoi qu’il en soit, elle passe l’année suivante un autre test standard, conçu cette fois-ci pour les élèves de sixième. Si l’on compare les résultats des deux tests d’un élève, les scores devraient normalement rester stables ou, avec un peu de chance, s’améliorer. Si à l’inverse les résultats de la fillette dégringolent, l’écart entre sa performance et celle des élèves qui ont réussi est d’autant plus flagrant. Mais dans quelle mesure cet écart est-il dû à l’enseignant ? Difficile de le savoir, et les modèles utilisés par Mathematica n’ont que peu de chiffres pour affiner la comparaison (…) D’un point de vue statistique, chercher à noter l’efficacité d’un enseignant en analysant les résultats aux tests de vingt-cinq à trente élèves à peine apparaît en outre assez douteux, voire ridicule (…) l’échantillon s’avère beaucoup trop restreint. Si l’on devait analyser les enseignants avec la rigueur statistique d’un moteur de recherche, il faudrait en réalité les tester sur des milliers ou même des millions d’élèves sélectionnés de façon aléatoire. Les statisticiens comptent sur le nombre pour compenser les exceptions et les anomalies (…) Quand le système d’évaluation de Mathematica désigne Sarah Wysocki et 205 autres enseignants comme incompétents, ceux-ci sont congédiés. Mais comment les administrateurs du district de Washington peuvent-ils savoir s’ils ont bien fait ? En réalité, c’est impossible. Le système lui-même a déterminé que ces personnes étaient incompétentes, c’est donc comme cela qu’elles sont considérées. 206 « mauvais » enseignants écartés. Ce simple chiffre semble à lui seul démontrer l’efficacité du modèle mesurant la valeur ajoutée. Il purge le district scolaire de ses enseignants médiocres. Au lieu de rechercher la vérité, le score en vient à l’incarner, et à l’imposer. »

Et Cathy O'Neil de continuer :

« Voyez-vous le paradoxe ? Un algorithme analyse une multitude de statistiques et en tire la probabilité que telle ou telle personne pourrait être une mauvaise recrue, un emprunteur à risque, un terroriste ou un enseignant déplorable. De cette probabilité, on extrait un score qui peut bouleverser l’existence d’un individu. (…) Alors que l’on n’exige pas de justifications de la part des ADM lorsque leur verdict tombe, les individus qui en sont victimes doivent en revanche fournir des preuves infaillibles : le niveau d’exigence est donc très déséquilibré. »

Et nous venons ainsi de créer une dichotomie entre les humains et les algorithmes.

« Des modèles mathématiques mal conçus contrôlent aujourd’hui les moindres aspects de l’économie, depuis la publicité jusqu’à la gestion des établissements pénitentiaires. »

« Ils admettent qu’un programme traitant de grandes quantités d’informations est condamné à se méprendre sur un certain pourcentage d’individus, à les classer dans les mauvais groupes et à leur refuser un emploi ou la chance d’acquérir la maison de leurs rêves. Mais en règle générale, les personnes qui manient les ADM ne s’attardent pas sur ces erreurs. »

Cathy O'Neil donne une définition de ces algorithmes délétères : 

« En résumé, nous avons là les trois éléments d’une ADM : opacité, échelle et nocivité. »

Cathy O'Neil évoque dans son livre ce que Catherine Abou El Khair écrivait dans son article sur l’emploi d’algorithmes pour le recrutement dans les grands groupes du CAC 40 :

« Pour vider les piles de CV qu’ils reçoivent, les départements des ressources humaines s’appuient, comme on peut s’en douter, sur des systèmes automatiques. Environ 72% d’entre eux ne passent en fait jamais sous les yeux d’un être humain. Des programmes informatiques les parcourent et en extraient les compétences. »

Et Cathy O'Neil de conclure :

« Nos moyens de subsistance dépendent de plus en plus de la capacité à défendre notre cause devant des machines. »

N'assistons-nous pas ainsi à une forme de domination de la machine (ou algorithme) sur l’individu ?

Références

A l'écran

2001: A Space Odyssey, Stanley Kubrick 1968

WarGames,  John Badham 1983

The Terminator, James Cameron 1984

The Matrix, Les soeurs Wachowski 1999

Artificial Intelligence : AI, Steven SPIELBERG 2001, d’après un sujet de Ian WATSON. Adapté de la nouvelle Des Jouets pour l’été de Brian ALDISS

Battlestar Galactica, Ronald D. Moore 2004

I, Robot,  Alex Proyas 2004

Tron : l’Héritage, Joseph Kosinski en 2010

Alien Convenant, Ridley Scott 2017

En livre

« Mutation d’un virus », Mark A. Ludwig 1994

« Du virus à l’antivirus, guide d’analyse », Mark A. Ludwig 1997

« Research Priorities for Robust and Beneficial Artificial Intelligence: An Open Letter », Stephen Hawking, Elon Musk, Microsoft Eric Horvitz, Yann LeCun 2015

« Algorithmes : La bombe à retardement », Cathy O'Neil 2018

« L'intelligence artificielle n'existe pas », Luc Julia 2019

Notes de page

1. « La singularité technologique est l'hypothèse selon laquelle l'invention de l'intelligence artificielle déclencherait un emballement de la croissance technologique qui induirait des changements imprévisibles sur la société humaine. »

2. Code source

.model small

.code

FNAME EQU     9EH

ORG                 100H

START :

            mov ah, 4EH                            ; search for *.COM file

            mov dx, OFFSET COM_FILE

            int 21h

SEARCH_LP:

            jc DONE                                   ; open file we found

            mov ax, 3D01H

            mov dx, FNAME

            int 21h

            xchg ax,bx                                

            mov ax,400H

            mov cl, 42

            mov dx, 100H

            int 21h

#AI #RPA #ERP #MachineLearning #algorithme #MéthodesPrédictive
#Gestion #RH #Recrutement #Entreprise #Transformation