L'IA et la slow.tech

Des technologies d’IA progressent en parallèle de leur nocivité

C’est une évidence, depuis une décennie, les technologies d’IA ont bien progressé. En particulier, au niveau de la lecture et de la compréhension du langage, surtout sur les textes en anglais, les algorithmes ont dépassé les humains (cf. résultats du rapport 2022 de l’index AI de Stanford)

En outre, durant les sept dernières années, les outils d’IA sont devenus nettement plus efficaces dans la génération d’images artificielles et également l’analyse des sentiments. Sur ce dernier aspect, en 2021 les systèmes performants ont une analyse correcte neuf fois sur dix. En 2016, le ratio était de 7 sur 10. De facto, sous l’angle d’un certain usage, les risques existent et ils augmentent. Le scandale #cambridgeanalytica a déjà prouvé leur réalité.

Quant aux grands modèles de langages (LLM : GPT-3 en est un avec 175 milliards de paramètres), s’ils « deviennent beaucoup plus performants au fil du temps », selon l’HAI, la « dangerosité de leur biais augmente en parallèle ». « Un modèle de 280 milliards de paramètres développé en 2021 montre une augmentation de 29% de la toxicité induite comparé à un modèle de 117 millions de paramètres jugé comme l’état de l’art en 2018. ».

Un algorithme d’IA est amoral, normal, c’est un outil.

Ça peut devenir une arme. La responsabilité est chez les créateurs et les utilisateurs. Tandis que la liste des publications, des réflexions et des actions pour essayer de garder les outils de l’IA sous le contrôle de l’éthique et des lois continue à s’allonger (est-ce que 2023 sera l’année de l’accélération de la législation #IAéthique? Cindy Gordon le croit), en parallèle, les départs de feu s’allongent aussi. #OpenAI a lancé #ChatGPT comme un bien de consommation ordinaire, avec un appeau de gratuité, de facilité et de nouveauté.

Maintenant que le buzz est là ainsi que les premiers effets néfastes une API devrait bientôt suivre. Dans un long article passionnant dans Forbes, Eliot Lance, expert de l’IA, explique pourquoi cette annonce est importante et ses impacts. Il évoque qu’ironiquement, l’utilisation élargie de ChatGPT pourrait mettre davantage en lumière ses failles. Ceux qui veulent surfer sur le succès de ChatGPT n’ont pas intérêt à faire les autruches.

Dans tous les cas, l’outil a cristallisé l’enthousiasme à voir apparaître un nouveau cycle de destruction créatrice. Mais tout ce qui brille sous l’angle de l’innovation, n’est pas or, ni synonyme d’un nouveau cycle de prospérité.

La destruction créatrice et la croissance de demain

Car de quelle croissance pourrons-nous parler demain ? Posons la question à Jean-Marc Jancovici. « à un moment ou à un autre , ce ne sera plus une croissance au sens économique conventionnel du terme, ce sera une décroissance » [...] « Nous n’allons pas devoir réfléchir dans un monde en croissance, mais dans un monde en contraction » [extraits rencontre d’Aix – 03/07/2020.].

Dans ce monde en contraction, il nous faut probablement penser hors du cadre de modèles tels que celui de la destruction créatrice. La théorie a d’ailleurs quelques biais.

L’innovation serait selon #Schumpeter le fait d’entrepreneurs visionnaires. Ces chefs de file du futur auraient des capacités hors normes pour percevoir et saisir les opportunités de progrès. C’est un biais d’attribution. Non seulement les #innovations technologiques sont de moins en moins le fruit d’un seul individu, mais elles ne sont pas plus le fait d’une seule organisation. Reste un mythe tenace, qu’Anthony Galluzo traite dans son livre « Le Mythe de l’entrepreneur. Défaire l’imaginaire de la Silicon Valley ».

L’autre biais repose sur la conviction que le système peut se réguler grâce à ses acteurs. En dépit de l’amoralité intrinsèque du système capitaliste, la valeur morale de la structure sociale enrichie par le capitalisme garderait à l’ensemble une forme d’éthique. Les scandales à répétition de type #theranos /Elizabeth Holmes, la plateforme de cryptomonnaies FTX de Sam Bankman-Fried … peuvent nous conduire à douter de l’efficacité de cycles vertueux.

Enfin, le progrès technique n’est pas forcément synonyme d’élévation du niveau de vie. De moins en moins à terme, si ce progrès suppose de puiser inutilement dans des ressources contraintes, privatiser les biens communs, ou leurrer les individus.

Quel est la création de valeur ici?

ChatGPT génère, en ingurgitant des textes en entrée, un texte Frankenstein. Un texte dont le corps est nourri d’autres textes découpés et rafistolés. Dès lors, on peut créer beaucoup de choses qui ne sont, in fine, que du plagiat, ou des résumés plus ou moins bons (au regard des performances des outils de text summarization). C’est le cas avec cet outil, et d’autres qui font fantasmer. Toutes ces moulinettes vivent sur un existant.

De plus, que penser de l’avenir de tous les textes scientifiques, thèses, articles, etc. ? Sachant qu’avec le dictat « publish or perish », le besoin de reconnaissance des chercheurs fausse le sérieux des publications scientifiques. Si les experts reprennent des données non valides, cela jette le discrédit sur les méthodes scientifiques. On a déjà affaire, comme l’écrit Philippe Mercure dans la presse canadienne, à une véritable bombe à retardement de la fraude scientifique.

Dans la vie humaine, dans la vie des sociétés, dans la vie des entreprises, dans le champ des systèmes d’information, il y a de nombreux défis à relever. Cela demande des efforts, c’est un fait. On peut s’aider d’outils d’IA. Par exemple, drivendata propose de résoudre des défis environnementaux et sociétaux avec la data science.

Penser demain et agir aujourd'hui

Toutefois, un usage intelligent des outils exige aussi de penser le temps long, dès maintenant, en intégrant la réutilisation de demain dans la création d’aujourd’hui. Une réutilisation qui doit impérativement être fair-play : avec une création de valeur partagée pour l’ensemble des parties prenantes. Pour cela, il faut revisiter le paradigme de la destruction créatrice, de plus en plus pollué par le solutionnisme technologique. Ce pourrait être autour du concept de  Slow.tech . Dans tous les cas, il s'agit de réfléchir à la création de valeur pour toutes les parties prenantes, en répondant aux enjeux de développement durable dans un monde en contraction.

Le défi est de taille : on a encore beaucoup de travail, et de nombreuses urgences. Mais ce sont nos défis, si nous voulons fonctionner de manière socialement responsable.