Dites bonjour à l’IA socratique
ChatGPT peut-il savoir qu’il ne sait rien ? © cako74 / iStockphoto

Dites bonjour à l’IA socratique

Chère lectrice, cher lecteur,

J’ai une question : combien de fois, ce mois-ci, avez-vous osé répondre « je ne sais pas » à un chef ou un collègue insistant ? Pas souvent, n’est-ce pas ? Bientôt, vous vous ferez peut-être doubler par une intelligence artificielle (IA). Très récemment, une équipe de chercheurs de Google s’est donné pour mission de rendre leur IA capable d’évaluer son degré de certitude au moment de répondre à une question. Bref, de savoir répondre « je ne sais pas ». Et ainsi, d’imiter cette faculté de mettre à distance notre propre pensée, jusque-là l’apanage de l’homme. Demain, des systèmes d’intelligence artificielle sauront-ils douter mieux que nous ?

Il y a encore un an, on en était très, très loin. Pour ce qui est de l’introspection, les systèmes d’IA étaient jusqu’à présent plutôt nuls, et on pouvait le leur reprocher. Vous l’avez peut-être déjà constaté : ChatGPT-4 et consorts se caractérisent par une sorte d’excès de confiance. Normal, quand on sait que ces modèles ont été conçus, précisément, pour nous donner satisfaction en produisant un texte qui va vraisemblablement répondre à nos attentes, car il a un sens par rapport à la requête qu’on a faite. À la question « Que mange la vache ? », la réponse « La vache mange un ours » a moins de chance d’être jugée pertinente que « La vache mange du fourrage » – même si en l’occurrence, la vache à laquelle vous pensez mange de l’herbe. Bref, les modèles de langage fournissent la réponse qu’ils calculent comme la plus probable : à nous, usagers, de l’évaluer, de la corriger, ou de la rejeter carrément.

Souvent, il est vrai, les systèmes d’IA aiment à nous rappeler leurs limites et nous invitent à faire appel à un spécialiste, pour les requêtes d’ordre médical ou légal. Mais jusqu’à présent, en dehors des expérimentations de Google, un système d’IA ne pouvait techniquement pas admettre de but en blanc qu’il ne savait pas quelque chose.

Est-on arrivé au point où, comme Socrate admettant qu’il ne sait rien ou Descartes se mettant à douter du monde qui l’entoure, une machine pourra philosopher ? Ne nous emballons pas. Comme souvent, l’effet d’annonce dépasse l’innovation technique. Le dispositif présenté par Google repose sur la « prédiction sélective », qui permet à un modèle de langage de produire une réponse accompagnée d’un score indiquant la probabilité que la réponse soit certaine. Si le score est en dessous d’un certain seuil, la machine peut alors répondre « je ne sais pas ».

 

“La phrase ‘je ne sais pas’ n’est pas la preuve d’une capacité à saisir ses propres limites à connaître le vrai”

 

Le degré de « certitude » ici vanté par les chercheurs renvoie à un indicateur mesurant la correspondance entre une séquence de réponses générées par la machine et un corpus de références fiables, produites par l’homme. En somme, la phrase « je ne sais pas » n’est pas la preuve d’une métacognition, c’est-à-dire d’une capacité à saisir ses propres limites à connaître le vrai. Elle ne concerne donc pas tous les cas qui se situent en dehors de ce corpus.

Ce type d’ignorance, qui traduit une incertitude relative à un manque d’informations, nous en faisons sans cesse les frais. Face à une difficulté ou à un problème un peu technique, nous séchons. Souvent, il n’y a même pas de honte à l’admettre : nous cherchons sur Internet, essayons de comprendre de quoi il en retourne, et en général, nous comblons nos lacunes en redoublant d’efforts. Humble, cool, voire doté d’une certaine sagesse, celui qui assume son ignorance n’a pas vraiment à rougir.

Mais si le « je ne sais pas » nous écorche la bouche, c’est parce qu’il évoque un autre type d’ignorance, bien plus redoutable. Celle qui ponctue les ruptures amoureuses, les crises existentielles, les remaniements stratégiques. Là où le doute de la machine repose surtout sur la résolution de problèmes, le doute éthique, proprement humain, repose sur la mise en problème du réel. Car, sans surprise, les chose se déroulent rarement comme prévu : nous devons en permanence absorber et réinterpréter le monde tel qu’il se présente à nous. « J’ai beau me représenter le détail de ce qui va m’arriver, écrit Bergson, combien ma représentation est pauvre, abstraite, schématique, en comparaison de l’événement qui se produit ! La réalisation apporte avec elle un imprévisible rien qui change tout. » (Le Possible et le Réel, 1930).

Face à ce torrent de nouveautés, nous sommes perpétuellement en train de  réévaluer ce que nous souhaitons faire, éviter, ce que nous estimons juste ou désirable. Que cherchons-nous vraiment à atteindre, ce trimestre ? Qu’attendons-nous de ce projet ? Que valorisons-nous chez cette personne qui vient nous demander une augmentation ? Indulgence, donc, pour tous ceux que l’aveu d’ignorance terrifie. Car quoi de plus difficile que d’admettre non pas qu’on ne sait pas, mais qu’on n’a aucune idée d’où aller ?

 

 

Comment résoudre la crise agricole ? Un premier pas serait pour les consommateurs d’accepter qu’il va falloir payer plus pour s’alimenter, estime le chercheur Vincent Chatellier.

La transparence des salaires, on en parle beaucoup, mais on le fait peu. Plusieurs entreprises qui ont adopté cette mesure nous confient le pour et le contre.

Vous avez déjà croisé une licoorne ? Non, pas l’animal mythique, mais ces coopératives de l’économie sociale et solidaire qui veulent proposer un modèle d’entreprise alternatif, loin de l’injonction à la croissance. On vous explique.

Ils ne font pas grève, mais doit-on pour autant leur nier leur droit à la retraite ? On s’interroge sur la fin de vie (professionnelle) des orques du Marineland d’Antibes, chien de guides d'aveugles et autres animaux au service des humains.

Bonne lecture, 

Apolline Guillot

Christian Duclos

Acousmaticien, musicien, bassiste, passionné par la science des sons et le sens de l'écoute, au service du développement philosophique du particulier au général.

11 mois

Comment l'IA, dépourvue de sensibilité, pourrait-elle servir à la conduite du raisonnement? La réponse à une question relève des savoirs, innombrables, mais l'être humain a cette faculté unique de se poser la question du sens de la vie, de croire en sa capacité d'être juste qui ne relève pas du savoir mais de la connaissance qu'il a de lui-même, les réponses à ces questions ne se trouveront jamais hors de lui. Socrate était certain de la valeur et de l'action de son raisonnement tout en disant qu'il ne savait rien à propos de tout ce qu'on pouvait lui dire mais en amenant son interlocuteur a prendre conscience de la valeur du raisonnement dans l'approche du sujet en question, et Descarte a démontré que tout ce qui nous entoure est changeant et qu'une seule chose est sûre et certaine c'est la qualité du raisonnement s'appuyant sur ce qu'est la foi.La sensibilité est le point faible des mathématiques et donc de l'IA.

Identifiez-vous pour afficher ou ajouter un commentaire

Autres pages consultées

Explorer les sujets