Mon marteau a-t-il besoin de l'IA, Partie 2 : non, mais...
François Menet
Cofondateur de Myelin, technologies en santé mentale. Chercheur en Sécurité de l'IA.
La semaine dernière, je répondais au besoin en algorithmes d'un marteau. Et je vous présentais le Ulu, un couteau utilisé par différentes nations Canadiennes autochtones, notamment les Inuits.
J'ai conclu, un peu vite, en mettant en lien l'eXpérience Utilisateur (UX) et l'Intelligence Artificielle (IA). J'ai pour projet de parler d’entrepreneuriat avec des articles courts, et l'article, un des jalons, était ... déjà long.
(Oui, je n'ai aucun regret. Par les temps qui courent, mieux vaut des homophones, que des homophobes.)
J'ai aussi grossièrement mélangé IA, Machine Learning, et les avancées récentes du Deep Learning, pour but de simplification. Et je vais le refaire.
Alors, pourquoi l'expérience utilisateur est plus importante que l'intelligence artificielle à mes yeux ?
On en revient au marteau.
Planter un clou.
Supposez que je vous présente un marteau et un clou à moitié enfoncé dans un mur. Vous n'avez pas besoin d'explication. Le contexte, l'objet, et votre corps vont répondre à la question avant même que vous ayez pu formuler un mot.
Le savoir est immédiat, naturel, inclus dans l'objet. La tâche est simple. Le sentiment de compétence, complet. Si vous avez des bras et la force nécessaire (ce qui n'est pas le cas de tout le monde), vous pouvez planter ce clou.
On peut prendre un pistolet à clous pour planter un clou. On peut aussi utiliser un robot sur une ligne de montage.
Le marteau intelligent serait un pistolet à clou qui choisit où planter les clous, parce qu'elle a vu des milliers de personnes le faire avant. Elle s'adapterait à la plupart des éléments, tant qu'elle possède des exemples de fixation pertinent.
La personnalisation des paquets est plus grande, l'efficacité, plus importante, mais la tâche ne peut plus être considéré comme simple. L'objet n'est plus un outil, il est un sujet à part entière pour son utilisateur. Sa compréhension est vague, et aucun humain ne peut comprendre le sujet de ce marteau intelligent au complet.
L'abstraction décisionnelle
C'est là où je vois la force immense et la faiblesse de l'IA (au sens moderne):
Elle promet d'ajouter de nouvelles couches d'abstraction.
L'IA peut résumer, choisir pour nous ce qui est important, émuler un raisonnement, une perception.
Dans un monde de micro-décisions, de textes, et d'attention fractionnée, ces algorithmes peuvent faire gagner une grande quantité de temps.
Recommandé par LinkedIn
Mais ils sont opaques et imprévisibles, et surtout, enlèvent à l'humain son impression de compétence.
L'expérience de l'utilisateur
Philippe Beaudoin avait récemment écrit sur l'importance de l'expérience dans les plateformes AI-powered. C'est l'expérience de l'utilisateur, et le message envoyé à celui-ci, qui va faire la différence*.
C'est là où je veux en venir : le sentiment de contrôle entre le marteau de base et le marteau intelligent est radicalement différent.
C'est peut-être la première fois qu'une décision est abstraite à ce point, mais ce n'est pas la première fois que nous créons des abstractions : créer une abstraction, en Informatique, on appelle ça "Lundi". Et en ce sens, l'expérience utilisateur nous a toujours permis (quand on l'écoute) d'avoir le beurre et l'argent du beurre.
On peut rassurer l'utilisateur sur son sentiment de contrôle, tout en lui permettant des actions toujours plus puissantes. C'est la promesse de l'abstraction réussie.
l'IA (sourtout dans le cas des produits populaires comme ChatGPT) est un super-abstracteur. Elle nous permet d'approximer une tâche très complexe (comme écrire un texte). Mais son UX est terriblement mauvais : on paye le prix de cette abstraction en se sentant complètement coupé du contrôle.
Le Prompt Engineering est un domaine d'activité qui vient remplacer ce sentiment de contrôle, comme une béquille.
Lisez l'actualité pour vous en convaincre : ce sentiment de perdre de contrôle fait peur, alors qu'au fond, ChatGPT ne va pas renverser de gouvernement de si tôt.
Je veux conclure sur le magnifique livre de feu Élisabeth Kaine, "Métissage", qui m'a présenté le Ulu dont je parlais la dernière fois.
Ce couteau a des centaines d'usages, sa prise en main est intuitive. Pouvant être utilisé à une main, il abstrait une partie de la complexité de la tâche de couper. Le Ulu est une merveille d'abstraction à taille humaine, le récipiendaire d'un héritage culturel millénaire, et une source de joie et de fierté pour qui sait l'utiliser.
ChatGPT a des centaines d'usages.
Je mets de côté l'adéquation valeurs-technologie, terriblement pertinente, parce que j'ai déjà mentionné le sujet dans le passé.
l'intéressé pourra commenter si j'ai trahi sa pensée :) )
Retraité chez A la maison
5 moisExcellent point de vue ! Texte très intéressant à lire Le marteau restera un marteau. Que deviendra l'humain si notre vie est dirigée par l'IA ? Que deviendra notre libre arbitre?