L'Effet Cobra

Delhi, Inde, Empire Britannique, été 1862.

Une brume de chaleur moite assoupit la capitale du Raj. Les rues sont désertes à l’exception des Dalits, les intouchables. Ceux qui le peuvent s’enferment. Depuis des mois les cobras pullulent, semant la mort.

L’administration britannique décide de frapper un grand coup: payer une prime pour chaque cobra mort.

Cela fonctionne très bien, chaque jour une file immense se forme pour apporter des cadavres de serpent et collecter son dû. Les morsures venimeuses se font plus rares.

C’est alors que tout bascule.

Le cobra se faisant plus rare, sa chasse devient moins lucrative. Une, deux, dix, cent familles se mettent alors à élever des cobras pour ensuite les tuer et ainsi faciliter la chasse à la prime.

Le gouvernement britannique s’en rend vite compte et prend alors la seule décision rationnelle : stopper son programme de récompense.

Et c’est ici que cette histoire, véridique, devient réellement intéressante.

Les cobras n’ayant plus de valeur les éleveurs les relâchent dans les rues ce qui accroît la population de serpents au-delà de ce qu’elle était au plus chaud de l’été.

L’économiste allemand Horst Siebert s’est servi de cet exemple historique pour illustrer ce que sont les « incitations perverses » dans son livre Der Kobra-Effekt paru en 2001.

Une incitation perverse est une incitation qui a un résultat imprévu et indésirable, contraire aux intentions de ses concepteurs généralement parce que l’incitation récompense involontairement les personnes qui aggravent le problème. 

L’Effet Cobra est le type d’incitation perverse le plus direct.

Les exemples d’Effet Cobra pullulent dans tous les domaines. Du contrôle des nuisibles avec les cobras bien sûr mais également les rats (le grand massacre de rats à Hanoï en 1902) en passant par l’éradication de comportements ou de produits nocifs (destruction de plants de pavots en Afghanistan en 2002, allergie au sésame aux USA en 2021), préservation des monuments historiques (Royaume Uni), contrôle des coûts de la santé, politiques d’aide sociale et humanitaire… les exemples sont nombreux y compris dans les entreprises avec par exemple des systèmes de bonus inadaptés. Ainsi dans la Galaxie Mulliez, un système de primage dressait les 1 200 magasins de l’enseigne contre l’équipe en charge du site e-Commerce.

Si l’Effet Cobra semble évident après coup, il arrive souvent qu’au lancement d’une politique bien intentionnée il ne soit pas envisagé un résultat pire que la situation initiale. Lorsqu’il s’agit de comportement humain, il me semble nécessaire de prendre du recul et de commencer par se demander « ce qui pourrait mal tourner ».

Ainsi que le souligne Nassim Nicholas Taleb (vous vous rappelez, c’est l’auteur du Cygne Noir), la vie se situe dans l’espace des conséquences et c’est bien ce que traduit l’Effet Cobra.

Or, une IA Générative telle que ChatGPT se situe dans l’espace des probabilités, un monde théorique d’universitaire où l’Effet Cobra n’existe pas.

Yann LeCun, LE spécialiste français de l’IA le souligne d’ailleurs dans l’un de ses récents touits suite à la sortie de la nouvelle IA Générative Sora d’OpenAI : « La production de vidéos à l’aspect hyper réaliste à partir de prompts n’indique pas qu’un système comprend le monde physique. La génération est très différente de la prédiction causale à partir d’un modèle du monde ».

Il complète son propos sur l’IA Générative avec cette mise en perspective intéressante : « La partie « générative » du cerveau est celle qui transforme les idées et les plans en actions, y compris en paroles et en écrits. Mais la partie la plus difficile de l’intelligence est de trouver ces idées et ces plans. Dans le cerveau, les idées sont formées dans le cortex préfrontal. Le cortex moteur et le cervelet se chargent de les transformer en actions. Réduire l’intelligence à la génération, c’est comme réduire les logiciels à des instructions print() ».

Pourtant certains concepteurs d’IA et la plupart des, bien plus nombreux commentateurs, veulent nous faire croire qu’une IA est en prise avec la vie ce qui n’est vraiment, mais vraiment, pas le cas.

Il est puéril et dangereux de croire que l’IA soit intelligente.

Artificielle, soit, puissante, certainement, mais décidément pas intelligente surtout dans un monde VUCA, Volatile, Incertain, Complexe et Ambigu.

Ce que réalisent déjà les IA et surtout ce qu’elles réaliseront demain va impacter nos sociétés de façon différente et bien au-delà de ce à quoi nous nous attendons. Mais ce qui ne changera pas c’est que la meilleure façon de créer un modèle économique est de tenter de résoudre un problème précis pour un client donné – (voir cette video collector) et pour ce faire l’IA peut, dans la majorité des cas, y aider.

C’est pourquoi il est crucial de s’y intéresser et surtout d’expérimenter pour en comprendre son fonctionnement, ses limites et son potentiel. Je vous propose une méthodologie pour savoir d’où partir et dans quelle direction aller dans cette série sur l’IA Générative. Mais gardez à l’esprit qu’une IA n’est pas un Powerpoint, son usage peut être non seulement terriblement inefficient (tout comme un PPT) mais également irresponsable (voir ici).

Depuis 2018, je réalise chaque mois des Petit Déjeuners puis des Webinaires avec Gerard Haas de Haas Avocats sur des thèmes autour de l’IA. Le e-Commerce était notre thème du mois de février (pour le Replay : IA et e-commerce : Le grand chamboule-tout de 2024 – Quelles menaces, quelles opportunités ?), la Cosmétique et la Beauté en novembre, la Santé en octobre…

Beaucoup d’entreprises et encore plus de consultants parlent de l’IA, chez VUCA Strategy nous en parlons aussi mais nous en créons depuis 2021 avec notre Lab consacré à l’IA, VUCA AI afin d’expérimenter et de créer nos propres IA (elles s’appellent ALICE et LUCIE).

L’impact de l’IA est potentiellement plus important que celui qu’a eu le Web.

Et pas plus que pour ce dernier les lecteurs de boule de cristal ne sauront décrire l’avenir.

Il ne sert pas davantage de prétendre refuser ce qui s’impose à nous que de faire preuve de naïveté sur ses possibles conséquences.

Et de citer mon prédicateur préféré, « Mais Dieu se rit des priéres qu’on luy fait pour détourner les malheurs publics, quand on ne s’oppose pas à ce qui se fait pour les attirer. »

Jacques Bénigne Bossuet, Histoire des variations des Églises protestantes, vol. I, livre IV, p. 149.

Scott Galloway a une superbe accroche à ce sujet : Corporate Ozempic. 

L’IA va détruire beaucoup d’emplois et ses premiers utilisateurs se montrent étonnamment discrets sur cette cure amaigrissante des effectifs qui, pourtant, booste leurs résultats financiers.

L’année 2024 est placée sous le signe du Dragon de Bois. Les astres chinois nous prévoient donc beaucoup d’imprévus, des opportunités surprenantes, mais aussi de beaux revirements de situations !

Bref, une belle année pour l’IA.

Pour vous qui croyez comme moi en la sensibilité et en l’intelligence humaine, permettez-moi de partager avec vous ma dernières découverte (et n’hésitez pas à partager avec moi les vôtres). Il s’agit de la peintre Zinaida Serebriakova, née en 1884 à Kharkov, une femme remarquable qui a su transmettre tant de tendresse, de joyeuse et sereine intimité au travers de son art que…. je n’en suis toujours pas remis.

Je vous invite à comparer ses œuvres à celles de Refik Anadol, « l’artiste du moment » qui, bien sûr, utilise l’IA….

Inoxydablement,

Jean-Paul CRENN