Intelligence artificielle : quels enjeux ? Notes (succinctes) de lecture.

Deux grandes lecture des dernières semaines !

1. Un historique rapide de l'intelligence artificielle, en tant que domaine d'activité scientifique et technique [0]

2. Une réflexion autour des impacts de la mise en oeuvre observée de l'intelligence artificielle [1]

Ces deux ouvrages sont absolument passionnants. D'une part parce que les auteurs travaillent dans le domaine et n'ont pas découvert le sujet sur les réseaux sociaux :. D'autre part, parce qu'ils permettent de sortir de l'hégémonie du tout technique ("if it can be made, it will be") et du tout deep learning. Ce recul fait un bien fou.

Quels sont les points les plus importants ? Il y en aurait tant, c'est difficile de choisir. Citons, pêle-mêle, quelques rappels rafraichissants :

• L'histoire de l'intelligence artificielle se fait en parallèle de la découverte de la complexité algorithmique et des classes associées : chercher à résoudre un problème NP-difficile avec des méthodes brutales est illusoire. Pas de bol : les problèmes intéressants dans la vie réelle sont souvent NP-difficiles. C'est ballot.
• L'apprentissage automatique (machine learning) ne résume pas intelligence artificielle : sortons de l'ornière, chers amis. Il y a beaucoup d'autres sujets, tous passionnants. Je vous laisse les découvrir.
• L'apprentissage automatique est très performant pour certaines tâches. Pas toutes. Pas à n'importe quel prix.
• Amazon a vraiment des pratiques douteuses.
• La mise en œuvre des techniques d'apprentissage automatique, et d'IA, ne se fait pas dans un monde neutre, ethéré et impartial : les enjeux de pouvoir et de puissance sont nombreux. Voire prédominants.
• L'apprentissage automatique est très efficace dans les activités de classification et de normalisation. Elle s'appuie aussi sur ces classifications et normalisations passées. Qui décide ? Dans quel intérêt ?
• Un dataset, si "complet" soit-il, n'est qu'une vision partielle, partiale et limitée du monde. Réfléchissons à ces données d'entrainement, car elles conditionnent terriblement les résultats des algorithmes d'apprentissage automatique.

Rien n'est neutre. Le monde de la tech est au cœur d'enjeux qui dépassent violemment le petit monde feutré des ingénieurs en donnée et et data scientists. Il importe de réfléchir. Science sans conscience n'est que ruine de l'âme : truisme ? Non. Le mot de Rabelais du XVIème est toujours d'actualité, ces ouvrages le démontrent brillamment.

T

[0] Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence - Kate Crawford

[1] A Brief History of Artificial Intelligence: What It Is, Where We Are, and Where We Are Going - Michael Wooldridge