<Celui qui code, intègre sa vision du monde.>

Voitures autonomes, diagnostics médicaux par ordinateurs, admissions dans l’enseignement supérieur, création automatique d’articles de presse… L’intelligence artificielle révolutionne nos sociétés et intervient dans la prise de décision dans bien des domaines. 

Pour autant, les algorithmes sont codés par des humains et leur application reflète les systèmes de représentation de leur concepteur. Autant qu’elle façonne notre société, l’IA en reflète ses biais et en perpétue les inégalités !

Les enjeux de diversité dans l’intelligence artificielle

La “Moral Machine” est une enquête mondiale réalisée en 2018 auprès de 2,3 millions de personnes dans le monde entier, sur l’éthique de la programmation des véhicules autonomes. L’étude présente 13 scénarios dans lesquels la mort d’au moins une personne est inévitable aux sondé.e.s, doivent choisir qui épargner dans diverses situations : jeunes ou plus âgés, riches ou pauvres… L’enquête cartographie les variations mondiales de l’éthique. Ainsi, 3 groupes et 2,3 millions de personnes qui auraient programmé ces voitures autonomes selon 3 codes moraux différents.

Parce que les codes moraux ne sont pas universels, la neutralité des algorithmes devient impossible. L’intelligence artificielle, loin d’être une technologie arbitraire, résulte de la conception d’algorithmes biaisés. Ils reflètent, propagent et amplifient les perceptions de ceux qui la façonnent. 

Qui sont ses concepteurs ? Exit l’écriture inclusive pour cette fois : L’intelligence artificielle* constitue un écosystème fermé, peu inclusif et très peu mixte. Les femmes, à titre d’exemple, sont représentées à hauteur de 15% dans les métiers de l’intelligence artificielle. 

L’intelligence artificielle, un concours de Gigabytes ?

Les stéréotypes de genre véhiculés dans l’éducation, la perpétuation d’une culture geek, la minimisation de la participation des femmes aux avancées technologiques, l’idée que les femmes seraient plutôt destinées aux sciences dites “molles”, alors que les hommes seraient plutôt brillants dans les sciences dites “dures”… Nombreux sont les facteurs qui depuis des siècles, façonnent une image “masculine” de l’informatique et de l’intelligence artificielle. 

Or, si les équipes de programmation des algorithmes ne sont constituées que de personnes de même sexe, de même origine, de même culture, de même formation, le risque est que tou.te.s regardent les sujets sous le même angle, avec les mêmes critères et les mêmes biais. Autrement dit, sans diversité, on obtient des résultats qui peuvent négliger ou désavantager des groupes de personnes, voire des pans entiers de la population. Et ainsi, perpétuer des inégalités de genre que l’évolution humaine tend à faire disparaître.  

Il est bien plus simple de changer des lignes de codes, que de changer des mentalités. 

La création des algorithmes de l’IA ne doit pas rester entre les mains d’une catégorie restreinte de la population, car la construction du monde de demain doit reposer sur l’ensemble de la population. Les bénéfices de la mixité et de la diversité dans les instances dirigeantes et les technologies qui transforment profondément notre société ont déjà largement été prouvées. Un mélange des points de vue et des talents des profils constituant à parts égales la société est le seul garant d’une objectivité durable et des algorithmes et d’une culture de l’égalité. 

Pouvoirs publics, chercheur.se.s, entreprises et associations s’engagent dans la lutte contre les stéréotypes véhiculés par l’IA : logiciels de traque des algorithmes douteux, contrôle des bases de données, fixation de contraintes et quotas aux programmes, généralisation des statistiques genrées…

Enfin, au delà de la lutte contre ces biais, l’IA est en elle-même une opportunité de changer les mentalités. Dans l’intelligence artificielle plus encore qu’ailleurs, la diversité est un levier puissant et nécessaire de création de valeur. Le code source peut être créé et modifié pour refléter la société non plus telle qu’elle est, mais telle qu’elle doit être : égalitaire !

“Pour lutter contre l’inacceptable, il faudra solliciter et accompagner, avec volontarisme et détermination”, Cédric Villani, député français, dans la préface de l'essai "L'intelligence Artificielle, pas sans elles !"

*Intelligence artificielle (IA) : l’ensemble des théories et des techniques développant des programmes informatiques complexes capables de simuler certains traits de l’intelligence humaine.

Sources : 

• L’intelligence artificielle, pas sans elles !, par Aude Bernheim et Flora Vincent, préface par Cédric Villani.
• Self-driving car dilemmas reveal that moral choices are not universal, Nature.com.
• The Moral Machine experiment, une étude par Edmond Awad, Sohan Dsouza, Richard Kim, Jonathan Schulz, Joseph Henrich, Azim Shariff, Jean-François Bonnefon et Iyad Rahwan.