F*ck the Algorithm !

« Fuck the algorithm, fuck the algorithm » tel était le slogan de jeunes britanniques en aout 2020 pour protester contre l'utilisation d'un algorithme prédictif pour établir les notes au bac anglais, dont le passage en physique était devenu impossible. Un article du 17 août 2020 de Courrier International relatait cet épisode estival.

Résultat : un véritable tollé qui a obligé le gouvernement britannique à revenir vers une prédiction faite par les enseignants.

Pourquoi le recours à un algorithme a-t-il rencontré une telle opposition ?

• Est-ce que parce que l'algorithme est douteux en matière de fiabilité ?

Fort possible car parmi les exemples douteux, figure le cas de jumeaux aux mêmes parcours qui ont obtenu par l'algorithme des notes totalement différentes. Le doute est donc permis sur la fiabilité mais à vrai dire, même si l'algorithme était certifié "fiable à 99%" (posons comme hypothèse que la perfection n'existe pas dans un modèle prédictif ou par apprentissage), le problème restera le même. Nous ne sommes pas habitués à ce qu'une machine fasse des erreurs. Nous le lui pardonnons pas. Nous pardonnons et acceptons l'erreur chez un humain , mais pas un machine ! Notre éducation et notre rapport à l'informatique nous a conditionné de cette manière.

• Est-ce parce que l'algorithme possède des biais et accentue par exemple, les inégalités sociales ?

A priori oui car l'article de Courrier Internationnal mentionne que "les élèves les plus défavorisés se sont souvent vus attribuer des notes inférieures". Sachez toutefois que le cerveau humain, organe aussi puissant soit-il, est sujet à de nombreux biais. Les entrepreneurs John Manoogian III et Buster Benson (ex de Slack) ont recensé + de 180 biais cognitifs. Les décisions humaines ne sont donc pas la garantie de l'équité de traitement et de jugement, mais nous sommes disposés à l'accepter.

• L'idée qu'une machine puisse "décider" de l'avenir d'une personne n'engendre-t-il pas un malaise trop important ?

Sans nul doute, mais j'ajoute pour alimenter la réflexion qu'il n'est pas nouveau que les algorithmes dirigent une partie de nos vies et il y a une forme d'acceptation générale.

1. Twitter, Facebook, LinkedIn, Instagram, TikTok "décident" par leurs algorithmes de ce que l'on doit lire ou pas.
2. Google met en avant tel ou tel site en fonction des résultats de son algorithme.
3. Meetic et ses concurrents "décident" de qui nous devons rencontrer en fonction d'un algorithme de "matching" d'affinités.
4. L'émission "Mariés au premier regard" revient sur M6 le lundi 8 mars 2021 à 21h05. L'émission créée la polémique depuis 2016 mais nous en sommes à la 5ième saison, ce qui est un succès en terme d'audimat pour une émission de prime time d'une chaîne historiquement non TNT.

• Est-ce parce que nous ignorons le fonctionnement de l'algorithme et l'idée de ne pas savoir est inacceptable ?

J'en suis tout à fait persuadé. L'un des moteurs de l'acceptation est la compréhension et la compréhension n'est possible que s'il y a explication. L'explicabilité des algorithmes est d'une importance fondamentale à un point où le caractère de "boîte noire" ou "boîte blanche" des algorithmes fait actuellement l'objet de débats réglementaires. A noter que l'explicabilité des algorithmes est déjà une obligation dans le cadre du RGPD. Les chefs de projet de système d'information basé sur de l'IA savent (ou doivent savoir) qu'une des clefs de la réussite de leur projet réside dans la qualité de leur accompagnement au changement. Il est encore plus nécessaire d'expliquer, didactiquement, le fonctionnement des SI, sous peine de rejet des utilisateurs.

Les interrogations sont simples mais les réponses sont plus complexes. En tout état de cause, ces réponses soulèvent des problématiques fondamentales d'ordre éthique. L'impact des "nouvelles technologies" sur nos modes de vie et notre façon de penser est devenu si fort qu'il est nécessaire de redéfinir un cadre éthique dans lequel doivent s'inscrire ces technologies.

La compatibilité de la technologie et de l'éthique est justement le centre des débats de la prochaine table ronde que j'anime le 9 mars 2021.