Le rôle actuel des algorithmes
Depuis quelques années, le monde commence à comprendre que notre quotidien est rythmé par ce que nous faisons et consommons, principalement influencés par ce que nous regardons sur nos écrans, ce que nous partageons, likons et commentons. Malheureusement, ce système existe depuis plus longtemps que cela, à travers des outils que nous avons utilisés sans même connaître leur impact. Dans cet article, nous allons mettre en lumière l'émergence des dernières technologies liées aux algorithmes et à l'intelligence artificielle, ainsi que les problèmes qu'elles posent dans une société toujours en quête d'anticipation et craignant l'inconnu.
Pour illustrer notre propos, nous reviendrons sur plusieurs points tels l'éducation supérieure, le travail en entreprise et l'utilisation des algorithmes dans le domaine de la police.
On répète souvent que les algorithmes et les outils technologiques sont neutres, permettant d'être objectifs et impartiaux. Cependant, c'est bel et bien l'utilisation qui est faite de ces outils qui peut poser problème. C'est ce que nous allons examiner dès à présent.
Les IA, pas si autonomes qu'elles en ont l'air
Nous avons déjà abordé à plusieurs reprises le sujet des générateurs d'images basés sur l'intelligence artificielle, qui ont connu une croissance exponentielle ces derniers mois. À partir d'une simple phrase contenant des mots-clés, l'IA est capable de générer une image contenant tous les éléments de la phrase. Cependant, pour parvenir à ce résultat, l'IA a besoin de données et de ressources pour calculer et comprendre ce qu'elle doit restituer. Comment cela est-il possible ? l'IA n'est pas directement connectée à une base de données d'images qui lui permettrait de comprendre chaque image et de la retranscrire en texte. Elle n'est pas autonome, loin de là. Afin de "nourrir" cette IA, de nombreuses plateformes, telles qu'Amazon, fournissent des micro-travaux d'interprétation d'images. Le but est simple : identifier tous les éléments composant l'image proposée.
Les algorithmes dans l'éducation
Recommandé par LinkedIn
Parcoursup, créé en 2018, est une plateforme permettant aux lycéens de formuler leurs vœux d'orientation en fin de parcours afin d'accéder à l'enseignement supérieur. Présentée comme plus équitable que son prédécesseur, cette plateforme a été critiquée par de nombreux témoignages remettant en question son fonctionnement. Parcoursup repose sur deux algorithmes. Le premier est celui du "matching", qui met simplement en relation l'élève et la formation qu'il souhaite suivre à l'avenir. Le deuxième est celui du classement, établi par les établissements, et c'est précisément ce dernier qui pose problème en raison de son manque de transparence quant aux critères de sélection. Malgré de bons résultats au baccalauréat, avec des mentions ou autres, de nombreux lycéens se voient refuser leurs premiers vœux, voire l'ensemble de leurs vœux, en raison de critères tels que la géographie.
La force des algorithmes et leurs pouvoirs de persuasion
La plateforme YouTube fonctionne avec un algorithme assez simple : lorsque vous regardez une vidéo sur un sujet, d'autres vidéos similaires vous sont proposées. Évidemment, plusieurs sujets gravitent autour de celui-ci. L'objectif de YouTube est de vous inciter à passer le plus de temps possible sur son application en vous proposant ces sujets connexes. Dans certains cas, cela peut être intéressant pour découvrir des sujets complémentaires à ce que l'on regarde, afin d'en apprendre davantage. Cependant, une étude réalisée par la plateforme a révélé que les sujets suscitant la peur ou la dépression chez les spectateurs étaient ceux qui les maintenaient le plus longtemps devant leur écran. Pour illustrer ce point, prenons l'exemple de la K-pop. Un sujet assez populaire depuis un certain temps, de nombreux contenus connexes sont apparus sur YouTube. Et l'un des sujets récurrents est celui des régimes alimentaires des stars. Malheureusement, ces régimes sont jugés trop drastiques et peuvent entraîner des troubles du comportement alimentaire, tels que l'anorexie par exemple.
Les algorithmes au travail
Amazon, qui compte plus de 1,3 million d'employés à travers le monde, des méthodes assez particulières sont utilisées pour le recrutement et la conversion des contrats temporaires en contrats à durée indéterminée (CDI). Dans la plupart des cas, de nombreux employés commencent par un contrat saisonnier d'une durée de 2 à 3 mois. Si l'employé est performant, son contrat peut être prolongé et il peut prétendre à la signature d'un CDI.
Cependant, les évaluations de performances reposent sur des algorithmes plus ou moins contestables : toutes les interactions avec les employés, les entrées et sorties, les pauses toilettes sont comptabilisées, ce qui conduit à l'attribution d'une note pour évaluer leur niveau au sein de l'entreprise. Aux États-Unis, les chauffeurs-livreurs sont filmés 24 heures sur 24 pour surveiller leurs actions. En 2018, en Allemagne, des enquêteurs ont découvert des caméras dans les vestiaires, utilisées pour espionner le comportement des employés afin de collecter des données alimentant les statistiques liées à leurs évaluations de performances.
En conclusion, nous constatons à travers ces exemples que les algorithmes ne sont plus uniquement présents dans nos applications et outils de divertissement que nous contrôlons sur nos téléphones, mais ils font désormais partie intégrante de notre vie quotidienne. Que ce soit pour trouver un emploi, accéder à une formation dans l'enseignement supérieur, et bien d'autres domaines encore, les algorithmes sont devenus essentiels pour réaliser des actions ou simplement prendre des décisions. Initialement perçus comme des outils de soutien, ils sont devenus incontournables pour certains.