Peut-on faire rimer justice avec justesse avec l'IA ?
J comme Justice : une éthique pour l’avenir. Si l'on considère la justice comme l'Operating System de la société et que des algorithmes commencent à prendre des décisions, comment s’assurer qu’elles soient justes ? Prenons COMPAS, un algo utilisé dans le système judiciaire américain qui évalue le risque de récidive. Ce programme a été critiqué pour avoir des biais raciaux, donnant des scores de récidive plus élevés à des minorités. La justice exige que l’IA ne reproduise pas les biais des données qui l’entraînent, c'est un impératif. Lorsqu’un algorithme amplifie les inégalités, il ne s’agit plus seulement d’une erreur technique ou judiciaire, mais d’une double injustice ; se nourrissant du passé et impactant l'avenir. De la justice à la justesse. Une quête qui demande une posture : rester vigilant en interrogeant nos choix. Une IA juste doit non seulement être performante, mais être alignée avec les valeurs sociétales, équilibrant précision et nuance et en visant les valeurs de nos valeurs. Enfin, l’éthique, une boussole à garder en main, doit guider ces technologies. Mais pas une éthique théorique : une éthique appliquée servant le bien commun. Comme disait Paul Valéry : « Ce qui est simple est toujours faux. Ce qui ne l’est pas est inutilisable. » Entre ces deux extrêmes, l’IA doit amplifier le meilleur de l’humain, sans en trahir les valeurs. Et vous, qu'attendez-vous de l'IA pour garantir la justice ? Faudra-t-il auditer les algo comme un mécanisme de check & balances ?