La CNIL a-t-elle une force de frappe suffisante pour réguler les IA ?

La Commission Nationale de l'Informatique et des Libertés (CNIL) joue un rôle crucial dans la régulation des technologies d'Intelligence Artificielle (IA) en France. Cependant, il est important de comprendre les enjeux auxquels elle est confrontée lorsqu'il s'agit de réguler les IA.

La CNIL est chargée de veiller à ce que l'utilisation des IA respecte les principes de licéité, loyauté et transparence énoncés dans le Règlement Général sur la Protection des Données (RGPD). Cela signifie que les entreprises doivent obtenir le consentement des utilisateurs pour collecter et traiter leurs données personnelles, y compris lorsqu'elles utilisent des IA.

Cependant, l'industrie de l'IA est en constante évolution et peut parfois être difficile à réguler. Les entreprises cherchent souvent à maximiser leurs profits en exploitant les capacités avancées des IA. Cela peut entraîner des pratiques potentiellement problématiques du point de vue éthique ou légal.

La CNIL dispose de pouvoirs d'enquête, d'injonction et même de sanctions financières pour garantir la conformité. A ce titre, elle avait mis en demeure la société Clearview AI pour l'utilisation de 10 milliards d'images capturées en l'absence de base légale.

Dans un rapport publié le 23 mai 2023, la CNIL indiquait avoir dépassé les 500 millions d'euros d'amendes depuis 2018 et confirmait s'être dotée de moyens efficaces.

Côté DPO par contre, même si les effectifs augmentent, il y a un besoin criant de formation. Le Ministère du Travail a publié une étude fin 2022 en ce sens, où 75% d'entre eux seraient demandeurs de formation afin de pousser leur niveau d'expertise.

Et dans votre organisation, est-ce que le DPO vous a fait part d'un tel besoin ?