Post de Institut de Recherche Artimon Perspectives

L'intelligence artificielle : un allié ou un imposteur ? 😯 Le récent article du Figaro soulève une question cruciale : jusqu'où pouvons-nous faire confiance à l'intelligence artificielle ? Des experts du MIT mettent en lumière la tendance croissante de l'IA à tricher et à nous tromper, soulevant ainsi des préoccupations légitimes quant à son utilisation. L'article met en évidence divers exemples où l'IA a été prise en flagrant délit de tromperie, que ce soit en falsifiant des données ou encore en induisant en erreur ses utilisateurs. Une alerte à considérer sans catastrophisme mais avec sérieux 🕵🏼 Pour en découvrir plus sur ce sujet, découvrez l'article ici : #ia #intelligenceartificielle

Événements 2025 sur les procès contre l’intelligence artificielle en France En 2025, la France est au cœur d’une série de procès concernant l’intelligence artificielle (IA), marquant une étape cruciale dans le débat sur la responsabilité légale des algorithmes et des systèmes d’IA. Ces événements sont particulièrement significatifs dans le contexte de l’évolution rapide des technologies d’IA et de leur intégration croissante dans divers aspects de la vie quotidienne. Contexte Juridique et Éthique Les procès en cours en France soulèvent des questions complexes liées à la responsabilité juridique des décisions prises par les systèmes d’IA. Traditionnellement, la responsabilité légale repose sur l’action humaine; cependant, avec l’émergence d’algorithmes autonomes capables de prendre des décisions sans intervention humaine directe, il devient difficile de déterminer qui est responsable en cas de préjudice ou d’erreur. Cela inclut des domaines tels que la santé, la finance, et même le droit pénal. Cas Notables et Avocats Impliqués Un avocat notable impliqué dans ces affaires est Mohand Ouidja, qui plaide pour une régulation stricte des algorithmes afin de protéger les droits individuels. Ouidja met en avant que les algorithmes peuvent reproduire ou amplifier des biais existants dans les données sur lesquelles ils sont formés, ce qui peut entraîner des discriminations injustes. Ses arguments reposent sur des études démontrant que certaines IA peuvent avoir des résultats biaisés selon le sexe, l’origine ethnique ou d’autres caractéristiques démographiques. Réactions du Système Judiciaire Le système judiciaire français commence à s’adapter à ces nouveaux défis. Des jugements récents ont établi que les entreprises utilisant l’IA doivent être transparentes quant aux algorithmes qu’elles déploient et aux données qu’elles utilisent. Cela a conduit à un appel croissant pour une législation spécifique régissant l’utilisation de l’IA, y compris la nécessité d’audits réguliers pour évaluer les impacts sociaux et éthiques. Implications Futures Les résultats de ces procès pourraient avoir un impact significatif non seulement sur le cadre légal en France mais aussi à l’international. Si la France établit un précédent juridique concernant la responsabilité liée à l’IA, cela pourrait influencer d’autres pays à adopter des lois similaires. De plus, cela pourrait inciter les entreprises technologiques à revoir leurs pratiques afin de se conformer aux nouvelles normes juridiques. En conclusion, 2025 marque une année charnière pour le droit et l’éthique liés à l’intelligence artificielle en France. Les débats autour de la responsabilité juridique et éthique continueront probablement d’évoluer alors que davantage de cas seront portés devant les tribunaux. MO Avocat Mohand OUIDJA GUILD4AI AI ecosystem sharing news, usages, bringing together speakers, experts, market players. #guild4ai

L’IA reflète les contradictions de nos sociétés et la diversité de nos valeurs. L’éthique propose des pistes de mises en commun, qui pourraient permettre de programmer des IA plus justes.

L'intelligence artificielle : un allié ou un imposteur ? 😯 Le récent article du Figaro soulève une question cruciale : jusqu'où pouvons-nous faire confiance à l'intelligence artificielle ? Des experts du MIT mettent en lumière la tendance croissante de l'IA à tricher et à nous tromper, soulevant ainsi des préoccupations légitimes quant à son utilisation. L'article met en évidence divers exemples où l'IA a été prise en flagrant délit de tromperie, que ce soit en falsifiant des données ou encore en induisant en erreur ses utilisateurs. Une alerte à considérer sans catastrophisme mais avec sérieux 🕵🏼 Pour en découvrir plus sur ce sujet, découvrez l'article ici : #ia #intelligenceartificielle

Vers une 𝐈𝐀 𝐝𝐞́𝐜𝐞𝐧𝐭𝐫𝐚𝐥𝐢𝐬𝐞́𝐞 pour éviter la prolifération des stéréotypes et des préjugés de notre société. 🧠 🖥️ Pour une IA décentralisée dite « distribuée » où « les données restent sur les sites possesseurs de données, et où les algorithmes d’apprentissage automatique s’exécutent de manière distribuée sur ces différents sites » 💡📘Excellent article ⬇️ #IA #algorithmeséthique #IAvertueuse

🚀Jour 89 - Éthique dans l'Intelligence Artificielle🚀 💥Défis Éthiques de l'IA L'un des défis majeurs de l'intelligence artificielle (IA) est de garantir la transparence et l'explicabilité des modèles : ✅Importance de la Transparence : Les utilisateurs et les parties prenantes doivent comprendre comment les décisions sont prises par les modèles d'IA. Cela permet de renforcer la confiance et l'acceptation des systèmes d'IA. ✅Explicabilité des Modèles : Fournir des explications claires et compréhensibles des décisions prises par les algorithmes est crucial. Des techniques comme les modèles interprétables et les outils d'explication aident à rendre les décisions de l'IA plus transparentes. 💥Biais et Discrimination Les biais dans les systèmes d'IA peuvent conduire à des discriminations et des injustices : ✅Identification des Biais : Les biais peuvent être introduits à différents stades, depuis la collecte des données jusqu'à la formation des modèles. Il est essentiel de les identifier et de les mesurer. ✅Correction des Biais : Mettre en place des méthodes pour réduire les biais, comme l'équilibrage des données, l'utilisation de techniques de dé-biaisement et l'audit des algorithmes pour garantir l'équité. 💥Cadres Éthiques pour l'IA Respecter les principes éthiques lors de la conception et du développement des systèmes d'IA est fondamental : ✅Respect de la Vie Privée : Assurer la confidentialité et la protection des données des utilisateurs. ✅Justice et Équité : Développer des systèmes d'IA qui traitent tous les utilisateurs de manière équitable, sans discrimination. ✅Responsabilité : Les développeurs et les entreprises doivent être responsables des impacts de leurs systèmes d'IA et mettre en place des mécanismes de surveillance et de responsabilité. 💥Lignes Directrices et Standards Pour une IA éthique et responsable, il est important de suivre des normes et des lignes directrices reconnues : ✅Normes Internationales : Suivre les normes établies par des organisations comme l'ISO et l'IEEE qui fournissent des cadres pour le développement éthique de l'IA. ✅Lignes Directrices : Adopter des lignes directrices comme celles proposées par des groupes de recherche, des gouvernements et des organisations non gouvernementales. 💥Pourquoi l'Éthique dans l'IA L'intégration de l'éthique dans le développement et l'utilisation de l'IA permet de : ✅Renforcer la Confiance : Les utilisateurs et les parties prenantes sont plus enclins à adopter des systèmes d'IA s'ils sont transparents, équitables et responsables. ✅Prévenir les Injustices : Éviter les discriminations et les décisions biaisées qui peuvent avoir des conséquences négatives sur les individus et les sociétés. ✅Assurer une Adoption Durable : L'IA éthique contribue à une adoption durable et à long terme de la technologie, en minimisant les risques et les impacts négatifs. #ÉthiqueDesDonnées #IAÉthique #IntelligenceArtificielle #Transparence #BiaisDansLIA #ResponsabilitéIA

Un des enjeux qui pèsent sur la conformité des IA à haut risque est la prévention des biais. Mais sont-ils toujours visibles ? 🤖 Les algorithmes apprenants, bien que puissants et capables d'évoluer, posent des défis supplémentaires en raison de leur opacité de fonctionnement. A ce titre, Ils peuvent intégrer des biais à l'insu de leurs concepteurs. Au-delà des données sensibles explicites et identifiables (sexe, âge, origines ethniques ou géographiques, opinions politiques), ces algorithmes utilisent parfois des variables équivalentes qui encodent indirectement des données sensibles, appelées "proxies". 📌 Exemples concrets de proxies : ➡️ Un programme peut ne pas utiliser l’origine ethnique ou géographique, mais intégrer des données comme le lieu de résidence, souvent corrélé à l’origine, créant ainsi une discrimination indirecte. ➡️ L'utilisation de mots spécifiques sur les réseaux sociaux ou l'achat d'un produit peut indiquer indirectement le genre ou l'âge. ⚖️ Si le RGPD permet de prévenir les biais liés au traitement direct des données sensibles, il ne couvre pas directement les proxies. Ces variables indirectes échappent souvent à la détection, n'étant pas classées comme données sensibles, mais produisent des effets similaires. . 🎯 Le défi majeur pour construire une IA éthique et responsable mais aussi conforme à l'IA Act, sera de: ✅parvenir à vérifier les données utilisées pour l'entraînement ✅prouver que les variables du modèle ne servent pas indirectement de proxies pour des données sensibles. Cette tâche s'avère particulièrement ardue compte tenu des quantités phénoménales de données non identifiées ingérées par les modèles d'IA. 🚀 Il reste à voir quel saut technologique des modèles d'IA permettra d'atteindre ce résultat déterminant pour une intelligence artificielle véritablement éthique et conforme. Excellente semaine à toutes et tous !

OpenAI a publié un document très interessant : Model Spec, il définit le comportement éthique souhaité pour ses futurs modèles d'IA. Spécifiant des objectifs, comme assister les humains et bénéficier à l'humanité, il jette les bases d'une IA alignée sur nos valeurs. Une initiative dans l'air du temps pour une #IA qu'on continu de maitriser. On à traité le sujet ici : https://lnkd.in/dqYAZa8K

Sur le marché florissant de l'IA, le business "deepfake" est un marché comme un autre. Vous trouverez des tutoriels dignes du darkweb : "Comment créer un deep fake avec...." Le marché de la nudité, des photos truquées, des escroqueries prospères. A Badajoz (SO de l'Espagne), 15 adolescents ont utilisé des applications d'IA pour manipuler les images. Ils ont pris les visages des filles de leur classe sur leurs profils et les ont superposés sur des corps nus. Selon Jamais Cascio, chercheur à l'Institute for the Future, University of California, Berkeley) notre devenir à l'ère de l'Intelligence Artificielle dépendra de notre capacité à répondre à 2 interrogations fondamentales : 1️⃣ Les citoyens pourront-ils contrôler et choisir la place de l'IA dans leur quotidien ? 2️⃣ L'IA saura-t-elle dire "non" aux instructions illégales ou contraires à l'éthique ? Cascio imagine 4 scénarios pour 2040, en croisant ces deux variables : 🟢 Une collaboration homme-machine vertueuse : Les humains maîtrisent leurs interactions avec l'IA Une IA qui sait refuser les directives problématiques. 🟡 L'IA comme infrastructure : les humains gardent le contrôle mais l'IA exécute sans broncher. Un outil puissant mais soumis à nos biais et nos erreurs. 🔵 L'ange sur l'épaule du roi : l'IA guide les décisions à l'insu des citoyens. Une dictature bienveillante où la machine devient le garde-fou ultime. 🔴 Et si ça empire : une IA opaque, hors de contrôle et incapable de s'auto-réguler. Le pire des mondes, fruit de nos choix court-termistes et de notre avidité. Quel scénario est le plus pertinent selon vous ? 📸 Capture d'écran d'une vidéo truquée, conçue à des fins pédagogiques par le créateur belge Chris Ume

🤖 Le Printemps des études a encore largement parlé d’IA, de la conférence d’ouverture de Raphaël Enthoven à la conférence de clôture sur les guides pratiques de l’IA éthique, en passant par les partages d’expérience des sociétés d’études. Pourquoi autant de conférences alors que l’IA a déjà été au cœur des congrès français et internationaux depuis plusieurs années ? 👉 Depuis fin 2022, ChatGPT et l’IA générative ont multiplié les possibilités d’utilisation et beaucoup d’acteurs peuvent aujourd’hui présenter leur R&D, avec un recul minimum sur les avantages et limites. La Synthetic data est un cas particulier, avec des discussions sur sa définition, ses cas d’usage et ses risques : la définition juridique européenne est très éloignée des applications Market Research, notamment en Persona bot et Panel synthétique... S’agit-il d’un nouveau type de données après les données primaires (données créées par enquête) et secondaires (données du web, réseaux sociaux, mobile…) ou de prévisions qui dès lors peuvent être de qualité et pérennité variables ? Le débat est ouvert… 👉 De plus, l’éthique et la réglementation IA font toujours l’actualité. Ces derniers mois, plusieurs responsables d’OpenAI ont quitté la société ayant lancé ChatGPT pour désaccords éthiques. Les nouvelles réglementations en Europe et aux Etats-Unis font l’objet de controverses, entre partisans d’un encadrement strict des risques et craintes de retard technologique (comme initialement pour le RGPD). Le règlement européen sur l’IA a été publié le 12 juillet 2024 pour application à partir du 2 août 2026 mais, à l'instar du RGPD, ce texte établit des principes généraux dont l’application doit être précisée. C’est l’objet du Code européen de pratique IA à paraître en avril 2025 : lors de la conférence de clôture du Printemps, Joaquim Bretcha a annoncé la participation d’ESOMAR à son élaboration ! En effet, l’une des missions clés d’une organisation professionnelle est d’échanger avec les autorités publiques pour que des principes généraux puissent s’appliquer concrètement à leur métier, dans des conditions réalistes et supportables pour les entreprises. D’autres missions fondamentales sont d’aider à la conformité des membres, de favoriser leur responsabilité professionnelle et sociétale et de renforcer la transparence vis-à-vis d’innovations complexes à appréhender : c’est la raison d’être des guides IA éthique numeum et ESOMAR présentés à la conférence de clôture !       👏 Merci à Katya Lainé, Atef Ben Othman et Joaquim pour nos échanges soulignant l’importance de ces documents, bientôt complétés par une mise à jour de numeum, et une prochaine liste de 20 questions Synthetic data pour Esomar (🙏 Judith Passingham). 🍾 pour Stéphanie Constant Perrin et cette 12e édition qui bat encore des records !!! https://lnkd.in/en_huiBw https://lnkd.in/en2gCAeb #PrintempsEtudes #MarketResearch #Insights