Post de Institut de Recherche Artimon Perspectives

Laissez ma brosse à dents tranquille ! L'engouement autour de l'intelligence artificielle (IA) a atteint des sommets, parfois de manière absurde. Même ma propre brosse à dents, une Oral B, entre dans le jeu du "marketing IA", illustrant comment l'IA semble s'être "infiltrée" dans les produits les plus quotidiens. Evidemment, la brosse à dent n'a pas d'IA ! Récemment, la Securities and Exchange Commission (SEC) américaine a mis en lumière une pratique troublante : l'« IA-washing », similaire au tristement célèbre "greenwashing". Le 21 mars 2024, elle a sanctionné deux sociétés de conseil en investissement, Delphia et Global Advisor, pour avoir faussement affirmé utiliser l'IA, leur infligeant des amendes totalisant 400 000 dollars. Ces entreprises ont été prises en flagrant délit de mensonges, non pour avoir promis l'impossible, mais pour n'avoir tout simplement pas intégré les technologies qu'elles prétendaient utiliser. Cet abus marketing menace de saper la crédibilité de l'IA, un domaine qui est le fruit de décennies de recherche et de développement. Il ne faudrait pas que des comportements non éthiques discréditent ou ridiculisent le travail sérieux et les résultats réels obtenus dans le champ de l'IA. Dans l'ombre du progrès, certaines entreprises utilisent l'IA comme un outil de marketing trompeur. Cette situation souligne la nécessité d'une vigilance accrue et d'une compréhension approfondie de ce que l'IA peut réellement offrir. Nous devons donc reconnaître l'importance de l'IA comme un outil potentiellement révolutionnaire — mais pas nouveau ! Son véritable potentiel ne peut être atteint que si nous maintenons une exigence élevée en matière de transparence et d'intégrité. L'action récente de la SEC met en évidence l'urgence d'une éducation plus large sur l'IA, pour permettre une distinction claire entre les vraies innovations et le simple vernis technologique. Il est impératif de ne pas laisser l'IA devenir un autre vecteur de désinformation. Engageons-nous à utiliser cette technologie de manière éthique et responsable, pour qu'elle serve réellement l'humanité et non les intérêts d'une minorité. #IntelligenceArtificielle #EthiqueIA #Transparence #SEC #OralB

🤖 Vers des intelligences artificielles plus sûres : l’adoption de l’AI Act Surpuissantes et particulièrement évolutives, les IA se sont récemment retrouvées au cœur d’un certain nombre d’affaires impliquant des atteintes aux libertés et droits des individus. ⚖️ Pour y remédier, le Parlement européen a adopté, ce 13 mars 2024, l’AI Act, un règlement contraignant pour la première fois les usages de cette technologie à l’échelle européenne. Il vise ainsi à garantir que les systèmes d’IA commercialisés au sein de l’UE soient utilisés de manière sûre, éthique et respectueuse des droits fondamentaux de l’UE, tout en soutenant l’innovation. Ce texte s’articule autour d’obligations différentes en fonction des niveaux de risques que présente l’IA, catégorisée comme suit : 🟥 L’IA à risque inacceptable : tout usage de cette catégorie est prohibé ; ces systèmes et modèles d’IA ne peuvent être commercialisés, même en dehors de l’UE (ex : scoring social, exploitation des vulnérabilités, etc.). 🟧 L’IA à haut risque : très fortement régulée, elle doit faire l’objet d’un marquage CE pour être commercialisée et est soumise à des exigences vis-à-vis des utilisateurs, telles que la transparence, l’exactitude des informations, l’établissement d’un système de management des risques, etc. (ex. : lien avec l’éducation, la biométrie, l’application des lois, etc.). 🟨 L’IA à risque faible : soumise à des obligations d’information et de transparence vis-à-vis des utilisateurs quant aux contenus générés par l’IA (ex. : la détection d’émotions, l’interaction avec des humains, la génération de contenus, etc.). 🟩 L’IA à risque minime : les IA de cette catégorie peuvent respecter des codes de conduite de manière volontaire (ex. : jeux-vidéos, filtres anti-spam, etc.). ⚠️ A noter que pour les IA génératives ou les modèles d’IA à usage général (en particulier les LLM), leur régime de mise en conformité est différent, dans une démarche de prévention de « risques systémiques ». 👩⚖️ S’agissant de sa mise en conformité, est retrouvée une logique de pénalités calculées sur les revenus de l’entreprise fautive, similaire à celles du RGPD. ✅ À condition qu’elle soit encadrée, l’utilisation des IA peut avoir un impact positif et être source d’opportunités, tel qu’en témoigne le récent rapport de la commission de l’intelligence artificielle remis à l’Elysée le 13 mars dernier. 🌐 Le règlement fera l’objet d’une version finale définitive le 22 avril 2024. 💡 Notre conseil : il est essentiel pour les opérateurs d’anticiper au mieux ce règlement en employant tous les efforts nécessaires pour se mettre en conformité dès que possible. Les obligations prévues s’appliquant à chaque système ou modèle d’IA et non à l’entreprise en totalité, il peut être opportun de réaliser une cartographie de ceux que vous utilisez.

L'intelligence artificielle : un allié ou un imposteur ? 😯 Le récent article du Figaro soulève une question cruciale : jusqu'où pouvons-nous faire confiance à l'intelligence artificielle ? Des experts du MIT mettent en lumière la tendance croissante de l'IA à tricher et à nous tromper, soulevant ainsi des préoccupations légitimes quant à son utilisation. L'article met en évidence divers exemples où l'IA a été prise en flagrant délit de tromperie, que ce soit en falsifiant des données ou encore en induisant en erreur ses utilisateurs. Une alerte à considérer sans catastrophisme mais avec sérieux 🕵🏼 Pour en découvrir plus sur ce sujet, découvrez l'article ici : #ia #intelligenceartificielle

L'intelligence artificielle : un allié ou un imposteur ? 😯 Le récent article du Figaro soulève une question cruciale : jusqu'où pouvons-nous faire confiance à l'intelligence artificielle ? Des experts du MIT mettent en lumière la tendance croissante de l'IA à tricher et à nous tromper, soulevant ainsi des préoccupations légitimes quant à son utilisation. L'article met en évidence divers exemples où l'IA a été prise en flagrant délit de tromperie, que ce soit en falsifiant des données ou encore en induisant en erreur ses utilisateurs. Une alerte à considérer sans catastrophisme mais avec sérieux 🕵🏼 Pour en découvrir plus sur ce sujet, découvrez l'article ici : #ia #intelligenceartificielle

[#DauphineÉclairages] "L’encadrement des #IA Génératives par le règlement #européen sur l’IA : un exercice d’équilibrisme" 🇪🇺 ⚖️ Contrôle des modèles d’intelligence artificielle, examen de conformité, respect du droit d’auteur... avec le Règlement européen sur l'IA (RIA), l'UE publie la première réglementation d’envergure sur les usages des IA génératives. Peut-on véritablement encadrer l'IA sans freiner l'innovation ? Quelles conséquences pour les entreprises et la société ? 🔍 Découvrez l'analyse d'Olivia Tambou, maître de conférences en droit à l'Université Paris Dauphine - PSL, #CR2D (Droit Dauphine), dans un article de Dauphine Éclairages, en collaboration avec The Conversation France. Lire l'article du nouveau dossier spécial consacré aux IA Génératives ⬇️ https://lnkd.in/ebqUiQjE

OpenAI a publié un document très interessant : Model Spec, il définit le comportement éthique souhaité pour ses futurs modèles d'IA. Spécifiant des objectifs, comme assister les humains et bénéficier à l'humanité, il jette les bases d'une IA alignée sur nos valeurs. Une initiative dans l'air du temps pour une #IA qu'on continu de maitriser. On à traité le sujet ici : https://lnkd.in/dqYAZa8K

Impossible d’ouvrir votre fil d’actualité sans voir foisonner des breaking news sur la dernière IA générative en vogue. 🤖 Même votre oncle réfractaire au numérique semble conquis :  “C’est fou tout ce qu’on peut faire avec l’IA ! ” 🧓🏼 Montages humoristiques pour certains, nouvelles idées de business pour d’autres… Tout le monde semble avoir adopté les IA génératives dans le cadre privé comme professionnel. Mais ces merveilleux outils apportent avec eux leur lot d’enjeux juridiques, voire éthiques. C’est pour tenter de répondre à ces questions que l’UE a récemment déployé un nouveau bouclier légal : l’AI Act. Mais concrètement, que contient ce texte ? S’agit-il de mesures restrictives ? Ou de mesures favorisant l’innovation ? On a décortiqué la documentation du Parlement Européen et de la Commission Européenne, voici notre décryptage ! Avec, en bonus, quelques réflexions philosophiques à la fin... 👇

Vers une 𝐈𝐀 𝐝𝐞́𝐜𝐞𝐧𝐭𝐫𝐚𝐥𝐢𝐬𝐞́𝐞 pour éviter la prolifération des stéréotypes et des préjugés de notre société. 🧠 🖥️ Pour une IA décentralisée dite « distribuée » où « les données restent sur les sites possesseurs de données, et où les algorithmes d’apprentissage automatique s’exécutent de manière distribuée sur ces différents sites » 💡📘Excellent article ⬇️ #IA #algorithmeséthique #IAvertueuse

🚀Jour 89 - Éthique dans l'Intelligence Artificielle🚀 💥Défis Éthiques de l'IA L'un des défis majeurs de l'intelligence artificielle (IA) est de garantir la transparence et l'explicabilité des modèles : ✅Importance de la Transparence : Les utilisateurs et les parties prenantes doivent comprendre comment les décisions sont prises par les modèles d'IA. Cela permet de renforcer la confiance et l'acceptation des systèmes d'IA. ✅Explicabilité des Modèles : Fournir des explications claires et compréhensibles des décisions prises par les algorithmes est crucial. Des techniques comme les modèles interprétables et les outils d'explication aident à rendre les décisions de l'IA plus transparentes. 💥Biais et Discrimination Les biais dans les systèmes d'IA peuvent conduire à des discriminations et des injustices : ✅Identification des Biais : Les biais peuvent être introduits à différents stades, depuis la collecte des données jusqu'à la formation des modèles. Il est essentiel de les identifier et de les mesurer. ✅Correction des Biais : Mettre en place des méthodes pour réduire les biais, comme l'équilibrage des données, l'utilisation de techniques de dé-biaisement et l'audit des algorithmes pour garantir l'équité. 💥Cadres Éthiques pour l'IA Respecter les principes éthiques lors de la conception et du développement des systèmes d'IA est fondamental : ✅Respect de la Vie Privée : Assurer la confidentialité et la protection des données des utilisateurs. ✅Justice et Équité : Développer des systèmes d'IA qui traitent tous les utilisateurs de manière équitable, sans discrimination. ✅Responsabilité : Les développeurs et les entreprises doivent être responsables des impacts de leurs systèmes d'IA et mettre en place des mécanismes de surveillance et de responsabilité. 💥Lignes Directrices et Standards Pour une IA éthique et responsable, il est important de suivre des normes et des lignes directrices reconnues : ✅Normes Internationales : Suivre les normes établies par des organisations comme l'ISO et l'IEEE qui fournissent des cadres pour le développement éthique de l'IA. ✅Lignes Directrices : Adopter des lignes directrices comme celles proposées par des groupes de recherche, des gouvernements et des organisations non gouvernementales. 💥Pourquoi l'Éthique dans l'IA L'intégration de l'éthique dans le développement et l'utilisation de l'IA permet de : ✅Renforcer la Confiance : Les utilisateurs et les parties prenantes sont plus enclins à adopter des systèmes d'IA s'ils sont transparents, équitables et responsables. ✅Prévenir les Injustices : Éviter les discriminations et les décisions biaisées qui peuvent avoir des conséquences négatives sur les individus et les sociétés. ✅Assurer une Adoption Durable : L'IA éthique contribue à une adoption durable et à long terme de la technologie, en minimisant les risques et les impacts négatifs. #ÉthiqueDesDonnées #IAÉthique #IntelligenceArtificielle #Transparence #BiaisDansLIA #ResponsabilitéIA