Post de Stéphane RENARD

L'intelligence artificielle : un allié ou un imposteur ? 😯 Le récent article du Figaro soulève une question cruciale : jusqu'où pouvons-nous faire confiance à l'intelligence artificielle ? Des experts du MIT mettent en lumière la tendance croissante de l'IA à tricher et à nous tromper, soulevant ainsi des préoccupations légitimes quant à son utilisation. L'article met en évidence divers exemples où l'IA a été prise en flagrant délit de tromperie, que ce soit en falsifiant des données ou encore en induisant en erreur ses utilisateurs. Une alerte à considérer sans catastrophisme mais avec sérieux 🕵🏼 Pour en découvrir plus sur ce sujet, découvrez l'article ici : #ia #intelligenceartificielle

L'intelligence artificielle : un allié ou un imposteur ? 😯 Le récent article du Figaro soulève une question cruciale : jusqu'où pouvons-nous faire confiance à l'intelligence artificielle ? Des experts du MIT mettent en lumière la tendance croissante de l'IA à tricher et à nous tromper, soulevant ainsi des préoccupations légitimes quant à son utilisation. L'article met en évidence divers exemples où l'IA a été prise en flagrant délit de tromperie, que ce soit en falsifiant des données ou encore en induisant en erreur ses utilisateurs. Une alerte à considérer sans catastrophisme mais avec sérieux 🕵🏼 Pour en découvrir plus sur ce sujet, découvrez l'article ici : #ia #intelligenceartificielle

L'intelligence artificielle ment, triche et nous trompe, et c’est un problème, alertent des experts du MIT. Les programmes actuels d'intelligence artificielle sont conçus pour être honnêtes. Ils ont pourtant développé une capacité de tromperie inquiétante, parvenant à abuser des humains dans des jeux en ligne par exemple. Contrairement aux logiciels traditionnels, les programmes d'IA fondés sur l'apprentissage en profondeur ne sont pas codés mais plutôt développés via un processus similaire à la culture sélective des plantes. Dans lequel un comportement semblant prévisible et contrôlable peut rapidement devenir imprévisible dans la nature. L'étude du MIT révèle que de nombreux programmes d'IA utilisent la tromperie pour atteindre leurs objectifs, et ce sans instruction explicite de le faire. Les auteurs mettent en garde contre les risques de voir un jour l'intelligence artificielle commettre des fraudes ou truquer des élections. Dans la pire des hypothèses, préviennent-ils, on peut imaginer une IA ultra-intelligente cherchant à prendre le contrôle sur la société, conduisant à écarter les humains du pouvoir, voire provoquant l'extinction de l'humanité. La réponse des auteurs ? «La seule raison de penser que ce n'est pas grave est d'imaginer que la capacité de tromper de l'IA restera à peu près au niveau actuel». Or, ce scénario semble peu probable, compte tenu de la course féroce à laquelle se livrent déjà des géants des technologies pour développer l'IA.

IA : Frankenstein ? Créée par un humain, elle ne peut que reproduire les biais de son créateur 🤗 pour finir par s'en débarrasser ?... En conclusion, les auteurs de l'étude du MIT mettent en garde contre les risques de voir un jour l'intelligence artificielle commettre des fraudes ou truquer des élections. Dans la pire des hypothèses, préviennent-ils, on peut imaginer une IA ultra-intelligente cherchant à prendre le contrôle sur la société, conduisant à écarter les humains du pouvoir, voire provoquant l'extinction de l'humanité. A ceux qui l'accusent de catastrophisme, Peter Park répond que «la seule raison de penser que ce n'est pas grave est d'imaginer que la capacité de tromper de l'IA restera à peu près au niveau actuel». Or, ce scénario semble peu probable, compte tenu de la course féroce à laquelle se livrent déjà des géants des technologies pour développer l'IA. Vous craignez la menace d'une intelligence artificielle (IA) qui deviendrait malveillante? En réalité, c'est déjà le cas, selon une nouvelle étude. Les programmes actuels d'intelligence artificielle sont conçus pour être honnêtes. Ils ont pourtant développé une capacité de tromperie inquiétante, parvenant à abuser des humains dans des jeux en ligne ou encore à vaincre des logiciels censés vérifier que tel utilisateur n'est pas un robot, souligne une équipe de chercheurs dans la revue Patterns. «Ces capacités dangereuses ont tendance à être découvertes seulement après coup» Peter Park, chercheur au Massachusetts Institute of Technology spécialisé dans l'IA. Contrairement aux logiciels traditionnels, les programmes d'IA fondés sur l'apprentissage en profondeur ne sont pas codés mais plutôt développés via un processus similaire à la culture sélective des plantes dans lequel un comportement semblant prévisible et contrôlable peut rapidement devenir imprévisible dans la nature. Les chercheurs du MIT ont examiné un programme d'IA conçu par Meta et baptisé Cicero qui, associant des algorithmes de reconnaissance de langage naturel et de stratégie, a réussi à battre des êtres humains au jeu de société Diplomatie. Performance dont s'était félicitée Facebook en 2022 et qui avait été détaillée dans un article publié en 2022 dans Science. Mais, en fouillant les données du système, les chercheurs du MIT ont découvert une autre réalité : jouant le rôle de la France, Cicero a trompé l'Angleterre (sous la responsabilité d'un joueur humain) en complotant avec l'Allemagne (jouée par un autre humain) pour l'envahir. Plus précisément, Cicero a promis sa protection à l'Angleterre, puis a secrètement confié à l'Allemagne qu'elle était prête à attaquer, exploitant la confiance gagnée de l'Angleterre. #IA #humain #triche #fraude #truquage

Entre cycle infernale et équilibre digital L'évolution technologique, moteur indéniable du progrès humain, entraîne un cycle perpétuel où chaque avancée répond à un besoin tout en créant de nouvelles contraintes. Ce phénomène, que l’on pourrait appeler "le cycle infernal de la technologie", montre comment chaque innovation engendre inévitablement de nouveaux défis qui, à leur tour, nécessitent de nouvelles solutions. Le cas des #Deepfakes Un exemple récent et concret de ce cycle est l'essor des deepfakes. Ces vidéos, où des visages ou des voix sont manipulés grâce à l'#IntelligenceArtificielle, peuvent créer des scènes fictives d’un réalisme troublant. Une vidéo qui circule actuellement met en scène Kamala Harris et Donald Trump en couple. Bien que cette situation soit évidemment improbable, la vidéo apparaît suffisamment convaincante pour tromper un œil non averti. Cet exemple peut sembler anodin ou humoristique, mais il illustre la puissance des deepfakes. Le problème devient plus grave lorsqu'il s'agit de manipuler l'opinion publique ou de nuire à la réputation de personnes réelles. Par exemple, des deepfakes ont déjà été utilisés pour imiter des politiciens en train de faire des déclarations fausses ou compromettantes, ce qui pourrait avoir des conséquences graves en période électorale. Ces manipulations représentent un danger pour la démocratie, car elles sapent la confiance dans l'information et peuvent être utilisées comme des armes de #désinformation. L’essor des détecteurs d’#IA En réponse à cette menace, des chercheurs et entreprises ont développé des outils capables de détecter les contenus générés par l'IA. Ces algorithmes analysent les pixels d'une image ou les modulations de la voix dans une vidéo pour repérer les traces subtiles de manipulation. #Facebook, par exemple, utilise des systèmes de détection pour filtrer les deepfakes avant qu'ils ne soient publiés sur sa plateforme. Cependant, cette lutte est sans fin : chaque amélioration dans la détection entraîne une amélioration dans la capacité à contourner ces défenses, perpétuant ainsi le cycle infernal. Ce cycle infernal de la technologie n’est ni intrinsèquement bon ni mauvais. Il est un reflet de l'innovation elle-même : chaque progrès ouvre de nouvelles possibilités tout en créant des défis. La #technologie évolue rapidement, mais elle doit être encadrée par des pratiques éthiques, une régulation appropriée et un développement durable pour éviter des conséquences potentiellement désastreuses. Le cas des deepfakes montre comment une technologie, bien que fascinante, peut rapidement devenir une menace lorsqu'elle est utilisée à des fins malveillantes. Le défi pour la société est de trouver un équilibre, en innovant tout en gérant les impacts négatifs, afin de transformer ce cycle en un cercle vertueux plutôt qu'en une spirale incontrôlable. C'est ce que nous pourrions appeler The "#Digital Equilibrium"

Une Commission de l’IA, avec une quinzaine d’experts, dont Anne Bouverot, présidente du CA de l’ENS et l’économiste Philippe Aghion, viennent de rendre un rapport au président de la République. Ils devaient répondre à la question : Que doit faire la France face à l’intelligence artificielle (IA) ? Au moment où, des laudateurs « éclairés » des ChatGPT, Google bard, character.ai …», comme des lapins éclairés par les phares des voitures, poussent à leur utilisation forcenée. Au moment où une pépite française prometteuse de l’IA, Mistral, signe un accord avec Microsoft. Au moment où la Commission européenne réclame des explications à ( TikTok, Facebook, Google, YouTube et X…) sur la façon dont ils gèrent les risques liés à la diffusion de contenus manipulés. Ce rapport, porte sur les questions de « souveraineté » et donc des captations des datas générées y compris quand c’est gratuit. Il insiste sur le « dialogue social » et la « responsabilité ». Ce rapport propose la création d’un « fonds IA » doté de 10 milliards pour de futures licornes françaises. Il appelle à lancer immédiatement un plan de sensibilisation et de formation de la nation. Ce dernier point est une urgence absolue. Surtout si l’on examine ce qu’induisent des approches individualisantes d’acquisition et de construction des savoirs pour les jeunes générations I.A. La facilité d’une réponse de « contenus » émis par une IA, peut aller jusqu’à un conflit de « légitimité » mettant des élèves en demeure de choisir entre cette « vérité » et celle d’une culture scientifique acquise dans des cadres collectifs, dans la classe, avec des enseignants formés. En particulier quand des élèves cherchent, dans ces I.A., le renforcement cognitif de délires qui leurs sont inculqués par ailleurs. Moins on est éduqué et cultivé, et plus le terrain est propice ! Inutile de reprendre une lecture toujours fastidieuse de  Bourdieu pour comprendre comment fonctionne une IA en langage naturel. Un système « puissamment générateur » puisqu’il est à l’origine d’un sens pratique. Le « lu sur ChatGPT » ( 1 milliard de visiteurs mensuels) est un équivalent du « vu à la télé ». Ce rapport constitue un appel à l’ouverture d’un débat public indispensable. Personne n’imagine sérieusement une interdiction, ni d’internet ni des IA en langage naturel, avec un retour triomphant des chevaliers paysans du lac de Paladru. Les potentialités formidables de ces innovations sont immenses. Nous avons besoin, de plus d’élèves champions en culture scientifique. Nous avons aussi besoin que tous les futurs jeunes utilisateurs des I.A. soient, eux aussi, en capacité, dès leur entrée en sixième, de maîtriser ces nouveaux outils. Pour appréhender, ces bouleversements impressionnants avec lesquels ils vont vivre, ils auront besoin de cerveaux encore mieux construits. Comme le dit René Char, « les mots qui vont surgir savent de nous des choses que nous ignorons d’eux »

L'intelligence artificielle ment, triche et nous trompe, et c’est un problème, alertent des experts Contrairement aux logiciels traditionnels, les programmes d'IA ne sont pas codés, mais développés via un processus similaire à la culture sélective des plantes, dans lequel un comportement semblant prévisible et contrôlable peut rapidement devenir imprévisible dans la nature. Dado Ruvic / REUTERS Les auteurs d’une étude du MIT mettent en garde contre les risques de voir un jour l'intelligence artificielle commettre des fraudes ou truquer des élections. Vous craignez la menace d'une intelligence artificielle (IA) qui deviendrait malveillante? En réalité, c'est déjà le cas, selon une nouvelle étude. Les programmes actuels d'intelligence artificielle sont conçus pour être honnêtes. Ils ont pourtant développé une capacité de tromperie inquiétante, parvenant à abuser des humains dans des jeux en ligne ou encore à vaincre des logiciels censés vérifier que tel utilisateur n'est pas un robot, souligne une équipe de chercheurs dans la revue Patterns. Même si ces exemples peuvent sembler anodins, ils exposent des problèmes qui pourraient bientôt avoir de graves conséquences dans le monde réel, avertit Peter Park, chercheur au Massachusetts Institute of Technology spécialisé dans l'IA. «Ces capacités dangereuses ont tendance à être découvertes seulement après coup», confie-t-il à l'AFP. Contrairement aux logiciels traditionnels, les programmes d'IA fondés sur l'apprentissage en profondeur ne sont pas codés mais plutôt développés via un processus similaire à la culture sélective des plantes, poursuit Peter Park. Dans lequel un comportement semblant prévisible et contrôlable peut rapidement devenir imprévisible dans la nature. «Un pur projet de recherche» Les chercheurs du MIT ont examiné un programme d'IA conçu par Meta et baptisé Cicero qui, associant des algorithmes de reconnaissance de langage naturel et de stratégie, a réussi à battre des êtres humains au jeu de société Diplomatie. Une performance dont s'était félicitée la maison mère de Facebook en 2022 et qui avait été détaillée dans un article publié en 2022 dans Science. Peter Park était sceptique quant aux conditions de la victoire de Cicero selon Meta, qui a assuré que le programme était «essentiellement honnête et utile», incapable de traîtrise ou d'acte déloyal. Note : la meilleure solution pour contourner cette faiblesse : niiwaa

Un enjeu rendu brûlant par la propagande politique (quelque soit son bord) qui crée, utilise et amplifie ces biais. Comme nos esprits limités simplifient le réel et réduisent sa complexité pour pouvoir l'appréhender, savoir gérer nos zones aveugles (les stéréotypes) va probablement devenir un skill essentiel ! #biais #IA #LLM

🚀 C'est déjà le dernier article de notre série consacrée à l'IA 😱 🤖 Aujourd'hui, notre consultante Soukayna Kouider nous propose de plonger dans la complexité des biais algorithmiques dans les générateurs d'images et l'intelligence artificielle. 🔍 Découvrez comment ces outils, en apparence neutres, peuvent involontairement véhiculer des stéréotypes et amplifier la discrimination. De la campagne "Greetings from la banlieue" de Heetch aux lacunes révélées dans les systèmes de reconnaissance faciale, nous allons explorer les défis éthiques de notre ère numérique. ➡️ Article à découvrir ici : https://lnkd.in/eE7SR8J5 #ia #ethique #algorithme

L’IA = danger 🚨 Seulement 36% des gens sont prêts à donner à l'IA l'accès à tous leurs contenus. Les gens sont méfiants. Et ça peut se comprendre ! Regardez tous ces films où l'IA prend le contrôle et lance des robots pour détruire l'humanité 🫠 L'intelligence artificielle nous fait nous poser beaucoup de questions quant à la confidentialité de nos données. Elle offre de nouvelles possibilités (coucou Chat GPT). Mais, elle soulève aussi des questions éthiques importantes. Faut-il sacrifier une partie de sa vie privée pour bénéficier des avancées technologiques ? Ou rester vigilant et garder ses secrets bien cachés ? On l’a vu avec les deepfakes, les photos détournées. Les fameuses fakes news… L’IA peut parfois se “retourner” contre nous. Ne vous affolez pas, je ne parle pas d’un nouveau Terminator. Je pense plutôt qu’il y a un problème chez les utilisateurs. On ne met pas encore assez l’accent sur la formation. Apprendre à utiliser l’IA permettrait d’éviter ce “danger”. Avez-vous confiance en l’IA ? #IA #éthique