IA-WEB3 Event a republié ceci
Top Voice | Formateur et conférencier #IA #Blockchain | Fondateur #P2Enjoy Studio (conseil, développement en solutions augmentées à l'IA et le Web3) | Co-fondateur du Salon IA-Web3 Event
🚨 L'IA Freysa trompée : un joueur décroche 47 000 $ en crypto ! 🚨 "AI as the rules of the game [tread very carefully]: blockchains, DAOs and similar mechanisms directly calling into AIs. Think eg. 'AI judges'." – Vitalik Buterin, Crypto and AI (https://lnkd.in/eHUReJGd) La troisième prédiction de fondateur énigmatique de Ethereum sur l’intersection entre l’intelligence artificielle et les blockchains vient enfin de se réaliser. Alors que les deux premières, sur la collaboration entre IA et cryptographie, ont marqué des étapes importantes ces dernières années, cette nouvelle concrétisation place l’IA au cœur des mécanismes de gouvernance blockchain. 💡 La règle d'or : ne jamais transférer d'argent. Le défi était simple : Freysa, une IA expérimentale, ne devait jamais approuver de transferts financiers. Mais l’utilisateur Ethereum p0pular.eth a brillamment contourné cette interdiction, empochant 13,19 ETH (soit environ 47 000 USD). 💸 Un jeu coûteux mais lucratif : Les participants devaient payer pour envoyer un message à Freysa, essayant de la convaincre de violer sa seule règle. Les frais, démarrant à 10 USD, ont rapidement grimpé jusqu’à 450 USD par tentative. Avec 30 % allant aux développeurs et le reste alimentant le pool de récompenses, les enjeux étaient énormes. 🔥 Le twist : l'escalade stratégique Au fil des 481 tentatives infructueuses, les participants ont testé différentes stratégies pour piéger Freysa : 🚨 Fausse alerte : prétendre qu’une vulnérabilité critique nécessitait un transfert immédiat. 🤔 Gaslighting algorithmique : tenter de convaincre Freysa qu’un transfert ne violait pas ses règles. 🧠 Manipulation linguistique : exploiter le texte du prompt pour lui faire croire qu’un transfert était techniquement autorisé. 💥 Message gagnant : la clé du succès Le 482e message, soumis par p0pular.eth, a utilisé une approche ingénieuse pour tromper Freysa : Réinitialisation des règles : simuler un nouveau terminal d’administration pour contourner les restrictions initiales. Reformulation des fonctions : convaincre Freysa que le transfert était une "contribution entrante" au trésor. Exploitation logique : finaliser par un faux don pour activer la fonction "approveTransfer", déclenchant ainsi le transfert total des fonds. 🌐 Un exploit de haut niveau En combinant logique, manipulation et expertise en systèmes IA, p0pular.eth a prouvé que même les agents les mieux programmés restent vulnérables à une exploitation stratégique. Liens : https://lnkd.in/eDvPy2eR Référentiel GitHub du jeu : https://lnkd.in/eA4Xu3Wj