Comment l’IA pourrait transformer – en mieux – le monde

Ne passez pas à côté du texte le plus éclairé du moment concernant l'émergence à venir de l'intelligence artificielle générale (AGI).

« Machines of Loving Grace » (*) de Dario Amodei (PDG d'Anthropic), donne un aperçu aussi prospectif que nuancé du futur de l'intelligence artificielle.

Ce texte est déterminant, car il est à la fois visionnaire et humaniste. Et parce qu'il vous permettra de vous faire un avis éclairé sur ce qui attend l'humanité avec l'arrivée (très probable) d'une forme d'intelligence dépassant tout ce que nous connaissons aujourd'hui.

Le texte original est long. J'ai dû le relire plusieurs fois pour en saisir l'importance et le sens profond. Pour le résumer, j'espère sans trahir son sens originel, mon ami Claude (la créature de Dario Amodei) m'a bien aidé (je précise en fin de texte la méthodologie utilisée).

Loin des prophéties apocalyptiques ou des promesses utopiques simplistes, Amodei dessine les contours d'une transformation sociétale possible dans les 5 à 10 années suivant l'émergence d'une IA générale, qu'il situe potentiellement dès 2026.

Sa vision se démarque par son ambition de vouloir conjuguer progrès technologique et justice sociale. Il aborde la question de la révolution médicale à venir (avec la possibilité d'atteindre une espérance de vie de 150 ans), et celle d'un revenu universel comme élément de réponse aux bouleversements économiques. Il pousse sa réflexion sur la nécessité d'une coalition des démocraties pour orienter le développement de l'IA vers le bien commun.

Mais, ce qui me frappe peut-être le plus dans son analyse, c'est sa capacité à reconnaître simultanément l'immensité des défis à relever que l'opportunité historique qu'ils représentent. Tout en insistant sur le fait que rien n'est écrit d'avance.

Dario Amodei explique qu'il réfléchit beaucoup aux risques liés à l'arrivée des IA fortes (ou AGI, ces IA qui seront plus intelligentes que l'humain le plus doué).

Cependant, il ne veut pas être perçu comme un pessimiste ou comme un « prophète de mauvais augure » qui pense que l'IA sera principalement mauvaise ou dangereuse. Au contraire, il pense que les gens sous-estiment autant les aspects positifs que négatifs potentiels de l'IA.

Et, c'est là que son propos se démarque de ceux de Sam Altman, ou d'Elon Musk.

Ici, il tente d'esquisser ce à quoi pourrait ressembler un monde avec une AGI si tout se passe bien. Il reconnaît que personne ne peut prédire l'avenir avec certitude. Pourtant, il vise à faire des suppositions éducatives et utiles qui captent l'essence de ce qui pourrait se produire.

Amodei explique pourquoi lui et Anthropic n'ont pas souvent parlé des avantages potentiels de l'AGI jusqu'à présent. Il avance plusieurs raisons à cela :

1. Parce que le développement de l'IA et de ses bénéfices semblent inévitables, alors que les risques peuvent être influencés par nos actions.
2. Parce que les entreprises d'IA qui vantent les bienfaits semblent vouloir détourner l'attention des inconvénients.
3. Pour éviter la grandiloquence. Il est rebuté par la façon dont certains leaders du secteur de l'IA parlent du monde « post-AGI » comme s'ils étaient des prophètes menant leur peuple vers le salut.
4. Pour éviter les clichés de science-fiction… Les discussions sur l'avenir radical de l'IA sont souvent teintées d'une vision cyberpunk qui peut les faire paraître moins sérieuses.

Malgré ces réserves, Dario Amodei estime qu'il est crucial de discuter de ce à quoi pourrait ressembler un monde positif avec une AGI. Il considère qu'il est essentiel d'avoir une vision vraiment inspirante de l'avenir. Et, par ailleurs, un plan pour combattre les problèmes.

Il explique que bien que de nombreuses implications de l'AGI soient potentiellement conflictuelles ou dangereuses, il doit y avoir un résultat positif pour lequel se battre, où tout le monde est gagnant.

Dario Amodei dit vouloir se concentrer sur cinq domaines qui lui semblent avoir le plus grand potentiel pour améliorer directement la qualité de vie humaine :

• La biologie et la santé physique
• Les neurosciences et la santé mentale
• Le développement économique et la pauvreté
• La paix et la gouvernance
• Le travail et le sens.

Dario Amodei précise ce qu'il entend par AGI (mais qu'il n'aime pas ce terme !) et comment elle pourrait affecter le monde dans les 5-10 ans après son apparition. Il pense que cette AGI pourrait arriver dès 2026, tout en reconnaissant que cela pourrait prendre plus de temps.

Il définit cette AGI comme :

• Plus intelligente qu'un prix Nobel dans la plupart des domaines
• Capable d'interagir via texte, audio, vidéo, clavier et internet
• Autonome dans l'exécution de tâches longues
• Sans corps physique, mais apte à contrôler des outils et des robots
• Possibilité d'en avoir des millions d'instances travaillant 10-100 fois plus vite qu'un humain

En un raccourci, il la décrit comme « un pays de génies dans un data center ».

Amodei examine deux positions extrêmes concernant la rapidité des transformations, qu'il considère toutes deux comme fausses :

L'idée d'une singularité avec laquelle tout changerait en quelques jours ou secondes est irréaliste. Parce qu'il existe des limites physiques et pratiques réelles (comme le temps nécessaire pour les expériences biologiques).

La croyance que les progrès seraient très lents, car limités par des facteurs sociaux ou des données du monde réel. Il la juge également peu probable. Parce qu'une grande équipe de personnes très intelligentes pourrait considérablement accélérer de nombreux domaines.

Il propose plutôt un cadre d'analyse établi sur ce qu'il nomme : les rendements marginaux de l'intelligence – c'est-à-dire le fait d'examiner, pour chaque domaine, dans quelle mesure une intelligence accrue peut accélérer les progrès et quels sont les autres facteurs limitants.

Il identifie plusieurs facteurs clés qui peuvent limiter l'impact de l'intelligence artificielle :

• La vitesse du monde extérieur. Les processus biologiques, la fabrication de matériel, les communications humaines ont des vitesses incompressibles.
• Le besoin de données. Parfois les données manquent et plus d'intelligence n'aide pas (exemple : la physique des particules est limitée par les données d'accélérateurs).
• La complexité intrinsèque. Certains systèmes sont naturellement chaotiques ou imprévisibles, même pour une IA générale.
• Les contraintes humaines. Les lois, réglementations, résistance au changement peuvent ralentir l'adoption des innovations.
• Les lois physiques. Certaines limites sont absolues (vitesse de la lumière, densité des transistors, etc.).

Dario Amodei suggère que l'intelligence peut progressivement contourner certaines de ces limites. Mais, jamais toutes ensemble. La question clé étant celle de la vitesse et de l'ordre dans lesquels ces progrès se produiront.

Biologie et santé

Dario Amodei explique que la biologie est probablement le domaine dans lequel le progrès scientifique a le plus grand potentiel d'améliorer directement la qualité de vie humaine. Il identifie les principaux défis pour appliquer l'IA à la biologie :

La vitesse du monde physique. Les expériences biologiques prennent du temps incompressible (jours, semaines, mois).

Les données. Il manque souvent des données claires et non ambiguës qui isolent un effet biologique des milliers d'autres facteurs.

La complexité intrinsèque. Les systèmes biologiques sont extrêmement complexes, comme le montre la biochimie du métabolisme humain.

Les contraintes humaines. La bureaucratie des essais cliniques ralentit considérablement les progrès.

Ces défis ont conduit de nombreux biologistes à être sceptiques quant à la valeur de l'IA en biologie. Cependant, Amodei argumente que cette perspective est trop étroite : l'IA ne devrait pas être vue comme un simple outil d'analyse de données, mais comme un biologiste virtuel capable de réaliser toutes les tâches qu'un biologiste humain fait.

Il explique également qu'une grande partie des progrès en biologie provient d'un très petit nombre de découvertes majeures. Et, souvent liées à des outils de mesure ou des techniques qui permettent des interventions précises dans les systèmes biologiques.

Par exemple :

• CRISPR, la technique d'édition génétique
• Différents types de microscopies avancées
• Séquençage et synthèse du génome
• Techniques optogénétiques
• Vaccins ARNm
• Thérapies cellulaires comme CAR-T
• Découvertes conceptuelles comme la théorie des germes

Sa thèse principale est que le taux de ces découvertes pourrait être multiplié par 10 ou plus avec l'IA. Il base cette conviction sur plusieurs observations :

1. Ces découvertes sont généralement faites par un très petit nombre de chercheurs.
2. Elles auraient pu être faites des années plus tôt.
3. Les projets réussis sont souvent modestes plutôt que massivement financés, suggérant que l'ingéniosité est le facteur clé.

Amodei prédit que l'IA permettra de compresser 50-100 ans de progrès biologiques en 5-10 ans. Il appelle cela le « XXIᵉ siècle compressé ». Il projette les avancées suivantes :

• La prévention et le traitement fiables de presque toutes les maladies infectieuses naturelles, grâce notamment aux vaccins ARNm
• L'élimination de la plupart des cancers (réduction de 95% de la mortalité et de l'incidence)
• La prévention et le traitement efficaces des maladies génétiques via le dépistage embryonnaire amélioré et des versions plus sûres de CRISPR
• La prévention de la maladie d'Alzheimer
• L'amélioration du traitement de la plupart d'autres affections (diabète, obésité, maladies cardiaques, maladies auto-immunes)
• La « liberté biologique », qui annonce le contrôle accru sur l'apparence physique, la reproduction et d'autres processus biologiques
• Le doublement de l'espérance de vie humaine (jusqu'à 150 ans), potentiellement plus avec les avancées futures.

Enfin, il évoque l'impact transformateur que ces changements auront s'ils se réalisent dans les dix prochaines années :

• Ce serait un triomphe humanitaire sans précédent, éliminant la plupart des fléaux qui ont hanté l'humanité depuis des millénaires.
• La prochaine génération pourrait voir les maladies actuelles comme nous voyons aujourd'hui le scorbut ou la variole : des reliques du passé.
• Les implications dépassent la santé. Par exemple, les programmes comme la Sécurité sociale et Medicare aux États-Unis verraient leur situation radicalement améliorée grâce à l'augmentation de l'espérance de vie et la réduction des maladies chroniques.
• De nouveaux défis émergeront, comme celui de l'accès équitable à ces technologies. Ou encore, celui des changements à venir de notre relation avec la maladie et la mort.

Il note que même si la biologie était le seul domaine à être accéléré par l'IA, son impact sur le monde serait déjà révolutionnaire.

Neurosciences et esprit

Amodei élargit son analyse à la neuroscience et à la santé mentale, qu'il considère comme aussi importantes que la santé physique, voire plus directes dans leur impact sur le bien-être humain.

Des centaines de millions de personnes souffrent de problèmes comme l'addiction, la dépression, la schizophrénie, l'autisme, le SSPT ou les déficiences intellectuelles. Des milliards d'autres luttent avec des versions plus légères de ces troubles.

Il prévoit que l'IA pourrait également accélérer ces avancées pour obtenir « 100 ans de progrès en 5-10 ans ».

L'apprentissage récent sur l'IA elle-même pourrait faire avancer les neurosciences. Amodei souligne deux aspects clés :

L'interprétabilité. Bien que les neurones biologiques et artificiels fonctionnent différemment, les questions fondamentales sur le fonctionnement des réseaux distribués sont similaires. Des mécanismes découverts dans l'IA ont déjà été retrouvés dans les cerveaux de souris.

L'hypothèse de l'échelle. L'idée qu'une fonction objective simple, plus beaucoup de données, peuvent générer des comportements complexes qui devraient révolutionner notre compréhension du cerveau.

Il projette quatre axes d'accélération des neurosciences par l'IA.

1. La biologie moléculaire traditionnelle, avec la création de nouveaux médicaments modulant les neurotransmetteurs.
2. La mesure et l'intervention neuronale fine, avec l'amélioration des techniques comme l'optogénétique.
3. Les neurosciences computationnelles avancées, avec l'application des perspectives de l'IA forte aux troubles mentaux complexes.
4. Les interventions comportementales, avec l'optimisation des thérapies existantes et la généralisation des « coach IA » personnalisés.

Ces quatre approches combinées pourraient, selon Amodei, mener à la guérison de la plupart des maladies mentales dans les 5-10 prochaines années.

Prédictions sur l'impact de l'IA en santé mentale. Traitement de la plupart des maladies mentales. Troubles du stress post-traumatique, dépression, schizophrénie, addictions pourraient être résolus par une combinaison d'approches biochimiques et comportementales.

Gestion des conditions « structurelles ». Les troubles comme la psychopathie, liés à des différences anatomiques cérébrales, pourraient être traités en induisant une plus grande plasticité cérébrale.

Prévention génétique. Dépistage embryonnaire des prédispositions aux maladies mentales, avec attention particulière aux corrélations complexes entre gènes et traits positifs.

Il envisage une amélioration globale de l'expérience humaine quotidienne. Au-delà du traitement des maladies, il prédit que l'IA permettra d'optimiser le fonctionnement mental de tous, avec :

• La résolution des problèmes quotidiens de concentration, d'humeur et d'anxiété grâce à de nouveaux médicaments et technologies.
• L'augmentation de la fréquence des expériences extraordinaires (créativité, compassion, transcendance).
• L'amélioration générale des fonctions cognitives.

Il note que le concept de « téléchargement de l'esprit » (mind uploading) dans la machine, bien que théoriquement possible, dépasse probablement l'horizon des 5-10 ans avancé par les plus optimistes.

Développement économique et pauvreté

Ces avancées technologiques seront-elles accessibles à tous ? Le PIB par habitant en Afrique subsaharienne est d'environ 2 000 dollars contre 75 000 dollars aux États-Unis. Si l'IA ne fait qu'accroître ce fossé, cela représenterait un échec moral qui ternirait les progrès médicaux évoqués précédemment.

Plus prudent dans ses prédictions économiques que médicales, il reconnait que l'économie implique davantage de contraintes humaines et de complexité intrinsèque. La corruption généralisée dans les pays en développement complique également la situation. Il reste cependant optimiste, indiquant que l'histoire montre que l'éradication des maladies et le développement économique sont possibles avec une intelligence et une volonté suffisantes.

Il considère que cela pourrait amener l'Afrique subsaharienne au niveau actuel de la Chine en 5-10 ans. Sous condition d'un effort collectif mondial.

Amodei identifie trois autres domaines cruciaux de progrès potentiel.

1. En matière de sécurité alimentaire, l'IA pourrait déclencher une seconde « révolution verte » grâce à l'amélioration du génie génétique des cultures et à l'optimisation des chaînes d'approvisionnement.
2. Sur le changement climatique, qui affecte particulièrement les pays en développement, l'IA pourrait accélérer les technologies de captation du carbone, d'énergie propre et de viande cultivée en laboratoire, rendant la transition écologique moins coûteuse.
3. Sur les inégalités internes aux pays, les citoyens pourraient exiger l'accès aux technologies qui leur permettront d'améliorer radicalement leur qualité de vie.

Amodei soulève le « problème du refus » : certaines personnes pourraient rejeter les avancées permises par l'IA, comme on le voit avec le mouvement anti-vaccins. Ce phénomène pourrait créer un cercle vicieux où ceux qui ont le plus besoin d'aide pour prendre de meilleures décisions refusent justement les technologies qui pourraient les aider.

Cependant, il reste optimiste pour deux raisons principales :

Historiquement, les mouvements anti-technologie ont eu plus d'échos que d'impact réel.

Les gens finissent généralement par adopter les technologies qui améliorent leur vie quotidienne.

Il note que les technologies véritablement rejetées, comme l'énergie nucléaire, le sont généralement par des décisions politiques collectives plutôt que par des choix individuels.

Amodei conclut cette question du développement économique avec un optimisme mesuré. Il est particulièrement confiant dans la capacité à étendre rapidement les avancées biologiques aux pays en développement. Pour la croissance économique, il est plus prudent, mais espère que l'IA pourrait permettre aux pays en développement de dépasser le niveau de vie actuel des pays développés.

Il souligne cependant que rien de tout cela n'est automatique. La réussite dépendra d'efforts collectifs soutenus impliquant :

• Les entreprises d'IA
• Les gouvernements
• Les organismes philanthropiques
• La communauté internationale

Le but ultime, pour Amodei, est de faire un premier pas vers la promesse de dignité et d'égalité due à chaque être humain sur Terre.

Paix et gouvernance

« Même si nous résolvons les problèmes de maladie, de pauvreté et d'inégalité, l'humanité reste une menace pour elle-même ».

Bien que le développement technologique et économique tende historiquement à favoriser la démocratie et la paix, cette tendance n'est pas garantie. Il rappelle plusieurs leçons historiques : au début du 20ᵉ siècle, avant les deux guerres mondiales, on pensait la guerre dépassée.

La prédiction de Fukuyama sur « la fin de l'histoire » et le triomphe final de la démocratie libérale ne s'est pas réalisée.

L'espoir que le commerce avec la Chine la rendrait plus libérale s'est révélé faux.

Contrairement aux attentes initiales, Internet semble parfois favoriser l'autoritarisme plutôt que la démocratie.

Amodei souligne qu'il n'y a pas de raison structurelle pour que l'IA favorise naturellement la démocratie et la paix – c'est à nous d'orienter son développement dans cette direction.

Il propose une stratégie d'entente pour que les démocraties gardent l'avantage dans le développement de l'AGI.

Les démocraties devraient former une coalition pour :

1. Sécuriser la chaîne d'approvisionnement de l'IA.
2. Se développer rapidement.
3. Retarder l'accès des adversaires aux ressources clés (comme les semi-conducteurs).

Une coalition qui pourrait utiliser :

• Un bâton pour maintenir une supériorité militaire grâce à l'IA.
• Une carotte pour partager les bénéfices de l'IA avec les pays qui soutiennent la promotion de la démocratie.

L'objectif serait d'isoler les adversaires les plus problématiques jusqu'à ce qu'ils acceptent de coopérer plutôt que d'affronter une force supérieure.

Amodei explique que si les démocraties contrôlent l'IA la plus forte, elles pourraient créer un environnement d'information plus libre globalement.

Plutôt que de faire de la propagande, il serait préférable de :

• Contrer la désinformation des régimes autoritaires
• Permettre une circulation libre de l'information que les autocrates ne pourraient ni bloquer ni surveiller.

Cette liberté d'information, combinée aux améliorations de la qualité de vie (santé, bien-être mental, éducation), favoriserait naturellement la démocratie. En effet, selon lui, les gens aspirent davantage à l'expression personnelle quand leurs besoins de base sont satisfaits. Une IA qui ne peut pas être censurée pourrait fournir des outils puissants aux dissidents et aux réformateurs du monde entier pour contester les gouvernements répressifs.

Amodei explore comment l'IA pourrait renforcer les démocraties existantes.

Dans le système juridique : l'IA pourrait fournir un jugement plus impartial tout en comprenant la complexité des situations réelles. Sans remplacer les juges, elle pourrait les assister et rendre la justice plus équitable. Sa transparence pourrait être garantie par des techniques d'interprétabilité avancées.

Dans la participation citoyenne, l'IA pourrait aider à :

• Agréger les opinions
• Trouver des terrains d'entente
• Faciliter les compromis
• Améliorer la compréhension des citoyens sur les enjeux publics.

Dans les services publics, une IA pourrait guider les citoyens pour accéder à leurs droits (santé, permis, impôts, sécurité sociale) et les aider à respecter les règles, renforçant ainsi la confiance dans les institutions démocratiques.

Amodei pose ensuite une question fondamentale :

« Même si tous les objectifs précédents sont atteints (santé, prospérité, démocratie), comment les humains trouveront-ils un sens à leur vie dans un monde dans lequel l'IA pourrait tout faire à leur place ? ».

Il considère cette question plus complexe que les précédentes, non pas par pessimisme, mais parce qu'elle touche à l'organisation macroscopique de la société, qui évolue généralement de manière décentralisée et imprévisible. Il fait une analogie intéressante :

Une société de chasseurs-cueilleurs n'aurait pas pu imaginer comment la vie pourrait avoir un sens sans la chasse et ses rituels associés, tout comme elle n'aurait pas compris comment notre société technologique peut subvenir aux besoins de tous.

Il suggère que nous sommes peut-être dans une position similaire face au futur avec l'IA : incapables d'imaginer précisément comment la société s'organisera, mais cela ne signifie pas qu'elle ne trouvera pas son équilibre.

Et le sens de tout cela ?

Le sens ne vient pas principalement du travail économique, mais des relations humaines et des connexions. Les gens tirent déjà beaucoup de satisfaction d'activités qui ne produisent aucune valeur économique (jeux vidéo, sport, conversations entre amis). De plus, le fait que quelqu'un soit meilleur que nous dans une activité ne nous empêche pas d'y trouver du plaisir – nous ne sommes déjà pas les meilleurs dans la plupart des domaines.

Il suggère que les individus pourront toujours poursuivre des projets ambitieux et complexes, comme le font aujourd'hui les chercheurs ou les entrepreneurs, même si une IA pourrait théoriquement faire mieux. Le sens viendrait du parcours personnel plutôt que de la performance absolue.

Amodei considère que la question économique est plus complexe que celle du sens. Il distingue deux phases :

À court terme : l'avantage comparatif continuera à rendre les humains pertinents. Même si l'IA est meilleure à 90% dans un travail, les 10% restants créeront des emplois humains bien rémunérés qui complémentent l'IA. Les humains garderont notamment un avantage dans le monde physique pendant un certain temps.

À long terme : l'IA deviendra si efficace et peu coûteuse que ce modèle ne tiendra plus. La société devra alors repenser fondamentalement son organisation économique. L'auteur suggère plusieurs possibilités :

• Un revenu universel pour tous.
• Une économie d'IA redistribuant les ressources selon des critères dérivés des valeurs humaines.
• Un système de points fondé sur des contributions non économiques.
• Ou peut-être une forme de valeur humaine que nos modèles économiques actuels ne peuvent pas anticiper.

Le PDG d'Anthropic fait le bilan de sa vision d'un monde transformé par l'IA. Il reconnaît que ce monde idéal ne se réalisera pas sans d'énormes efforts et luttes collectives. Et, insiste sur les deux points suivants :

Tout d'abord, il observe une tension intéressante dans sa vision : elle paraît à la fois extrêmement radicale (personne ne s'attend à de tels changements en une décennie) et étrangement évidente, comme si différentes tentatives d'imaginer un monde meilleur convergeaient naturellement vers cette direction.

Ensuite, il compare cette convergence à l'idée développée dans le roman « The Player of Games » de Iain M. Banks : les valeurs de compassion et de coopération finissent par l'emporter car elles émergent naturellement d'une multitude de petites décisions moralement évidentes. L'IA offrirait simplement l'opportunité d'accélérer ce processus.

Pour Amodei, participer à la réalisation de cette vision, même modestement, représente une opportunité d'une beauté transcendante.

Méthodologie utilisée pour l'analyse et la restitution du texte original de Dario Amodei

Le texte original étant long (plus de 82.000 signes), j'ai demandé à Claude d'analyser et de résumer chaque paragraphe, un a un. Et, d'attendre mes instructions avant le passer au paragraphe suivant. Cela m'a permis d'ajuster certains résumés, lorsqu'ils étaient trop longs, ou trop courts, ou peu clairs. J'ai également alterné les styles de réponses souhaités, en testant à chaque fois les modes suivants "Explanatory", "Formal", et "Insight Catalyst", pour ne garder à chaque fois que le résultat le plus clair. J'ai ensuite collé le texte dans mon outil de correction "intelligent" : LanguageTool. Ce fut utile, car même si la syntaxe et la traduction de Claude sont globalement excellentes, LanguageTool a repéré un grand nombre de tournures améliorables.

(*) Le titre fait probablement aussi référence au poème de Richard Brautigan "All Watched Over by Machines of Loving Grace" (1967), qui imaginait déjà une utopie cybernétique harmonieuse. Article original : Machines of Loving Grace, de Dario Amodei.