Qui est OpenAI l’entreprise qui a conçu ChatGPT ?

ChatGPT, l’agent conversationnel utilisant l'intelligence artificielle et spécialisé dans le dialogue (j’y reviendrai dans un prochain article) est une expérimentation de l’entreprise Open AI « à but lucratif plafonné », statut  que je ne connaissais pas  mais qui existe bien. Son but principal n’est pas de faire des bénéfices mais l’entreprise a tout à fait la possibilité de mener des activités lucratives qui permettent notamment de financer son fonctionnement. Or l’IA demande beaucoup d’argent !

Au cours des quatre courtes années de son existence, OpenAI est devenu l'un des principaux laboratoires de recherche sur l'IA au monde. L’entreprise se définissait à ses débuts comme « une organisation à but non lucratif ».

Il s'est fait un nom en produisant constamment des recherches qui font la une des journaux, aux côtés d'autres poids lourds de l'IA comme DeepMind d'Alphabet. C'est aussi une coqueluche de la Silicon Valley, comptant parmi ses fondateurs Elon Musk et le légendaire investisseur Sam Altman.

Fort de ces deux appuis, OpenAI s’est doté dès sa naissance d’un milliard de dollars pour atteindre un objectif clair : développer une intelligence artificielle accessible à tous et qui profiterait « à toute l’humanité » selon le premier communiqué de presse de la jeune entreprise.

En 2019, cependant, OpenAI a changé de statut. L’organisation est devenue un « entreprise à but lucratif plafonné ». Derrière ce qui semble être un cas unique au monde, se cache un statut hybride entre une jeune pousse et une association. La société propose à ses investisseurs de recevoir une partie de ses bénéfices jusqu’à un certain taux de rendement.

Ce passage à une structure lucrative, décrié par les internautes, permet « pour augmenter notre capacité à lever des fonds pour mener à bien notre mission », justifie OpenAI. « Aucune structure juridique préexistante ne permet le juste équilibre ».

Ces nouveaux statuts permettent surtout à l’entreprise d’une centaine de salariés de faire face à la concurrence des géants Google et Facebook. Une stratégie gagnante puisque l’entreprise a bénéficié d’un investissement d’un milliard de dollars de Microsoft après ce changement.

Depuis, l’entreprise multiplie les succès. En septembre 2022, son outil Dall-E, capable de générer des images à la demande, avait déjà conquis les internautes

 L’objectif d’Open AI est d'être le premier à créer AGI, une machine dotée des pouvoirs d'apprentissage et de raisonnement d'un esprit humain. Le but n'est pas la domination du monde ; le laboratoire veut plutôt s'assurer que la technologie est développée en toute sécurité et que ses avantages sont répartis uniformément dans le monde.

L'implication est qu'AGI pourrait facilement se déchaîner si le développement de la technologie suit la voie de la moindre résistance. L'intelligence étroite, le genre d'IA maladroite qui nous entoure aujourd'hui, a déjà servi d'exemple. Nous savons maintenant que les algorithmes sont biaisés et fragiles ; ils peuvent perpétrer de grands abus ; et le coût de leur développement et de leur fonctionnement tend à concentrer leur pouvoir entre les mains de quelques-uns. Par extrapolation, l'AGI pourrait être catastrophique sans les conseils attentifs d'un "berger bienveillant".

Les chercheurs d’OpenAI pensent que l’AGI verra le jour d’ici une quinzaine d’années. Pour l’instant nous en sommes aux phases de IA supérieure (ASI) avec  le programmes DEEP Blue (battre les meilleurs joueurs d’échec) et Alpha GO (le programme AlphaZéro qui surpasse, toujours par auto-apprentissage, le niveau de tous les joueurs humains et logiciels, non seulement au go, mais aussi aux échecs et au shogi).

De quoi frémir lorsque l’on estime que l’AGI est l’étape qui va précéder la Singularité. Au-delà de ce point, le progrès ne serait plus l’œuvre que d’intelligences artificielles, ou « supraintelligence » qui s’auto-amélioreraient, de nouvelles générations de plus en plus intelligentes apparaissant de plus en plus rapidement, créant une « explosion d'intelligence » créant finalement une puissante superintelligente qui dépasserait qualitativement de loin l'intelligence humaine.

Le risque serait que l'humanité perde le contrôle de son destin.

A lire les romans de Vernor Vinge en espérant que cela reste de la science-fiction !