Les côtés sombres de la Tech
La volonté de domination de la Silicon Valley (1/8)
Dans une série de billets, je vous explique comment l’univers dystopique du roman 2034 est déjà en germe aujourd’hui.
Fiction : Dans 2034, Steve, le patron de Phebe, l’un des trois géants de la Tech qui a imposé son ordre économique sur une partie de la planète, a pour obsession de rendre le monde plus ouvert, plus connecté et plus sûr. Pour cela, il n’hésite pas à utiliser de façon immodérée les données personnelles des individus. Son objectif est de maîtriser le hasard et de faire passer l’homme de la chance au choix.
Extrait de 2034 :
« Nous avons le pouvoir et le devoir de rendre le monde meilleur. (…) Nous pouvons le réparer et faire progresser le potentiel humain. (…) Bientôt, nous toucherons au but. Nous ferons passer l’homme de la chance au choix. Nous ne connaîtrons plus la fatalité. Chacun contrôlera son destin. Domination ! »
Steve voue une admiration sans borne à l’Empire romain, jusqu’à avoir appelé ses deux fils Maxime (« le très grand ») et César (du nom des empereurs romains de l’Antiquité qui ont cherché à imposer leur puissance sur le monde). Il ponctue chacun de ses discours par « domination », repris par le chœur de ses collaborateurs.
Réalité : Dans un article de Vox d’avril 2018, l’ancienne rédactrice des discours de Mark Zuckerberg raconte comment, en début de carrière, celui-ci clôturait chaque réunion hebdomadaire du vendredi avec ses collaborateurs d’un « domination », en levant le poing en l’air. Dès cette époque, il lui confiait que son objectif était : « les entreprises au-dessus des pays », en ajoutant que « pour changer le monde, la meilleure des choses à faire est de créer une entreprise".
Cet esprit entrepreneurial s’accompagne néanmoins d’une vision particulière de la concurrence, partagée par bon nombre des dirigeants de la Silicon Valley, et résumée avec cynisme par Peter Thiel, cofondateur de Paypal et administrateur de Facebook dans son livre De zéro à un : « Si vous voulez créer et capturer une valeur durable, cherchez à construire un monopole. » Et il ajoute : « la concurrence est pour les perdants ! »
Mark Zuckerberg est fasciné par l’empereur Auguste (Octave de son vrai nom), qui a imposé son hégémonie sur de vastes régions de l’Antiquité et su instaurer deux cents ans de paix au sein de l’Empire romain. Il en a même appelé sa première fille Maxima (« la très grande ») et sa seconde August.
Cette vision d’un monde entièrement contrôlé, sur lequel l’homme pourrait asseoir une domination sur le cours des choses, s’appuie sur une maîtrise absolue de la donnée personnelle des individus. Dans un billet publié sur son réseau social en 2016, voilà comment le dirigeant de Facebook entendait utiliser son intelligence artificielle :
« Je lui apprendrai à comprendre ma voix pour contrôler toute la maison – musique, lumières, températures et autres. Je lui apprendrai à laisser les amis entrer en regardant leur visage quand ils sonnent à la porte. Je lui apprendrai à me signaler s’il se passe quelque chose dans la chambre de Max [sa fille] quand je ne suis pas avec elle. (…) Je pourrai interagir avec [elle] comme une personne : je lui parlerai, [elle] pourra me voir et analyser mes expressions, et sera capable de prédire à l’avance ce dont j’ai besoin ».
Alors, 2034 : fiction ou réalité ?
https://www.amazon.fr/dp/B089G8SJ9L/ref=dp-kindle-redirect?_encoding=UTF8&btkr=1
"La technologie n'est pas bonne ou mauvaise en elle-même. Elle est ce que nous en ferons".
#PouruneTechplusethique #positiveimpact #data #intelligenceartificielle #technologies