Un essai choc qui dynamite notre vision de l’information et de l’IA
D’abord, ne pas avoir peur.
Ne pas craindre de plonger dans cet énorme pavé de plus de 500 pages, érudit, argumenté, visionnaire, d’une folle intelligence, et cependant, si facile à lire, que dis-je à dévorer. Ne pas hésiter à s’immerger dans l’immensité des concepts qui sont travaillés, foncer dedans, y réfléchir, lire et relire pour comprendre à quel point la pensée de l’auteur nous fait découvrir des pans entiers de l’histoire de l’humanité, dont pour certains, je n’avais jamais entendu parler.
« Nexus », reprend le principe des précédents ouvrages à succès de l’auteur, retracer l’histoire de l’humanité mais cette fois par l’analyse de l’information, la mise en perspective des réseaux de l’information humaine depuis… la naissance de l’humain. Et donc pas de méprise, ce n’est pas un essai sur l’Intelligence Artificielle, ce n’est pas une critique féroce de l’IA, ce serait beaucoup trop réducteur. C’est avant tout la composition d’un immense puzzle où chaque pièce, à chaque époque, à chaque étape de l’humanité, par un réseau d’information, va se mettre en place l’édification puis parfois la disparition des sociétés Humaines.
Les réseaux d’information ce sont d’abord des réseaux de coopération, puis des armes de pouvoir. L’information nous dit Harari dans cette étonnante formule, « c’est la colle qui fait tenir ensemble les réseaux ». Et historiquement, l’auteur nous montre très bien, illustrant la formule de Orwell, « l’ignorance, c’est la force », que les deux plus puissants réseaux contemporains furent le nazisme et le stalinisme. Le livre décrit parfaitement, en décortiquant habilement, et avec une incroyable érudition, que l’information mène à la vérité laquelle mène à son tour au pouvoir et parfois, mais pas bien souvent, à la sagesse. Ou plutôt, la vision naïve, c’est que l’idée de l’information correspond à la vérité. (…) mais la majorité de l’information, nous dit-il, ne cherche nullement la vérité. Car la vérité est compliquée (…) et raconter une fiction c’est bien plus facile. « L’information est une arme, nous le savons, nous le voyons aujourd’hui avec la concentration des médias, l’IA et ses potentialités infinies et inconnues inquiète, avec le risque qu’elle devienne une arme fatale pour l’humanité, sur une Terre devenue hostile à toute vie humaine.
Successivement, l’auteur abordera plusieurs thèmes : la mythologie et la bureaucratie, comment les royaumes de l’antiquité jusqu’aux États actuels se sont, et construits et maintenus, par les réseaux d’information, le problème des informations erronées et des Fake news mais avec encore, un temps, la possibilité de s’en protéger par des mécanismes d’autocorrection. L’analyse historique des réseaux, pour certains centralisés, pour d’autres décentralisés, le fonctionnement des états par l’exploitation de l’information, à des fins qui seront souvent tout sauf démocratiques. Harari explique très bien que l’histoire n’est pas l’étude du passé : c’est l’étude du changement. Toute une partie de l’ouvrage expose clairement la façon dont les hommes ont édifié le Canon de la Bible qui est loin d’être une révélation, mais une collection de textes choisis, pour les uns, et abandonnés pour d’autres, textes souvent à discuter et à remettre en question. Même chose pour tous les autres livres sacrés, le Coran ou la Torah. Passionnant de voir comment cette parole, censée être divine, au final tristement humaine, a façonné nos sociétés, les couches sociales et l’usage du pouvoir par les dominants. Il montre très bien que « les scientifiques sont très souvent commandés par des experts en mythologie et non l’inverse. En Iran comme en Israël, les physiciens nucléaires reçoivent des ordres d’experts en théologie chiite ou juive, qui sont au pouvoir. Alors, si nous avons acquis beaucoup de connaissances par la technologie et l’information, celles-ci sont souvent mises au service d’idéologies et de mythologies parfois délirantes. «
Dans la deuxième partie du livre, l’auteur démontre qu’aujourd’hui, le pouvoir est détenu par les puces informatiques et que nous sommes, de part et d’autre d’un rideau en silicium. Comment l’histoire n’est pas déterministe mais que nous avons, nous humains, encore la possibilité de façonner notre avenir. Là-dessus j’ai des doutes. Comment ne pas avoir des craintes avec le risque de voir l’IA prendre le pouvoir, financier par exemple, grâce à des algorithmes de plus en plus complexes et autonomes, au risque de ne plus pouvoir rien contrôler. Ce n’est pas une prédiction anticipative mais bien une réalité objective. « Comment les démocraties peuvent-elles encore débattre publiquement de quelque sujet que ce soit, qu’il s’agisse de la finance ou de la question du genre, s’il nous est désormais impossible de savoir si nous nous adressons à un être humain ou à un agent conversationnel, (un chabot) se faisant passer pour un humain ? «
J’ai été passionné par la dernière partie de l’ouvrage, où l’auteur explique que ceux qui ont entre autres, le plus à craindre de l’IA, ce sont bien les dictateurs, eux qui de tout temps ont concentré le pouvoir totalitaire dans une seule main, et vont se retrouver privés d’un pouvoir absolu par des algorithmes qui les transformeront en marionnettes. Ne nous y trompons pas, nous sommes tous concernés par cette (r)évolution, l’IA va influencer l’équilibre entre les sociétés dites démocratiques (mais en existe-t-il qui le sont encore pleinement ?) et les sociétés totalitaires, le Brésil de Bolsonaro, la Chine, la Russie, et les USA si par malheur Trump reprenait le pouvoir.
Depuis toujours, lorsque les sociétés humaines ont créé des réseaux d’information, le bouche à oreille, l’imprimerie et les livres sacrés, le télégraphe et la Radio, la télévision et internet, ces technologies ont changé et modelé l’information, et donc nos comportements.
Harari insiste beaucoup sur cette dichotomie entre l’existence de mécanismes d’autocorrection qui ont jusqu’ici régulé l’information, et l’IA et ses algorithmes où ces mécanismes n’existeront plus, où la machine pourra s’emballer d’elle même sans but humain reconnaissable.
Certes aujourd’hui, les médias nous déversent des tonnes d’articles bienveillants et positifs, sur l’IA, que l’on pourrait appeler l’Intelligence Autre plutôt que l’Intelligence Artificielle, et tout le bénéfice que l’on pourrait en retirer, y compris marchand, au premier rang des quels la santé et la médecine, (même si là encore il y aurait beaucoup de choses à nuancer) , mais ils n’insistent qu’en passant sur l’attitude à la fois tentaculaire et terroriste de ce qu’elle peut engendrer sur la surveillance de nos vies.
Que se passera-t-il par exemple, lorsque des décisions intéressant l’ensemble de la collectivité, tel que le taux directeur de la banque centrale des États Unis qui sera choisi et imposé par des algorithmes incontrôlés ?
Plus proche de nous.
On peut voir à l’heure actuelle comment le dérapage dans l’usage de certains algorithmes utilisés par la CNAF, la CNAM, les Caisses d’Assurance Vieillesse, peuvent cibler de manière illégale et sous couvert de dépister des fraudes fiscales, des personnes vulnérables dont des éléments personnels, genre, antécédents médicaux, race, âge, intégrés par les algorithmes, sont en réalité totalement illégaux.
On apprend aussi beaucoup de choses sur la façon par exemple dont sont conçus les algorithmes qui permettent la reconnaissance faciale, utilisés parait-il de manière ponctuelle lors des JO de Paris et qui vont en réalité perdurer et être définitivement adoptés, en absorbant des quantités massives d’informations, de photos de visages par exemple disponibles librement sur Internet.
On apprend comment des pays très laxistes comme la Chine en matière d’usage du matériel génétique, mettent au point des algorithmes qui permettront d’établir des liens entre tel ou tel gène dans certaines maladies, très bien, mais tout en pillant les informations les plus confidentielles et intimes de l’être humain, au point bientôt de voir l’essentiel des informations médicales de la planète affluer vers la Chine dont l’algorithme génétique deviendra imbattable. «
Pour moi, je crois , et les arguments avancés dans ce livre, même si Harari les nuance vers la fin de son opus et ne le dit pas clairement, sans doute pour ne pas semer la panique dans les esprits, et encore une fois son propos est celui d’un chercheur, qui avance des analyses et n’est pas là pour prédire l’avenir, pour moi en tous cas, ma forte crainte est celle, après la dictature du like, après la pollution de la sphère sociale par des fake news de plus en plus habiles, que ce soient des textes, des photos ou des vidéos circulant sur les réseaux sociaux et même les chaines d’infos , le risque , avec la caractéristique principale de voir une machine apprendre et agir par elle-même, est d’évoluer vers une société totalitaire qui emprisonnera et verrouillera les esprits. N’est-ce pas déjà un peu le cas avec la puissance des médias, orientés à 90 % car concentrés dans les mêmes mains. Que reste-t-il en France d’une presse libre ?
Ainsi nous dit-il pour nuancer son propos et nous permettre de dormir encore la nuit, « les nations continueront bien sûr de se faire concurrence dans la course aux nouvelles technologies, mais elles devraient tout de même se mettre d’accord pour limiter le développement et le déploiement de technologies aussi dangereuses que les armes autonomes et les algorithmes manipulateurs- non par altruisme mais pour leur propre survie. «
Oserai je dire que je trouve le propos juste mais naïf ? Parce qu’au fond, que contrôler ? Une IA se cache plus aisément qu’une centrale nucléaire non ? Qu’est ce qui peut empêcher un gouvernement mal intentionné de concevoir des armes chimiques qui seront déversés par des drones autonomes ? Pour le dire plus simplement, peut-on avoir confiance en l’humanité ?
Mon but en partageant mes impressions dans cette chronique, difficile à écrire, car un tel livre est impossible à résumer, tant il y a de choses à découvrir, de dogmes à déboulonner, de pistes avancées pour une hypothétique survie heureuse de l’humanité, est avant tout de communiquer mon enthousiasme à la lecture de cet essai, sa virtuosité, son analyse brillante, et ainsi de donner l’envie de le lire. D’encourager chacun à réfléchir sur nos chemins personnels qui mis bout à bout, tracent celui de l’humanité. Harari, n’est pas Jacques Attali. Ce qu’il projette à court terme n’a plus rien d’une dystopie mais tient plutôt d’une réalité objective. Si cela fait froid dans le dos tant on peine à déceler une faille dans son analyse, au moins, ne restons pas dans le déni.
D’un point de vue philosophique, Harari enfin, montre très bien que » l’argument de son livre, ce n’est pas la faute de notre nature mais de nos réseaux d’information. En privilégiant nous dit-il, l’ordre au détriment de la vérité, les réseaux d’information humains » ont produit beaucoup de pouvoir mais peu de sagesse ».
Aujourd’hui, les réseaux sociaux sont devenus la première source d’information. Ou de désinformation. Il excelle lorsqu’il montre le rôle détestable qu’a pu jouer Facebook dans la guerre civile en Birmanie, mettant en exergue des vidéos violentes et fausses, parce que la haine est davantage porteuse en termes d’écoute. Et de rentabilité. Et donc d’engagement des consommateurs.
Harari le dit très bien en citant Clausewitz dans « l’art de la guerre », « la guerre est la continuation de la politique par d’autres moyens ».
Remporter des succès militaires sans les transformer en succès politiques ne sert à rien. On le voit aujourd’hui au Moyen Orient.
Grand livre même si un tel qualificatif ne veut pas dire grand-chose, un essai vertigineux à une époque charnière de l’humanité. Mais chronique minuscule tant, il y a de choses, d’histoires et de concepts à découvrir. Ce livre est de la dynamite à mettre entre toutes les mains, et à tous les âges, pour ne pas dire, bientôt, on ne savait pas, on n’avait pas vu les choses ainsi, on a cru aveuglément dans le progrès technologique, même si des avant goûts, avec les exemples de la bulle financière de 2007 l’ont déjà fait, transformant en explosifs la gestion des actifs pourris initiés par les petits génies de la finance.
Au même titre que le dérèglement climatique, l’intelligence artificielle est devenue un problème universel.
A lire absolument. Pour mieux comprendre et mieux débattre.
Ce qui nous attend. Ou pas.
Yuval Noah HARARI
NEXUS
Ed Albin Michel 560 pages.