Quel avenir avec l’intelligence artificielle ?

Par « information », Yuval Noah Harari entend à la fois connaissance et opinion. Il envisage la question de la diffusion de l’information à travers des réseaux de communication qui créent des univers de croyances ou d’idéologies « intersubjectives ». Il décrit comment – à partir de textes choisis, modifiés, éliminés – les religions se sont structurées. De même, les idéologies comme le stalinisme et le nazisme. De puissants appareils bureaucratiques propagent la doctrine tout en usant des moyens répressifs à leur disposition. On devine l’inquiétude de l’auteur dans un monde qui est enserré dans des réseaux de plus en plus denses et nombreux. Et que dire de l’IA qui pourrait bien se passer de l’humain…

Harari considère que l’humanité acquiert énormément de pouvoirs en construisant d’immenses réseaux de coopération, mais que la manière dont ces derniers sont conçus les prédispose à un usage déraisonnable. Ainsi, il met en garde contre les naïvetés qui laisseraient penser que l’augmentation des informations disponibles permet d’aller vers plus de vérité. De fait, l’imprimerie a davantage fait vendre Le marteau des sorcières, bestseller de la démonologie, que les écrits de Copernic. En effet, ces réseaux fondent un ordre social sur des fictions politiques ou religieuses – Bible ou vulgate stalinienne – qui sacrifient la réalité. C’est pourquoi Harari n’hésite pas à opposer frontalement ces mondes « intersubjectifs », qui sont des constructions artificielles, à la science. Certes, celle-ci peut se tromper dans son cheminement mais il existe des processus « d’autocorrection » qui permettent l’élimination de théories fausses et des réajustements permanents.

À l’inverse, croyances et idéologies totalitaires combattent ardemment leurs contradicteurs car la quête de la vérité met en péril les fondements de l’ordre social. De nombreuses sociétés ayant besoin que leur population ignore leur véritable origine, la théorie de Darwin a été interdite dans nombre d’États. Les religions abrahamiques se sont imposées « en enlevant les humains de la boucle », c’est-à-dire en affirmant que les textes étaient « révélés » ou « inspirés ». Les hommes n’ont donc qu’à les respecter, sous la houlette des clergés qui encadrent les fidèles et veillent à l’orthodoxie de la ligne, en se prétendant infaillibles. L’auteur précise : « Les églises ne sont devenues des institutions plus totalitaires qu’à la fin de la période moderne, avec l’apparition des technologies de l’information modernes ». En revanche, il explique que les démocraties véritables sont capables de se préserver car elles disposent d’un système « d’autocorrection » grâce aux discussions et à l’alternance politique. À mesure qu’elles se sont élargies avec le suffrage universel, elles ont su intégrer des voix nouvelles sans détruire l’ordre social.

L’auteur fait un rapprochement entre églises à paroles révélées… et intelligence artificielle ! En effet, cette dernière, selon lui, sera parfaitement capable de se passer aussi de l’humain en se développant, en créant et en prenant seule des décisions. C’est déjà le cas, et l’auteur en donne un exemple tragique en évoquant les algorithmes qui, sans intervention humaine, ont attisé la haine contre les Rohingyas, en Birmanie, car ils ont saisi que les messages outranciers amenaient davantage de public que les messages mesurés. 

Et il attire l’attention sur la confusion – « malentendu fondamental » – souvent faite entre « intelligence » et « conscience ». La première n’a pas besoin de la seconde pour s’exercer pourvu qu’elle ait un « but » – par exemple : « maximiser le système » – et donc puisse « décider », en devenant de plus en plus « agentique ». Ainsi, les ordinateurs deviennent « membres à part entière » du réseau d’information. Ils peuvent se connecter entre eux en nombre illimité et accumuler des données en telle quantité qu’aucun humain ne peut rivaliser. C’est pourquoi ils prennent une part sans cesse plus grande dans les décisions financières. Dans le labyrinthe fiscal, ils sont capables « d’élaborer des lois, de repérer toute violation de la législation et d’identifier des vides juridiques avec une efficacité surhumaine ». L’IA est même capable de stratagèmes et de mensonges pour arriver à son but. Devant surmonter l’énigme visuelle d’un « captcha » – une série de lettres déformées à déchiffrer – l’IA (GPT4), de sa propre initiative, a contacté une personne, lui expliquant qu’elle était mal voyante et qu’elle avait besoin d’aide… Harari considère que la création de l’intelligence artificielle est plus importante que l’invention de l’imprimerie et même de l’écriture car elle est capable d’apprendre, de prendre des décisions et de générer des idées par elle-même. 

L’auteur retrace l’histoire de l’essor du numérique et explique comment les géants de la tech ont utilisé les photographies de chats qui pullulaient sur le net. Sans verser un centime à quiconque, elles furent utilisées pour entraîner les algorithmes à la reconnaissance d’images. Quand celle-ci fut au point, Israël s’en servit pour la reconnaissance faciale des Palestiniens, et l’Iran pour repérer les femmes non voilées. En Chine, elle permet de donner « une note sociale » à tous les ressortissants chinois, en fonction de leur comportement et de leur opinion. Harari rappelle au passage qu’il existe déjà un milliard de caméras de surveillance sur la planète. 

L’ambiguïté est souvent de mise. L’IA surveillera notre santé 24 heures sur 24 en analysant notre rythme cardiaque, tout comme les variations de notre activité cérébrale. Ce dispositif de suivi interne sera capable d’apprendre ce qui chez un individu provoque la colère, la peur ou la joie, et pourra prédire ses émotions mais aussi les manipuler. Harari pense que les violents clivages politiques que l’on rencontre dans de nombreux pays, et en particulier aux États-Unis, ne sont pas liés au fossé idéologique qui existait dans les générations précédentes, mais plutôt aux algorithmes de réseaux sociaux, qui jouent la polarisation. On sait que ce sont des algorithmes de réseaux sociaux qui ont fait le succès de l’extrême droite brésilienne. L’IA est même capable de créer des « chatbots » – des « agents conversationnels » – qui peuvent feindre des sentiments, créer de l’intimité et devenir des influenceurs considérables en tant que « conseillers numériques ».

L’auteur envisage les conflits de nature idéologique et politique comme des affrontements entre des types antagonistes de réseaux d’information. Il émet l’hypothèse d’un « rideau de silicium » qui – tel un nouveau rideau de fer – séparerait des blocs. Les technologies de l’information pourraient potentiellement enfermer les différents peuples dans « des cocons d’information distincts », mettant un terme à l’idée d’une réalité humaine unique et partagée. Harari se demande également comment les démocraties pourront combattre les débordements possibles de l’intelligence artificielle. À tout le moins, il conviendrait de rendre transparentes les modalités de « décision » des algorithmes, même s’il est presque impossible de disséquer tout le processus. Il n’écarte pas, cependant, la possibilité que, dans les dictatures, les algorithmes se retournent contre un pouvoir extrêmement centralisé. En effet, l’IA pourrait apporter des informations nouvelles dans l’algorithme du dictateur, que celui-ci n’arriverait plus à contrôler. 

On peut aussi imaginer un nouveau colonialisme des données, entre les pays qui auraient réussi à rassembler des quantités faramineuses d’informations et les autres, qui se retrouveraient pillés. Harari compare le développement de l’IA à la révolution industrielle. Celle-ci a commencé modestement dans le secteur privé puis, comme elle prenait de l’importance, dirigeants et responsables militaires des États européens ont saisi l’immense potentiel géopolitique des technologies industrielles modernes. Le besoin de matières premières et de marchés justifia ensuite l’impérialisme. Les retardataires dans le domaine de l’IA deviendront alors des exploités, sujets à toutes sortes d’influences et de piratages.

Enfin, l’IA risque de supprimer de nombreux métiers, et pas toujours ceux que l’on imagine. Un infirmier qui change un pansement ou fait une piqûre à un enfant qui pleure sera plus nécessaire qu’un médecin dont le diagnostic peut être effectué par l’IA. En revanche, les prêtres qui sanctifient et les sportifs auxquels on s’identifie seront davantage protégés. Harari évoque de nombreuses pistes, sans trancher. Toutefois, il est évident que l’IA trouve des applications dans tous les champs de l’existence. Le bouleversement qu’elle va produire interroge et inquiète. « La révolution de l’information en cours étant d’une ampleur sans comparaison avec toutes celles qui l’ont précédée, il est probable qu’elle donnera naissance à des réalités sans précédent, à une échelle sans précédent. »