Qui contrôle qui ?

Oubliez Terminator et les fadaises d’algorithmes en mal d’émancipation que la technosphère vous sert tous les jours sur le plateau du buzz. Mais ne croyez pas pour autant que l’intelligence artificielle soit un simple outil, argile neutre au creux de nos mains d’Homo faber algorithmensis. Il y a au moins trois façons pour l’humain de se faire contrôler par l’IA.

La première menace, la plus simple et la plus directement inquiétante : l’IA se mettant au service de ceux qui vous contrôlent. Gouvernements hostiles, intérêts privés, ennemis de la démocratie ou escrocs organisés, il y a tant de gens qui veulent vous contrôler ! Cela va du très explicite logiciel espion qui aspire vos données à l’insidieuse campagne de publicité ciblée qui manipule vos envies ou influence votre vote. Mais c’est aussi l’arnaqueur du Web, la désinformation ou le drone d’attaque perfusé à l’algorithme. Bon potentiel d’apocalypse, même si c’est moins le scénario de Terminator que celui de Planète interdite !

Ensuite, il y a la plus insidieuse servitude volontaire, allégeance à la technique, qui formate vos gestes, fatigue vos yeux et normalise vos pensées. Celle qui vous force à prendre au réveil votre bouffée de flux d’info et vous occupe des heures quotidiennes. Celle qu’Alain Damasio dépeint avec talent dans son dernier livre, Vallée du silicium. Vous croyez la connaître ? Elle est encore plus puissante que cela. Elle obnubile les décideurs qui lui consacrent leurs milliards, elle transforme les jeunes et moins jeunes en zombies du smartphone, ou smombies ! Elle s’impose comme une religion qui nous fait ériger des data centers en dérisoires églises pour conjurer les vrais problèmes qui menacent, guerre mondiale et effondrement de la planète.

Aucun grand plan, aucune décision politique fondatrice

Et il y a encore plus insidieux, c’est notre dépendance aux IA pour agir et faire. C’est l’IA qui aspire nos savoir-faire et le sel de notre vie humaine, si bien que nos compétences propres déclinent. Pour cette domination-là, nul besoin d’un auteur de science-fiction, elle est connue depuis des siècles, c’est la dialectique hégélienne du maître et de l’esclave, c’était déjà l’interrogation de Socrate sur le confort de l’écriture et la paresse de l’esprit. Cela marche avec l’IA comme avec toutes les techniques ! On oublie l’art de se repérer, l’art de mémoriser, de discuter, d’écrire à la main, de faire cours ou de s’aimer biologiquement. On se retrouve avec des outils qui nous mangent, plutôt que d’être à table avec nous – c’est la thèse d’Ivan Illich dans son célèbre essai La Convivialité (1973) ; c’est un thème récurrent de Jacques Ellul, depuis La Technique (1954) jusqu’au Bluff technologique (1988) ; c’est un moteur puissant de l’évolution de nos pratiques, depuis au moins les chasseurs-cueilleurs, dont nous avons perdu les compétences. Et pourquoi ne pas citer Paul Valéry – c’était en 1931, mais on croirait que c’est aujourd’hui : « L’homme moderne est l’esclave de la modernité : il n’est point de progrès qui ne tourne à sa plus complète servitude. Le confort nous enchaîne. (…) Il faudra bientôt construire des cloîtres rigoureusement isolés, où ni les ondes, ni les feuilles n’entreront ; dans lesquels l’ignorance de toute politique sera préservée et cultivée. On y méprisera la vitesse, le nombre, les effets de masse, de surprise, de contraste, de répétitions, de nouveauté et de crédulité. C’est là qu’à certains jours on ira, à travers les grilles, considérer quelques spécimens d’hommes libres. »

L'IA s’adapte à tous les besoins et s’appuie sur tous les savoirs

Rien de nouveau sous le soleil exactement… Et pourtant ce serait une erreur de croire que c’est toujours la même histoire. Il y a quelques éléments remarquables avec l’IA. Le premier, c’est la rapidité – d’évolution et d’adoption. Qu’on songe que ChatGPT a été adopté par un million d’usagers en seulement cinq jours. Bien plus vite que n’importe quelle technique d’écriture, de pêche ou de gouvernement. Le second, c’est la concentration financière inhumaine intriquée à la culture d’innovation et de bluff. Oui, Rockefeller était richissime, mais avec des recettes classiques, pas pour la permanente esbroufe technologique qui fait vivre les Musk, Altman, Thiel et autres furieux, dans cette ambiance hystérique où les milliards valsent par centaines sur des rumeurs ou des oukases. Le troisième, c’est l’omniprésence de la désinformation, de la mystification, de la comédie, de la duperie – mettez-y tous les mots ! Et le quatrième, c’est l’omnicompétence, car l’IA vient se greffer sur tous les usages. Rien de mystérieux à cela : elle s’adapte à tous les besoins et s’appuie sur tous les savoirs.

Mais tout cela n’est que la suite du grand mouvement issu du milieu du xx^e siècle qui a utilisé l’électronique pour exploiter des lois éternelles. La physique pour communiquer et effectuer les opérations à la vitesse de l’éclair. La mathématique pour calculer le monde. Et les lois éternelles des émotions humaines, individuelles et collectives, qui sont ce qu’elles sont. Aucun grand plan, aucune décision politique fondatrice : tout l’agenda de l’informatique et de l’IA était en germe dès la naissance du premier transistor en 1947 !

Et pourtant il n’est pas trop tard pour se prendre en main politiquement et économiquement. L’Europe a commencé ! Commissions, règlements, régulation, c’est déjà ça, mais il ne faut pas s’arrêter en si bon chemin ; ce serait si naïf de croire que la loi suffit. Pour ne pas être contrôlé par les outils, une règle éternelle est de maîtriser leur fabrication et leur mise en œuvre. Grand chantier, vital, et même passionnant.