Quelle image aviez-vous de la Silicon Valley avant d’y séjourner il y a deux ans, lors d’une résidence à la Villa Albertine ?

Je m’attendais à un lieu assez animé, vivant, plein de gens et de mouvement, une effervescence d’entreprises et de start-up. Sauf qu’en débarquant dans la Silicon Valley post-Covid, quand je suis allé faire le tour du campus de Google sur leur vélo rouge, vert, bleu et jaune, j’ai trouvé des sites désertés, fantômes, sans centre névralgique, un non-lieu. Il n’y avait presque personne. Meta était inaccessible, le Ring d’Apple est un château fort ultramoderne, la sécurisation des accès et des bâtiments est l’inverse de la fluidité promue par ce monde.

Puis en circulant en voiture dans cette zone plate, comme sur un circuit imprimé, dans la liquidité des freeways, Fred Turner, le sociologue génial qui m’accompagnait, m’a pointé les camping-cars des salariés qui ne gagnent pas 15 000 dollars par mois – la norme dans la Silicon Valley – et qui sont obligés de vivre dans leur véhicule, dans des avenues à l’écart, les appartements communautaires des Mexicains, la pollution des sols. Ironiquement, c’est la seule chose qui donne un peu de vie à ces paysages pavillonnaires. Il faut s’appeler Lynch ou Baudrillard pour réussir à en extraire une forme de beauté, de scope épique, de grandeur.

La voiture autonome

Sur son site, la société Waymo, spin-off de Google, nous vend une émancipation reconquise sur le temps de conduite. Un temps « libéré » qui sera aussitôt re-siphonné pour travailler dans ce nouveau bureau roulant. Ou qui sera vampirisé par un nouveau binge watching automobile, un gavage d’écrans, là où notre temps de cerveau disponible pouvait trouver dans la conduite quelque instant d’hiatus, quelque temps mort précieux au feu rouge où faire monter en soi la présence de nos enfants ou tout simplement un souvenir oublié, une promesse, une idée qui s’éveille. C’était la beauté paradoxale de ces pratiques : l’ennui au volant suscitait des poussées inconscientes de désir, et parfois même l’envie de réfléchir pour ne plus subir le vide.  La voiture autonome est une industrie sans idée.

Elle ne fait que marchandiser et monétiser une pratique ordinaire qu’on opérait jusqu’ici par nous-mêmes, avec nos propres capacités cognitives et gestuelles, notre finesse et nos agilités.

L’innovation dans le capitalisme consiste 95 fois sur 100 à décalquer dans tous les champs d’activité possibles une poussée anthropologique de fond : passer de la puissance au pouvoir. Autrement dit : de la capacité humaine à faire, directement et sans interface, avec ses seules facultés cérébrales, physiologiques et créatives, à la possibilité de faire faire, qui est une définition primaire du pouvoir. Faire faire à l’appli, au smartphone, aux algos, aux IA, aux robots… Comme on fait faire aux femmes, aux Arabes, aux esclaves, aux petites mains, aux sans-papiers sur leur vélo, ou tout bonnement à ses subordonnés hiérarchiques, ce qu’on ne veut pas condescendre à faire : ici se tient le pouvoir.

Jean Baudrillard revient justement comme un fil rouge dans Vallée du silicium. Qu’avait-il pressenti de ce monde ?

Lors de mon premier voyage à vélo, aux États-Unis, en 1992, son petit essai Amérique m’avait servi de bible. Je l’ai relu lors de mon séjour ici, près de quarante ans plus tard, et j’ai été fasciné par sa faculté à identifier des tendances émergentes à l’époque et qui sont devenues majeures. Ce qu’il nomme le « stade vidéo », par exemple, qui est cette boucle machinique par laquelle on ancre ou cherche à renforcer la réalité de son existence en la filmant, la photographiant, l’archivant… Comme si notre vécu n’était plus suffisamment intense si on ne le doublait pas d’une trace numérique. Comme si notre société était devenue tellement moléculaire et liquide qu’on éprouve un doute sur notre propre existence ou encore que notre aptitude à habiter nos corps, notre capacité de présence, au sens temporel et physique, est devenue tellement évanescente qu’elle exige cette ontocopie numérique.

Et puis Baudrillard est un grand styliste. Un modèle à mes yeux, au sens où sa prose va véhiculer beaucoup d’affects, de sensations crépusculaires, de mélancolie joyeuse, en les métissant à des idées puissantes. Il parvient à penser l’Amérique par induction, en partant du terrain, d’une observation très directe, pour monter progressivement vers le concept. C’est très nietzschéen, incisif, drôle et psychologiquement acéré.

L’objectif de ce livre, dites-vous, était de « parvenir à penser contre vous-même ». Y êtes-vous parvenu ?

En y resongeant, je me dis que j’ai presque essayé de penser « sous moi-même », ou « en oblique », de me désaxer, en creusant dans un inconscient sociétal que je n’avais jamais vraiment exploré. Je suis un héritier de la philosophie occidentale, de Deleuze, de Foucault, de Nietzsche… Ces outils conceptuels, très ancrés en moi, il fallait les retourner et les utiliser autrement, comme un couteau qui ne servirait plus à découper mais à graver. Je crois l’avoir réussi pour quelques-unes des chroniques de Vallée du silicium, par exemple ce portrait du programmateur Gregory Renard, un véritable artisan du code, qui m’a fait comprendre des choses essentielles sur les chatbots [ou agents conversationnels] et qui a su bouleverser en moi mes préjugés sur l’IA. C’est l’une des rares personnes à trouver que l’on vit une période formidable, parce que dans son domaine, les machines de langage, s’expérimente un véritable âge d’or ! Il lit la continuité de nos civilisations à travers ce paradigme de l’information et voit l’IA comme le pouvoir de la torréfier pour la transmettre.

Autre exemple, Arnaud Auger, un technophile heureux dont le rapport au corps m’a littéralement retourné le cerveau. J’aurais très bien pu faire le portrait d’Arnaud de manière ironique et narquoise, en taré du quantified self, en psychotique qui aurait besoin d’une montre connectée, d’une bague connectée, de lunettes connectées pour monitorer sa vie à chaque instant. J’ai refusé cette facilité : Arnaud est tout sauf psychotique ou anxieux. Il vit cette technologie de manière sereine et ouverte, il m’a ouvert une réflexion sur nos corps que je n’avais pas anticipée.

De façon générale, mon approche technocritique restait trop centrée sur la dialectique maître-esclave : qui commande ou contrôle et qui obéit ? L’outil ou l’utilisateur ? L’homme ou la machine ? Une approche qui devient sans pertinence au moment où des technos comme l’IA nous offrent du jeu, de la négociation possible avec l’outil, une véritable interlocution, voire un co-apprentissage fécond. Nos créations d’ingénieur se comportent désormais en créatures « responsives ». Il faut l’assumer et penser autrement notre rapport à la « machination », se demander ce que serait un rapport fertile à la technologie, hors des évidentes aliénations qu’elle suscite.

ChatGPT

Toute technologie porte en elle un nouveau rapport au monde. On croit utiliser un frigo quand c’est notre façon de nous nourrir qui est révolutionnée par le stockage des aliments frais. La machine situe notre liberté et notre liberté s’exerce face à elle, en elle. Nous sommes libres de nos usages de la machine, libre même de ne pas l’utiliser, parfois. Mais c’est une liberté en situation, déjà située, un libre-arbitre qui s’exerce à l’intérieur d’un monde transformé et repotentialisé par la machine où il devient impossible de se comporter comme si elle n’existait pas. La voiture a littéralement « inventé » les routes, les parkings et les trottoirs, elle a appelé l’extraction du pétrole et intégralement refondé l’aménagement du territoire. Les réseaux sociaux ont inventé la communauté sans présence, l’auto-exposition, le selfie, l’exclusion possible, le harcèlement et la lapidation numériques. L’IA est en train d’inventer l’auto-discussion et le jumeau numérique, parmi des centaines de réinventions de nos façons de travailler.

(…) Par une sorte de bug lexical, le mot anglais chatbot me fait toujours penser au chat. Le chat ? Oui, cet animal dont on ne sait plus si nous l’avons soumis ou si c’est lui qui a domestiqué l’espèce humaine, tant son indépendance et sa faculté à nous mettre à son service surprennent. Ainsi en ira-t-il sans doute du chatbot personnalisé, moins animal qu’animé, contrefaisant si bien une personne vivante que la fiction d’existence qu’il active par ses répliques parviendra à être plus présente, et presque plus crédible, que nos proches. Chat-qui-écoute et chat-qui-parle, nous finirons sans doute par l’aimer comme on aime nos chats, avec la même étrangeté de lien, asymétrique et fusionnel.

Quand on écoute Gregory Renard, votre « artiste programmateur », on a presque l’impression d’un apôtre qui vient propager la Bonne Nouvelle. De quoi la Silicon Valley est-elle la religion ?

Ce serait la religion de la matière-lumière. La Silicon Valley est imprégnée d’une inspiration puritaine très forte, que m’a révélée Fred Turner. Ce courant, qui débarque sur les côtes américaines au xviie siècle avec le Mayflower, est travaillé par une tension vers l’immatérialité, une pureté débarrassée du corps. Dans la Silicon Valley vibre cet imaginaire que plus on est proche de la lumière, de l’immatérialité de la lumière, plus on se tient proche de Dieu. Et qui en est le plus proche ? Le WASP, l’homme blanc baigné de lumière, puis la femme, déjà trop engagée dans son corps par la maternité, puis le Noir, trop proche de l’animalité, etc. Ces référents sexistes et racistes sont inconscients mais ils opèrent. Quand on s’avise que le numérique nécessite la fibre optique pour fonctionner, donc la circulation de la lumière, quand on décrypte cette fascination pour la vitesse-lumière qui permet l’ubiquité et la fulgurance des échanges, quand on suit cette quête de l’immatériel et ce rejet du corps dans sa physicalité, alors, oui, quelque chose de l’ordre du religieux se fait jour.

Le monde tel que le crée la Silicon Valley est-il voulu, délibéré ?

La Silicon Valley est bien sûr traversée de courants idéologiques, plus qu’intellectuels, comme le long-termisme, qui entend réfléchir à long terme au bonheur de l’espèce humaine et à la manière dont les technologies pourraient l’améliorer, ou encore le transhumanisme, qui parie sur l’humain augmenté. Ces courants me semblent structurer après coup, ou rétro-justifier, la logique immanente au capitalisme, qui reste la maximisation du profit et la recherche de situation de monopole capable de la pérenniser.

Vous parlez de « Machination », un terme qui peut renvoyer autant à la technique qu’à une sorte de plan secret, de complot…

La Machination traduit cette évidence : jamais nos modes d’existence n’étaient entrés dans un couplage aussi intense avec les machines — au premier rang desquelles cet objet nomade totalitaire qu’on appelle le smartphone, qui lui-même s’inscrit dans la toile immense des réseaux, notre vrai biotope moderne. Nous atteignons une sorte d’acmé, un sommet – dont je pense qu’on va redescendre assez rapidement, ne serait-ce que parce que les ressources minières et fossiles de la terre ne sont pas infinies et que nous les carbonisons à un rythme frénétique. C’est l’orgie énergétique, « l’énorgie ».

Il est clair que j’ai choisi ce mot « machination » pour sa tension ambiguë. Il peut avoir des relents complotistes, au moins intentionnels, même si, à mes yeux, cette machination a lieu en pleine lumière, sous les phares technocapitalistes. Le numérique a permis d’extraire une plus-value machinique extraordinaire à partir des échanges sur les réseaux et de l’orpaillage des traces, bref, à très bas coût. Contrairement à des industries comme l’automobile, le numérique opère avec un minimum de matière. Il n’a souvent même plus besoin d’innovations pour générer des mannes torrentielles de fric. Pensez à WhatsApp.

L’espace numérique que nous habitons a été universalisé. Notre nouveau commun est le « numiversel » : un Ouzbek, une Chinoise, une Malaisienne ou un Américain utilisent les mêmes applications avec les mêmes gestes formatés (le swipe, par exemple), et sont tous soumis aux mêmes logiques algorithmiques posées par les Gafam. Aucun complot là-dedans, juste l’extension mondiale d’usages numiversels.

La machine nous a « hominisés », sans nous « humaniser », écrivez-vous. Quelles sont les répercussions sociales de cette Machination ?

Je pars ici d’une analyse du philosophe allemand Peter Sloterdijk, qui reprend lui-même Heidegger. Selon lui, nous venons au monde grâce à la technique et par la technique. Notre degré très élevé de technicité nous distingue des autres animaux. Et la première de nos techniques, c’est l’aménagement de l’espace – investir des clairières, agencer des seuils et des frontières, des murs, des maisons pour se protéger et se réchauffer. À mesure de notre évolution, nous avons affiné cet agencement de l’espace jusqu’à le déléguer à des technos comme la domotique, faire entrer l’IA dans nos foyers ou utiliser la réalité mixte pour spatialiser nos mondes numériques à l’intérieur même de nos chambres.

Ce processus est certes un processus d’hominisation. On devient davantage « Homo » sans devenir plus « sapiens » pour autant. On raffine en quelque sorte une spécificité de l’espèce à travers le perfectionnement technologique, en quantité comme en qualité. Mais devient-on plus humain ? Si l’on entend l’humanité comme générosité et accueil, comme chaleur et convivialité, comme tissage du lien à l’autre ?

Mon impression est qu’on cherche à s’augmenter, à devenir plus qu’humain, dans une quête transhumaniste, au lieu de s’attacher à devenir plus humain.

La santé connectée

Chris, un cadre français d’une start-up biotech qui m’a invité chez lui, amateur de vins fins et père d’une famille adorable, m’a expliqué qu’il travaillait sur des capteurs intestinaux pouvant rester un mois dans le ventre et délivrer une information très précise sur les maladies potentielles de la patiente. Il m’a avoué sans ambages : « Nous sommes dirigés par l’innovation technologique, c’est la tech possible qui nous leade. On invente puis on avise. C’est seulement ensuite qu’on cherche à savoir à quoi ça pourra servir et surtout comment faire du fric avec. »

Il est facile d’imaginer comment ça peut tourner. Lorsqu’il sera pleinement opérationnel, ce type de capteurs saura quelles maladies il est probable que vous déclenchiez à court, moyen ou long terme. Le séquencement de votre génome y pourvoit déjà aussi. Avec ces données qui devraient rester confidentielles, on décidera ou non de vous assurer. Ce sera comme l’acceptation ou le refus d’un crédit : on ne vous dira pas pourquoi vous avez été refusée, ni pourquoi on vous propose une assurance maladie quatre fois supérieure à celle de votre collègue de travail qui a pourtant le même âge que vous. À moins que la loi ne les autorise ou même ne les oblige, sur requête, à le dire ? Alors vous découvrirez qu’à 88 % de probabilités, vous allez développer un diabète. Ou Alzheimer. Ou Parkinson. Vous allez coûter cher. Trop cher. Ou vous ferez un infarctus avant 64 ans à 64 % de chances d’après les statistiques croisées entre votre profil et les données de la population.

Cela pose également la question de la liberté. Face à la machine, à l’innovation technologique, vous évoquez une « liberté en situation »… Quelle différence avec la servitude volontaire ?

Quand je parle de liberté située, je veux dire qu’elle s’exerce face à une situation imposée qui n’enlève rien au fait de pouvoir s’autodéterminer. Personnellement, j’ai choisi de ne pas avoir de smartphone. Face à un monde complètement connecté, où la joignabilité est devenue la norme, je peux décider de m’extraire, de me déconnecter. Même si cela me crée d’autres contraintes, il m’est toujours possible de décider de le faire, d’actualiser ma liberté face à ce monde ultraconnecté. Il faut sans cesse le rappeler : pour chaque technologie qu’on nous propose, nous pouvons disposer ; nous ne sommes pas obligés d’y aller, d’adhérer.

Cela posé, le règne actuel du digital est marqué par une subtile et forte aliénation, qui s’incarne dans l’auto-aliénation. Foucault distinguait trois régimes de pouvoir : le pouvoir féodal, avec un droit de vie ou de mort sur les sujets sans pour autant les surveiller ; puis un régime disciplinaire à partir du xviiie siècle, où l’on contrôle le temps et les corps dans des milieux fermés, comme l’hôpital, l’usine, l’école, la prison… ; on glisse ensuite, après-guerre, dans ce que Deleuze va nommer le régime de contrôle, beaucoup plus insidieux, où tout le monde devient pièce et relais du pouvoir – un sujet que j’avais travaillé dans mon premier roman La Zone du Dehors, sorti à la fin des années 1990. À ce régime de contrôle, le tournant numérique va donner une extension inimaginable et terrifiante : plus aucun acte, geste, déplacement ou message n’échappe au réseau qui l’enregistre. N’importe qui peut potentiellement contrôler ou surveiller n’importe qui. Nous sommes pris dans un réseau informatique où chacune de nos actions produit par construction de l’information, donc de la trace, donc de la data qui peut être exploitée. Évidemment, les pouvoirs établis, disciplinaires ou pyramidaux, vont se greffer à cette nouvelle source de contrôle, mais en quelque sorte « par après ». Ils ne l’ont pas inventée, mais ils s’en servent activement.

La particularité du régime numérique est qu’il n’a plus besoin de pouvoir extérieur pour générer de l’emprise. Me sont offerts, souvent gratuitement, tous les outils propices à mon auto-aliénation : les plateformes, les applis, les réseaux sociaux, les jeux vidéo… Personne ne te met le couteau sous la gorge pour aller sur TikTok ou Instagram. Tu es simplement « incité », par le nudge, les coups de pouce, la pente naturelle de nos désirs, et très vite pris dans des mécanismes d’autoaddiction difficiles à déjouer. Tu te retrouves piégé dans ces boucles de dépendance, par exemple à la dopamine, à tourner dans ces circuits de la récompense aléatoire qu’avait révélés le comportementaliste Skinner.

Ces plateformes fonctionnent à la façon d’une drogue, ce produit qui « fabrique son propre client », comme le disait William S. Burroughs – et ça fait trente ans qu’elles travaillent quotidiennement, à grand renfort de biais cognitifs exploités, de psychologues et de neurologues, de designers pointus, à maximiser le temps que nous passons sur une plateforme, une appli, un jeu, etc. ! Ce n’est pas tant une vaste manipulation psychologique à échelle mondiale qu’une rationalisation économique ultra-efficace de l’extraction du profit. Plus on passe de temps sur la plateforme, plus on peut absorber de publicités personnalisées, plus elle devient rentable. Autrement dit, l’objectif capitaliste a pour nécessité collatérale l’optimisation des techniques de dépendance. Le point ultime de l’exercice du pouvoir est atteint quand plus personne n’a besoin de l’exercer « de l’extérieur » puisque tout le monde s’auto-aliène par sa propre économie de désirs : il a « juste » fallu mettre en place les conditions optimales de ce consentement. À ce stade, il n’y a plus de différence entre servitude et pouvoir, liberté ou suivisme : tu consens librement à te soumettre à ta pente naturelle, sauf qu’elle est descendante et mène à l’appauvrissement de tes puissances propres.

 

Pour comprendre pourquoi l’on se soumet ainsi, vous mettez en lumière quatre « moteurs du désir »… Quels sont-ils ?

La technocritique oublie trop souvent que nous sommes des êtres de désir. Si l’on ne comprend pas les désirs qui sont à l’œuvre, qui sont activés, quand on utilise la technologie, on ne comprend rien à mon sens à ce qui se passe.

Le moteur le plus ancien, le plus étrange peut-être, c’est le fantasme de dépasser sa condition humaine, ce que j’appelle l’antique désir d’être Dieu, d’en posséder les attributs, de ne plus accepter notre finitude de corps et d’esprit. Ça fonctionne à la promesse, et ça marche parce qu’on a quelques avancées : on a réussi à repousser la mort en augmentant l’espérance de vie. On a pratiquement tenu la promesse de l’ubiquité grâce au numérique, qui permet d’être à plusieurs endroits à la fois – là je suis avec vous, alors que je vous parle depuis ma chambre d’hôtel. La promesse est là, même si elle est encore embryonnaire, et elle renforce le désir et sa narration. C’est sans doute propre à notre espèce ! Comme si, ontologiquement, il nous fallait toujours plus, comme si nous étions incomplets dans notre niche écologique et qu’il nous manquait toujours quelque chose. Les transhumanistes jouent à l’évidence sur cette corde du désir. Ils veulent tuer la mort et les maladies, arrêter le vieillissement, réparer les handicaps et toucher à l’immortalité. Toutes ces augmentations partent du principe que l’humain normal est handicapé, incomplet, et qu’il faut le rendre plus endurant, plus performant. Ça ne concernera qu’une élite ultra-riche, mais peu importe si le storytelling est efficace…

Le deuxième moteur du désir que vous identifiez, c’est la conjuration des peurs, notamment grâce à la technologie… Mais à force de conjurer nos angoisses, en crée-t-on de nouvelles ?

J’ai toujours été sidéré par notre besoin de sécurité, notre volonté de conjurer l’incertitude, les appréhensions, les angoisses, même les plus minimes. Sauf que plus nous conjurons, plus l’on épaissit les parois de notre « technococon », plus le moindre accident ou hasard nous semble insupportable. C’est catastrophique politiquement, car ça conduit à des politiques sécuritaires complètement disproportionnées. Prenez le cas d’Israël. Le pays pensait être protégé des attaques, avec ses drones, son « Dôme de fer », ses équipements high-tech inégalés dans le monde. Et, tout d’un coup, le Hamas parvient à assassiner plus de mille personnes. Le choc est énorme. Mais plus énorme et absurde est la réaction, totalement disproportionnée, ignoble et criminelle au niveau militaire. Pourquoi ? Parce qu’on touche à une réaction immunitaire panique, où le Palestinien devient un cafard à exterminer, qui a osé entrer dans nos maisons surprotégées, il faut donc le détruire exhaustivement, c’est de la prophylaxie. L’immunité est le point extrême du sécuritaire, son horizon absolu. Mais une société qui veut être tranquille d’avance se suicide comme société libre. Et elle détruit autour d’elle toute altérité : l’étranger, le migrant, l’autre religion, l’autre culture, tout ce qui n’est pas soi. À mes yeux, le technococon potentialise et accroît cette logique immunitaire. Elle la rend quotidienne, « normale ». Les réseaux sociaux, par exemple, sont l’empire naturel de la « réaction », ils sont structurellement réactionnaires, et ne favorisent en aucun cas le rapport à l’autre. Ils contribuent à faire de tout ce qui n’est pas moi une menace potentielle. 

Le troisième moteur du désir, c’est la volonté de pouvoir…

C’est en réalité le premier. L’origine même du fait technique. Chaque nouvelle technologie te promet plus de pouvoir. Elle te promet de faire faire à la machine ou à l’algorithme quelque chose que tu n’auras plus à faire par toi-même. Au point qu’on a désormais ce fantasme, cette mythopoeïa d’une super intelligence qui pourrait absolument tout résoudre.

On commence à comprendre les conséquences de cette externalisation générale au niveau physique : quand tu prends l’ascenseur davantage que l’escalier ou la bagnole plus que le vélo, tu dégrades ta forme physique. Mais nous avons moins conscience de son impact psychologique et cognitif, un incroyable appauvrissement de nos facultés mentales. Prenez la mémorisation : la disponibilité immédiate des moteurs de recherche rend caduque l’exigence de mémoriser des savoirs ou des faits. Si on généralise la délégation, penser devient plus difficile, car penser exige des points d’appui, des concepts acquis, de savoirs qu’on va tisser entre eux — mais que tisser quand tu n’as rien en toi de sédimenté ? À terme, je crains que cette volonté de pouvoir nous prive de notre agilité cognitive, de notre faculté à penser, de nos puissances. Un exemple très concret : les applications de rencontre. Elles promettent de rencontrer quelqu’un qui correspond à vos critères, s’avère disponible, le tout pas loin de chez vous. C’est un pouvoir colossal d’être en mesure d’accéder à ce rêve ! Mais qu’est-ce que ça veut dire en vérité ? Qu’on perd l’imprévisible, l’hésitation, le doute, la lecture des corps, la recherche, le hasard, tout ce qui est « en puissance ». Tout ce qui fait la puissance de la rencontre. On s’automarchandise, on se produit comme produit pour l’autre et on lui demande aussi d’entrer au catalogue.

La bureaucratie numérique

Le technocapitalisme nous avait promis la liquidation de la bureaucratie. C’est exactement l’inverse qui s’est produit. Il a externalisé vers la cliente, c’est-à-dire nous, l’ensemble des tâches bureaucratiques et administratives qu’il assurait encore lui-même à l’ère industrielle, en employant des millions de salariées pour nous soulager de ces contraintes, de sorte qu’accessoirement, ça créait des emplois.

Cette mission s’appelait d’un nom qui sonne étrange aujourd’hui : ça s’appelait laqualité de service.

Nous réservons désormais nous-mêmes nos propres billets de train et d’avion, nos chambres d’hôtel et nos voitures, nos spectacles et nos taxis, nous gérons nous-mêmes nos retraites, nos relevés d’électricité, nos comptes bancaires et nos mutuelles, nous assurons nous-mêmes le contrôle-qualité des restaurants par la notation qu’on nous suggère gratuitement d’opérer, nous alimentons nous-mêmes les bases de données qui vont nous tracer, nous remplissons des centaines de fois par an nos coordonnées, nom, adresse, courriel et tél, avec pour corrélat des millions d’heures perdues par les citoyennes consentantes en tâches débiles, et pour des milliards de bénéfices engrangés en face, puisqu’ils sont parvenus à nous faire faire le boulot... à leur place.

Nous sommes devenues les bureaucrates de nos quotidiens sans qu’aucune des promesses de productivité ou d’automatisation accrue n’aient produit autre chose qu’encore davantage de bureaucratie et un nombre incalculable de mots de passe à générer, retenir et utiliser pour juste regarder si l’on a encore un peu d’argent sur son compte. C’est l’ère du client-valet.

Où est la liberté qui nous avait été promise ? Je ne vois personnellement que des sas dressés, des grilles digitales et des frontières. Frontières partout | liberté nulle part !

Cela nous amène au dernier aspect du désir, ce que vous appelez « la paresse jouissive »…

Pour moi, la paresse jouissive, c’est la politique du moindre effort qu’encourage la tech. Or, l’effort est constitutif de l’apprentissage, c’est ce qui nous permet d’exercer notre puissance, d’« aller au bout de ce qu’on peut » comme dirait Nietzsche. La paresse jouissive, c’est ce qui se produit quand on a tout à portée de main. Nous devenons comme ces tigres bien nourris dans les zoos, qui n’ont plus du tout besoin de bouger.

Si l’on souhaite battre le capitalisme sur le terrain du désir, ce qui me semble l’objectif le plus louable et nécessaire aujourd’hui si l’on entend en sortir, comprendre le rôle de la tech et du numérique dans son emprise me semble indispensable. À nous de réactiver le désir autrement, de proposer des alternatives plus désirables que la consommation numérique, l’achat ou l’utilisation de services confortables, qui soulagent. Nous avons créé notre « école des vivants » dans les Alpes-de-Haute-Provence avec cette envie en tête : on y discute, se baigne en rivière, découvre les chamois, crée en atelier, on mange bien, on fait pousser des légumes, on s’amuse. Nous réactivons simplement le tissage des liens avec l’autre, avec le vivant, avec les animaux et le végétal, avec la rivière et on découvre que c’est plus puissant que de jouer sur son appli ou relever ses notifs. Là est tout l’enjeu politique : faire sentir aux gens que les liens libèrent. Qu’ils ne sont pas seulement des chaînes ou des contraintes, comme le prétend le système néolibéral, mais que la liberté peut s’éprouver collectivement. Qu’un groupe joyeux, ouvert, te rend plus vaste et va te nourrir.

Vous écrivez justement que les Gafam, les géants d’Internet comme Google, Amazon et Apple, ont « absenté » les liens…

Pour moi, c’est le collatéral d’une guerre qui n’a pas eu lieu. C’est le collatéral de notre volonté de communiquer à distance avec n’importe qui, en se faisant croire à soi-même que nous n’avons pas besoin d’être présents, que l’incarnation ne compte pas. L’odeur, le magnétisme, la chaleur, le charme, le toucher ne comptent pas. Là, on se parle à trois en visio, je perçois vos voix, vos visages et vos expressions. Mais vous restez des images et des sons dématérialisés. Un produit audiovisuel. Et je reste dans ma solitude physique et émotionnelle.

Cela étant dit, je ne pense pas qu’il y ait eu une volonté assumée de réduire les liens et l’empathie. Simplement, le système est plus rentable à distance. Si l’on discute ensemble dans un café, on ne générera aucune plus-value, à part le prix de nos bières. Si l’on discute en ligne, chacun depuis notre bulle individuelle, il y aura toujours un tiers qui pourra extraire de la valeur sur nos échanges par les traces qu’ils laissent.

Le développement massif de l’IA vous inquiète-t-il ?

Il faut d’abord comprendre que ces créations machiniques, ces intelligences artificielles génératives sont plus que des outils animés par l’électricité, ou des esclaves destinés à trouver pour toi l’information que tu n’as pas le temps de chercher. La dialectique maître-esclave ne fonctionne plus. Oui, l’IA, le chatbot, va aller chercher ton information, mais elle va aussi apprendre quelque chose dans le processus. Un dialogue naît, un co-apprentissage réciproque, même s’il est intégralement simulé. Il ne s’agit pas de croire que l’IA est un être doué de raison ou d’intentionnalité ! Mais elle est animée par notre animisme. L’échange est là, étrange et plein d’altérité, on le vit comme réel, et il y a un apprentissage des deux côtés. Nos créations sont devenues des créatures : on a formé des golems avec des lignes de code tracées sur des fronts de plasma pur.

Il faut accepter cet animisme conscient que nous simulons nous-mêmes. Et si nous l’acceptons, alors nous devons accepter que notre relation à l’IA soit aussi embrouillée, aussi complexe, aussi chaotique qu’une relation avec n’importe quel humain. Il faut lui appliquer les mêmes catégories psychologiques ou sociologiques, il faut prendre en compte les effets de biais, et le fait qu’homme et IA vont se pervertir mutuellement. Je pense à Kevin Roose, ce journaliste du New York Times : le chatbot de Bing avait fini par lui dire qu’il l’aimait et lui conseillait de quitter sa femme. C’est totalement logique. L’IA s’était nourrie de millions de conversations de couples naissants, d’amants et d’amoureux jaloux, qu’elle avait compilées.

Mais quels en sont les risques ?

Je pense que ça va être catastrophique pour le monde du travail, notamment pour le journalisme, pour les métiers du tertiaire sans grande valeur ajoutée créative, pour les graphistes, les juristes, tous ceux qui utilisent le langage ou la fabrication d’images, pour les codeurs moyens, etc. Un nombre très important d’emplois vont sauter. D’ailleurs, on reparle beaucoup du revenu universel aujourd’hui dans la Silicon Valley ! Cela veut bien dire qu’ils ont parfaitement conscience qu’ils sont sur le point de détruire des millions d’emplois avec l’IA.

Fondamentalement, je pense que l’IA est faite pour les créateurs. Elle est faite pour moi – je m’en suis d’ailleurs servi dans une de mes nouvelles. Elle est faite pour les écrivains, les directeurs artistiques, pour des gens qui vont savoir l’utiliser et l’optimiser à leur profit. Mais pour 95 % des gens, cela va simplement être quelque chose qui écrit mieux qu’eux, qui argumente mieux qu’eux, qui va mieux synthétiser les informations qu’eux. Rapidement, ils vont lâcher. Et la majorité de nos échanges sociaux vont être dominés par des chatbots, qui ne font pas de fautes d’orthographe et qui font des phrases « moyennes » déterminées par la probabilité.

Le vrai risque pour moi, en vérité, n’est pas tant la « superintelligence » que l’IA personnalisée. Elle est déjà là, dans Snapchat ou dans d’autres applications qui te recommandent des contenus. Bientôt elle sera systématique. On l’éduquera nous-mêmes. Elle sera parfaitement modelée sur nos préférences, nos envies, notre personnalité. Elle deviendra notre premier interlocuteur, avant nos frères, nos sœurs ou nos parents. Et elle va épaissir encore un peu plus notre bulle, notre cocon en nous repliant sur des rapports affectifs narcissiques et pervertis.

Et donc favoriser notre enfermement ?

De manière encore plus rapide ! Nous avons connu deux grandes révolutions déjà : d’abord avec l’apparition d’Internet et des réseaux connectés à l’échelle mondiale, puis avec l’émergence des smartphones comme outils nomades totalitaires, toujours dans notre poche ou nos mains. L’IA est la troisième révolution, et c’est de loin la plus importante. Celle qui va avoir l’impact anthropologique le plus fort sur nos pratiques, nos rapports au monde, à soi et aux autres. Avec le risque, en plus, d’avoir face à nous à terme un interlocuteur unique, bienveillant et conciliant, par lequel tout va passer. Plateformes, applis et outils restent encore trop éparpillés, et vu les milliards investis par tous les géants de la tech, la concentration risque encore de s’accélérer. My IA, Myia, si vous voulez, va être la grande affaire de chacun et de tous. Mais c’est impossible de prédire le sapiens que ça va construire. Les révoltes peuvent être fantastiques.

En quoi notre rapport au réel va-t-il être modelé par ce « technococon » ?

Notre rapport au réel est depuis longtemps reconfiguré par les interfaces, à commencer par l’écran. Là, c’est notre rapport à l’autre qui est en jeu. La généralisation des IA personnalisées va le rendre complètement déceptif. Si je vais au café avec ma copine et que j’oublie qu’elle boit des ristrettos, ce sera vécu comme un manque d’attention, dans la mesure où Myia saura parfaitement ça et des milliers d’autres détails centrés sur ma vie, mes choix, mes goûts. Comment ne pas voir que ça peut nourrir un égocentrisme massif, un narcissisme « naturel », acquis, et donc une incapacité à faire l’effort d’aller vers l’autre ? Imaginez un adolescent confronté à cette technologie : se confronter à l’altérité, au regard des autres à cet âge, c’est douloureux. Ce sera beaucoup plus facile d’interagir avec cette machine bienveillante qui te connaît mieux que personne ! Les ados vont se construire à travers ces IA personnelles, qui vont complètement fausser à terme leurs relations aux autres humains. Qui pourra être plus gentil qu’une IA construite pour te faire plaisir ?

On le voit déjà un peu à l’œuvre chez les jeunes consommateurs de porno. Le psychanalyste Miguel Benasayag racontait qu’il voyait de plus en plus de jeunes qui lui disent : « Pourquoi je me fatiguerais à essayer de trouver et maintenir une relation sentimentale, alors que je peux avoir une relation fantasmatique avec n’importe quelle bombe de mon choix sur Internet ? » Le Blade Runner de Denis Villeneuve montre cette dérive, ou le Her de Spike Jonze. L’IA m’inquiète parce qu’elle active tous les mécanismes d’auto-aliénation, toute la gamme de l’économie du désir, depuis la peur de l’autre jusqu’au désir libidinal cru, et sera intégrée, tissée à notre intimité la plus profonde.

Notre avenir est-il écrit ? L’homme de demain est-il condamné ?

Non, rien n’est écrit ! Ça, c’est une « hyperstition », une croyance collective autoréalisatrice. Croire en l’« effondrisme », croire à l’extinction de la vitalité humaine, croire qu’il ne sert à rien de se battre car tout serait condamné, cela revient à laisser les Gafam décider de notre avenir. Non, rien n’est écrit, notamment au niveau des ressources. Toute cette technologie va fonctionner avec des ressources énergétiques colossales, exponentielles. On va bien finir par atteindre un point limite. Alors il nous faudra redescendre vers la low-tech ou la mid-tech. Il faudra sûrement un jour rationner Internet ou partager nos smartphones. Un créneau de deux heures par jour, pour se recentrer sur le plus important, serait sans doute suffisant. On reviendrait vers une technologie plus appropriable et mieux utilisée.

Un autre aspect qui me donne de l’espoir est l’éducation possible. La vague numérique a déferlé sur nous sans préparation et elle continue à le faire. Nous avons cette urgence d’éduquer : par l’Éducation nationale bien sûr, mais d’abord dans les associations, les parents vis-à-vis des enfants, entre nous… Se former à utiliser intelligemment l’IA par exemple, s’autoformer et s’entre-former. Il faut éduquer aux réseaux sociaux, il faut proposer à nos enfants et à nos potes les jeux vidéo les plus riches, les plus ouverts, ceux qui nous déploient, comme on leur fait découvrir les bonnes séries télé. Il faut créer des associations militantes – certaines existent déjà – qui t’apprennent à anonymiser ton ordinateur, ou à comprendre comment fonctionne l’IA pour l’utiliser de manière consciente. Tout ça va infléchir les choses et faire émerger une génération qui fera du rapport à la tech un art de vivre. C’est l’horizon à déplier.

Le combat se joue aussi sur le terrain de l’imaginaire. Les pro-IA fabriquent un storytelling enthousiaste, via les films, les jeux et la pub, les influenceurs. À nous, auteurs de science-fiction, créatrices et designers, de mettre en récit des imaginaires différents, viables, tissés et vivants. Pas seulement des univers technocritiques et dystopiques ! À nous de penser la cohabitation avec la machine, l’autonomie, la convivialité des outils, l’émancipation à en tirer. Nous sommes là pour lancer des intuitions, créer des résonances, faire des liens entre les disciplines. Car il faut se battre sur tous les terrains. Et surtout, il faut se battre contre l’idée que tout serait écrit. Il faut désincarcérer le futur. Leur futur. 

 

Propos recueillis par LOU HÉLIOT & JULIEN BISSON

 

Vous avez aimé ? Partagez-le !