« Nous sommes soumis au biais d’automatisation en permanence »

Dans votre livre, vous associez la technologie à un nouvel âge de ténèbres. Pensez-vous que le numérique nous a rendus ignorants ?

Non, je ne le pense pas. En revanche, les technologies numériques ont apporté une grande confusion. Le propos que je défends dans mon livre est le suivant : depuis le siècle des Lumières, on a la certitude que plus on en sait sur le monde, plus on est susceptible de le rendre meilleur et d’améliorer nos conditions humaines. Ces dernières décennies, les technologies de réseau, et principalement Internet, nous ont donné accès à d’immenses quantités d’informations. Or, il suffit de regarder autour de soi pour constater que cette connaissance globale n’a pas eu l’effet escompté. Nous vivons dans un monde qui semble de plus en plus confus et particulièrement divisé. La confusion mène à la colère et à la peur, qui mènent à encore plus de divisions et à la montée des fondamentalismes. En réalité, il semble qu’à mesure que nous avons accès à davantage de connaissances, à plus de façons de comprendre le monde, les gens avancent vers les extrêmes.

Les technologies, censées à l’origine nous émanciper, semblent aujourd’hui nous aliéner.

Il est difficile d’affirmer que les technologies étaient faites pour nous émanciper, mais il est clair qu’elles nous ont toujours été présentées ainsi, notamment Internet et les ordinateurs personnels qui étaient censés donner du pouvoir aux utilisateurs et créer ainsi un monde plus égalitaire. La manière dont ces outils numériques sont construits va en fait à l’encontre de cette idée. Les outils dont nous disposons sont si compliqués et l’éducation qu’on nous donne à leur sujet est si pauvre, que la plupart d’entre nous n’ont pas la possibilité de les utiliser à des fins d’émancipation. Le fait que ces outils soient construits par de très petits groupes de personnes ayant des connaissances spécialisées, des préjugés énormes et des idées préconçues qu’ils injectent à l’intérieur même de ces outils réduit à néant tout espoir d’égalité.

Dans votre livre, vous faites référence aux « morts par GPS ». En quoi ce phénomène est-il symptomatique de notre rapport au numérique ?

La mort par GPS est un terme inventé par les gardes forestiers aux États-Unis pour désigner le nombre croissant de décès causés par des personnes qui conduisent leur voiture dans des zones incroyablement inhospitalières, comme la vallée de la Mort ou d’autres déserts, et même, dans certains cas, jusque dans des lacs et des rivières, parce que c’est essentiellement ce que l’ordinateur leur dit de faire et parce qu’ils préfèrent se fier aux indications d’une machine plutôt qu’à leurs propres sens. Il est important de souligner que ces utilisateurs ne sont pas stupides. Il existe un phénomène étonnant appelé « biais d’automatisation » : le cerveau préfère faire confiance à la technologie plutôt que d’opter pour l’option la plus crédible et la plus sûre. Cela s’applique même aux personnes qui sont incroyablement intelligentes ou du moins très bonnes dans leur travail. On a constaté ce phénomène lors d’une célèbre expérience sur des pilotes de ligne. Soumis à des accidents simulés, si l’ordinateur leur donne les mauvaises instructions, ils prennent la mauvaise décision au moment critique. C’est assez terrifiant quand on voit à quelle échelle les technologies sont aujourd’hui déployées. Nous sommes tous soumis à ce biais d’automatisation en permanence.

Ce biais est-il lié à notre culture ou affecte-t-il plus profondément notre structure cérébrale ?

Le biais d’automatisation est enfoui au plus profond de notre cerveau. Il précède les ordinateurs et peut-être même, de loin, la culture. Notre cerveau aime prendre des raccourcis parce qu’il doit traiter un grand nombre d’informations. Ainsi, s’il reçoit des informations fiables d’une source extérieure, il les utilisera au lieu de réfléchir par lui-même. Mais bien sûr, l’élément culturel joue aussi. Nous avons été élevés, éduqués dans un monde où les ordinateurs ont raison, où la façon dont les ordinateurs pensent est meilleure que la pensée humaine. Ceci est évidemment faux. Ce que j’appelle la « pensée computationnelle » ne ressemble en rien à la façon dont les humains pensent, et elle ne la surpasse pas.

Qu’est-ce que la pensée computationnelle ?

C’est la croyance que toute pensée ou connaissance peut être réduite à la logique mathématique des ordinateurs. Dit comme ça, cela semble évidemment ridicule. Nous savons que le monde est plein de nuances de gris. Mais nous appliquons pourtant cette idée en permanence, sans nous en rendre compte. Nous croyons que les ordinateurs peuvent potentiellement, d’une manière ou d’une autre, à condition de les programmer de la bonne manière, nous donner la réponse parfaite. Cette croyance est si profondément enfouie dans notre société et notre culture que nous ignorons l’appliquer la plupart du temps.

Avons-nous manqué notre rencontre avec les technologies numériques ?

On aurait évidemment pu mieux faire, mais nous pouvons encore arranger les choses. Il n’y a pas eu de moment singulier où tout a mal tourné. Il s’agit seulement d’un processus continu de notre manière d’envisager les technologies. Nous avons derrière nous une cinquantaine d’années au cours desquelles l’informatique numérique et des technologies de réseau se sont développées de manière extraordinaire. Ce laps de temps correspond aussi à un moment où le pouvoir s’est concentré dans les mains de moins en moins de personnes. Les inégalités ont augmenté et l’éducation a été mise à mal. Ces éléments sont liés, mais ils sont également modifiables. Je ne pense donc pas que ce soit un rendez-vous manqué, mais plutôt une rencontre qui s’est mal passée.

La pensée computationnelle a-t-elle définitivement colonisé nos cerveaux ? Comment savoir si nous sommes encore capables de penser autrement que selon la logique informatique ?

Nous en sommes encore tout à fait capables. Les effets négatifs dont je parle en sont la preuve. Le fait que la société se fracture, que la peur, la confusion et la colère se répandent montre que la pensée computationnelle ne correspond pas à notre pensée réelle. Nous réagissons contre, nous nous battons avec, d’une certaine manière.

Comment reprendre le contrôle sur les technologies ?

La réponse n’est pas simple, mais c’est avant tout une question d’éducation. Vous pouvez changer la relation que vous entretenez avec vos outils du quotidien si vous comprenez comment ils fonctionnent. En comprenant leur fonctionnement, vous pourrez également choisir d’utiliser des outils différents. Il existe des alternatives à presque tout ce que nous utilisons, qu’il s’agisse de moteurs de recherche, d’applications de messagerie, de réseaux sociaux ou même de banques et de partis politiques. Certains favorisent une égalité plus grande entre les participants que d’autres. Vous pouvez choisir de favoriser la messagerie Signal plutôt que WhatsApp, ou le moteur de recherche sans bulle de filtres Duckduckgo plutôt que Google, par exemple. En s’éduquant, on peut changer la relation de pouvoir qui s’est mise en place entre un logiciel et soi.

Cela signifie-t-il que nous devrions tous apprendre à coder ?

Il n’est pas nécessaire que tout le monde soit plombier pour que chacun ait de l’eau potable ou des toilettes qui fonctionnent. Mais l’eau potable et le traitement des eaux usées sont essentiels pour la société, pour la vie. Nous devons donc tous comprendre quelque chose du fonctionnement de la plomberie pour savoir quand quelque chose ne va pas. C’est de ce même genre de connaissances que nous avons besoin pour l’informatique, et nous n’avons rien de tel pour le moment. Demandez à vos proches comment fonctionne un ordinateur, vous verrez que le silence règne. Il y a un décalage énorme entre l’importance de la technologie dans nos vies quotidiennes et les connaissances générales que la plupart des gens ont à ce sujet. Encore une fois, la réponse dépasse l’échelle de l’individu. Un changement culturel et sociétal à long terme est nécessaire, et celui-ci dépasse les technologies elles-mêmes. La technologie dont nous disposons n’est qu’un très petit sous-ensemble d’une culture capitaliste beaucoup plus large qui, politiquement, encourage les relations de pouvoir inégales. Donc, si vous voulez reprendre le contrôle, votre combat est beaucoup plus large que celui de la technologie, mais cette dernière est un excellent prisme pour y réfléchir. 

Propos recueillis par M.P.