Sortir du servage numérique

Les prolétaires du Web, c’est nous. Nous travaillons tous, tous les jours et gratuitement, à produire des données qui alimentent les systèmes utilisant l’intelligence artificielle (IA). Quand nous sélectionnons nos chansons préférées sur Deezer, nous améliorons son algorithme de recommandation. Quand nous accordons des étoiles à un chauffeur de VTC ou à une location Airbnb, nous permettons aux plateformes de mieux répondre aux demandes futures. Quand nous transmettons notre géolocalisation à Waze, nous produisons des informations en temps réel sur l’état du trafic. Quand nous parlons à Alexa, nous permettons à Amazon de faire des progrès décisifs dans le domaine du natural language processing (imitation informatique du langage humain). Au passage, nos clics, nos goûts musicaux, nos vacances, nos déplacements et nos conversations sont captés, analysés et bien souvent réutilisés pour nous proposer de nouveaux produits ou des idées politiques sur mesure… 

Cette gigantesque captation de valeur, fondée sur du travail non rémunéré, fait de nous des serfs numériques. Comme le seigneur garantissait à ses paysans la protection contre la guerre ou l’utilisation du pressoir communal en échange de leur récolte, nous nous voyons offrir des services « gratuits » contre le moissonnage de nos données les plus personnelles. Cette asymétrie constitue une injustice flagrante. Pourquoi le producteur de données, en un mot l’individu, n’est-il pas intégré à la chaîne de valeur de l’économie numérique ? Ne serait-il pas plus normal que Facebook nous paye pour les données que nous lui fournissons, cette matière première avec laquelle il fait des fortunes ?

Mais il y a plus grave. En confiant sans limite nos données aux machines, nous risquons de devenir les esclaves… de nous-mêmes. En effet, l’IA est capable de créer de manière personnalisée des nudges, ce mot intraduisible qui désigne la manière dont un individu peut être « poussé du coude », titillé, incité, aiguillonné, réduisant son libre arbitre à une notion de plus en plus théorique. C’est ce que Julia Puaschunder, professeure en sciences sociales affiliée à la George Washington University, a nommé dans un article de recherche éclairant le nudgital, concaténation de nudge et de capital. Ce concept lui sert à mener une « critique de l’économie politique comportementale » à l’ère de l’IA : si le comportement de l’individu est prévisible, alors il est aussi manipulable. Cette manipulation prend la forme d’un nudge opéré par une IA – nudge qui fonctionne selon un critère précis (et nous voici dans « l’économie politique ») : l’utilité, pour soi-même et pour les autres. Plus nous partageons d’informations, et plus nous émettons de données ; plus nous fournissons des données aux plateformes, et plus nous nous prêtons en retour au nudge ; plus nous acceptons le nudge, et plus nous gagnons en bien-être. Désormais, le rapport de domination se crée entre nudgers et nudgés et non entre classes sociales.

Prenons un exemple simple. Depuis quelques mois, Gmail vous propose une ou plusieurs réponses toutes faites quand vous recevez un e-mail. Il n’y a plus qu’à cliquer. On ne pourrait mieux prouver que les algorithmes de Google « lisent » vos messages en toute transparence et impunité (rappelons-nous que, lors de la Révolution française, l’une des principales réclamations des états généraux était le secret des correspondances !). Surtout, en anticipant votre réponse, Google vous épargne un effort cognitif. Peu à peu, vous vous laissez faire, vous cliquez sur « Oui, merci ! » ou « Non, mon emploi du temps ne me le permet pas », jusqu’à ce qu’un jour peut-être vous fassiez entièrement confiance à l’IA pour répondre d’elle-même et organiser votre agenda. En attendant, Gmail apprend à vous connaître et personnalise vos réponses ; mais ce faisant, il vous enferme dans la moyenne statistique de vous-même, en vous privant de toute possibilité de divergence ou de contradiction. Il n’y a plus qu’à connecter un service de publicité ciblée correspondant à vos conversations, et le capital viendra s’adosser au nudge.

Il ne s’agit pas de s’opposer au mouvement de l’innovation. L’IA est une technologie prodigieuse, rêvée depuis Leibniz qui espérait pouvoir résoudre les problèmes métaphysiques les plus profonds par un simple calcul. Après plusieurs « hivers » où la recherche a stagné, les dernières années ont connu une accélération spectaculaire, due à la croissance de la puissance de calcul, à l’accumulation de données et à la redécouverte d’une technique particulière : les « réseaux de neurones », qui permettent de laisser l’IA construire ses propres inférences, avec le moins d’intervention possible de la part de l’homme. Voilà comment des systèmes informatiques peuvent aujourd’hui reconnaître un chat, prédire un ouragan ou détecter une tumeur cancéreuse. C’est incontestablement une excellente nouvelle pour l’humanité. 

Ce qui est en cause, ce n’est donc pas l’IA elle-même, mais le paradigme utilitariste aujourd’hui prévalent dans les plateformes commerciales qui la mobilisent. Pour répondre à la double menace de la servitude économique et de l’aliénation morale, il existe des solutions. Je plaide pour l’instauration d’un droit de propriété sur les données personnelles, qui permettra de conserver nos données par-devers nous en y associant nos propres critères explicites, et ainsi de reprendre le contrôle sur la valeur produite comme sur le nudge généré. À l’heure où Thomas Piketty entreprend une croisade contre la propriété privée, celle-ci doit retrouver sa vertu émancipatrice originelle en s’adaptant aux enjeux contemporains et aux nouvelles formes de domination. Aux data, citoyens ! 

[…]
Haut de page

Tous les numéros du 1

Sommaire