Un ouvrage fondamental sur le sens et les conséquences sociétales et politiques de la révolution du numérique.

Il est des livres dont l’on sait d'avance qu’il sera difficile de parler parce que les superlatifs feront rapidement défaut. Tel est assurément le cas du livre de Shoshana Zuboff, L’âge du capitalisme de surveillance, paru aux éditions Zulma dans une excellente traduction, un an seulement après sa sortie aux États-Unis. Remarquable, pénétrant, lumineux, brillant, magistral : on épuiserait toute la liste des synonymes qu’on ne réussirait pas à transmettre l’enthousiasme que suscite la lecture d’un tel livre. Le signataire de ces lignes avouera de but en blanc n’avoir rien lu d’aussi fondamental et novateur depuis longtemps, et n’hésitera pas à faire le pari que ce livre sera tenu à l’avenir comme tout aussi important pour la compréhension de l’ère numérique de ce début de XXIe siècle que Les origines du totalitarisme d’Hannah Arendt (d’ailleurs régulièrement citée par Shoshana Zuboff, qui voit probablement en elle un modèle) l’ont été pour les régimes totalitaires du siècle dernier.    

De quoi est-il question ? Le titre l’indique clairement, en mettant en circulation une expression qui a immédiatement fait florès : il est question du « capitalisme de la surveillance » que les puissances du numérique ont rendu possible. Le capitalisme de la surveillance est inconcevable en dehors du milieu numérique, mais réciproquement c’est l’idéologie et la politique néolibérales qui ont fourni historiquement l’habitat où a pu s’épanouir ce nouveau type de capitalisme qui a repris à son compte les mêmes lois capitalistes établies telles que la production compétitive, la maximisation des profits, la productivité et la croissance. Ce nouvel ordre économique est identifiable par plusieurs caractéristiques, dont nous ne retiendrons – faute de place – que les deux premières : 1) il revendique l’expérience humaine comme matière première gratuite à des fins pratiques commerciales dissimulées d’extraction, de prédiction et de vente ; 2) il subordonne cette pratique d’extraction et de prédiction elle-même à une nouvelle architecture globale de modification des comportements.  

L'expérience humaine comme matière première gratuite

Le premier point peut être rendu intelligible assez facilement. Le capitalisme de la surveillance désigne une nouvelle forme de marché qui cherche à tirer profit de l’expérience humaine privée et qui vise à s’en servir comme d’une matière première virtuellement inépuisable.

Depuis l’émergence d’Internet, les interactions entre les utilisateurs et le numérique sont devenues quotidiennes, allant d’une simple recherche sur Google, à la consultation de son compte Facebook, de l’envoi d’un post sur Twitter au visionnage d’une vidéo sur Youtube. Chaque interaction laisse des traces personnelles qui sont stockées indéfiniment. Comme chacun sait, Google – que Shoshana Zuboff tient pour l’inventeur du capitalisme de surveillance, le précurseur de son expérimentation et de sa mise en place – conserve l’historique de toutes nos navigations, même si nous prenons soin d’effacer l’historique de notre ordinateur personnel. Il en va de même pour chaque like sur Facebook, pour chaque clic occasionnel, pour chaque email, chaque photo enregistrée dans Drive, etc., et de toutes les autres traces personnelles que nous avons pu laisser sur la toile. Les informations qui devaient normalement vieillir et être oubliées restent ainsi éternellement jeunes, disponibles sur le Web, mises en lumière au premier plan de l’identité numérique, que l’intéressé le veuille ou non, comme le savent tous ceux qui ont une fois tenté en vain de faire supprimer une photographie présente sur Google. Les traces numériques que laisse derrière soi toute utilisation d’Internet constituent un sous-produit dont les géants du numérique (Microsoft, Google, Facebook, Amazon, etc.) se sont emparés pour construire autour de chaque utilisateur des récits détaillés (pensées, sentiments, intérêts). Le capitalisme de surveillance est né du jour où les données du profil utilisateur ont été utilisées en vue de créer un marché dynamique pour la publicité en faisant correspondre à chaque profil, tel qu’il se laisse reconstituer à partir des traces collatérales du comportement en ligne, les annonces qui sont le plus susceptible d’éveiller son intérêt. Chaque utilisateur a été ainsi transformé à son insu en fournisseur de matière première destinée à un cycle plus large de générations de revenus.  

L’impératif d’extraction des données personnelles (ce que l’auteure appelle le « surplus comportemental ») à partir de la moindre interaction avec Internet implique que les approvisionnements en matière première doivent être fournis à une échelle toujours plus grande pour garantir la pertinence du microciblage publicitaire. Profitant de l’état d’exception institué aux Etats-Unis après les attentats du 11 septembre 2001, les géants du numérique se sont très rapidement mis, au cours des années 2000, à tracer, racler, stocker et analyser des millions de données personnelles des utilisateurs afin d’élaborer leurs propres algorithmes de ciblage et vendre au plus offrant des « produits de prédiction ». On pourrait résumer ce développement en disant que le surplus comportemental sur lequel repose la fortune de Google et de Facebook peut être considéré comme des « actifs de surveillance ». Comme le dit Shoshana Zuboff dans son style énergique : « Le capitalisme industriel a transformé les matières premières de la nature en marchandises, et le capitalisme de surveillance revendique la nature humaine pour créer une nouvelle marchandise. Aujourd’hui, c’est la nature humaine qui est raclée, lacérée, et dont on s’empare pour le nouveau marché du siècle. (…) L’essence de l’exploitation ici est la restitution de nos vies sous forme de données comportementales destinées à améliorer le contrôle que d’autres ont sur nous ».

Une architecture globale de modification des comportements

La captation et l’analyse du surplus comportemental se révélant si extraordinairement efficaces en termes de marketing, les capitalistes de la surveillance saisirent l’intérêt qu’ils avaient à repousser toutes les limites de la chasse aux données personnelles. Aucun territoire ne devait pouvoir se soustraire au pillage – entreprise à laquelle l’invention du téléphone portable vint prêter main forte en multipliant les occasions pour les utilisateurs de rencontrer une interface numérique. Ici encore, nul ne l’ignore : les applications apparemment les plus innocentes comme la météo, les lampes de poche, le covoiturage et les applis de rencontres sont infestées par des dizaines de programmes de tracking, permettant de collecter des données personnelles, de créer un profil utilisateur, et de gagner de l’argent en ciblant la publicité sur l’utilisateur. La géolocalisation en temps réel rend possible de savoir en permanence où ce dernier se trouve. Un examen plus minutieux du smartphone révèle même la fréquence avec laquelle il recharge sa batterie, le nombre de textos qu’il reçoit, le moment où il y répond (s’il y répond), le nombre de contacts répertoriés dans le téléphone, la manière dont il remplit les formulaires en ligne, la fréquence avec laquelle il consulte son compte en banque ou encore le nombre de kilomètres parcourus dans la journée. Ces données comportementales (et tant d’autres encore que les utilisateurs déversent généreusement sur Internet) produisent des modèles nuancés qui peuvent prédire avec une assez grande exactitude par exemple la probabilité d’un défaut de paiement ou de remboursement – prédictions de grande valeur pour les compagnies d’assurance qui se les arrachent littéralement. « Il fut un temps où vous exploriez grâce à Google. Maintenant c’est vous que Google explore », écrit ironiquement Shoshana Zuboff.

Ce qu’il faut bien comprendre, poursuit-elle, est que l’extraction n’était que la première étape d’un projet bien plus ambitieux conduisant, au nom même de l’impératif de prédiction, à la production d’un comportement conforme aux objectifs commerciaux visés. La prédiction n’est jamais plus sûre que lorsque le comportement observé a été provoqué à dessein. Une vaste ingénierie de modification des comportements s’est progressivement mise en place, allant de l’ajustement au conditionnement en passant par l’aiguillonnage. L’ajustement peut impliquer des amorces subliminales destinées à influer subtilement sur le flux comportemental au moment et à l’endroit précis où l’impact sera le plus efficace. L’aiguillonnage repose sur un contrôle des éléments essentiels du contexte immédiat d’un individu, tel que le blocage à distance du moteur d’une voiture pour obliger le conducteur à sortir du véhicule. Le conditionnement, enfin, est une méthode bien connue d’incitation au changement de comportement, dont l’origine est associée à B. F. Skinner, dont il sera longuement question plus bas.

Veut-on une preuve qu’il est désormais possible par ce moyen de faire faire à des milliers de personnes dans le monde des actes parfaitement insensés ? Que l’on se souvienne alors de ce test grandeur nature de téléstimulation qu’a été en 2016 le jeu de Pokémon Go qui a poussé des joueurs aux quatre coins de la planète à chercher pendant des heures et des jours dans les rues des créatures virtuelles afin de les capturer. Un tel test n’avait qu’un seul objectif : démontrer le pouvoir des jeux à modifier à grande échelle les comportements individuels et collectifs.

Le pouvoir instrumentarien et Big Other

Dans La condition de l’homme moderne, Arendt soulignait que « ce qu’il y a de fâcheux avec les théories modernes du comportement, ce n’est pas qu’elles sont fausses, c’est qu'elles peuvent bien devenir vraies, c’est qu’elles sont, en fait, la meilleure mise en concepts de certaines tendances évidentes de la société moderne ». Dans la troisième partie de sa passionnante enquête, Shoshana Zuboff s’efforce de montrer que c’est précisément le cas des théories élaborées par Skinner – personnage sulfureux aujourd’hui quelque peu oublié, dont plus grand monde ne lit les ouvrages. La publication en 1971 de son essai en forme de brûlot Par delà la liberté et la dignité prescrivait un avenir construit sur le contrôle comportemental, rejetant l’idée même de liberté de même que tous les principes d’une société progressiste, et présentait le concept de dignité humaine comme la conséquence accessoire d’un narcissisme intéressé. Skinner imaginait une « technologie du comportement » invasive qui pourrait un jour ou l’autre autoriser l’application de méthodes de modification des comportements à des populations entières.

La proposition étonnante qu’avance Shoshana Zuboff n’est pas que nous vivons d’ores et déjà dans un tel monde, mais que nous y tendons irrésistiblement. Les économies d’action au milieu desquelles nous évoluons quotidiennement sont basées sur des méthodes nouvelles qui vont déjà bien au-delà du traçage, de la captation, de l’analyse et de la prédiction des comportements pour intervenir désormais dans le cours du jeu et transformer le comportement à sa source. Les intérêts des capitalistes de la surveillance ont changé d’objectif : ils se servaient des processus machine pour connaître votre comportement ; les voilà qui manipulent ces mêmes outils pour modifier votre comportement, toujours au nom des mêmes fins commerciales.

Une nouvelle forme de pouvoir a par là même émergé, qui ne ressemble à rien de ce que nous avons pu connaître dans l’histoire de l’humanité et qu’elle nomme le « pouvoir instrumentarien », compris comme pouvoir d’instrumentation du comportement à des fins de modification, de prédiction, de monétisation et de contrôle. Même si ce pouvoir est bel et bien une forme de tyrannie, il ne s’agit pas, précise-t-elle, de l’ultime avatar d’un pouvoir de type totalitaire, dont on l’on pourrait trouver une illustre anticipation dans le roman de George Orwell 1984 à travers la figure de Big Brother, car, entre autres différences notables, cette forme de pouvoir ne s’intéresse ni à nos âmes, ni à des principes qu’il voudrait nous inculquer. Il n’y a là nulle idéologie. Il est profondément indifférent à nos intentions, à nos motifs. Il se soucie uniquement de savoir si ce que nous faisons est accessible à ses opérations sans cesse changeantes de restitution, de calcul, de monétisation et de contrôle.

Ce n’est pas le pouvoir de Bib Brother, c’est bien plutôt celui de Big Other : un pouvoir qui réifie les individus, qui veut les connaître comme on connaît des choses dont le comportement est prévisible avec une exactitude d’autant plus grande qu’on les manipule soi-même. C’est le pouvoir d’un marionnettiste, qui combine les fonctions de savoir et de faire pour structurer les moyens de modification des comportements. Big Other réduit l’expérience humaine dans son intégralité à un comportement mesurable et observable tout en restant obstinément indifférent à la signification de cette expérience. L’ironie de l’histoire veut donc que la vision de ce professeur de Harvard, qui fut tant moqué de son vivant et promptement oublié après sa mort en 1990, soit en passe de se réaliser : l’avenir de l’humanité n’est pas dépeint dans 1984 d’Orwell, mais plutôt dans Walden Two de Skinner.

Le sens de la stupéfaction et celui de l’indignation

L’un des intérêts de l’ouvrage captivant de Shoshana Zuboff, qui se dévore comme un roman policier, est qu’il se conclut par une méditation lucide sur les possibilités d’action qui demeurent à notre disposition pour lutter contre l’avènement d’un tel pouvoir.

Que pouvons-nous faire ? Jeter nos téléphones portables et détruire nos ordinateurs pour cesser d’alimenter les algorithmes, si efficaces et si précis, qui plantent leurs crocs dans notre chair et ne lâchent rien ? Brandir le respect de la vie privée comme valeur irréfragable ? Multiplier les procès contre les géants du numérique pour les forcer à nous donner accès à nos données personnelles et leur interdire de les commercialiser ?

Google et Facebook font avec succès du lobbying depuis pratiquement leur création pour supprimer la protection de la vie privée en ligne, limiter les réglementations, affaiblir ou bloquer la législation améliorant la confidentialité, et contrecarrer toute tentative de restreindre leurs pratiques. A ce jour, les combats sur le terrain juridique ont été, sinon des échecs, du moins des réussites très modérées. En dépit du fait que l’appareil juridique concernant le respect de la vie privée et de la protection des données soit bien plus restrictif dans la Communauté européenne qu’aux Etats-Unis – sans parler des lois antitrust –, Facebook et Google prospèrent en Europe.

Quant à détruire smartphones et ordinateurs, la proposition est tout bonnement insensée : notre avancée dans l’existence nous fait traverser qu'on le veuille ou non les champs du numérique, et il ne s’agit pas d’y renoncer mais d’apprendre à y évoluer sans perdre nos libertés et droits fondamentaux, à commencer par ce que Shoshana Zuboff appelle le « droit au sanctuaire », c’est-à-dire le droit à disposer d’un espace où le regard peut enfin s’apaiser au-dedans, où l’on peut se recroqueviller pour goûter aux plaisirs de l’intériorité solitaire.

Quelles armes nous reste-t-il alors ? Pour retrouver nos repères, Shoshana Zuboff en appelle pour finir à la renaissance de la stupéfaction et de l’indignation, pour nous faire rejeter le pacte faustien de participation à notre dépossession qui exige que nous nous soumettions aux moyens de modification des comportements. Redécouvrir notre sens de la stupéfaction implique d’abord et avant tout de voir en toute clarté ce qui se passe ici et aujourd’hui : le développement d’un capitalisme de surveillance qui ambitionne de restituer l’expérience humaine sous forme de données comportementales, qui utilise le surplus comportemental comme matière première gratuite, qui fait commerce des comportement futurs, qui se sert des produits de prédiction pour des opérations tierces de modification, d’influence et de contrôle. « Si nous voulons redécouvrir notre sens de la stupéfaction, que ce soit devant ce constat : si la civilisation industrielle a prospéré aux dépens de la nature et menace à présent de nous coûter la Terre, une civilisation de l’information modelée par le capitalisme de surveillance prospérera aux dépens de la nature humaine et menacera de nous coûter notre humanité. »

Notre avenir dépend aussi de la capacité à s’indigner des citoyens, des journalistes, des chercheurs ; indignation des élus, des responsables politiques qui doivent comprendre que leur autorité se nourrit des valeurs fondamentales des communautés démocratiques ; indignation surtout des jeunes gens - grands consommateurs du numérique - qui doivent réaliser que « la conformité induite par la dépendance n’est pas un contrat social » et qu’« une ruche sans issue n’est pas une maison », que « l’expérience sans le refuge n’est qu’une ombre », et qu’« une vie qui ne peut se vivre que cachée n’est pas une vie ».