Patrick Pharo, auteur du Capitalisme addictif et de l'Eloge des communs, nous propose ici une réflexion sur la surveillance numérique et la manière, et surtout l'urgence, d'y faire obstacle.

La fin de confinement a vu se multiplier les propositions en vue d’un renouveau écologique et social profond pour accompagner le « jour d’après » : rénover les bâtiments, électrifier les véhicules, développer le vélo, favoriser les circuits courts, freiner la surconsommation, décarboner l’économie, plafonner les hauts salaires, donner la priorité à l’hôpital public, créer un revenu universel à partir de 18 ans, relocaliser les productions stratégiques... Toutes plus raisonnables les unes que les autres, ces propositions étaient déjà connues, et la crise à peine terminée, se sont heurtées au réalisme des parlementaires et au retour en force des projets économiques et politiques habituels : restructurations industrielles et austérité publique. Il faudra donc de sérieux relais dans l’opinion publique et la mobilisation sociale pour qu’elles aient des chances d’aboutir. 

En contraste avec cette incertitude sur notre capacité collective à endiguer des évolutions catastrophiques pour l’environnement et la répartition des biens communs, nul ne doute de la montée en puissance incoercible de l’économie numérique qui suivra la crise. Là encore, ce n’est pas une nouveauté puisque l’Internet public existe déjà depuis un demi-siècle et que les évolutions décisives dans ce domaine datent d’une vingtaine d’années avec l’introduction de la publicité ciblée sur Google et, un peu plus tard, la création de Facebook. L’utilisation industrielle des données personnelles a connu depuis un essor foudroyant grâce à la participation volontaire et gracieuse des usagers, trouvant dans les outils informatiques de nouveaux moyens de confort et de satisfaction, mais aussi l’occasion d’une nouvelle sorte de dépendance. La période de confinement a rendu encore plus étroite cette dépendance, avec l’extension du télétravail, les visioconférences, la multiplication des groupes WhatsApp ou autres pour entretenir le lien entre amis, voisins et familles désunis, sans oublier le débat sur le traceur numérique StopCovid.

 

Les effets de la dépendance numérique

La dépendance numérique peut entraîner chez certains sujets des conduites addictives qui nécessitent le recours à des soins spécialisés. Mais les pathologies individuelles sont relativement marginales par rapport aux transformations beaucoup plus profondes induites sur la société dans son ensemble. Dans le capitalisme classique, l’humain était considéré comme un producteur, un consommateur ou éventuellement le sujet de « services », qu’il fallait donc faire payer à l’individu ou à la collectivité. Une des grandes nouveautés de l’économie numérique a été de faire de l’information humaine, personnelle ou non, une valeur échangeable sur un marché. Les données numériques sont alors devenues un gisement inépuisable de ressources pouvant faire l’objet d’une utilisation industrielle par les banques, les assurances, les entreprises de marketing, les services du personnel ou de gestion administrative, les laboratoires pharmaceutiques, les entreprises éducatives, les agences de voyages, la police, la justice..., sans oublier bien sûr les partis politiques – l’entreprise de conseil en communication Cambridge Analytica s’étant par exemple rendue célèbre pour avoir facilité la victoire de Trump à la présidentielle américaine et celle du Brexit au Royaume-Uni par l’envoi de messages ciblés à des millions d’électeurs aux profils connus grâce à des données Facebook.

Une autre nouveauté, moins visible mais encore plus profonde, est celle des moyens de cette valorisation économique, qui reposent sur la collecte et le traitement « intelligent » des informations personnelles par des logiciels informatiques. Les enregistrements individuels sur les sites, la géolocalisation des appareils, le dépôt de cookies sur les ordinateurs pour obtenir et échanger des données avec des parties tierces, les capteurs intégrés à des objets personnels, domestiques ou d’usage public..., sont autant de moyens d’alimenter des programmes d’intelligence artificielle capables d’établir des profils individuels à partir des recherches ou messages sur Internet et de faire des inférences sur les intuitions, goûts et émotions en se fondant notamment sur des types de « caractère » psychologique (ce qu’on appelle en psychologie les « big five » : ouverture, conscience, extraversion, amabilité, instabilité émotionnelle). La particularité de ces systèmes dits intelligents est de s’appuyer sur des calculs statistiques qui évaluent, de façon mécanique et en-dehors de toute intuition humaine, les poids respectifs d’une multitude de traits, l’individualisation se faisant par le renforcement ou la neutralisation des différents traits possibles suivant les données recueillies sur chaque utilisateur. Du côté des usagers, les goûts et comportements préférés sont récompensés par des offres numériques, tandis que les systèmes eux-mêmes, capables d’apprendre et de se reprogrammer à partir des données recueillies, sont validés par les comportements des usagers. Il se crée ainsi des boucles de renforcement et de confirmation réciproque, dont les mécanismes sont considérés comme analogues à ceux des réseaux neuronaux dans le cerveau, ou encore à ceux qui ont permis la formation des circuits neurologiques de la récompense dans l’histoire ancestrale de l’espèce humaine.

La dépendance croissante des êtres humains à ces systèmes de stimulations et d’offres numériques peut sembler anodine du fait de notre utilisation quotidienne des ordinateurs et smartphones et de notre exposition habituelle aux enregistrements électroniques de déplacements, images ou expressions, que ce soit au travail, dans la rue, à l’hôpital ou à la maison. Au point que la « fracture numérique » continue de faire l’objet d’une complainte diffuse et consensuelle, alors qu’elle est peut-être l’ultime liberté de ceux qui ne vont pas encore sur Internet ! Mais le caractère intrusif des outils numériques est aujourd’hui de mieux en mieux documenté par la recherche, les associations de défense des libertés et par les tentatives institutionnelles d’en fixer des limites en termes de respect des droits, comme les recommandations de la CNIL et le Règlement général les données personnelles (RGPD). Malheureusement, les grands principes de ce Règlement : transparence et consentement, finalité déterminée, adéquation aux finalités, durée de conservation limitée, sécurité..., et les contraintes de mise en œuvre, restent aujourd’hui suffisamment larges et imprécis pour autoriser toutes sortes d’abus et manipulations. 

En devenant numérisable sous la plupart de ses aspects, la vie humaine est devenue non seulement « consultable », comme le prédisait un des fondateurs de Google, mais aussi influençable et contrôlable par les techniques de surveillance et de « captologie » enseignées dans des séminaires californiens pour augmenter l’attractivité des produits numériques et accroître la dépendance des usagers par des récompenses « variables » – connues de longue date par les expériences béhavioristes de Skinner sur des pigeons... et massivement utilisées par les sites Internet. La scrutation et la stimulation numériques du désir au plus près du corps et de l’âme nous font entrer dans une nouvelle société « scopique », qui voit tout et à qui rien n’échappe, en rupture non seulement avec les sociétés traditionnelles où l’interconnaissance pouvait encore s’arrêter devant une porte fermée, mais aussi avec les sociétés modernes où les publicités ne s’affichaient que sur les murs des villes et dans les émissions radios. Ce sont désormais les murs de chaque vie intime qui sont occupés par ces dispositifs personnalisés, dont les intrusions et harcèlements sont multiples : demandes d’évaluation, de notation, de notification, d’acceptation de localisation ou de cookies au nom du « respect de la vie privée »..., alors que se dessine déjà une scrutation encore plus profonde par l’installation de capteurs numériques sous la peau ou sous le crâne. 

 

Vers une surveillance généralisée

La mise en service dans de nombreux pays de traceurs numériques en vue de contrôler l’épidémie de covid 19 a révélé au grand public la puissance de l’enregistrement numérique comme moyen de suivi et de pilotage de la vie humaine sous ses différents aspects. Toutefois, le vif débat autour de l’application française StopCovid, ajournée et finalement mise en œuvre, n’a pas vraiment clarifié la menace représentée par la surveillance numérique, se contentant d’incriminer un usage public d’outils qui font déjà largement partie de l’usage des sites privés – comme par exemple l’utilisation courante de la géolocalisation par les sites de rencontre. Le traçage numérique des individus par la puissance publique, que ce soit à des fins sanitaires ou de lutte « antiterroriste », est une pratique à haut risque pour les libertés communes, car elle offre aux autorités la possibilité inédite de disposer d’un « graphe » des interactions sociales des habitants facilement identifiables par ailleurs. Mais l’infrastructure numérique mise en place par les plate-formes privées constitue un danger au moins équivalent. Même si Google ou Amazon, entreprises privées, n’ont rien à voir avec Baidu ou Alibaba, leurs homologues chinois, cette infrastructure est disponible pour une utilisation totalitaire des données intimes sur le mode du système chinois de « crédit social », qui note les habitants suivant leurs pratiques et leur fiabilité sociales. La seule chose qui peut nous préserver d’un basculement fatal, c’est la capacité des sociétés démocratiques à réagir aux prétentions intrusives de l’État tout autant qu’à celles des entreprises privées. 

De plus en plus numérique, le futur proche risque en tout cas d’être de plus en plus restrictif pour les libertés intimes, sauf si nous commençons à nous en défendre en cultivant des espaces de connexion humaine sans numérisation, malgré la pression ambiante, le terrorisme et le covid 19. Le modèle de l’amour qui ne marche que par l’obscurité et l’incertitude sur les ressorts du sentiment d’autrui pourrait peut-être inspirer la revendication émergente d’un voile d‘ignorance à mettre absolument sur les mouvements et les connexions intimes, pour les soustraire à l’emprise de la société scopique. L’intelligence artificielle, on le sait, est plus performante que celle des humains ordinaires dans de nombreux domaines, par exemple les jeux de stratégie ou la lecture de tests biologiques. Mais, purement mécanique et rétive à l’incertitude, elle est aux antipodes de l’intelligence intuitive ordinaire, même si elle est générée et alimentée par la rationalité commune. Il a fallu des décennies pour qu’on prenne conscience et qu’on commence à réagir aux effets délétères de l’utilisation des énergies fossiles et de l’industrialisation de l’agriculture. Espérons qu’on attendra moins longtemps pour commencer à réagir contre ceux de la dépendance numérique.