Patrick Pharo explicite les effets défavorables de la société scopique, avant d'indiquer quels moyens mettre en oeuvre pour se protéger de ceux-ci.

Le Real Time Bidding est, parmi d’autres, une technique automatisée qui consiste, pour un site Internet, à mettre aux enchères son espace publicitaire à partir d’informations transmises en permanence sur ses visiteurs, y compris parfois des données sensibles. Est-ce que cette technique est dommageable pour un usager ? Apparemment non, puisqu’elle ne se traduit immédiatement pour lui que par des publicités encore mieux ciblées. Est-ce que cette technique est illégale ? Sans doute pas, si les informations proviennent de cookies auxquels l’usager a donné son consentement en « acceptant tout », conformément au RGPD (Règlement Général sur les Données Personnelles), et encore moins s’il s’agit de données de connexion (dites métadonnées) dont le cadre légal est bien plus flou mais qui, recoupées entre elles, sont extrêmement informatives.

 

Les effets de la société scopique

Les effets dommageables de la société scopique, celle qui voit tout et à qui rien n’échappe, sont rendus immédiatement invisibles par l’habitude, voire l’assuétude, aux outils du nouveau capitalisme numérique qui suivent de façon aussi automatique que tenace les moindres gestes des usagers d’Internet. Ces outils sont non seulement fonctionnels, aussi fonctionnels que pouvaient l’être autrefois la machine à vapeur et la fabrique industrielle – ce qui explique leur prévalence dans l’économie contemporaine –, mais ils sont également confortables et jouissifs, et donc indolores, du moins sur le moment. Facebook, en particulier, l’un des plus grands collecteurs de données personnelles, est une source inépuisable de plaisir narcissique pour des internautes qui peuvent se voir les uns les autres et se donner l’impression d’être de précieux objets de désir et d’acclamation. C’est cette puissance de satisfaction immédiate du désir qui rend addictifs non seulement les « réseaux sociaux », mais aussi la plupart des offres et produits numériques, depuis les jeux vidéo jusqu’aux sites de vente ou de rencontre en passant par les destinations de vacances et les « fils d’actualité » spécialement conçus pour chaque usager, imposant désormais leur présence obstinée dans la vie ordinaire de n’importe qui.

Ces dispositifs peuvent cependant entraîner dans tous les secteurs d’activité humaine une série d’effets désagréables qui sont aujourd’hui de mieux en mieux documentés, outre-Atlantique mais aussi en Europe. Car l’analyse des données personnelles par des logiciels d’intelligence artificielle ne vise pas seulement le ciblage des publicités, mais bien plus largement la personnalisation des services, la conception des produits et la prise de décision sur n’importe quel sujet économique et commercial, à partir de la prédiction des comportements repérés. Leurs conséquences peuvent ainsi se faire sentir dans les banques lorsqu’on n’obtient pas un prêt ou qu’on reçoit un taux majoré, dans l’immobilier lorsqu’on se voit refuser une location, dans les assurances lorsqu’une prime devient plus élevée, en justice lorsqu’une récidive possible entraîne un accroissement de la peine, en matière d’ordre public lorsqu’on reçoit une visite de la police, dans l’enseignement privé lorsqu’on est démarché pour des études onéreuses et inutiles, dans les entreprises lorsqu’on n’est pas recruté en raison de son profil (couleur, sexe, fréquentations, goûts, orientation sexuelle...) ou qu’on n’obtient pas de promotion ou qu’on est remercié en raison d’une notation négative, sur le marché du travail lorsqu’on n’a d’autre choix que d’intégrer la Gig économy   en étant payé au clic pour entraîner des machines à la reconnaissance vocale ou faciale, ou encore dans la vie politique lorsque l’évidence de messages soigneusement ciblés et sélectionnés suffit à déterminer un choix électoral, en-dehors de tout débat démocratique...

 

La rationalisation numérique

Tous ces phénomènes découlent d’une rationalisation numérique désormais inexorable de la société que, sauf mauvais caractère ou technophobie invétérée, il paraît de plus en plus difficile de rejeter en bloc. Après tout, aucune des finalités qui génèrent les dommages précédents n’est vraiment nouvelle, car les banques, les assurances, les propriétaires, la police, le personnel politique... ont toujours cherché à s’informer sur leurs clients ou leur public afin de se montrer plus efficaces. La surveillance sociale a elle-même toujours existé dans les sociétés sous forme de contrôle familial et social, d’interconnaissance, de réputation, d’influence politique, de police..., et aucune communauté humaine ne peut être gérée indépendamment de ses réseaux d’observation et de surveillance mutuelle. C’est d’ailleurs l’adaptation aux systèmes de surveillance traditionnels et l’attachement coutumier de la population au maintien de la « face » qui, dans la Chine contemporaine, facilitent l’acceptation du système de « crédit social » mis en place par le Parti communiste afin de relier l’ensemble des informations collectées sur chaque individu. Au-delà même des morales traditionnelles ou totalitaires, les nouveaux moyens d’enregistrement et de diffusion de données ont aussi des vertus émancipatrices puisqu’ils permettent, par exemple, d’organiser des manifestations interdites par les dictatures ou de rendre universellement visibles les violences raciales des forces de l’ordre.

Ce qui cependant ne laisse pas de faire problème dans la surveillance numérique, c’est le niveau d’efficience atteint lorsqu’on confie des tâches d’information, d’influence, voire de décision à des logiciels informatiques dont les finalités sont prédéfinies et les capacités de croisement des données et d’auto-apprentissage illimitées. Leur registre d’observation est en effet beaucoup plus étendu que celui du panoptique de Bentham et de Foucault ou du télécran d’Orwell, et leur puissance de calcul dépasse très largement les limites de l’intuition et de l’incertitude humaine, rendant impossible toute approximation ou hasard propice aux échappées de la liberté. La forme confortable, plaisante et consentie sous laquelle ces dispositifs se présentent aux usagers permet en outre de faire écran à leur développement mécanique, opaque et insatiable, qui leur permet d’aller toujours plus loin dans le recueil et la dissection des caractères personnels.

On parle aujourd’hui d’« ombre numérique » des individus pour désigner la somme des occurrences d’un nom ou d’un pseudo dans les moteurs de recherche et dans les bases de données. Il s’agit là d’une entité purement virtuelle qui ne serait entièrement accessible que par une recherche capable d’explorer tous les espaces numériques dans lesquels un individu a pu laisser des traces. Mais sans aller jusqu’à l’omni-voyance réservée jadis au Dieu d’Abraham, d’Isaac et de Jacob, il est facile aujourd’hui pour une recherche « intelligente » de cerner l’ombre numérique de chaque individu, petit point stellaire autour duquel gravitent des milliers d’informations dont certaines dépassent très largement la conscience que chaque sujet a de lui-même, puisqu’elles peuvent inclure des données biomédicales, anthropométriques ou relationnelles, actuelles ou anciennes, que le sujet a lui-même oubliées, voire même jamais connues.

 

Le commerce de l’intimité

L’hyper-rationalisation numérique serait toutefois impossible sans la collecte massive, gracieuse et permanente de données personnelles sur les sites Internet ainsi que sur des objets connectés de plus en plus nombreux : voitures, mobilier urbain, maisons intelligentes, appareils ménagers, assistants personnels... Cette matière première fait aujourd’hui l’objet d’un commerce florissant où s’activent les nouveaux spécialistes que sont les courtiers de données (data brokers) qui vendent le nouvel or virtuel au plus offrant. Ce commerce est considéré comme parfaitement légal parce que le droit de l’économie libérale garantit la liberté du commerce, et il semble irrésistible parce que le mode d’extraction des données numériques, fluide et tentaculaire par construction, rend mécaniquement disponible un surplus d’informations dont les potentialités industrielles excitent naturellement les convoitises.

Le RGPD européen, considéré comme un progrès dans ce domaine, et la CNIL, qui assure l’application du Règlement dans le droit français, ont du reste fait de gros efforts pour tenter de réguler ce commerce. Cependant, lorsqu’on lit les fiches pratiques méritoires que la CNIL destine aux entreprises pour proscrire les mauvaises pratiques, on voit aisément apparaître les multiples canaux qui peuvent faire de ce Règlement une véritable passoire : collectes illégales de données, ventes sauvages sur Internet, transit par des serveurs hors UE, etc. Les grandes plateformes elles-mêmes, censées être le mieux équipées pour intégrer dans leur offre les clauses imposées par la législation, ne se font pas faute de la violer, comme en témoignent les nombreuses plaintes déposées par l’association La quadrature du Net ou la validation récente par le Conseil d’État d’une lourde sanction infligée à Google par la CNIL.

On pourrait s’étonner que n’ait jamais été appliqué aux données numériques issues de l’intimité des personnes le modèle du corps humain, dont les parties : yeux, organes, sang, gamètes... sont considérées comme inaliénables par de nombreuses législations. D’autant que, paradoxalement, l’idée de faire payer aux plateformes les données qu’elles récoltent auprès des individus se heurte à de nombreuses objections juridiques, et en particulier la directive du Parlement européen (2015/0287) de ne pas « considérer les données personnelles comme des marchandises » échangeables contre l’accès aux sites. Mais si les données personnelles ne sont pas des marchandises, pourquoi les plateformes les mettent-elles en vente? La réponse officielle est que les usagers ont donné leur consentement à une utilisation de leurs données pour des finalités dites légitimes et limitées, censées inclure cet échange. Toutefois, le consentement éclairé tel qu’il est défini par le RGPD oblige à multiplier les clauses qui deviennent vite illisibles pour l’usager ordinaire. Pour éviter un fastidieux « paramètrage » et ne pas subir le « chantage au service » (interdit par la même directive européenne mais couramment pratiqué), celui-ci doit donc « tout accepter » en donnant un consentement beaucoup plus résigné qu’éclairé. De sorte qu’en-dehors des associations équipées pour cela, peu d’usagers se donnent les moyens d’exercer leurs « droits d’accès, de rectification, d’opposition, d’effacement, à la portabilité et à la limitation du traitement » prévus par les textes.

 

Les moyens du voile d’ignorance

Les dommages de la société scopique sont souvent vus au travers des menaces que l’enregistrement numérique par les autorités fait courir aux libertés communes. La plupart des États mettent en effet en place des législations de plus en plus intrusives dans ce domaine, comme la loi française de 2015 (provisoire mais appelée à être prolongée) sur le renseignement, autorisant une recherche algorithmique sur toute la population de « signaux de faible intensité » pour lutter contre le terrorisme. Les nécessités du traçage des contaminations au virus du Covid-19 n’ont fait d’ailleurs qu’accélérer le mouvement. Toutefois, cette menace peut sembler encore lointaine, alors que l’enregistrement et le traçage numérique par les plateformes privées sont devenus une réalité quotidienne.

La société numérique, avec ses statistiques, ses écrans et ses connexions généralisées, est aujourd’hui une forme de vie incontournable, dont il serait sans doute aussi difficile de se débarrasser pour les humains contemporains que, pour une chèvre, se débarrasser des cornes que lui a léguées l’évolution naturelle ! En revanche, il est peut-être possible de limiter les effets addictifs de son installation définitive en tant que société scopique ayant accès aux recoins les plus reculés de l’intimité. Il existe pour cela une série de moyens à la fois législatifs, industriels et surtout personnels en vue de développer des gestes barrières contre l’intrusion numérique dans l’intimité. Du côté de la législation, il faudrait probablement rendre beaucoup plus compliqués l’extraction et le commerce des données personnelles, en définissant des limites et des clauses (par exemple en imposant sur la première page de chaque site une case « tout refuser ») qui, au lieu de rendre la tâche impossible aux usagers souhaitant protéger leur intimité, la rendrait plus coûteuse pour les opérateurs, comme on a parfois essayé de le faire dans la lutte contre les addictions au tabac et à l’alcool. Du côté des entreprises, le développement d’une déontologie proscrivant les contournements de la législation ou encore les décisions automatiques, sans intervention humaine, serait certainement la chose à faire, pour limiter les dommages. La réintroduction de l’intuition et l’incertitude humaine ferait sans doute perdre certains des avantages économiques apportés par les logiciels (par exemple pour traiter des CV ou des litiges), mais pourrait avoir des effets de réputation profitables à tous.

Du côté des utilisateurs, les deux principes de protection de base seraient sans doute : 1) ne jamais faire confiance aux grandes plateformes numériques, malgré l’affichage de leur loyauté et conformité aux règlements en vigueur, et 2) cultiver la clandestinité numérique le plus souvent possible. En pratique, les discussions actuelles font apparaître toutes sortes de mesures prophylactiques en vue de préserver le voile d’ignorance sur l’intimité, comme par exemple : bien choisir ses navigateurs, en préférant ceux qui ne déposent pas de cookies ; quitter Facebook, en recherchant d’autres moyens de publicité si on est artiste ou auto-entrepreneur ; quitter Google (ce qui est sans doute plus difficile compte tenu de son hégémonie) et utiliser des moteurs alternatifs, moins intrusifs sur les données personnelles ; fragmenter ses identités sur les réseaux, ce qui se pratique de plus en plus mais se heurte aux contre-mesures des plateformes qui utilisent des logiciels de recoupement pour réindividualiser les données ; rechercher des adresses emails qui ne violent pas le secret des correspondances ; ne pas utiliser les applis de reconnaissance vocale et faciale qui ont, par construction, accès aux contenus les plus personnels ; refuser les cookies chaque fois qu’on peut (ce qui serait plus facile si le RGPD était davantage respecté) ; ne pas s’inscrire sur les sites chaque fois que c’est possible ; charger le moins possible d’applications ou, si l’on a du temps (et un peu de compétence informatique), les analyser avec des logiciels dédiés (eux-mêmes opaques) ; tracer son ombre numérique pour prendre conscience de son ampleur (mais là encore il faut utiliser des logiciels) ; couper le wifi et la géo-localisation des appareils le plus souvent possible ; installer des bloqueurs de publicité efficaces ; préférer les CD et les vinyls aux sites d’écoute en ligne ; oublier ou éteindre son smartphone le plus souvent possible ; plus généralement, pratiquer des méthodes de désaddiction en s’imposant des périodes de sobriété numérique...

L’extrême rationalisation numérique de la société a aujourd’hui pour tous les acteurs une dimension addictive, qui oblige à considérer l’effort pour y mettre des limites et protéger l’intimité comme une lutte de longue haleine, et non comme une résolution immédiate qui règlerait le problème en deux ou trois clics. La bataille pour les libertés intimes dans des sociétés libérales qui sont censées les protéger ne fait donc que commencer. Encore faudrait-il en apercevoir distinctement le champ, pour amener un public de plus en plus large à s’y engager aux côtés des multiples associations et organisations internationales qui le font déjà.

 

A lire également sur Nonfiction :

La société scopique et les vertus du voile d'ignorance (1ère partie)