Revenant sur plusieurs enjeux autour de l’IA, Anne Alombert invite à réguler son développement et à promouvoir des alternatives numériques respectueuses de la société.
Ces derniers temps, l’économiste américain Paul Krugman alerte, avec d’autres, sur les risques d’éclatement de la bulle boursière liée à l’intelligence artificielle (IA). Le prix Nobel souligne également le renchérissement des factures d’électricité aux Etats-Unis, du fait de l’augmentation de la demande liée à la construction de centres de données, alors que l’administration Trump entrave le développement des énergies renouvelables.
Dans son essai De la bêtise artificielle, la philosophe Anne Alombert, précédemment autrice de Schizophrénie numérique, s’intéresse de son côté aux discours entourant l’intelligence artificielle. Ces discours oscillent entre technosolutionnisme et alarmisme ; ils sont bien plus liés qu’il n’y paraît. Ces cinq dernières années, les IA génératives ont connu une croissance fulgurante, que cela soit en termes d’innovations et d’usages. Ce développement est allé de pair avec une concentration accrue de richesses et de pouvoirs au profit de leurs concepteurs. Les promoteurs de l’IA annoncent l’ère du transhumanisme, autrement dit de la fusion entre l’homme et la machine, et l’avènement prochain d’une superintelligence, soit l’autonomie de l’IA vis-à-vis de l’humanité.
Intelligence ou bêtise artificielle ?
Ces discours ne sont pas nouveaux. Il est possible d’en repérer les prémices dès les années 1950 avec des scientifiques comme Alan Turing, Marvin Minsky et John McCarthy. L’IA a certes connu une accélération lors de la précédente décennie mais les bases théoriques sont restées les mêmes pour la philosophe : « penser ou apprendre revient à calculer. » La machine imite l’humain et ses processus, conduisant à une « anthropomorphisation des machines », qui voile les enjeux politiques de ces technologies, qui recouvrent dans bien des cas une volonté de domination. Or, le « fait de les anthropomorphiser permet à leurs concepteurs de se délester de leur responsabilité ».
Cet imaginaire de l’IA cache une nouvelle phase d’automatisation des savoir-penser après celle des savoir-faire qui fait courir le « risque de l’automatisation et de la prolétarisation de la pensée ». Quand ses promoteurs vantent un homme augmenté, l’IA tend davantage à réduire nos capacités et compétences en faisant les choses à notre place. L’IA nous désapprend à penser et à communiquer. Pour s’entraîner, les IA s’approprient les contenus réalisés par du travail humain, sans forcément les rémunérer, et font aussi appel à des travailleurs peu considérés.
La philosophe compare les effets de l’IA avec ceux de la naissance de l’écriture sur la pensée. Dans la Grèce antique, les sophistes sont dénoncés par Socrate et Platon. Ils se contenteraient de répéter des discours écrits sans les comprendre. Pour autant, l’écriture a permis de bénéficier des effets cumulatifs du savoir et a engendré une réflexivité. Reprenant un terme cher à Jacques Derrida et à Bernard Stiegler, dont Anne Alombert a été proche, l’écriture est un pharmakon, à la fois remède et poison. Il en va de même pour le numérique, tout aussi ambivalent. La technologie doit donc faire l’objet d’une délibération politique, d’une régulation législative, afin d’être correctement appropriée collectivement. Le rythme de développement de l’IA, ainsi que le lobbying de ses entrepreneurs, lui offrent toutefois la possibilité de contourner le politique, en allant plus vite que lui, faisant fi du principe de précaution.
Si l’IA s’est nourrie de savoirs humains, plus elle produit de contenus et plus elle se nourrit d’elle-même et moins elle semble capable d’innover, et encore moins de créer des œuvres artistiques originales et susceptibles de susciter des émotions. De fait, les IA proposent des créations moyennes, probables et non singulières quand l’innovation repose sur la rupture. Les agents conversationnels font peser des risques non négligeables sur notre sociabilité et notre santé mentale, en renforçant notre narcissisme et notre dépendance. De leur côté, les réseaux « anti-sociaux » génèrent, par leur algorithme, haine et conformisme. Ils fonctionnent selon des critères quantitatifs et sont régulièrement manipulés par leurs créateurs par souci de profit ou suivant un agenda politique.
Plus largement, Anne Alombert rappelle la remise en cause de la vérité auquel conduit cet écosystème numérique toxique. Ainsi, les contenus générés par les IA ont pour fondement la probabilité et non la vérité. Ne nous acheminons-nous pas vers une crise généralisée de la confiance et de ce qu’il est possible de croire ?
Pour une régulation de l’IA et un soutien aux alternatives numériques
Que faire alors ? Même si l’IA semble davantage tendre vers le poison que le remède à l’issue de cet inventaire, Anne Alombert ne verse pas dans la technophobie. Comme elle l’écrit : « la bêtise artificielle n’est pas une conséquence nécessaire des algorithmes. » L'IA est telle à cause des entreprises qui les conçoivent mais elle charrie pourtant d’autres potentialités. La philosophe invoque des alternatives numériques comme Wikipédia (qui n’est cependant pas une IA) ou la plateforme de délibération politique Pol.is qui vise à aboutir à des compromis entre points de vue divergents. L’association et application Tournesol propose des recommandations collaboratives de vidéos fondées sur des critères qualitatifs et non quantitatifs.
Anne Alombert ajoute qu’une régulation est nécessaire pour garantir la pluralité du numérique, comme pour la télévision en son temps. À ce titre, les efforts de l’Union Européenne vont dans la bonne direction et suscitent d’ailleurs le mécontentement des géants américains du numérique. En parallèle, il est important d’encourager le développer d’autres dispositifs numériques au service du lien social et de la démocratie, comme Bip Pop ou Entourage.
Pour la philosophe, le capitalisme numérique sape progressivement les conditions de son existence, qu’il s’agisse de son substrat naturel ou culturel. En outre, « la phase numérique du capitalisme se heurte à l’écueil de l’insolvabilité » : qui pourra se payer des services numériques si le numérique a détruit le travail humain rémunéré ? Anne Alombert renvoie aux réflexions d’André Gorz sur les mutations du travail, du salariat et sur l’instauration d’un revenu universel. Son essai se termine sur un plaidoyer pour les alternatives numériques, déjà évoqué, et pour la régulation, en faveur de la société et contre les « Lumières sombres » promues par des techno-fascistes alliés aux nationalistes autoritaires. La question du passage à l’échelle de ces alternatives, nécessitant a priori des financements importants, tout comme de la mise en œuvre effective de garde-fous se pose toutefois.
