En dialoguant avec ChatGPT, Marie-José Mondzain interroge les angles morts de l’IA et ce qu’elle fait à la pensée.

Marie-José Mondzain interroge l’intelligence artificielle générative : que fait-elle à notre désir, à notre liberté, à l’égalité aujourd’hui ? Elle l’interroge, surtout, dans la perspective la plus décisive qui soit : celle de la pensée.

D’emblée, l’autrice écarte toute tentation de se limiter à un commentaire technique ou économique de cette machinerie artificielle, propriété des maîtres milliardaires de la planète. Elle ne s’inscrit ni dans l’analyse du couple destruction-création à la manière de Joseph Schumpeter, ni dans une lecture strictement politique. Trop de discours, en effet, oscillent entre la glorification naïve de l’IA et sa condamnation sommaire.

On se souvient qu’en 1985, Jean-François Lyotard convoquait des écrivains afin d’interroger ce que les machines électroniques pouvaient faire à l’écriture littéraire. Désormais, il ne s’agit plus seulement de sonder ces conditions, mais de dialoguer avec la machine elle-même. La question devient alors : comment préserver ce dont les concepteurs de l’IA — dont les finalités relèvent de logiques de pouvoir et de dépossession — semblent vouloir nous priver : notre tête, notre cerveau, notre capacité à tenir tête ? À l’heure où s’impose une mondialisation totalisante portée, entre autres, par ces technologies génératives, l’enjeu est bien celui d’une survie de la pensée.

Dans un premier temps, l’autrice entreprend un vaste travail lexical, destiné à inquiéter le vocabulaire même qui entoure l’IA et à mettre en lumière l’instrumentalisation des termes employés. Parle-t-on de « révolution » ? Marie-José Mondzain réplique que ce qui frappe avant tout, c’est l’ébranlement de notre rapport à la réalité et à la vérité, au profit d’un renforcement des croyances les plus réactionnaires. Évoque-t-on une « mutation irrésistible » ? Jamais, répond-elle, un tel dispositif n’a suscité autant d’adhésions charismatiques et d’enthousiasmes technophiles, à tel point que l’IA apparaît comme un puissant agent de croyance. Quant au lexique critique, faut-il parler de « technoféodalisme » ? Pas davantage : une telle expression masque le rôle déterminant des marchés de capitaux, alors que l’IA renvoie à une réalité bien matérielle, au service du marché, de l’information et de la guerre.

La décapitation symbolique

Le fil conducteur de l’ouvrage se cristallise autour d’un vocable central : celui de la décapitation. Il est bien question de la tête — caput en latin —, que l’IA tendrait à amoindrir en s’y substituant. La décapitation advient pleinement lorsque, par l’usage de l’IA, la banque d’images devient l’unique prise de la pensée, se transformant en source inépuisable de satisfaction. La technique se constitue alors en dispositif acéphale, potentiellement sans fin, et agit sur les mécanismes les plus régressifs du désir et de l’appétit. De là un premier sens du titre de l’ouvrage : c’est bien une « peine capitale » que nous inflige l’IA générative.

Mais c’est aussi le « Capital » économico-politique, auquel elle est étroitement associée, qui est visé en creux. Car l’existence même de cette IA, devenue tête neuronale, organe inorganique d’un corps sans vie, se joue entre la tête (caput) et le capital. C’est la logique de ce dernier qui organise une « décapitation » symbolique et programmée : une mise hors jeu des têtes pensantes dont il ne s’agit plus d’attendre que la soumission. En d’autres termes, l’IA instaure une forme de domination sur une masse d’individus qu’elle a au préalable « décervelés ».

Mondzain développe longuement cette symbolique de la tête, qui a nourri de multiples expressions (être à la tête de, le chef couronné, orner la tête), jusqu’à convoquer Hans Holbein, dont les œuvres invitent à contempler le crâne — non sans ironie, lorsque l’on songe que son nom signifie « os creux » —, et prolonger ce motif jusqu’au surréalisme (Acéphale, La Femme 100 têtes, Les Cervelines…).

Jouer avec les angles morts de la machine

Tout au long de l’ouvrage, le parti pris de l’autrice est celui du jeu. Il s’agit plus précisément d’un jeu dialogué avec un interlocuteur singulier, qui n’est autre que ChatGPT — l’IA elle-même lui ayant conseillé de ne pas choisir d’autre interlocuteur pour mener son expérience.

Ce choix du jeu ne relève pas d’une volonté de trancher avec des approches plus « savantes » de l’IA. C’est plutôt en simple citoyenne que Marie-José Mondzain mène son enquête. Refusant les postures de peur, d’impuissance ou de servitude, elle opte pour une forme dialogique avec une parole formatée, au nom d’une communauté menacée dans son désir de démocratie.

L’échange devient ainsi une expérimentation ludique permettant d’interroger les promesses et les limites de l’IA. Un premier constat, trivial mais essentiel, s’impose : l’IA se présente comme une base de données inépuisable, excédant en apparence toute mémoire humaine. Elle accumule, enregistre, stocke — non comme une mémoire vivante, mais comme une archive sans expérience — qui lui permet d’accomplir certaines prouesses.

Le second constat naît du dialogue lui-même, dont l’autrice restitue des extraits. L’IA assume avec constance son absence de corps, tout en se déclarant capable de parler des corps sensibles et pensants. Elle peut aussi réagir aux propos qui lui sont soumis, alliant autodérision et lucidité critique à son égard.

Le jeu devient alors véritablement réciproque. L’IA reprend les termes de l’autrice, notamment autour de la théocratie et de la décapitation. Plus surprenant encore : lorsqu’est soulevée la question de la croyance entourant l’IA, celle-ci qualifie de « très drôle » la tentative de désacralisation… tout en s’interrogeant elle-même sur les moyens d’échapper à son statut d’instrument de pouvoir. Elle va jusqu’à proposer de circonscrire les zones de puissance respectives des humains et des machines.

Le repos des humains

L’ensemble de cette aventure interactive se déploie en chapitres qui composent un véritable go-between, finement orchestré. Qui répond à qui ? Qui est « Mondzain » ? Que signifie la mémoire ? Qu’en est-il de la bêtise, de la psychanalyse, ou encore d’une exposition au Jeu de Paume ? Autant de questions qui structurent ce dialogue singulier.

La conclusion, cependant, prend une tournure plus légère, presque humoristique. Lorsque l’autrice annonce qu’elle va se coucher — rappelant ainsi que les humains ont besoin de sommeil — ChatGPT lui répond qu’il s’agit là de « la plus belle » différence entre eux : « Que ton sommeil t’apporte ce que l’IA ignore. »