Nicolas Bourbaki et la naissance du structuralisme

Le rôle mal connu de Nicolas Bourbaki, et plus généralement des mathématiques, dans la naissance du structuralisme.

C’est au Café de la Régence, fréquenté par Jean-Jacques Rousseau, que le joueur Philidor découvrit l’importance des pions dans le jeu d’échec. Il est tentant de rapprocher sa formule « les pions sont l’âme du jeu d’échecs» de « Qu’est ce que le Tiers Etat ? Tout» écrite quarante ans plus tard par l’abbé Sieyès. Chaque époque est ainsi traversée par des idées qui touchent des aspects très variés de la pensée humaine, qui marquent sa vision du monde et s’incarnent de multiples manières.

Le livre d’Amir Aczel examine - par le biais du rôle que joua un groupe de mathématiciens connu sous le pseudonyme de Nicolas Bourbaki - le cas du structuralisme, un mouvement intellectuel, dont le développement s’étendit entre la fin de la 2nde Guerre Mondiale et les années 70. Son influence toucha des domaines aussi variés que la linguistique, l’ethnologie, la psychologie, la psychanalyse, mais aussi les mathématiques. Lévi-Strauss, Barthes, Lacan, Piaget, en sont les représentants les plus célèbres.

Quant à Nicolas Bourbaki, ce groupe fut fondé en 1934 dans un autre café parisien par une dizaine de mathématiciens, et il a joué un rôle déterminant dans les mathématiques françaises et mondiales entre 1945 et 1970. Partisan de l’unité des mathématiques - le traité de Bourbaki s’appelle « Eléments de mathématique», où le singulier de « mathématique» se veut affirmation de son unité - il contribua pourtant parfois à la diviser, en particulier par une vision hiérarchisée et peu soucieuse de ses applications, au point d’en exclure longtemps la théorie des probabilités. Mais on lui doit d’avoir contribué à mettre au centre des mathématiques la notion de structure.

On peut illustrer ce concept de structure par un exemple : celui de la structure de groupe. Un groupe apparaît en général comme un ensemble de transformations : par exemple les symétries d’une figure géométrique forment un groupe, et beaucoup de groupes apparaissent ainsi. La composition de deux symétries étant une symétrie, le résultat des compositions de deux éléments donne une table de composition, qui ressemble à une table de multiplication. On identifie deux groupes qui ont la même table de composition, même si les objets dont ils sont constitués (des rotations, des permutation d’objets, etc...) sont de nature différente.

Par exemple le triangle équilatéral possède les symétries suivantes : les rotations de 120 et de 240 degrés autour du centre de gravité, O, que l’on notera A,B, et les symétries par rapport aux médiatrices (x), (y), (z), que l’on note respectivement X,Y,Z. On note E la transformation identique (qui envoie chaque point sur lui-même). La table de multiplication des symétries du triangle équilatéral s’écrit alors

Par exemple A⋆A=B signifie que la rotation de 120 degrés (A) suivie d’une rotation de 120 degrés (encore A) donne la rotation de 240 degrés (B). La formule A⋆X=Y signifie qu’en composant la rotation de 120 degrés et la symétrie (X) par rapport à la médiatrice (x), on obtient la symétrie (Y) par rapport à la médiatrice (y).

L’étude des polyèdres réguliers (les solides platoniciens) et celle des équations algébriques se ramènent à des questions sur le groupe de leurs symétries. La notion de groupe est une structure, et de nombreuses questions - Bourbaki dirait : toutes les questions intéressantes - sur les polyèdres réguliers se ramènent à des questions sur leur groupe de symétrie. De ce point de vue, le cube et l’octaèdre, ayant le même groupe de symétrie, ne sont que deux incarnations du même groupe (et en effet on passe de l’un à l’autre en échangeant sommets et faces), de même que le dodécaèdre et l’icosaèdre.

Il en est de même pour certaines questions sur les équations polynomiales. Par exemple savoir si elle sont résolubles par radicaux, combien de racines réelles elle possèdent, sont des propriétés qui se ramènent à des énoncés sur les groupes. C’est alors la structure du groupe qui est importante, et non le fait de savoir si celui-ci est constitué de transformations de l’espace préservant le polyèdre dans le premier cas, de permutation des racines dans le second. Cette idée a pris place peu à peu au cours des 19ème et 20ème siècle, en commençant par les travaux de Galois et Abel. Mais on doit sans doute à Félix Klein, dans son « programme d’Erlangen», publié en 1872, l’idée qu’une géométrie, c’est l’étude d’un groupe, et on peut sans doute voir dans son texte les prémices du structuralisme en mathématiques. C’est à peu près à la même époque que le linguiste suisse Ferdinand de Saussure débuta sa carrière, et son « Cours de linguistique générale », publié en 1916 est considéré comme fondant le structuralisme en linguistique. Saussure remarque l’importance du contraste (aussi appelée « opposition») entre phonèmes, plus que les phonèmes eux-mêmes. Par exemple le « r»  et le « l »  sont « contrastés»en français : les mots « rond»  et « long»  ne diffèrent phonétiquement que par la distinction du « r»  et du « l», mais ces phonèmes ne sont pas « contrastés»en japonais : il n’existe d’ailleurs pas deux mots japonais dont la prononciation ne diffère que par la substitution du « r »  par un « l ». C’est cette relation de « contraste »  entre phonèmes qui joue un rôle central, plus que les phonèmes eux-mêmes. Jakobson en linguistique, Hilbert en mathématiques ont ensuite repris développé et approfondi ces idées, qui sont à la base du structuralisme.

Mais le moment fondateur du structuralisme est un moment pluridisciplinaire. Il a lieu lors de la rencontre à New-York - où ils s’étaient réfugiés au cours de la seconde guerre mondiale - entre le linguiste Roman Jakobson, l’ethnologue Claude Lévi-Strauss et le mathématicien, membre fondateur de Bourbaki, André Weil, à l’occasion de l’étude par le second des « Structures élémentaires de la parenté», c’est -à-dire les règles régissant les mariage dans les différentes cultures. Avant la thèse de Lévi-Strauss, les ethnologues se consacraient à l’étude d’une ou plusieurs peuples, dont ils étudiaient en particulier les règles de mariage, alors que Levi-Strauss s’intéresse à la structure de ces règles de mariage, en essayant d’en tirer quelques principes qui permettent de les classifier. Lévi-Strauss reconnut que pour mener à bien son étude, il lui fallait utiliser des outils mathématiques élaborés. Après avoir sollicité l’aide du célèbre mathématicien Hadamard – qui lui répondit que «le mathématicien ne connait que quatre opérations, et le mariage n’est aucune d’entre elles » - il s'adresse à André Weil, qui contribue à résoudre l’énigme : ces structures étaient celles de la théorie des groupes, et différents types de structure familiales correspondent à des groupes de type différent.

Les tribus aborigènes australiennes sont en général subdivisées en classes, et les règles de mariage déterminent pour un homme ou une femme d’une classe donnée à quelle classe doit appartenir son conjoint. Ces règles ont souvent pour effet d’une part de minimiser l’endogamie et d’autre part de renforcer les alliances entre les différents groupes formant la tribu.

Par exemple les Murngins sont subdivisés en 8 classes, appelées balang, bangadi, buralang, koijog, kamarang, bulain, wamud, ngaridj, et que l’on numérote par commodité de 1 à 8. Chez les Murngins, si vous êtes un homme balang vous devrez épouser une femme ngaridj et vos enfants seront de la classe bangadi. Votre fils doit épouser une femme kamarang, et ses enfant seront bulain, mais votre fille, qui est aussi bangadi, épousera un homme wamud et leurs enfants seront buralang...

Si pour simplifier on note M1, ..., M8 les types de mariages suivant la classe de la femme, le mariage des parents détermine la classe des enfants, et donc les mariages possibles de la fille, que l’on note f(M1), pour la fille issue d’un mariage M1, f(M2), pour la fille d’un mariage M2, et ainsi de suite, et g(M1) pour le fils issu d’un mariage M1, g(M2) pour le fils d’un mariage M2, etc. Par exemple si M1 est le mariage d’un homme balang et d’une femme ngaridj, f(M1) est le type de mariage d’une femme bangadi et d’un homme wamud. Les applications f et g sont des substitutions des huit objets (M1,M2,M3,M4,...,M8). Le groupe engendré par f et g - c’est-à-dire les permutations obtenues en composant un nombre quelconque de permutations f et g - décrivent la « structure du mariage» : par exemple f⋆g⋆f(M2) décrit le type de mariage de la fille du fils de la fille issue d’un mariage de type M2. Une des caractéristique des règles de mariage des Murngins est que tout homme peut épouser la fille du frère de sa mère. Cette condition se traduit ici dans la commutativité du du groupe c’est-à- dire f⋆g=g⋆f : ce qui signifie que le fils de la fille et la fille du fils appartiennent à des classes qui peuvent se marier entre elles, ou encore qu’un garçon peut toujours épouser la fille de du frère de sa mère (cousine matrilinéaire).

Une question importante est de savoir si les liens de parenté lient toutes les classes d’une tribu, un facteur évident de cohésion de la tribu. La réponse est ici encore en termes de structure du groupe : c’est le cas, lorsque le groupe engendré par f et g, c’est à dire des substitutions obtenues en composant f et g de toutes les manières possibles est « transitif». Dans le cas contraire, il existera deux sous-populations qui ne se mélangent jamais. On voit donc qu’à un système de mariage on peut associer un groupe, et que ce groupe donne des informations sur la structure sociale de la tribu. Ici peu importe le nom des classes, ou leur nombre. La nature du groupe permet de distinguer ou rapprocher des structures familiales de types différents à travers les lieux et les cultures.

Et finalement, que ce soient les polyèdres, les polynômes, ou les règles de mariage, l’objet important est toujours le même, c’est la structure de groupe. Dans un tout autre domaine de la science, c’est aussi la structure de groupe qui permet de distinguer les particules élémentaires de la physique, proton, électron, photon, etc...

Bien entendu les « structures» dont traite le structuralisme ne sont pas nécessairement des groupes, ni même des objets de nature mathématique, comme on l’a vu pour la linguistique par exemple.

On peut se demander pourquoi le structuralisme s’essouffla à partir de la fin des années 70 ? Il est certain qu’une partie de la réponse tient dans le fait qu’il avait atteint son but d’organisation des connaissances, et que l’importance des structures étant acceptée, la science se posait alors d’autres questions. L’organisation des connaissances acquises joue un rôle fondamental dans les sciences, mais la Science ne se réduit pas à cela. Comme l’ethnologue qui ne peut se contenter indéfiniment de réorganiser les informations dont il dispose, mais doit de temps à autre retourner sur le terrain, les autres sciences, y compris les mathématiques, doivent se ressourcer dans la découverte de nouveaux phénomènes qui engendreront les structures de demain.

La présentation des interactions entre Bourbaki et le structuralisme et l'éclairage du rôle joué par les mathématiques dans l'histoire de cette aventure intellectuelle sont un des aspects passionnants du livre d'Aczel. J'ai moins apprécié la place (trop) importante et pas toujours justifiée attribuée aux biographies des acteurs de cette aventure, mais c'est peut-être parce que j'étais déjà familier avec les sources dont elles sont tirées. Bien entendu, il est toujours bon de rappeler que les sciences sont faites par des femmes et des hommes, et ce livre nous rappelle, au-delà du cas du structuralisme, que les idées pour lesquelles ont œuvré ces femmes et ces hommes sont les fruits de leur époque et de leurs rencontres.

PS : le système Murngin a été revisité dans les années 70 dans un article de Testart et Kupka, ce dernier s’étant rendu sur place entre 1956 et 1975. Il semble que la réalité soit plus compliquée que ce que décrit Lévi-Strauss, et le système qu’il présente n'est valable que dans certaines zones géographiques mais est une approximation satisfaisante.

Références :

Claude Levi-Strauss : Les structures élémentaires de la parenté, avec un appendice de A. Weil, Presses Universitaires de France, 1949.

Karel Kupka et Alain Testart, A Propos du problème Murngin  : le système de sous-sections L’Homme, Année 1980, Volume 20, Numéro 2 p. 71 - 90 (disponible en ligne http ://wwww.persee.fr)