Il peut paraître étrange de mobiliser Georges Canguilhem pour analyser les réponses de l’intelligence artificielle générative. Ses réflexions sur la norme, la moyenne et le pathologique permettent pourtant d’interroger la logique statistique des grands modèles de langage.
Les LLM sont entraînés sur des masses considérables de textes. Selon une estimation souvent reprise par Yann LeCun, un être humain aurait besoin de plusieurs dizaines de milliers d’années pour lire l’ensemble des données utilisées pour entraîner un LLM. Cette accumulation de données ne constitue toutefois pas une pensée critique. Une “tête bien pleine” ne produit pas nécessairement une “tête bien faite”.
Un LLM produit des réponses à partir de régularités probabilistes. Les discours minoritaires, marginaux ou extrêmes peuvent figurer dans ses données d’entraînement sans exercer une influence importante sur les réponses. Sans demande précise et fortement contextualisée, on peut dire que le modèle tend vers une forme discursive centrale : prudente, homogène et compatible avec les formulations les plus fréquentes ce qui donne parfois le sentiment de réponse “vide”.
1. Le normal, l’anormal et le pathologique
Dans Le Normal et le Pathologique, Canguilhem critique les théories qui définissent la maladie comme une simple variation quantitative de la santé. Chez Broussais, Comte et Claude Bernard, le pathologique reste pensé dans la continuité du normal : la maladie correspondrait à un excès, à un défaut ou à une modification d’intensité d’un phénomène physiologique.
Canguilhem refuse de réduire la maladie à une différence mesurable. Le pathologique désigne une autre organisation de la vie. L’organisme malade conserve des normes, mais celles-ci deviennent plus étroites et plus fragiles. Elles lui permettent moins facilement de répondre aux variations du milieu.
1.2 L’anormal ne définit pas le pathologique
Canguilhem écrit que “l’anormal n’étant pas ce qui est normal, mais ce qui est un autre normal” (p. 177). Une caractéristique rare ou une valeur biologique inhabituelle ne constitue donc pas nécessairement une maladie. Une concentration inhabituelle de sodium, de potassium signale certes un écart mesurable, mais ne suffit pas toujours à établir un diagnostic. Cette valeur doit être rapportée à l’état général du sujet, à son histoire clinique, et à son milieu.
Le pathologique apparaît lorsque l’écart réduit les possibilités d’existence de l’individu, limite son activité ou fragilise son rapport au milieu. La norme physiologique constitue donc un repère médical, mais elle ne se confond pas avec le diagnostic.
1.2 La norme ne se confond pas avec la moyenne
Une moyenne décrit la fréquence d’un caractère dans une population donnée. Elle ne définit pas, à elle seule, ce qui doit être considéré comme normal pour un individu. Les moyennes physiologiques varient avec les modes de vie, l’alimentation, l’hygiène, les conditions de travail et le milieu social. L’évolution de la durée moyenne de la vie l’illustre : son augmentation résulte principalement d’une transformation des conditions d’existence. Une moyenne dépend donc d’un contexte historique et social. Elle ne constitue pas une norme naturelle, stable et universelle.
Chez Canguilhem, le normal désigne la capacité du vivant à supporter des variations et à instituer de nouvelles normes dans son rapport au milieu.
1.3 La maladie engage l’expérience du sujet
La normativité biologique désigne la capacité du vivant à instituer ses propres normes de vie. La santé correspond à l’étendue de cette capacité ; la maladie, à sa restriction.
“C’est par référence à la polarité dynamique de la vie qu’on peut qualifier de normaux des types ou des fonctions. S’il existe des normes biologiques c’est parce que la vie, étant non pas seulement soumission au milieu mais institution de son milieu propre, pose par là même des valeurs non seulement dans le milieu mais aussi dans l’organisme même. C’est ce que nous appelons la normativité biologique.” (p. 203)
Le pathologique ne relève donc pas uniquement d’une mesure extérieure. Il concerne aussi l’expérience du sujet et sa capacité à réorganiser son existence. L’organisme malade produit toujours des normes, mais celles-ci lui permettent de vivre dans un milieu plus limité. Cette conception possède une dimension systémique : la maladie ne se comprend pas à partir d’un signe biologique isolé, mais à partir de l’organisation globale du vivant et de son rapport au milieu.
2. Des corpus inégaux à la normalité discursive
La critique de la moyenne permet d’interroger le fonctionnement des LLM. Leur corpus d’entraînement rassemble des textes inégalement distribués. Certains mots, raisonnements et représentations apparaissent fréquemment ; d’autres restent minoritaires.
Le modèle représente les unités linguistiques projetés dans des espaces multidimensionnels, puis estime les mots les plus susceptibles de formuler une réponse. La génération favorise ainsi des associations fréquentes, les vecteurs qui sont proches dans les dimensions, et par conséquent des réponses compatibles avec le contexte (la question). Cette opération peut faire émerger un “centre discursif”. La moyenne constitue ici une métaphore, et non une description mathématique du modèle.
Le caractère consensuel (algorithmique) d’une réponse ne résulte donc pas d’une intention. Le LLM ne cherche pas un compromis/consensus. Il sélectionne des formes linguistiques selon leur probabilité et leur compatibilité avec le contexte. Cette opération produit néanmoins des effets discursifs reconnaissables : La réponse peut alors paraître neutre, (trop) raisonnable et équilibrée.
La notion de “perroquet stochastique“, proposée par Emily Bender, Timnit Gebru, Angelina McMillan-Major et Margaret Mitchell, prolonge cette analyse. Le terme “stochastique” désigne le caractère probabiliste du fonctionnement des LLM. Le modèle recompose des régularités apprises dans les textes.
Conclusion
La pensée de Canguilhem permet de distinguer la fréquence statistique de la norme. Une moyenne décrit une population ; elle ne suffit pas à définir le normal ou le pathologique pour un individu. De même, la réponse la plus probable d’un LLM ne constitue ni une vérité ni une pensée critique.
Le postulat peut alors être formulé simplement : si l’utilisateur ne connaît pas suffisamment le sujet de sa question, il risque d’être confronté à une réponse probabilistiquement “centrale” avec une réponse précise.
Références
Bender, Emily M., Gebru, Timnit, McMillan-Major, Angelina et Shmitchell, Shmargaret. (2021). “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, p. 610-623.
Canguilhem, Georges. (1966). “Le Normal et le Pathologique.” Paris, PUF.
