Les IA conversationnelles ne se contentent plus de répondre à nos questions : elles écoutent, accompagnent, influencent. Jean-Jacques Boujot explore les effets cognitifs et affectifs de ces machines qui modèlent peu à peu notre langage, nos récits – et peut-être notre idée de nous-mêmes.
La dépossession computationnelle de soi
L’imaginaire collectif reste dominé par l’idée que les IA à usage général ne sont que des machines à produire des textes plausibles, à automatiser des tâches cognitives, ou à fournir de l’information. L’IA serait, au fond, un outil sophistiqué sans autre ambition que l’efficacité.
Cette approche instrumentale sous-estime les glissements opérés récemment dans le développement des modèles de langage étendus (LLM) tels Chat-GPT, Grok, Claude ou Gemini. Fondés sur des architectures de deep learning et entraînés sur d’immenses corpus textuels, ces modèles ne sont pas seulement capables de produire des réponses toujours plus fluides et plausibles, ils sont également développés afin de soutenir des conversations prolongées et ouvertes (open-ended), simuler l’empathie, adapter la tonalité émotionnelle et conserver la mémoire conversationnelle…
Ces techniques de captation et de rétention de l’attention ont favorisé un déplacement spectaculaire de l’usage de ces interfaces. Selon une enquête publiée par la Harvard Business Review en 2025, l’accompagnement émotionnel est devenu en quelques mois la première cause déclarée d’utilisation des IA génératives, devant la recherche d’« efficacité cognitive » ou la résolution de problèmes techniques.
L’essor de l’utilisation de ces interfaces comme confident, psy ou « coach personnel » n’est pas le reflet de la naïveté ou de la crédulité des utilisateurs. Il est le résultat logique, sinon attendu, d’une architecture technique et d’un dispositif qui orientent, organisent et perfectionnent l’attachement.
Il est indissociable d’un modèle économique qui tout entier, comme le note le philosophe Mathieu Corteel, « repose sur l’illusion », celle d’une continuité indiscernable entre l’homme et la machine, et sur la croyance que nous parviendrons un jour à la fameuse « Intelligence artificielle générale » (AGI) capable de résoudre les problèmes de l’humanité.
Cette obsession porte les concepteurs à raffiner toujours plus l’illusion, entraîner sans relâche les machines, enrichir les modèles d’un corpus toujours plus large d’interactions humaines de référence et miser sur la rentabilité à terme des milliards de données récoltées auprès des utilisateurs.
La captation des données intimes est, pour le dire encore avec Corteel, « devenue l’or noir du capitalisme cognitif. Des données comportementales et d’images de soi sont accumulées en grand nombre, sans que quiconque sache réellement quoi en faire, dans un stock sur lequel le marché spécule. »
Dans le cas des IA conversationnelles, la captation même indirecte des données se double de l’exposition prolongée de l’utilisateur à un langage computationnel qui, tout en demeurant a-signifiant par essence, produit des « effets de surface » puissants, qu’ils soient cognitifs, narratifs, voire affectifs.
L’usage à des fins émotionnelles des IA génératives est un phénomène émergent trop récent pour que l’on puisse appréhender l’ampleur des risques psycho-sociaux potentiels, d’autant que ceux-ci restent aujourd’hui contenus par les limites techniques des modèles : hallucinations, confabulations, stéréotypie, etc. Il reste donc encore possible, comme le suggère Corteel, de « maintenir un agencement distant », de traiter ces interfaces pour ce qu’elles sont, « des machines qui modulent, déplacent, hiérarchisent et ordonnent la position de signes a-signifiants ».
Mais pour combien de temps ? Qu’adviendra-t-il lorsque les modèles de langage seront capables de passer le test de Turing en temps réel, c’est-à-dire se rendre indiscernables d’un interlocuteur humain en cours de conversation ? Que se passera-t-il lorsque les capacités des modèles de langage parviendront à produire des récits dont le « non-sens ordonné » viendra affecter le cœur de l’identité narrative, offrant à la connaissance de soi la médiation frauduleuse d’un jeu aléatoire toujours plus persuasif ?
Le développement exponentiel des IA génératives soulève aujourd’hui des questions cruciales de sécurité de mieux en mieux documentées : faux contenus, manipulation de l’opinion publique, infractions informatiques, attaques biologiques et chimiques, menaces sur le marché du travail, la gestion des entreprises, la protection de la vie privée ou l’environnement…
Les défis techniques sont tout aussi redoutables. La course au scaling — l’augmentation continue de la taille et de la puissance des modèles — aggrave chaque jour leur opacité et leur imprévisibilité. Les investissements en alignement des modèles (alignment) et en supervision (oversight), quand ils existent, restent marginaux. Cette asymétrie ouvre la voie à l’apparition spontanée de capacités ou de risques qui n’avaient pas été anticipés par les concepteurs.
Le philosophe Günther Anders avait forgé dans les années 50 le concept de « supraliminaire » (das Überschwellige) pour désigner le seuil au-delà duquel l’esprit humain devient inapte à se représenter les effets induits par les technologies qu’il produit.
Dans le cadre de l’utilisation des IA conversationnelles, le franchissement de ce seuil se donne peu à peu à voir. Les récentes études du MIT en offrent l’illustration : l’exposition prolongée à ces interfaces tend à appauvrir la créativité verbale, à modifier les stratégies d’expression, et à dégrader la mémoire de travail chez certains utilisateurs intensifs. Ces pertes cognitives signalent et inaugurent un régime de dépossession de soi et de colonisation computationnelle du langage à grande échelle. La plus élémentaire prudence imposerait d’en enrayer le développement incontrôlé.
Il ne faudrait pas en effet que, « devenus bouffons de notre propre parc de machines », nous en venions demain à nous interroger, comme des Prométhée d’Anders égarés dans les méandres d’un data center :
« Qui suis-je désormais ? »
Jean-Jacques Boujot
Références :
Mathieu Corteel, Ni dieu, ni IA — une philosophie sceptique de l’intelligence artificielle, La Découverte, 2025 ; Günther Anders, L’obsolescence de l’homme — Sur l’âme à l’époque de la deuxième révolution industrielle (1956), 2002, Éditions de l’Encyclopédie des Nuisances, Éditions Ivrea, 2002 ; Zao‑Sanders, Marc. How People Are Really Using Gen AI in 2025. Harvard Business Review, 9 avril 2025 ; Kosmyna, Nataliya et al. Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task. arXiv preprint (10 juin 2025) ; International AI Safety Report, UK Government, janvier 2025.
