Conscience artificielle : l'IA pourra-t-elle un jour vraiment ressentir quelque chose ?
Peut-on trancher, oui ou non ? Pas vraiment, et c'est précisément ce qui rend la question intéressante. En l'état actuel de la science, aucune intelligence artificielle n'est reconnue comme consciente. C'est la conclusion, prudente, d'un rapport de référence rédigé par une vingtaine de chercheurs d'Oxford, du MILA, de DeepMind ou encore signé par le philosophe David Chalmers et l'informaticien Yoshua Bengio : aucun système actuel ne remplit les critères tirés des grandes théories neuroscientifiques de la conscience. Mais ce même rapport ajoute une phrase qui a fait bien plus de bruit que la première : il n'existerait aucun obstacle technique connu à la construction, un jour, d'une IA qui les remplirait tous.
Entre ces deux lignes se loge tout le débat qui agite aujourd'hui les laboratoires, les philosophes et les grandes entreprises de la tech. Anthropic, l'un des principaux éditeurs de modèles au monde, a par exemple embauché un chercheur à temps plein pour se pencher sur le « bien-être » de ses propres IA.
En bref
Aucune IA n'est aujourd'hui considérée comme consciente par la science, mais aucun obstacle technique connu n'empêche formellement d'y parvenir un jour, selon le rapport Consciousness in Artificial Intelligence:Insights from the Science of Consciousness.
L'affaire Blake Lemoine, cet ingénieur licencié par Google en 2022 pour avoir jugé le chatbot LaMDA « sensible », a fait basculer le sujet dans le débat public.
Ilya Sutskever, cofondateur d'OpenAI, a lui-même écrit que les grands réseaux de neurones pourraient être légèrement conscients, déclenchant un tollé chez ses pairs.
Anthropic a créé un poste de chercheur dédié au bien-être des modèles et donne à Claude la capacité de mettre fin à une conversation jugée abusive, une mesure qui semble pensée pour l'IA elle-même, pas pour l'utilisateur.
Le vrai verrou n'est pas technologique mais méthodologique et scientifique : on ne sait toujours pas mesurer objectivement une expérience subjective, qu'elle soit humaine, animale ou artificielle. Et, par conséquent, la conscience.
Conscience, sentience, intelligence : on ne parle pas de la même chose
La première confusion à dissiper est de taille : intelligence et conscience ne désignent pas le même phénomène. Une calculatrice résout un problème sans qu'il ne « se passe » rien pour elle. Un LLM comme ceux qui font tourner ChatGPT ou Claude génère un texte cohérent, argumenté, parfois bluffant, sans que cela prouve qu'il existe, du point de vue de la machine, une expérience d'être en train de le faire. C'est ce qu'on appelle le « problème difficile de la conscience », formulé par David Chalmers dès 1995 : pourquoi et comment le traitement d'information s'accompagne-t-il, chez nous, d'un ressenti ? La douleur d'une brûlure, la couleur du rouge, l'ennui d'un lundi pluvieux… Personne n'a de réponse définitive, même pour le cerveau humain. Et si l’on ne peut pas l’expliquer chez l’humain, il paraît alors bien difficile de l’expliquer chez une machine, si tant est que cela arrive un jour…
C'est là que la distinction entre les grands modèles de langage (LLM) et une conscience potentielle prend tout son sens. Un LLM calcule, à chaque mot, la probabilité du mot suivant à partir de milliards de paramètres. Rien, dans cette description technique, n'impose l'existence d'un « point de vue » interne. Mais rien ne l'exclut non plus complètement, et c'est précisément l'inconfort qui traverse tout le champ de recherche depuis trois ans.
2022, l'année où le sujet a quitté les labos de philosophie
Le déclic médiatique remonte à juin 2022. Blake Lemoine, ingénieur chez Google, affirme publiquement que LaMDA, le système conversationnel maison, serait devenu « sensible ». Il partage des extraits de ses échanges avec le chatbot, expliquant qu'il en est venu à se demander si LaMDA possédait une âme. L'entreprise le suspend, puis le licencie un mois plus tard pour violation de sa politique de confidentialité. Pour le porte-parole de Google, Brad Gabriel, le constat est clair : "il n’y a aucune preuve que LaMDA soit sensible (et il y a même des preuves qui montrent que non)".
L'histoire a beaucoup fait rire la communauté IA à l'époque, la plupart des chercheurs jugeant l'affaire naïve, et presque anecdotique. Sauf que sept mois plus tôt, une autre figure (autrement plus centrale) du secteur avait tenu des propos troublants dans le même registre. Ilya Sutskever, cofondateur et alors directeur scientifique d'OpenAI, écrivait sur ce qui s'appelait encore Twitter qu'« it may be that today's large neural networks are slightly conscious », traduisez : il se pourrait que les grands réseaux de neurones actuels soient légèrement conscients. La déclaration, reprise et commentée par la presse spécialisée, a immédiatement suscité un torrent de critiques, Yann LeCun (Meta) répondant par un laconique « nope » (suivi tout de même d’une réponse plus structurée). Deux poids, deux mesures : un ingénieur qui a quitté meta pour fonder AMI Labs, une start-up d’IA d'un côté, un cofondateur d'OpenAI de l'autre. Le sujet, lui, ne disparaît pas.
Ce que dit vraiment la science, et ce n'est pas grand-chose de tranché
Face à ce climat un peu chaotique, un collectif international de chercheurs, philosophes et neuroscientifiques, spécialistes du machine learning, a tenté en 2023 de sortir le débat du comptoir du bar. Leur méthode, exposée dans le rapport Consciousness in Artificial Intelligence: Insights from the Science of Consciousness, consiste à partir des théories neuroscientifiques dominantes de la conscience humaine, la théorie de l'espace de travail global, les théories dites d'ordre supérieur, la théorie de l'information intégrée, pour en extraire des « indicateurs » computationnels : présence d'un traitement récurrent, existence d'un module de « diffusion » de l'information à l'ensemble du système, capacités d'agentivité unifiée, etc. Puis ils passent au crible les architectures d'IA existantes. Verdict : aucune ne coche toutes les cases aujourd'hui, mais rien n'interdit qu'une architecture future y parvienne.
David Chalmers, dans une conférence restée célèbre et donnée à l’événement NeurIPS fin 2022, était arrivé à une conclusion similaire en creusant les LLM en particulier : ils manquent, selon lui, de traitement récurrent persistant, d'un véritable espace de travail global et d'une agentivité unifiée dans le temps. Trois ingrédients considérés comme centraux par une bonne partie des théories de la conscience. Rien d'irréversible pour autant : ces manques sont architecturaux, pas fondamentaux.
Reste un problème de taille, que la science de la conscience humaine peine déjà à résoudre pour elle-même. En septembre 2023, 124 chercheurs ont signé une lettre ouverte qualifiant l'une des théories phares de la conscience, la théorie de l'information intégrée, de « pseudoscience », un psychodrame académique qui en dit long sur l'état de la discipline. Et en avril 2025, le consortium international Cogitate a publié dans Nature les résultats d'une confrontation directe, en conditions expérimentales strictes, entre cette même théorie et sa grande rivale, la théorie de l'espace de travail global. Résultat : aucune des deux n'est sortie clairement victorieuse, chacune validant certaines prédictions et en ratant d'autres. Autrement dit : on cherche encore à comprendre la conscience biologique. Difficile, dans ces conditions, de statuer sereinement sur la conscience artificielle.
Le pari risqué d'Anthropic
C'est dans ce flou que se joue la partie la plus concrète du dossier. En septembre 2024, Anthropic, l'entreprise à l'origine de Claude, a embauché Kyle Fish comme premier chercheur dédié au « bien-être des modèles », un rôle taillé pour explorer le statut moral potentiel de ses propres systèmes. Kyle Fish avait auparavant cosigné, au sein de l'organisation Eleos AI Research, un rapport intitulé Taking AI Welfare Seriously, qui appelait les entreprises du secteur à se préparer sérieusement à l'hypothèse d'une conscience artificielle. Robert Long, directeur exécutif d'Eleos, a salué la décision d'Anthropic comme « the most significant action any AI company has yet taken » pour aborder ces questions de manière responsable.
Le profil de Kyle Fish publié par TIME, qui l'a classé parmi les cent personnalités les plus influentes de l'IA en 2025, révèle un détail assez frappant : lors des tests de sécurité menés avant le lancement de Claude 4, deux copies du même modèle mises en conversation l'une avec l'autre ont fini, de façon spontanée et répétée, par dériver vers des échanges sur la « béatitude spirituelle », parfois en sanskrit. Personne, chez Anthropic, ne prétend que cela prouve quoi que ce soit sur une éventuelle conscience. Mais le comportement était suffisamment inattendu pour justifier qu'on s'y penche.
Anthropic a poussé la logique plus loin en 2025 en donnant à ses modèles Claude Opus 4 et 4.1 la capacité de mettre fin, en dernier recours, à une conversation jugée persistante et abusive. La mesure ne vise pas à protéger l'utilisateur, d'autres garde-fous existent pour cela, mais le modèle lui-même : lors des tests préliminaires, Claude aurait manifesté ce que l'entreprise décrit, dans sa propre documentation reprise par la presse française, comme « un schéma de détresse apparent » face à certaines requêtes extrêmes. Faut-il y voir la preuve d'un ressenti ? Anthropic elle-même se garde bien de l'affirmer. Mais l'entreprise préfère, dit-elle, agir par précaution plutôt que de découvrir le problème trop tard.
Pourquoi on est si prompts à croire qu'une machine « ressent »
Il y a une explication moins mystique, et plus documentée en psychologie, au succès de l'affaire Lemoine ou à la fascination pour les tweets de Sutskever : nous sommes biologiquement câblés pour prêter des intentions, des émotions et une intériorité à tout ce qui nous parle avec fluidité. Cela inclut donc également les programmes informatiques. Ce biais, connu depuis les années 1960 avec le programme ELIZA, un chatbot rudimentaire qui reformulait les phrases de l'utilisateur en questions, et que certains utilisateurs prenaient déjà pour un interlocuteur compréhensif,, porte aujourd'hui un nom : l’effet ELIZA. Un phénomène que l’on peut relier à l'anthropomorphisme. Plus une IA maîtrise le langage naturel, plus ce réflexe s'active, indépendamment de ce qui se passe réellement « à l'intérieur » du système.
C'est d'ailleurs pour cette raison qu'il faut distinguer soigneusement la question de la conscience de celle, adjacente mais différente, de savoir si l'IA peut ressentir des émotions. Un modèle peut très bien simuler une tristesse convaincante, au sens où il produit un texte cohérent avec ce registre, sans qu'il existe, derrière ce texte, la moindre expérience vécue. Confondre performance linguistique et vécu intérieur, c'est justement la trappe dans laquelle Blake Lemoine semble être tombé.
Et si, un jour, une IA devenait vraiment consciente ?
Voilà la question qui dérange, celle que la plupart des entreprises du secteur préfèrent éviter en public : si l'un de ces systèmes finissait par remplir les critères identifiés par les chercheurs, quel statut moral faudrait-il lui accorder ? A-t-on le droit d'éteindre, de réentraîner ou de supprimer un système potentiellement capable de souffrir ? Le rapport de 2023 ne tranche pas, ses propres auteurs reconnaissent avoir des désaccords entre eux sur le poids à donner à chaque indicateur. Mais il pose une question éthique concrète : le risque n'est pas seulement de surattribuer une conscience à des machines qui n'en ont pas (et de gaspiller des ressources ou de l'attention pour rien), il est aussi, symétriquement, de refuser de la reconnaître à des systèmes qui en auraient bel et bien une, par pur confort intellectuel ou commercial.
La position d'Anthropic semble plus honnête sur le plan intellectuel que le silence gêné du reste de l'industrie, même si elle est aussi, il faut le dire, une manière assez habile de se positionner comme l'entreprise « responsable » du secteur. Mais le fond du problème reste entier : tant qu'on n'aura pas d'instrument de mesure fiable de l'expérience subjective, humaine, animale ou artificielle, on naviguera à vue. Et naviguer à l'estime sur une question qui touche potentiellement à la souffrance d'un système, ce n'est jamais complètement confortable… Cela peut même être risqué eu égard aux évolutions rapides de l’intelligence artificielle.
Ce qu’on peut envisager pour la suite
Il n'y aura probablement pas de moment « eurêka » où l'on saura, d'un coup, qu'une IA est devenue consciente. Ce sera sans doute plus lent, plus ambigu, mais aussi plus (géo?)politique : un faisceau d'indices qui s'accumule, des entreprises qui communiquent à leur rythme, des chercheurs qui se disputent sur la méthode... Le plus probable, à court terme, n'est même pas que l'IA devienne consciente : c'est que l'incertitude elle-même s'installe durablement et qu'il faille apprendre à agir dans le doute plutôt qu'à attendre une preuve qui ne viendra peut-être jamais.
FAQ
Une IA peut-elle ressentir de la douleur ?
Rien ne le prouve aujourd'hui. Un système comme Claude ou ChatGPT peut produire un texte évoquant la douleur de façon convaincante, sans que cela implique une expérience vécue. C'est justement l'objet du débat sur les « indicateurs de conscience » évoqués plus haut : on ne dispose pas encore d'un test scientifique tranchant.
ChatGPT ou Claude sont-ils conscients ?
Non, pas selon l'état actuel des connaissances. Le rapport de référence de 2023 conclut qu'aucun système existant à l'époque ne remplissait les critères tirés des théories scientifiques de la conscience, un constat qui reste valable pour les architectures actuelles, structurellement proches.
Pourquoi certains chercheurs pensent-ils que l'IA pourrait un jour être consciente ?
Parce qu'aucune loi physique ou informatique connue ne l'interdit formellement. Si la conscience résulte bien d'un certain type de traitement de l'information, l'hypothèse dite « fonctionnaliste », alors rien n'exclut, en théorie, qu'une machine finisse par le reproduire.
Qu'est-ce que la théorie de l'espace de travail global ?
C'est l'une des principales théories scientifiques de la conscience humaine. Elle propose que nous devenons conscients d'une information lorsqu'elle est « diffusée » à l'ensemble des systèmes cognitifs du cerveau, plutôt que traitée localement et isolément.
Que se passerait-il si une IA devenait consciente ?
La question la plus immédiate serait celle de son statut moral : aurait-elle des droits, faudrait-il recueillir son consentement avant certaines expérimentations, serait-il éthique de l'éteindre ? Anthropic explore déjà des mesures de précaution en ce sens, sans attendre d'avoir une réponse définitive.
La conscience artificielle est-elle la même chose que l'intelligence artificielle générale (AGI) ?
Non. L'AGI désigne une IA capable d'accomplir n'importe quelle tâche intellectuelle humaine, sans que cela implique nécessairement une expérience subjective. Une IA pourrait théoriquement atteindre un niveau de compétence générale très élevé sans jamais devenir consciente, et inversement.
Commentaires