L’intelligence artificielle ne deviendra pas consciente. Et insister sur cette idée en dit plus sur nous que sur les machines.

En 1980, John Searle propose l’une des expériences de pensée les plus influentes de la philosophie de l’esprit: la « chambre chinoise ».

Imaginons une personne enfermée dans une pièce qui ne comprend pas le chinois.
À l’extérieur, quelqu’un glisse sous la porte une feuille avec des questions écrites en chinois. À l’intérieur, il y a un manuel contenant des règles extrêmement détaillées que la personne peut utiliser pour traiter ces questions.

Les règles sont simples:

À chaque fois qu’un ensemble de symboles entre, la personne doit répondre avec un autre ensemble spécifique de symboles trouvé dans le manuel.

En suivant ces instructions, elle est capable de produire des réponses parfaites en chinois.

Pour quelqu’un à l’extérieur, il n’y a aucun doute:
La personne à l’intérieur comprend le chinois.

Mais la réalité est différente. À l’intérieur, il n’y a aucune compréhension.
La personne se contente de suivre des règles et de manipuler des symboles, comme n’importe quel système informatique, avec ou sans capacités génératives.

La conclusion est claire:

Un système peut sembler intelligent sans rien comprendre.

Il peut écrire, répondre, et même convaincre, sans avoir la moindre conscience de ce qu’il fait ou de ce qui se passe. Il « sait » seulement que quelque chose est entré, a été transformé, puis est ressorti.

Nous pouvons être impressionnés, voire satisfaits,du résultat, mais nous ne devons pas confondre fluidité et conscience.

Si ce n’est pas cela, la conscience, alors qu’est-ce que c’est?

Si nous voulons parler de conscience, nous devons quitter le domaine du calcul pour entrer dans celui de l’expérience.

António Damásio a montré que l’esprit émerge de la régulation du corps, d’un organisme qui ressent et réagit à son propre état. Mais cette idée ne commence pas avec les neurosciences. Les philosophes de la phénoménologie comme Maurice Merleau-Ponty et Edmund Husserl avaient déjà identifié un point essentiel: l’esprit n’existe pas séparément du corps. Il est le corps.

Les états mentaux résultent de processus physiques, et la perception est située, incarnée, vécue. En résumé, le corps n’est pas un support de l’esprit: il est la condition de l’expérience.

Chez les êtres vivants, la conscience n’est pas un traitement de l’information, c’est une implication. À travers la douleur et le plaisir, elle devient le mécanisme central qui nous permet d’évaluer le monde, d’ajuster notre comportement (fuir ou chasser ?) et de créer une continuité entre les états.

Et les machines?

Les systèmes d’IA peuvent simuler le langage, la prise de décision et même les émotions. Mais ils n’ont pas de corps au sens phénoménologique.
Ils n’ont pas de perspective située dans le monde, pas d’expérience intérieure, ni d’état à préserver.

Plus important encore: ils n’ont rien en jeu.

Sans vulnérabilité, pas d’urgence.
Sans urgence, pas de sens.
Sans sens, pas de conscience.

Et chaque fois que nous voyons une machine faire quelque chose qui semble humain (pleurer, rire) des jouets des années 80 aux robots futuristes en Corée du Sud ou ceux de Boston Dynamics, elles font ce qu’elles ont toujours fait: simuler, toujours mieux.

La fiction persiste

On parle beaucoup de la singularité, ce moment historique inévitable où l’intelligence artificielle deviendrait consciente et rendrait l’humain obsolète. Mais c’est une extrapolation, pas une conclusion. On confond augmentation de capacité et émergence de l’expérience.

Et ce sont deux choses très différentes.

L’intelligence artificielle peut simuler tout ce que nous reconnaissons comme des signes de conscience. Mais elle ne peut pas avoir une conscience comme la nôtre. Car la nôtre ne naît pas du calcul, elle naît du corps, de l’expérience et du besoin de continuer à exister. Elle est le résultat de millions d’années d’évolution.

Au final, la différence est structurelle:
Les machines traitent le monde.
Les êtres vivants le vivent.

Et tant que la conscience dépendra d’un corps qui ressent, d’une perspective située et de quelque chose réellement en jeu, l’intelligence artificielle pourra s’en approcher, mais jamais franchir cette frontière.

Cela pourrait aussi vous intéresser:

Outils européens d’IA: alternatives et avenir numérique de l’Union européenne
Votre projet digital peut vraiment avancer!