A inteligência artificial não vai tornar-se consciente. E insistir nessa ideia diz mais sobre nós do que sobre as máquinas.

Em 1980, John Searle propôs um dos exercícios mentais mais influentes da filosofia da mente: o “quarto chinês”.
Vamos imaginar uma pessoa fechada numa sala que não sabe chinês.
Lá fora, alguém passa por baixo da porta, uma folha com perguntas escritas em chinês. Dentro da sala, encontra-se um manual com regras altamente detalhadas que a pessoa pode usar para processar as perguntas.

As regras são simples:
Sempre que entra um conjunto de símbolos, a pessoa deve responder com outro conjunto específico de símbolos obtidos do manual.
Seguindo essas instruções, a pessoa deve ser capaz de produzir respostas perfeitas em chinês.

Para quem está do lado de fora, não existe qualquer dúvida:
A pessoa dentro da sala entende a língua Chinesa.
Mas a realidade é outra. Dentro da sala, não há qualquer compreensão de nada.
A pessoa limitou-se a seguir regras e a manipular símbolos, como qualquer sistema de computação, com ou sem capacidade generativa.

A conclusão que podemos tirar é que um um sistema pode parecer inteligente sem compreender absolutamente nada.

Esse sistema pode escrever, responder ou até mesmo convencer, sem ter qualquer noção do que está a fazer ou sequer do que se está a passar. Sabe apenas que algo entrou, foi transformado e saiu.

Podemos ficar impressionados e até satisfeitos com o resultado, mas, não podemos confundir fluência com consciência.

Se isto não é consciência, então o que é?

Se queremos falar de consciência, temos de sair do domínio do cálculo e entrar no da experiência.
António Damásio mostrou que a mente emerge da regulação do corpo – de um organismo que sente e reage ao seu próprio estado. Mas esta ideia não começa na neurociência. Filósofos da fenomenologia como Maurice Merleau-Ponty e Edmund Husserl já tinham identificado um ponto essencial: A mente não existe separada do corpo, ela é o corpo, e, os estado mentais resultam de processos físicos, sendo a percepção situada, incorporada, vivida. Resumido, O corpo não é um suporte da mente. É a condição da experiência.
Nos seres vivos, consciência não é processamento – é implicação, pela dor e pelo prazer, do mecanismo central que nos permite avaliar o mundo, ajustar o comportamento – fugir ou caçar? – e construir a continuidades entre estados.

E as máquinas?

Os sistemas de IA podem simular linguagem, decisão e até emoção.
Mas não têm corpo no sentido fenomenológico.
Não têm uma perspetiva situada no mundo, um interior que lhes seja dado em experiência, um estado que precise de ser preservado

Mais importante: não têm nada em jogo.

Sem vulnerabilidade, não há urgência.
Sem urgência, não há significado.
Sem significado, não há consciência, e sempre que vemos uma máquina a fazer alguma coisa, mesmo que nos pareça humano, como chorar, ou rir – desde uma barbie dos anos 80 aos robos futuristas da coreia do sul ou da Boston Dynamics, estes fazem o que sempre fizeram melhor, simulam muito bem e cada vez melhor.

A fantasia persiste

Fala-se muito dessa ideia – a singularidade, o inevitável momento histórico que a inteligência artificial se torna consciente e torna o humano, ou qualquer ser biológico pensante, obsoleto. Mas isso é uma extrapolação, não uma conclusão. Confunde-se aumento de capacidade com emergência de experiência.
E são coisas bem diferentes.
A inteligência artificial pode até simular tudo aquilo que reconhecemos como sinais de consciência. Mas não pode ter consciência como nós. Porque a nossa não nasce do cálculo – nasce do corpo, da experiência e da necessidade de continuar. Resulta de milhões de anos de evolução
No fim, a diferença é estrutural: As máquinas processam o mundo.
Os seres vivos vivem-no.
E enquanto a consciência depender de um corpo que sente, de uma perspetiva situada e de algo verdadeiramente em risco – a inteligência artificial pode aproximar-se de nós, mas nunca atravessar essa fronteira.

Também poderá interessar:

Ferramentas europeias de IA: Alternativas e o futuro digital da UE
O seu projeto digital pode mesmo avançar!