O desenvolvimento da inteligência artificial levanta uma questão de grande importância prática e ética: as máquinas podem adquirir consciência? Para responder a essa pergunta, precisamos primeiro entender o que queremos dizer com “consciência”.

Esse termo implica a consciência do que está acontecendo ao nosso redor, em nosso organismo ou de nossas ações, o que nos permite comportar-nos de maneira flexível e controlada. O comportamento consciente pode ser distinguido por duas características, ou recursos:

• A primeira característica (R1) refere-se à disponibilidade global de informações. Embora algumas partes do cérebro sejam altamente especializadas (áreas visuais, motoras e de memória), um requisito da consciência é que as informações estejam disponíveis globalmente. Ou seja, se vemos algo, podemos dizer qual é a cor, a forma, o som ou como ela é percebida.

• A segunda característica (R2) permite o automonitoramento desse processamento. Ele avalia se a resposta foi certa ou errada, o que nos permite corrigir essa resposta imediatamente ou em situações futuras. Isso é conhecido como “metacognição”.

Vamos, por exemplo, preparar uma omelete de batata. Nessa receita, precisamos selecionar os ingredientes, pegá-los e usá-los no momento certo (primeira característica). Durante a preparação, temos de provar o alimento em etapas intermediárias para avaliar o sabor a fim de adaptar essas características às preferências do momento. Se, por exemplo, quisermos reduzir a quantidade de sal, usaremos menos sal, mas controlaremos para que o resultado final seja satisfatório (segunda característica).

Ambas as características são consideradas pré-requisitos para a consciência. Se um deles estiver faltando, o processamento será inconsciente. Poderíamos colocar sal sem perceber, pois é algo que fazemos automaticamente. Esse processamento é eficiente, não consome atenção nem recursos de memória, mas é limitado. Não podemos avaliar se adicionamos a quantidade certa e, às vezes, isso até nos faz duvidar se o adicionamos ou não.

Uma das grandes limitações do processamento inconsciente é que “não estamos cientes do que não estamos cientes”. Ou seja, não podemos estimar como é o nosso processamento inconsciente nem avaliá-lo.

Como avaliamos a consciência?

A primeira característica (disponibilidade global) foi observada em seres vivos sem linguagem. Desde os primeiros meses de vida, os bebês humanos são capazes de compreender regras e responder a estímulos que não seguem uma sequência previamente estabelecida. Animais como corvos e primatas podem responder (se treinados) com respostas do tipo sim ou não a estímulos que são muito difíceis de detectar.

A segunda característica (metacognição) refere-se à nossa capacidade de autoavaliação do processamento. Quando percebemos ou respondemos conscientemente, podemos estimar a probabilidade de que nossa percepção ou resposta esteja correta. Isso pode ser avaliado em animais medindo-se o quanto persistem na escolha inicial (persistiremos mais quanto mais certos estivermos) ou permitindo a opção de não responder (em situações de menor certeza, escolheremos com mais frequência essa opção de não responder).

Máquinas podem ter essas características?

Alguns pesquisadores propõem que ambas as características poderiam ser implementadas em máquinas, de modo que elas agiriam como se estivessem conscientes.

Imagine que agora é um robô que precisa preparar a omelete de batata. Se ele pudesse medir a pressão arterial do comensal, essa informação poderia ser disponibilizada para todo o sistema (primeira característica) para cozinhar com menos sal se a pressão arterial estiver alta. Ao mesmo tempo, se a pressão arterial estiver excessivamente alta, esse sistema poderá enviar um alarme para o telefone da pessoa para que ela marque uma consulta médica (primeira característica).

Além de tornar as informações acessíveis, seria interessante que o robô avaliasse seu próprio comportamento (por exemplo, se a adição de cebola à omelete resultou em um sabor agradável) e se atualizasse continuamente (segundo recurso).

De acordo com este posicionamento, a consciência poderia ser reduzida a um conjunto de cálculos que poderiam ser implementados em máquinas.

O que essa abordagem não leva em conta é que, nos organismos biológicos, a consciência surge não apenas da interação do cérebro com o ambiente, mas também da interação do cérebro com o próprio organismo.

A fome, por exemplo, gera uma série de reações fisiológicas que o cérebro interpreta como uma sensação, emoção ou sentimento. Essas interpretações são uma parte essencial da consciência dos seres vivos, que se desenvolveram ao longo de milhões de anos de evolução e permitem a sobrevivência.

Diante do perigo, o coração bate mais rápido, o que nos ajuda a escapar da situação, mas também gera medo. Estudos recentes descobriram que o batimento cardíaco é mais lento quando é percebido conscientemente do que quando não é percebido conscientemente. Isso indica que estar consciente envolve não apenas o monitoramento do ambiente, mas também o monitoramento dos próprios sinais que nosso corpo envia para melhor se adaptar, aprender e adaptar nosso comportamento às demandas variáveis do ambiente.

Essas interações entre o cérebro e o organismo são essenciais para gerarmos experiências subjetivas em primeira pessoa (“Eu vi”). Compreender a consciência nos seres humanos envolve entender não apenas como respondemos ao ambiente, mas também como as informações do sistema nervoso central (cérebro) e periférico (organismo) são integradas para criar a experiência subjetiva da percepção.

Consciência ainda muito distante

As evidências científicas atuais mostram que, para que a consciência ocorra, é necessário um sistema capaz de processar informações selecionando parte delas para torná-las disponíveis globalmente (primeiro recurso) e que avalie, aprenda e retifique com base na experiência (segundo recurso).

Os cálculos realizados atualmente pelas máquinas não atendem a essas características e, além disso, carecem de uma mente e de um organismo vivo capaz de construir representações sensoriais tanto do ambiente quanto do estado interno de seu próprio organismo (o hardware, no caso das máquinas).

Essa falta de monitoramento interno entre o cérebro e o organismo limita a possibilidade de as máquinas desenvolverem a consciência como a concebemos atualmente. Entretanto, a ciência deve permanecer atenta ao rápido progresso da tecnologia, monitorando seus avanços e antecipando os dilemas éticos que possam surgir.

Sobre as autoras

María I. Cobos, Postdoctoral researcher, Universidad de Granada e Ana B. Chica, Catedrática de Universidad, Universidad de Granada

This article is republished from The Conversation under a Creative Commons license. Read the original article.

Imagem: Foto de Pavel Danilyuk via pexels