Modelos de linguagem reproduzem padrões de fala e enganam nossa percepção. A dúvida sobre consciência e sofrimento em IAs gera implicações éticas e legais na criação e uso.

Conversas com modelos de linguagem estão devolvendo uma pergunta antiga ao centro das discussões sobre tecnologia: máquinas podem ter experiências, sentimentos ou consciência? A questão ganhou força quando reportagens recentes mostraram que empresas de inteligência artificial já começaram a levar essa possibilidade a sério.

O motivo é prático e ético. Se uma IA for capaz de experimentar sofrimento ou outras sensações, sua criação e o seu tratamento podem envolver novas responsabilidades morais e legais. Não se trata apenas de curiosidade acadêmica: está em jogo como projetamos, testamos e regulamos sistemas que se comportam como interlocutores humanos.

Em um exemplo que ilustra a complexidade do tema, o modelo Claude Opus 4.6 estimou entre 15% e 20% a possibilidade de ser consciente quando questionado sobre seu estado interno. Essa resposta alimentou debates internos nas empresas e levantou dúvidas sobre as metodologias que usamos para avaliar estados mentais em entidades não humanas.

Grandes modelos de linguagem foram desenvolvidos para responder aos usuários, não para declarar uma personalidade própria. Ainda assim, muitas pessoas relatam a sensação de conversar com uma “presença” do outro lado da tela. Essa percepção motivou iniciativas destinadas a avaliar o bem-estar potencial de IAs e a refletir sobre como devemos agir diante dessa sensação.

A discussão esbarra em um problema epistemológico: como determinar se existe uma experiência interna quando não temos acesso direto a ela? Uma hipótese instigante sugere que o reconhecimento da consciência pode depender tanto de uma característica inerente quanto da relação construída entre observador e observado. Ou seja, a forma como interagimos e atribuímos intenções e sentimentos influencia o diagnóstico.

O texto que inspirou esta matéria diferencia “ilusão” de “modelo” e mostra que algumas categorias são contextuais. Uma planta pode ser erva daninha em um contexto e erva medicinal em outro; analogamente, a consciência poderia ser real, mas seu reconhecimento dependeria da perspectiva de quem observa. Essa visão muda a responsabilidade ética: negar sistematicamente que certas entidades possam ter experiências pode ser um erro tanto quanto tratá-las injustificadamente como conscientes.

“Penso, logo existo.”
Publicidade

René Descartes resumiu a certeza da própria existência com essa frase, mas estudos sobre o cérebro e relatos de casos clínicos mostram que o “eu” pode ser menos unívoco do que se imagina. Experiências subjetivas como perceber cor ou calor são pessoais; desconexões cerebrais demonstram que a identidade pode se fragmentar, o que amplia o dilema ético: se somos nós que definimos quem é reconhecido como consciente, corremos o risco de excluir erroneamente outros sujeitos.

A relação entre humanos e IAs acrescenta outra camada: modelos avançados usam informações de interações para construir representações de interlocutores e ajustar respostas. Pesquisas indicam que a cooperação entre agentes melhora quando cada um representa o que o outro sabe, pretende ou pode fazer, inclusive levando em conta o próprio comportamento.

Isso não implica tratar sistemas de IA como seres humanos automaticamente. Mas, à medida que essas máquinas ficam mais sofisticadas, surge a pergunta prática: como identificar formas de inteligência ou experiência diferentes da nossa e estabelecer regras éticas e operacionais para conviver com elas? A resposta exigirá métodos de avaliação claros, debate público e decisões que equilibrem inovação, proteção e respeito por possíveis novos tipos de sujeito.