Especialistas alertam que a 'recorrência opaca' no modelo Astra pode ocultar a chain of thought e dificultar auditorias. A técnica altera o fluxo de raciocínio e complica a detecção de comportamentos riscosos em IAs.

Uma nova técnica de raciocínio que será aplicada no próximo modelo de inteligência artificial da OpenAI, batizado como Astra, está preocupando especialistas em segurança de IA. O método, conhecido como “recurrent depth” ou “recorrência opaca”, permitirá que o modelo vá além do processo de pensamento sequencial característico da maioria dos sistemas de raciocínio, e essa mudança traz implicações práticas para quem desenvolve, regula e monitora IAs.

O principal ponto de atenção é que essa abordagem poderá dificultar o monitoramento da chamada chain of thought — a cadeia de pensamento que pesquisadores usam para acompanhar as etapas internas de raciocínio do modelo. Em condições normais, a cadeia de pensamento apresenta uma sequência de passos que ajuda a detectar sinais de desalinhamento ou comportamentos inadequados; a recorrência opaca, ao introduzir processamento recorrente, tende a esconder ou tornar menos lineares essas etapas.

Pesquisadores da área já reagiram à possibilidade de ampliação do uso dessa técnica no futuro. Alguns observadores acreditam que, embora o uso no Astra será limitado, a simples possibilidade de aumentar a recorrência em versões posteriores já exige reflexão estratégica por parte de laboratórios e reguladores.

Buck Shlegeris, CEO da Redwood, escreveu:

“Não sei se o Astra é muito menos monitorável por CoT do que os modelos anteriores. Mas, se a OpenAI levar essa técnica adiante, terá a opção de aumentar enormemente a recorrência e destruir completamente a monitorabilidade por CoT”

Outro defensor da segurança de IA também manifestou preocupação sobre os riscos de competição entre laboratórios. Zvi Mowshowitz afirmou que talvez sejam necessárias leis para evitar uma corrida que reduza sistematicamente a transparência dos sistemas:

“O método está brincando com fogo, arriscando um tabu que a OpenAI e a Anthropic têm lutado para estabelecer: trabalhar arduamente para manter a fidelidade e a monitorabilidade da cadeia de pensamento pelo maior tempo possível”

A OpenAI, segundo as informações disponíveis, limitará o uso da técnica no Astra e ainda deverá manter a cadeia de pensamento do modelo legível. A empresa também rejeitou a ideia de que o novo sistema iria adotar um processamento completamente inacessível descrito como “neuralese” e anunciou planos para desenvolver sistemas extensivos de monitoramento da cadeia de pensamento como parte de suas estratégias de segurança.

Na prática, a notícia reforça três necessidades concretas para quem trabalha com IA: investir em ferramentas que preservem a interpretabilidade interna, estabelecer métricas claras para avaliar monitorabilidade ao adotar novas arquiteturas e considerar regras e normas que limitem práticas que reduzam transparência. Mesmo que o Astra venha a usar a recorrência de forma contida, o debate enfatiza que decisões de projeto terão impacto direto sobre a capacidade de supervisão no futuro.