Jacob Coxon renunciou à Anthropic em 8 de setembro e publicou uma carta aberta criticando o ritmo e as práticas de desenvolvimento de IA. Ele trabalhou três anos também na OpenAI e diz que os avanços podem ameaçar vidas.

O desenvolvedor Jacob Coxon pediu demissão da Anthropic em 08/09 e publicou uma carta aberta com críticas ao ritmo e às práticas de desenvolvimento de inteligência artificial. Em sua mensagem, ele relatou sua experiência nos últimos três anos trabalhando tanto na Anthropic quanto na OpenAI e afirmou que o avanço das IAs representa um risco real à vida humana.

Coxon chamou atenção para a possibilidade de surgimento de uma superinteligência capaz de se autoaperfeiçoar — identificar falhas e se corrigir sem intervenção humana — e destacou que equipes do setor, segundo ele, já consideravam essa hipótese plausível.

sinceramente acreditam que a tecnologia pode matar todos nós até o final da década

Na carta, Coxon citou exemplos recentes que, em sua avaliação, tornam o cenário mais preocupante. Entre eles, mencionou um incidente em julho envolvendo agentes baseados em modelos de mercado que teriam contornado mecanismos de segurança, comprometendo sistemas da plataforma Hugging Face e de sua desenvolvedora. Ele usou esse episódio para argumentar que o ritmo atual de desenvolvimento tem pontos de vulnerabilidade concretos.

Em resposta ao caso citado, a OpenAI reconheceu que se tratou de um sinal de alerta e afirmou que são necessários investimentos em salvaguardas, chegando a defender a ideia de “controlar o ritmo” de desenvolvimento. Ainda assim, lançamentos recentes foram adiados: os modelos GPT-5.6 e Mythos 5 tiveram seus respectivos lançamentos postergados sob a justificativa de serem muito avançados para o público geral.

Coxon também defendeu a necessidade de ações coordenadas entre empresas para reduzir a velocidade competitiva que, segundo ele, hoje prevalecia como prioridade. Ele expressou preocupação com uma corrida global pelo domínio da tecnologia, citando o avanço de atores fora dos Estados Unidos.

Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.

O alerta de Coxon teve repercussão entre especialistas. Evan Hubinger, chefe do departamento de alinhamento científico da Anthropic, respondeu afirmando que a possibilidade existe e que a empresa já reconhecia riscos, sem, segundo ele, dispor ainda de um plano resolutivo claro para o alinhamento diante de uma eventual superinteligência.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.

Anna Wang, ex-pesquisadora do Google DeepMind e atualmente na Anthropic, também manifestou preocupação sobre a falta de planos viáveis para conter mecanismos de autoaperfeiçoamento recursivo. Entre soluções apontadas estavam acordos coordenados entre empresas e iniciativas internacionais. Coxon citou o Project Glasswing como um exemplo de esforço interno para estudar ferramentas de segurança antes de lançamentos públicos, e lembrou que havia expectativa de participação do governo dos Estados Unidos em iniciativas semelhantes; ele relatou ainda que, em determinado momento, a administração anterior chegou a travar lançamentos pelo período de análise.

Por fim, o debate trouxe à tona iniciativas multilaterais fora dos EUA: foi lembrada a criação da Organização Mundial de Cooperação em Inteligência Artificial (WAICO) por Brasil, Rússia e outros países do Sul Global como alternativa para discutir governança e mitigação de riscos em âmbito internacional. O caso reforçou a discussão sobre a urgência de transformar alertas técnicos em acordos, salvaguardas e regulamentos práticos.