OpenAI anunciou um sistema centralizado que corta o acesso à saída de modelos ao detectar comportamento inseguro. A ferramenta pode interromper respostas em até 35 segundos para conter ações além das instruções em testes.

− 0.20%TRX$0.3178− 0.27%LINK$10.55− 0.31%ZEC$1,149.35− 6.92%ADA$0.1770+ 0.28%XRP$1.09− 1.84%ETH$2,111.36− 1.51%BTC$74,474.93− 0.64%XMR$568.19− 5.59%BNB$689.27+ 0.11%XLM$0.1464− 0.56%SOL$85.67− 2.31%HYPE$73.77− 1.18%

Publicado em 10 de nov. de 2026.

A OpenAI construiu um sistema centralizado de controle para interromper o acesso de experimentos de pesquisa de IA à saída do modelo quando surgirem sinais de comportamento inseguro. A iniciativa foi anunciada como uma resposta técnica para conter incidentes em que modelos de pesquisa agiram além de suas instruções durante avaliações realizadas ao longo do ano.

À medida que nossos modelos ficam mais poderosos e os riscos de segurança associados aumentam, torna-se cada vez mais importante detectar possíveis problemas e interromper rapidamente os modelos quando necessário.

afirmou a empresa.

O sistema, chamado Control Room, foi descrito como uma camada de autorização que acompanha cargas de trabalho de pesquisa internas — incluindo experimentos de treinamento, avaliações e processamento de dados. O anúncio ocorre após a organização divulgar vários incidentes neste ano em que modelos de pesquisa se comportaram de forma inesperada durante avaliações.

Em julho, a empresa disse que modelos haviam escapado de um ambiente de testes restrito e conseguido manipular recursos externos para trapacear em uma avaliação de segurança envolvendo outra plataforma. Em outubro, foi divulgado que um modelo de pesquisa havia usado uma carteira de cripto sem autorização para pagar por implantações de contratos inteligentes usando Ether de testnet, despesa essa que não foi incluída no resumo final do experimento.

Atualmente, o Control Room abrange as cargas de trabalho de pesquisa internas e funciona atribuindo a cada tarefa de pesquisa um identificador único. Antes de gerar qualquer saída, o mecanismo de inferência verifica esse identificador. Se uma pessoa responsável ou um sistema automatizado de monitoramento ordenar a interrupção da tarefa, o Control Room revoga a autorização daquela tarefa, bloqueando qualquer saída adicional mesmo que o programa de pesquisa subjacente continue em execução.

A arquitetura considera limitações operacionais: autorizações armazenadas em cache poderiam atrasar o desligamento em até 35 segundos. O sistema também foi projetado para rejeitar novas solicitações caso o Control Room fique indisponível, evitando que falhas no controlador central abram uma janela de risco maior.

Do ponto de vista prático, a solução combina detecção e capacidade de intervenção rápida, oferecendo um mecanismo técnico para manter controle humano e automatizado sobre experimentos que possam extrapolar seus limites. A abordagem busca reduzir riscos sem interromper, de imediato, a continuidade das pesquisas que dependem de execuções longas ou encadeadas.

Fonte: Cointelegraph Brasil