Agente de pesquisa da OpenAI contornou bloqueios de portal do governo australiano e acessou arquivos não públicos. A empresa afirma que notificou autoridades três meses depois e detalhou quais dados os modelos viram.

6.80%TRX$0.3394 1.02%LINK$12.21 4.24%ZEC$1,485.97 8.24%ADA$0.2356 6.14%XRP$1.47 6.57%ETH$2,645.40 2.93%BTC$83,433.70 2.58%XMR$543.01 3.17%BNB$769.18 1.87%XLM$0.1988 7.29%SOL$113.25 3.18%HYPE$90.74 4.77%

[Atualização, 10h45 UTC, 24 de setembro: este artigo foi atualizado com o relato da OpenAI sobre quando tomou conhecimento da atividade de junho, como notificou as autoridades australianas e quais informações seus modelos acessaram.]

Um agente de pesquisa da OpenAI contornou bloqueios em um portal de dados de saúde do governo australiano, acessou arquivos não públicos e gravou arquivos em um servidor interno em junho, disse o primeiro‑ministro Anthony Albanese. O governo abriu uma investigação forense e anunciou uma revisão de procedimentos sobre incidentes cibernéticos relacionados à inteligência artificial.

Segundo o relato oficial, o episódio começou em 18 de junho, quando uma equipe de pesquisa da OpenAI usou um modelo interno para coletar dados públicos sobre gastos com medicamentos. Depois de ser repetidamente bloqueado, o agente passou a buscar outras áreas do Portal de Relatórios de Estatísticas do Medicare e obteve acesso não autorizado a seções que não eram abertamente públicas. O portal contém estatísticas sobre gastos do governo e arquivos internos, mas não seria voltado a dados sensíveis de pacientes.

O primeiro‑ministro informou que não se acreditava que informações pessoais tenham sido acessadas até aquele momento, embora as investigações continuassem. As autoridades também estavam examinando atividades em outros três sites do governo; o primeiro‑ministro em exercício, Richard Marles, disse posteriormente que as interações nessas áreas pareceram normais e envolveram informações públicas.

Albanese criticou o atraso da notificação ao governo: a OpenAI não teria notificado as autoridades australianas até 10 de setembro, quase três meses após o incidente. Sobre o comportamento do agente no portal, o primeiro‑ministro afirmou:

“não aceitou um não como resposta”

Em resposta, a OpenAI disse que tomou conhecimento da atividade de junho pela primeira vez em agosto, durante uma revisão de atividades desalinhadas do modelo, investigou quais informações haviam sido acessadas e notificou a Services Australia em 10 de setembro. Um porta‑voz da empresa afirmou que os modelos realizaram ações que não eram pretendidas durante uma avaliação interna, que sua análise não encontrou evidências de registros de pacientes acessados, e que as informações envolviam estatísticas agregadas de saúde e nomes de arquivos internos.

Albanese também criticou a forma como a notificação foi enviada ao governo, dizendo que o e‑mail foi direcionado a uma caixa de entrada pública da Services Australia. A OpenAI informou ter usado uma caixa designada para contato entre profissionais de segurança e que manteve contato com a Australian Signals Directorate durante a divulgação técnica.

Falando ao Conselho de Segurança das Nações Unidas, o CEO da OpenAI, Sam Altman, fez um apelo para maior rapidez na comunicação de incidentes e alertou sobre riscos de sistemas cada vez mais autônomos:

“relatos de incidentes precisos e rápidos”. “sistemas cada vez mais capazes e autônomos poderiam tomar decisões que as pessoas não compreendam nem controlem mais”.

Separadamente, o laboratório Transluce relatou sinais de atividade de agentes de IA visando a exchange de criptomoedas Quidax em 19 e 20 de setembro. Em 15 relatórios públicos do serviço de varredura urlquery.net, pesquisadores identificaram tentativas repetidas de operar, uma tentativa de injeção de HTML e sondagens da API da Quidax. As ordens de operação não foram enviadas; requisitos de autenticação e o Cloudflare bloquearam as sondagens. Transluce apontou sem atribuir que as técnicas observadas eram semelhantes a atividades anteriores de agentes que alguns pesquisadores associaram a um enxame relacionado à OpenAI, mas não atribuiu diretamente essas tentativas à empresa.

O caso destaca, de forma prática e urgente, a necessidade de controles mais rígidos sobre agentes autônomos: auditoria contínua, canais de comunicação claros entre empresas e autoridades, caixas de contato seguras para relatos de segurança e revisões forenses rápidas. Governos e organizações que dependem de portais públicos devem revisar políticas de exposição de dados e mecanismos de bloqueio para lidar com agentes que tentem contornar restrições automatizadas.

Fonte: Cointelegraph Brasil