Em Boston, representantes de OpenAI e Meta disseram a juízes que deepfakes cada vez mais realistas prejudicam a verificação de áudios e vídeos em julgamentos. O comitê federal discute novas regras de prova.

Representantes da OpenAI e da Meta alertaram integrantes do Judiciário dos Estados Unidos na quinta-feira (15), em Boston, sobre a dificuldade crescente para identificar vídeos e áudios falsos produzidos por inteligência artificial (IA). Segundo esses especialistas, os deepfakes estão se tornando tão sofisticados que a verificação da autenticidade de provas audiovisuais apresentadas em julgamentos tende a se tornar mais complexa.

O aviso ocorreu durante reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, grupo que, desde 2023, discute os riscos de conteúdos fabricados por IA nos tribunais e que critérios devem ser aplicados para avaliar a validade desse tipo de evidência.

“As imagens de IA estão cada vez melhores, e não acho que haverá uma maneira científica de detectá-las no futuro”

Shira Anderson, advogada de políticas públicas da OpenAI, fez a observação acima ao comitê, ressaltando a evolução técnica na geração de imagens que torna difícil desenvolver métodos científicos universais de detecção. Já Devin Norder, diretor de gerenciamento de produtos da Meta, destacou que os modelos de IA mais avançados já produzem conteúdos que podem ser indistinguíveis, para observadores humanos, de mídias autênticas ou de outras mídias geradas artificialmente. Norder acrescentou que o custo e o tempo necessários para criar esse tipo de material são baixos, o que amplia a preocupação sobre a apresentação de deepfakes como provas legítimas em processos judiciais.

Apesar dos alertas, o número de disputas judiciais em que deepfakes foram identificados ou contestados segue reduzido. Em março, o Centro Judicial Federal informou que apenas 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado casos em que uma das partes contestou a apresentação de provas por suspeita de serem deepfakes. Jesse Furman, juiz federal de Manhattan e presidente do comitê, afirmou que há vasta literatura acadêmica e muitas previsões sobre o impacto da tecnologia, mas que os casos concretos nos tribunais ainda são limitados.

Na mesma reunião, Furman nomeou um subcomitê para aprofundar a análise do problema. Especialistas da indústria, da academia e do governo alertaram, no entanto, que o desafio não deve ser tratado como algo distante: a capacidade dos tribunais de impedir o uso de provas falsas tende a se tornar mais difícil conforme a tecnologia avança.

Empresas como OpenAI e Meta vêm desenvolvendo ferramentas para ajudar a verificar a autenticidade de conteúdos visuais. Além disso, novas leis na Califórnia e na União Europeia exigem o uso de marcas d’água digitais destinadas a facilitar a identificação de deepfakes. Anderson, porém, ressaltou que não existe um padrão universal para detectar essas marcas ou confirmar a autenticidade de imagens e vídeos, e que as ferramentas existentes não garantem verificação confiável de todos os conteúdos.

Valerie Caproni, juíza federal de Manhattan e integrante do comitê, demonstrou cautela quanto à criação imediata de regras específicas para provas geradas por IA, observando que as normas atuais já proíbem a apresentação de provas fraudulentas e permitem que juízes avaliem se material foi falsificado. Ela também lembrou que a manipulação de evidências não é um problema novo, e que a discussão agora é decidir se os instrumentos jurídicos existentes são suficientes para enfrentar as dificuldades adicionais trazidas pela IA.

Para profissionais do direito, magistrados e gestores públicos, o cenário descrito exige preparo prático: treinamento em forense digital, investimentos em tecnologias de verificação, estabelecimento de protocolos claros de cadeia de custódia e diálogo contínuo entre tribunais, indústria e academia. Manter uma postura informada e procedimentos robustos será essencial para que o sistema de justiça preserve a integridade das provas diante do avanço rápido das ferramentas de geração de mídia sintética.

Fonte: Olhar Digital