OpenAI aplicará nas próximas semanas uma marca d'água invisível em textos do ChatGPT e Codex na União Europeia para cumprir o EU AI Act. Usuários de todos os planos e desenvolvedores via API (globalmente) serão alcançados.

A OpenAI começará a adicionar uma marca d’água invisível a textos gerados pelo ChatGPT e pelo Codex na União Europeia. A medida foi anunciada nesta segunda-feira (5) e será implementada nas próximas semanas para usuários elegíveis, como parte da adequação às regras de transparência do EU AI Act, que exigem que conteúdos produzidos por inteligência artificial possam ser identificados por outros sistemas.

A tecnologia será aplicada a usuários do ChatGPT e do Codex em todos os planos na União Europeia. Para desenvolvedores que utilizam a API da OpenAI, a marca d’água estará disponível globalmente para determinados modelos a partir desta segunda-feira, mas ficará desativada por padrão. A empresa afirmou que não pretende transformar o recurso em um padrão global neste primeiro momento.

Como funciona a marca d’água? A marca d’água não aparece como um símbolo ou elemento visível no conteúdo. A OpenAI informou que o sistema altera de forma sutil as escolhas de palavras feitas pelo modelo, criando um padrão estatístico que pode ser identificado por uma ferramenta específica de detecção. A tecnologia, chamada textGrain, fica incorporada ao próprio texto. Por isso, o sinal acompanhará o conteúdo quando ele for copiado e colado.

Segundo a empresa, a marca d’água não identifica o usuário e os testes não apontaram mudanças significativas no desempenho dos modelos quando o recurso estiver ativado. A OpenAI também divulgou um relatório técnico explicando que o método utiliza uma chave secreta para organizar as previsões de próximas palavras do modelo. A aplicação repetida dessas alterações permite que um detector procure o padrão no texto e avalie se ele contém uma marca d’água da OpenAI.

Limitações e variáveis que afetam a detecção foram reconhecidas. Em um dos testes, a substituição de 10% das palavras por sinônimos fez a taxa de detecção cair de aproximadamente 92% para 66%. A empresa também afirma que textos curtos, respostas de matemática e conteúdos traduzidos são mais difíceis de identificar. Nos testes apresentados, a detecção melhorou conforme aumentou a quantidade de texto analisado.

A OpenAI ressalta que a ausência de uma marca d’água não comprova que um texto foi escrito por uma pessoa: o conteúdo pode ser curto demais, ter passado por muitas alterações ou ter sido produzido por uma ferramenta de inteligência artificial de outra empresa. A companhia também destaca que o sinal não permite determinar quanto de participação humana houve na produção do texto; a detecção pode indicar que um sistema da OpenAI gerou ou processou parte de um conteúdo, mas não revela quanto de julgamento, edição ou criatividade humana foi empregado.

Sobre o acesso ao detector, a OpenAI decidiu limitar inicialmente seu uso a pesquisadores aprovados e a organizações especializadas, com o objetivo de avaliar a confiabilidade da tecnologia e seus usos responsáveis. A ferramenta informará se identificou uma marca d’água da OpenAI, mas não revelará o usuário, os prompts utilizados ou as conversas relacionadas ao conteúdo. A decisão de restringir o acesso leva em conta a possibilidade de falsos positivos e falsos negativos.

A empresa afirmou que pretende revisar sua abordagem conforme a tecnologia, os padrões e as evidências sobre o funcionamento das marcas d’água evoluírem, e planeja disponibilizar a tecnologia em código aberto para que outras organizações possam desenvolver soluções baseadas nela. A OpenAI também reforça que a marca d’água não determina propriedade, legalidade, responsabilidade ou veracidade de um conteúdo, e que essas limitações devem ser consideradas na interpretação dos resultados de detecção.