TikTok adotará marcação para identificar conteúdo gerado por IA

O TikTok anunciou nesta quinta-feira que começará a usar uma nova tecnologia destinada a identificar imagens e vídeos gerados por inteligência artificial que são enviados para o serviço de vídeos.

Essa nova tecnologia, chamada “Credenciais de Conteúdo”, é uma marca d’água digital que indica como as imagens foram criadas e editadas. Embora tenha sido liderada pela Adobe, a tecnologia está disponível para uso por outras empresas e já foi adotada por companhias como a OpenAI, criadora do ChatGPT.

Pesquisadores expressaram preocupação com o uso de conteúdo gerado por IA como uma ferramenta de desinformação, especialmente em períodos eleitorais. Com as eleições presidenciais dos Estados Unidos previstas para o final deste ano, o TikTok faz parte de um grupo de 20 empresas de tecnologia que se comprometeram a combater essa prática.

O YouTube, assim como a Meta, controladora do Instagram e do Facebook, também anunciaram planos para usar a tecnologia de Credenciais de Conteúdo.

Para que o sistema funcione, tanto o criador da ferramenta de IA generativa usada para criar conteúdo quanto a plataforma usada para distribuir o conteúdo devem concordar em usar o padrão do setor.

Por exemplo, se alguém usar a ferramenta Dall-E da OpenAI para gerar uma imagem, a OpenAI anexará uma marca d’água à imagem resultante. Se essa imagem for carregada no TikTok, ela será automaticamente rotulada como gerada por IA.

Embora o TikTok já rotule o conteúdo gerado por IA feito com ferramentas dentro do aplicativo, essa nova medida aplicará um rótulo ao conteúdo gerado fora do serviço.