Resumo
- A OpenAI implementou uma marca d’água invisível, chamada textGrain, nos textos gerados pelo ChatGPT e pelo Codex, para identificar conteúdo produzido por IA.
- A tecnologia é um “sinal estatístico invisível” que ajusta a escolha de palavras sem alterar a qualidade do texto, ajudando a cumprir a Lei de Inteligência Artificial da União Europeia.
- A marca d’água será ativada por padrão para usuários na União Europeia e pode ser usada por desenvolvedores em todo o mundo via API, mas tem limitações, como susceptibilidade a edições e detecção imprecisa em textos curtos.
A OpenAI anunciou a implementação do textGrain no ChatGPT e no Codex. Trata-se de uma tecnologia de marca d’água invisível para textos que ajuda a identificar quando esse tipo de conteúdo é gerado por IA. Por ora, a novidade é restrita à União Europeia.
Essa não é uma tecnologia necessariamente nova. A OpenAI havia anunciado o desenvolvimento de um método de marca d’água em 2024, mas, desde então, nunca o adotou em larga escala para textos.
Nesse sentido, talvez o textGrain pudesse levar mais tempo para ser implementado. A OpenAI só o anunciou agora para se adequar à Lei de Inteligência Artificial da União Europeia (EU AI Act).
O regulamento europeu determina que organizações que oferecem serviços de IA generativa de qualquer formato (texto, imagem, áudio ou vídeo) implementem mecanismos que permitam que esse tipo de conteúdo seja marcado de modo a ser identificado como sintético por ferramentas de verificação.
Já existe um recurso do tipo para conteúdo de mídia no ChatGPT. Faltava a implementação para textos, que começa a chegar agora. Contudo, a marca d’água invisível em si não é obrigatória. Trata-se apenas do método que a OpenAI escolheu para se adequar à legislação europeia.
Como a marca d’água é implementada no ChatGPT e no Codex?
A própria OpenAI descreve o textGrain como um “sinal estatístico invisível”. Isso significa que o conteúdo resultante não recebe um caractere invisível ou espaços adicionais, por exemplo, mas ajustes sutis que alteram estatisticamente como o modelo de IA escolhe palavras para inserir no texto. Ainda de acordo com a OpenAI, isso é feito sem prejudicar a qualidade do resultado.
Nas próximas semanas, a tecnologia será implementada como padrão nos textos gerados pelo ChatGPT e o Codex em todos os planos de usuários baseados na União Europeia.
Um detalhe interessante é que, apesar da limitação regional da atual fase, desenvolvedores de qualquer parte do mundo que usam a API da OpenAI poderão ativar a marca d’água em determinados modelos para uso em suas aplicações.
Mas a própria OpenAI alerta que há limitações: a marca d’água pode ser “enfraquecida” com edições ou determinados tipos de texto, bem como pode não permitir uma detecção precisa em conteúdos curtos.
A organização também deixa claro que o textGrain não identifica o usuário que solicitou o texto, não pode validar se o resultado é verdadeiro ou equivocado, e não mede a proporção de trabalho humano em um conteúdo editado.
OpenAI anuncia marca-d’água invisível para textos do ChatGPT