OpenAI anuncia marca d'água invisível para ChatGPT na União Europeia

A OpenAI anunciou a implementação de marcas d'água invisíveis em textos gerados pelo ChatGPT com o objetivo de atender às exigências da regulamentação de inteligência artificial da União Europeia (EU AI Act). A tecnologia desenvolvida, batizada de textGrain, insere um sinal estatístico imperceptível nas escolhas de palavras do modelo, funcionando de maneira semelhante ao sistema SynthID utilizado pela Google.

Segundo a empresa, o recurso será ativado nas próximas semanas para os usuários do ChatGPT e do Codex na União Europeia. No entanto, diferentemente da política adotada pela Anthropic com o modelo Claude — que exige o uso obrigatório de marcas d'água em escala global —, a OpenAI informou que a marca d'água para usuários de sua API em todo o mundo será opcional. A ferramenta de API também estará disponível por meio de parceiros de nuvem, como o Microsoft Azure, nas próximas semanas.

Desafios na detecção e testes de desempenho

Em testes internos realizados pela companhia, o textGrain obteve resultados equivalentes ou superiores a abordagens concorrentes. Contudo, a eficácia do sistema varia conforme o tamanho do texto e o assunto abordado. Em passagens sobre psicologia com cerca de 400 tokens e com uma taxa de falsos positivos estipulada em 1%, a ferramenta identificou marcas d'água em aproximadamente 95% dos casos, número que cai para 80% em textos de 200 tokens. O desempenho foi considerado substancialmente inferior em conteúdos de matemática.

A pesquisa da OpenAI também apontou que edições no texto dificultam a identificação. A substituição de 10% das palavras por sinônimos reduz a taxa de detecção para passagens de 400 tokens de 92% para 66%, enquanto a troca de um quarto das palavras derruba o índice para 17%. Testes com o modelo Astra indicaram que a marca d'água não afeta negativamente a qualidade das saídas em oito benchmarks avaliados.

Inicialmente, o acesso ao detector do textGrain será restrito a pesquisadores selecionados e organizações especializadas que preencherem um formulário de candidatura, com análises conduzidas caso a caso sob o Código de Práticas da União Europeia. A ferramenta informará apenas se o texto contém uma marca d'água da OpenAI, sem expor dados de usuários ou históricos de conversas, e a empresa ainda não divulgou prazos para a ampliação do acesso público.