Plano de marca d’água da Claude, da Anthropic, cria mercado veloz de ferramentas de remoção

O plano da Anthropic de marcar textos gerados pela Claude produziu rapidamente um movimento contrário: ferramentas que tentam remover essas marcas. Em entrevista à Business Insider publicada em 23 de agosto, o empreendedor parisiense Guillaume Meyer contou como criou um projeto open source chamado Watermarks Remover logo após a Anthropic anunciar sua abordagem de marca d’água invisível para texto. Meyer disse que o projeto se espalhou rapidamente depois de publicado, com milhões de impressões nas redes e atenção de desenvolvedores preocupados com a possibilidade de trabalhos humanos tocados por IA serem rotulados de forma errada.

A disputa começou com a decisão da Anthropic de adicionar marcação legível por máquina a saídas compatíveis da Claude como parte de seus compromissos com as regras de transparência da Lei de IA da União Europeia. A Anthropic diz que a marca não é um rótulo visível, não adiciona caracteres ocultos, não identifica usuário ou organização e não deveria mudar o significado, a legibilidade ou a qualidade das respostas da Claude. A empresa também afirma planejar uma API de detecção para que usuários e terceiros possam verificar as marcas.

A ideia técnica de uma marca d’água textual é estatística. Em vez de anexar uma etiqueta ao documento, o modelo influencia levemente algumas escolhas de palavras de baixo risco para que o padrão geral possa ser detectado depois com a chave adequada. Isso torna a marca difícil de perceber na leitura normal e mais portátil quando o texto é copiado. Também torna o debate mais complicado, pois usuários não conseguem ver facilmente quando a marca está presente nem saber se um detector tratará revisão leve, tradução ou correção como geração completa.

A crítica de Meyer está nessa ambiguidade. Na entrevista, ele argumentou que marcas estatísticas podem criar falsos positivos e vítimas humanas, especialmente em ambientes acadêmicos ou profissionais nos quais autores usam IA para editar apenas uma pequena parte de um texto humano. Ele reconheceu que sua ferramenta não é perfeita e precisará evoluir quando detectores forem lançados, mas a apresentou como uma forma de testar e questionar uma abordagem que considera ampla demais.

Para a Anthropic, a pressão vem do outro lado. Reguladores querem mais transparência sobre conteúdo sintético, e empresas de IA precisam de sinais que acompanhem o texto depois que ele sai do produto. Se um rótulo existe apenas na interface de um app, desaparece quando o texto é copiado para email, documento, site ou rede social. A marca d’água promete um sinal mais durável. Mas essa durabilidade é justamente o que preocupa usuários, porque uma marca criada por uma edição menor pode ganhar peso reputacional.

O problema maior é que autoria não é mais binária. Um documento pode ser escrito por uma pessoa, revisado por um modelo, traduzido por outro sistema, checado por um editor e formatado por um agente. Uma única marca pode mostrar que um modelo tocou o texto, mas não explicar quanta responsabilidade criativa pertenceu ao humano. Escolas, empregadores, editoras e tribunais precisarão evitar tratar resultados de detecção como prova simples de má conduta.