Desenvolvedores criam ferramentas para burlar marca d'água de texto do Claude poucas horas após anúncio da Anthropic
Poucas horas após a Anthropic detalhar o funcionamento da marca d'água invisível que passará a acompanhar textos gerados e editados pelo Claude, programadores já publicaram ferramentas supostamente capazes de enfraquecer ou remover esse sinal. O primeiro código foi criado pelo desenvolvedor Guillaume Meyer e rapidamente ganhou repercussão na internet.
Meyer disponibilizou sua ferramenta no GitHub, onde já soma mais de cem mil colaboradores, além de ter sido amplamente compartilhada no X, com cerca de vinte mil salvamentos. Em declaração na própria rede social, ele afirmou que criou o removedor como um teste e que não é contra a identificação de conteúdos gerados por inteligência artificial, mas sim "contra a técnica de marca d'água" adotada pela empresa.
A marca d'água da Anthropic funciona por meio de um padrão estatístico criado durante o processo de escolha de palavras. Quando o modelo decide entre termos equivalentes em uma frase, o sistema utiliza uma chave para orientar parte dessas decisões, deixando uma assinatura detectável no texto. A própria companhia reconheceu que alterações, mesmo que pequenas, podem enfraquecer a marca, o que abriu brecha para o surgimento dessas ferramentas.
A estratégia do removedor de Meyer consiste em reescrever o texto, às vezes mais de uma vez, com o auxílio de outro modelo de linguagem que não utiliza o mesmo tipo de marcação. Outros métodos semelhantes também surgiram nas horas seguintes, baseados em mudanças de sinônimos e reordenação de frases. Como a detecção depende de um padrão estatístico, essas alterações podem ser suficientes para reduzir a probabilidade de o texto ser classificado como sintético, algo que, na prática, também poderia ser obtido por meio de uma simples revisão humana do conteúdo.
A tecnologia de detecção adotada pela Anthropic é baseada no SynthID-Text, método publicado pelo Google DeepMind há cerca de dois anos. Esse sistema atua nas chamadas escolhas de baixo risco, ou seja, quando duas palavras podem ter o mesmo sentido dentro de uma frase, a inteligência artificial escolhe uma delas seguindo uma regra predefinida. A proposta é que o texto continue parecendo natural para o leitor, mas a sequência gerada possa ser identificada por quem possui a chave de verificação. O SynthID-Text cria, portanto, um padrão embutido na própria seleção de vocabulário feita pelo modelo.
Apesar do mecanismo, a própria Anthropic reconhece que a verificação aponta uma probabilidade e não permite distinguir com precisão se um texto foi inteiramente gerado por inteligência artificial ou apenas editado pelo modelo. Essa limitação preocupa desenvolvedores e profissionais, especialmente diante do receio de que escolas, universidades, recrutadores e clientes passem a utilizar esses detectores como critério factual de avaliação. O temor é de que pessoas que recorrem à IA para tarefas pontuais, ou mesmo quem não utiliza essas ferramentas, possam ser injustamente afetadas por marcações incorretas.
Outro ponto de crítica levantado pelos usuários diz respeito a um possível impacto na qualidade do conteúdo gerado pelo Claude. Como o modelo precisa seguir o padrão estatístico da marca d'água, existe a preocupação de que os resultados apresentem menor naturalidade ou coerência. Nos testes internos divulgados pela própria Anthropic, no entanto, a empresa afirma que não foi identificada queda de qualidade nos textos produzidos.
O detector do Claude está sendo implementado como parte das adequações à Lei de Inteligência Artificial da União Europeia, que passou a exigir a sinalização de conteúdos gerados por IA. Cerca de 190 organizações já assinaram o código de conduta previsto na legislação, e a expectativa é de que a marcação em textos se torne um padrão no setor até o final deste ano. O rápido surgimento de ferramentas de remoção, porém, já evidencia os desafios que empresas e reguladores enfrentarão para garantir a efetividade dessa identificação em meio à corrida tecnológica entre métodos de marcação e mecanismos de burla.
