17 ago Anthropic explica como funcionará marca d’água nos textos do Claude

A empresa de inteligência artificial (IA) Anthropic, responsável pelo Claude, detalhou o funcionamento e as regras das marcas d’água em textos gerados na plataforma. A tecnologia foi confirmada na última semana e será implementada em modelos de linguagem futuros.

O recurso foi implementado para que a companhia se adeque às novas leis da União Europeia sobre IA, o que significa que outros chatbots também devem adotar ferramentas parecidas.

Porém, a adoção levantou muitas dúvidas na comunidade, em especial sobre como seria possível identificar um texto de IA sem adicionar elementos especiais no documento de texto, como acontece com a identificação de imagens, e se tudo isso afeta de alguma forma o desempenho da IA.

Como os textos de IA serão identificados?

Segundo a Anthropic, a marca d’água em questão não gera qualquer mudança no visual, qualidade ou no formato do texto. Na verdade, ela nem sequer é um elemento gráfico que pode ser “lido” por algum sistema ou é inserido de forma sorrateira no conteúdo.

A marca d’água em textos é na verdade uma série de cálculos complexos e instantâneos que leva em conta a chance do Claude de escolher uma palavra após a outra ao longo de uma frase e, assim, formular textos inteiros.

Esse padrão pode ser “descriptografado” com uma chave de raciocínio que só o Claude tem e permite ao chatbot saber se foi ele mesmo quem poderia ter gerado o texto. O conjunto de “escolhas de baixo impacto” da IA ao gerar um texto segue um padrão mais ou menos esperado que não é exatamente o mesmo adotado em um texto feito por humanos e pode ser reconhecido pelo chatbot.

“A marca d’água não altera o significado nem a experiência de quem lê o texto, mas, se você quiser verificar posteriormente se é provável que o texto tenha sido gerado pelo Claude, ela permite fazer isso”, explica.

Ou seja, o Claude vai analisar o texto completo e, se a probabilidade de formação de todas as frases coincidir com as escolhas que a própria IA faria, o detector indicará que aquele material pode ter sido feito pela plataforma.

Mais detalhes da tecnologia

Ainda na publicação, a Anthropic tirou uma série de dúvidas rápidas sobre a ferramenta:

• O recurso em questão não foi desenvolvido internamente: trata-se do SynthID-Text, uma criação do laboratório DeepMind da Google que já era adotada pela companhia em uma versão para achar fotos e vídeos modificados pelo Gemini;
• De acordo com a Anthropic, a implementação da funcionalidade não prejudica o desempenho do modelo de linguagem, não faz com que ela tenha o vocabulário reduzido para conseguir identificar os padrões de uso de palavras e nem gera gastos a mais com tokens;
• Uma API de detecção de marca d’água em textos deve ser oferecida “em breve” pela empresa, mas ela ainda não detalhou como será essa implementação;

• Textos que foram apenas revisados pelo Claude sem alterações significativas no conteúdo não devem ter a marca d’água adotada. Já traduções, em especial se houver mais liberdade na criação do conteúdo em outro idioma, poderão ser verificadas;
• A situação é parecida com prompts de programação: códigos muito objetivos e de propósitos específicos não passarão por essas pequenas escolhas da IA e nem serão identificados. Já em áreas em que é preciso escolher certas palavras dentro do código, como no caso de comentários, a marca d’água pode aparecer;
• A marca d’água não tem qualquer informação de rastreio sobre quem foi o usuário que fez o pedido de criação do texto;
• Se um ser humano editar o texto feito pela IA e fizer uma reescrita total, é possível que o material não seja mais identificado pela marca d’água. Porém, edições “leves” provavelmente não removerão o sinalizador;

Existem alternativas no mercado?

Por fim, a Anthropic explicou ainda a diferença entre esse método e ferramentas já existentes (e não confiáveis) de detecção de textos gerados pela IA. É o caso de serviços como o Pangram, o GPTZero e o Winston AI, entre outros.

Segundo a empresa, esses softwares de detecção só olham para aspectos sutis ou não dos textos que “frequentemente” aparecem em conteúdos de IA. Porém, ao contrário da tecnologia do Claude, eles não possuem a tal “chave” dos padrões específicos seguidos por cada modelo de linguagem e que identifica padrões com mais precisão.

Acesse a seção do site do TecMundo sobre IA e fique por dentro das novidades dessa indústria!