A Anthropic anunciou oficialmente que os futuros modelos Claude gerarão textos com marcas d’água, uma forma de determinar se o Claude participou da criação do texto. Esta medida é para cumprir os requisitos da Lei de Inteligência Artificial da União Europeia, e a Anthropic está implementando esta mudança juntamente com outros principais fornecedores de inteligência artificial.
Como funciona a tecnologia de marca d’água
De acordo com a explicação oficial, a tecnologia de marca d’água não terá impacto real na qualidade ou no conteúdo da saída do Claude. A diferença entre textos com e sem marca d’água é imperceptível para os leitores. A oficial afirmou: “O método de marca d’água que utilizamos não terá qualquer impacto real na qualidade ou no conteúdo da saída do Claude; a diferença entre textos com e sem marca d’água não será discernível para os leitores.” (”The difference between watermarked and un-watermarked text will not be distinguishable to readers.”)Anthropic
Contexto técnico da marca d’água
A tecnologia de marca d’água do Claude é baseada no método SynthID-Text publicado pela Google DeepMind em 2024, cujo princípio de design é alterar a fonte de aleatoriedade ao escolher palavras. A oficial declarou: “A marca d’água apenas altera a fonte da aleatoriedade utilizada para escolher entre palavras.” (”The watermark only changes the source of the randomness used to pick among words.”)Anthropic
Impacto e limitações da tecnologia de marca d’água
A eficácia da tecnologia de marca d’água tem algumas limitações. De acordo com a explicação oficial, a marca d’água não pode confirmar se o texto foi criado por um humano, nem pode determinar se o texto foi gerado por outra inteligência artificial. A oficial destacou: “Usando a nossa chave, só se pode responder à pergunta ‘Qual é a probabilidade de que isto tenha sido parcialmente escrito pelo Claude?’” (”Using our key, one can only answer the question ‘What is the likelihood this was partly written by Claude?’”)Anthropic
Aplicação da marca d’água na edição de textos
Quando o Claude realiza a revisão ou edição de textos, a marca d’água aplica-se apenas às palavras escolhidas pelo Claude. Como a maior parte do texto é escrita por humanos, as modificações do Claude são geralmente limitadas, resultando em um espaço restrito para a aplicação da marca d’água. A oficial enfatizou: “A marca d’água aplica-se apenas às palavras que o Claude escolhe.” (”The watermark only applies to words Claude chooses.”)Anthropic
Fonte: Anúncio oficial da Anthropic