Como profissional de escrita, apoio totalmente a ideia de que os textos gerados por inteligência artificial possam ser detectados e rotulados como conteúdo de IA. O mercado está inundado com uma grande quantidade de textos gerados por IA, e se houvesse etiquetas a identificá-los, não seria necessário perder tempo a ler esses conteúdos. No entanto, Anthropic anunciou recentemente que irá seguir a iniciativa da União Europeia, aplicando marcas d’água aos textos gerados pela sua IA Claude, mas de uma forma bastante única.
Atualmente, Apple também está a preparar medidas para resolver o problema das imagens geradas por inteligência artificial, através de uma funcionalidade chamada Apple Reference Image. Dependendo da situação, a empresa pode também precisar de tomar medidas semelhantes para as ferramentas de IA da Siri, uma vez que estas podem ser utilizadas para rever ou redigir conteúdos. Embora não exista uma solução perfeita neste momento, como mencionei na semana passada, a utilização de caracteres invisíveis como marcas d’água não é ideal. A exigência mais notável da iniciativa da União Europeia é que as empresas de IA devem aplicar marcas d’água digitais aos textos e imagens geradas.
Isso pode ser feito através da utilização de caracteres invisíveis, como o que acabei de usar para substituir o espaço entre “invisível” e “caractere”. Este tipo de marca d’água pode sobreviver à cópia e colagem, mas pode ser facilmente quebrado através de tecnologia de reconhecimento óptico de caracteres.
A estratégia única de marca d’água da Anthropic para textos de IA
A abordagem única da Anthropic que mencionei sugere que a empresa pode adotar uma estratégia diferente. Algumas pessoas propuseram que a Anthropic poderia usar padrões de linguagem específicos na saída do Claude, de modo que mesmo após o reconhecimento óptico de caracteres, ainda pudesse ser detectado. Tenho muitas ideias sobre isso, mas isso está além do escopo deste artigo. Hoje, parece que a empresa realmente está a agir nesse sentido, por isso sinto que é necessário expressar a minha opinião! O problema não está em Claude inserir esses padrões de linguagem em textos completamente gerados por IA; não tenho objeções a isso.
O problema é que algumas pessoas escrevem os seus próprios textos e depois utilizam chatbots de IA para revisão. Parece que Claude irá inserir marcas d’água ocultas neste caso, mesmo que apenas esteja a ser solicitado a identificar e corrigir erros gramaticais em obras escritas por humanos.
Isso é, sem dúvida, uma das funcionalidades oferecidas pela IA da Siri. Os utilizadores podem destacar o texto que escreveram, pressionar o botão da Siri e escolher a opção de revisão. De facto, os meus testes limitados mostraram que essa funcionalidade é demasiado agressiva. Não se limita apenas a detectar e corrigir erros gramaticais, mas também sugere a sua própria redação. Espero que isso possa ser ajustado para ser mais suave, garantindo que a obra pertença absolutamente ao autor e que o nível de correção não ultrapasse a leve modificação humana. A propósito, esta também foi a razão pela qual testei, mas acabei por desistir do Grammarly: as alterações que propôs iam além da ênfase em erros gramaticais e de digitação, oferecendo redações que eu definitivamente não escolheria usar.
Desafios e considerações da Apple na revisão de IA
Mas supondo que a leve modificação seja a intenção da Apple, seria claramente incorreto que a IA distorcesse deliberadamente a linguagem escolhida pelo autor para que pudesse ser marcada como conteúdo de IA. Se as alterações feitas forem apenas edições, também seria inadequado marcá-las como conteúdo de IA. No máximo, poderiam ser rotuladas como “revisadas por IA”. Como disse, não pretendo ter todas as respostas. O uso crescente de chatbots de IA levanta questões complicadas sobre escrita e edição. Quando é que uma obra escrita por humanos e editada por IA deve ser corretamente identificada como uma obra mista entre o autor e o sistema de IA?
O que sei é que alterar deliberadamente a redação escolhida pelo autor humano, especialmente quando esse autor apenas pediu à IA para fazer a revisão, não é a abordagem correta. Embora a Apple certamente precise responder a esta questão em devido tempo, espero sinceramente que escolha um caminho mais sensato do que o que a Anthropic adotou.