Claude vai marcar textos feitos por IA. Veja 8 mitos e verdades

Textos criados com a IA Claude vão ganhar marcas invisíveis aos olhos humanos, mas detectáveis por máquinas, identificando que aquele conteúdo foi feito com inteligência artificial.

Deve ter passado alguma notícia do tipo pelo seu feed, imagino.

O anúncio da Anthropic, empresa responsável pelo modelo de IA, tem a ver com regulações da União Europeia, mas a tecnologia vai ser implantada no mundo todo.

Acontece que a novidade deixou muita gente confusa sobre o que realmente vai acontecer. Eu mesmo precisei de dois dias estudando o assunto pra ver com mais clareza, admito.

O propósito desta coluna é facilitar a vida das pessoas, por isso mesmo concluí que o formato mais útil seria um “mitos e verdades”, então cá estamos.

“Todo texto produzido pelo Claude já recebe marca d’água” — MITO

Ainda não. A mudança vai vir “de fábrica” nos próximos modelos, e enquanto isso está sendo aplicada aos poucos aos já existentes (Haiku, Sonnet, Opus e Fable).

“A marca d’água é um código invisível escondido no texto” — MITO

Não é assim que funciona. Não existe um código secreto entre as palavras. O que vai acontecer é o seguinte: ao gerar os textos, o sistema cria um padrão estatístico que favorece determinados tokens e palavras. Para os olhos humanos, nada muda. Porém, máquinas conseguirão detectar esse padrão.

“Copiar e colar o texto não elimina a marca” — VERDADE

Como o sinal faz parte do padrão do próprio texto, copiar uma resposta do Claude para Word, bloco de notas, e-mail ou rede social tende a preservá-lo.

“A marca aparece como um aviso dizendo que o texto foi feito por IA” — MITO

Não vai ter um selo de “feito pelo Claude” ou coisa do tipo. O que vai permitir que máquinas identifiquem que o texto foi feito por IA é a escolha de determinadas sequências de palavras. O tópico abaixo explica melhor.

“Usar o Claude para revisar um texto já vai deixar o conteúdo marcado como IA” — DEPENDE

Se o Claude reescrever trechos inteiros, aumenta a chance de a marca ser detectável. Já em alterações pequenas, como correções gramaticais ou de pontuação, pode não haver texto gerado suficiente para que o detector identifique o padrão com confiança.

“Editar ou reescrever o texto pode fazer a marca desaparecer” — VERDADE

Mas, de novo, isso tem relação com o tanto que a pessoa mexer no texto. É fácil de entender, gente: se você pegar o texto e mexer bastante nele, isso afeta a sequência de palavras, certo? Esse é o caminho. Mas não se sabe ainda QUE PERCENTUAL de alteração seria preciso.

“Professores e empresas poderão usar a marca para identificar textos que passaram pelo Claude” — PARCIALMENTE VERDADE

Esse é um uso possível, mas a tecnologia não equivale a um detector de fraude. Mesmo quando as ferramentas de verificação estiverem disponíveis, encontrar a marca mostrará que o Claude participou do texto, sem explicar qual foi exatamente essa participação.

“Não encontrar a marca não significa que o texto seja humano” — VERDADE

Um texto sem marca detectável ainda pode ter sido produzido por IA. Ele pode ter sido muito modificado, gerado por uma versão sem marcação ou criado por outro modelo. A ausência do sinal nunca deveria funcionar como certificado de autoria humana.

“A marca pode ajudar plataformas a lidar com conteúdo produzido por IA em grande escala” — VERDADE

Esse talvez seja um dos usos mais úteis da tecnologia, porque plataformas poderiam identificar parte do conteúdo sintético sem depender apenas de detectores que tentam adivinhar sua origem. Ainda assim, a marca revela procedência, e não qualidade, veracidade ou intenção.

A marca vai mostrar quanto do trabalho foi feito pela inteligência artificial” — MITO

O mecanismo não entrega uma porcentagem de participação humana ou artificial, nem informa se o Claude escreveu dez páginas ou simplesmente trocou meia dúzia de frases.

“A marca vai provar plágio, mentira ou desinformação” — MITO

A marca trata de procedência, e não de qualidade ou veracidade. Um texto totalmente humano pode estar recheado de mentiras, enquanto uma informação correta pode ter sido redigida ou revisada pelo Claude; da mesma forma, detectar participação da IA não informa se houve plágio.

“As redes sociais poderão usar a marca para reduzir o alcance de textos feitos com Claude” —  VERDADE

Poderão, mas não quer dizer que elas tenham planos de fazer isso. Até o momento, pelo menos, não houve anúncio nesse sentido.

───────────────────────────────────────────────

Alvaro Leme é doutorando e mestre em Ciências da Comunicação pela ECA-USP, jornalista e criador do podcast educativo Aprenda