Chegou a vez de a OpenAI anunciar a adição de marcas d’água em textos gerados pelo ChatGPT nesta segunda-feira (5). Os identificadores invisíveis de geração por IA fazem parte da tecnologia “textGrain”, que usa padrões estatísticos para alterar características do texto sem interferir na sua qualidade, e serão aplicados somente em conversas de usuários situados na União Europeia.
Em vez de adicionar caracteres invisíveis, pontuações estranhas ou outros recursos superficiais, o textGrain adiciona um “sinal estatístico invisível” às escolhas de palavras feitas pelos modelos do ChatGPT. Dessa forma, a resposta da inteligência artificial continua com a mesma qualidade de antes, mas com “pistas” que indicam sua origem.
Segundo a OpenAI, o textGrain igualou ou superou o desempenho de outras abordagens testadas, como a SynthID para texto — adotada pelo Google no Gemini. Contudo, mesmo com o bom desempenho em condições ideais, não há garantia de que a detecção seja confiável no uso cotidiano.
Nas próximas semanas, o textGrain será aplicado obrigatoriamente às respostas de texto elegíveis do ChatGPT e do Codex, mas somente na União Europeia. A OpenAI aproveitará o alcance limitado para entender como o identificador se comporta entre usuários reais, mas não deu previsão para a expansão internacional do recurso.
Os textos gerados pelo ChatGPT terão "sinais invisíveis" de que foram produzidos por uma IA. Foto: Getty Images
A ativação da marca d’água é opcional para clientes da API da OpenAI. Nesse caso, consumidores do mundo inteiro podem ativar o recurso nos modelos compatíveis se quiserem ou se demandado por legislação local.
Em agosto deste ano, a Anthropic anunciou uma solução semelhante para a própria IA. Neste caso, porém, a marca d’água foi aplicada internacionalmente de forma obrigatória em modelos Claude recentes.
Detecção de IA ainda é baseada em estatística
Diferentemente da identificação de imagens geradas por IA, a marcação de textos é baseada em estatística e tem limitações importantes.
A presença da marca d’água não mede a quantidade de contribuição humana no processo de construção de um texto;
A marca d’água não estabelece que o conteúdo é detido ou está sob a responsabilidade da OpenAI;
A marca d’água não identifica quem foi o autor humano original do texto;
A marca d’água não consegue aferir se o conteúdo é verdadeiro, enganoso, prejudicial ou apresentado no contexto correto;
A ausência da marca d’água não necessariamente significa que o texto não foi gerado por IA.
Detectores de IA podem cometer erros
Mesmo com a marca d’água invisível, o detector pode cometer dois tipos de erro — um falso positivo ou um falso negativo. Segundo a OpenAI, os principais desafios são:
Textos mais curtos ou mais restritos são mais difíceis de detectar: só 80% dos trechos compostos por 200 tokens foram devidamente detectados; quando o trecho é de 400 tokens, o número sobe para 95%;
Conteúdo de matemática: a detecção da marca d’água em textos de matemática foi “substancialmente mais baixa”;
Edição enfraquece a marca d’água: em trechos de 400 tokens, a substituição de 10% das palavras por sinônimos reduziu a detecção de cerca de 92% para 66%; a substituição de 25% dos termos reduziu o índice para 17%.
Os detectores de marcas d’água do ChatGPT também foram lançados nesta segunda-feira. Pesquisadores e organizações especializadas na área podem se inscrever na lista de espera, e a OpenAI avaliará cada pedido.
Considerando o risco de mau uso da ferramenta, a OpenAI não liberou o detector de marca d’água para textos do ChatGPT publicamente por enquanto.
Fonte: Estadão/Tecmundo
