Depois que o ChatGPT virou motivo de debate sobre plágio em escolas e universidades, a OpenAI, desenvolvedora da plataforma, criou uma ferramenta para distinguir textos escritos por humanos e IA (inteligência artificial).
A organização, que já contou com financiamento de Elon Musk, Google e Microsoft, lançou a versão beta do novo recurso na terça-feira (31). “Estamos lançando para coletar feedback e esperamos compartilhar métodos aprimorados no futuro”, tuitou a OpenAI.
Em post no site, a organização diz que treinou um modelo de linguagem para atuar como classificador do que é humano e do que é robô a partir de milhares de textos escritos por pessoas e IA sobre um mesmo assunto.
Nos primeiros testes, os pesquisadores fizeram a máquina identificar entre real e virtual a partir de textos em inglês. Ao final, o classificador conseguiu acertar 26% dos materiais escritos por IA. Foi mais difícil acertar quando os textos vinham de humanos. O algoritmo só acertou 9% dos casos.
Por isso, a OpenAI afirma que o classificador ainda não é totalmente confiável, apesar de acertar mais que os modelos testados anteriormente. “Não deve ser usado como uma ferramenta primária de tomada de decisão, mas sim como um complemento a outros métodos de determinação da fonte de um texto”, diz a companhia.
Limitações
A desenvolvedora também diz que o índice de acertos é maior quando textos são mais longos. Em materiais com menos de 1.000 caracteres, o nível de confiabilidade cai drasticamente.
A OpenAI também recomenda só usar o classificador em textos em inglês. “Tem um desempenho significativamente pior em outros idiomas, e o código não é confiável”, disse.
Além disso, de nada adianta pedir que o algoritmo identifique uma lista com números ou o alfabeto, por exemplo. Isso porque é impossível prever se uma lista dos primeiros 1.000 números primos foi escrita por IA ou por humanos, por exemplo, uma vez que a resposta correta é sempre a mesma.
“Nosso trabalho na detecção de texto gerado por IA continuará e esperamos compartilhar métodos aprimorados no futuro”, pontuou o comunicado. É possível acessar o classificador que avalia textos humanos e de robôs do ChatGPT neste link.
Jornalista e mestre em Linguística. Antes trabalhei no Poder360, A Referência e em jornais e emissoras de TV no interior do RS. Curiosa, gosto de falar sobre o lado político das coisas - em especial da tecnologia e cultura. Me acompanhe no Twitter: @juliamzps
fique por dentro das novidades giz
Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas
