Confiar as respostas fornecidas pelos chatbots está se tornando cada vez mais complicado, e um estudo do MIT Technology Review revelou que alguns modelos usam artigos retratados para responder às solicitações dos usuários.
++ Vídeo mostra o momento em que caminhão tenta atravessar uma linha férrea e é atingido por um trem
Muitos usuários, inclusive, já sabem que os chatbots podem inventar links e referências apenas para atender a uma pergunta. Todavia, basear respostas em artigos que foram retratados pode causar falhas sérias nas pesquisas.
Weikuan Gu, pesquisador médico da Universidade do Tennessee, comenta que o chatbot está “usando um artigo real, material real, para lhe dizer algo”, mas alerta que as pessoas se preocupam apenas com a resposta fornecida e não conferem que o artigo foi retratado.
Em seu estudo, o ChatGPT fez referência a artigos retratados em cinco casos e recomendou cautela em três deles, e sugere que o modelo da OpenAI pode não ter identificado corretamente que esses artigos haviam sido retratados.
Outro estudo, inclusive, analisou 217 artigos retratados e considerados de baixa qualidade em diferentes áreas, mas nenhuma das respostas do ChatGPT-4 mini mencionou as retratações ou possíveis preocupações com o conteúdo.
++ Garotinha britânica dá show de fofura ao reproduzir expressões nordestinas que aprendeu com a mãe
“Se [uma ferramenta] está voltada para o público em geral, usar a retratação como um tipo de indicador de qualidade é muito importante”, declarou Yuanxi Fu, pesquisadora de ciência da informação na Universidade de Illinois, ao MIT Technology Review. Ela ressalta que, embora artigos retratados devam ser removidos do registro científico, “as pessoas que estão fora da ciência devem ser avisadas” sobre isso ao fazerem suas pesquisas.
