A reprodução de preconceitos por sistemas de inteligência artificial já vem promovendo uma série de debates há anos. Desta vez, pesquisadores da Universidade Cornell apontam que essa tecnologia também pode fortalecer estereótipos culturais na escrita, colocando-a de forma mais genérica.
++ Gravidade pode ser sinal de que vivemos dentro de um programa de computador, aponta físico
Para o estudo, os pesquisadores de Cornell reuniram 59 pessoas da índia e 59 dos Estados Unidos, e pediram que escrevessem sobre temas culturais. Metade dos participantes de cada país realizou a tarefa de forma independente, e a outra metade usou um assistente de IA que deu sugestões curtas de preenchimento automático.
Foram registradas as teclas digitadas pelos participantes e se eles aceitaram ou não as sugestões da IA. De acordo com a equipe, o assistente deixou a escrita das duas nacionalidades mais parecida – por outro lado, trouxe uma queda de produtividade para os indianos, que precisaram corrigir frequentemente as sugestões.
Diante de temas como comidas ou feriados preferidos, por exemplo, as sugestões do assistente de IA foram baseadas nas preferências dos americanos (pizza e Natal). A equipe também revelou que se um participante indiano tentasse escrever o nome de Shah Rukh Khan, ator de Bollywood, para falar sobre uma figura pública, a IA sugeriria Scarlett Johansson ou Shaquille O’Neil como preenchimento automático após o “S”.
++ Em 1994, o mundo testemunhou o pódio mais melancólico da história da Fórmula 1
A análise também aponta que, ainda que os indianos tenham aceitado mais as sugestões da IA do que os americanos, elas acabaram não sendo tão utilizáveis, por reunir necessidade de respostas mais editadas para combinar com o estilo de escrita e o repertório cultural dos indianos em cada tema.
“O uso de IA na escrita pode levar a estereótipos culturais e homogeneização da linguagem. As pessoas começam a escrever de forma semelhante, e não é isso que queremos”, diz Aditya Vashistha, autor sênior da pesquisa.
