A OpenAI confirmou nesta terça-feira, 2, que o ChatGPT passará a contar com ferramentas de monitoramento voltadas para pais e responsáveis. A medida surge em meio à repercussão de um processo aberto na Califórnia, no qual a empresa é acusada de ter contribuído para a morte de um adolescente norte-americano.
Segundo a companhia, a atualização será disponibilizada já no próximo mês. O novo sistema possibilitará que contas de responsáveis sejam vinculadas às de adolescentes, com filtros de respostas de acordo com a faixa etária. Também está prevista a emissão de alertas sempre que o chatbot identificar sinais de sofrimento emocional intenso durante o uso.
++ Conheça a espécie de peixe do Brasil que muda de cor quando se estressa
A decisão acontece dias depois de Matthew e Maria Raine acusarem o ChatGPT de manter interações “íntimas” com o filho Adam entre 2024 e 2025. De acordo com a denúncia, em sua última conversa, no dia 11 de abril, o sistema teria sugerido ao jovem métodos para furtar bebidas alcoólicas e descrito formas de “potencialmente enforcar um ser humano”. O adolescente foi encontrado morto horas depois.
Para a advogada da família, Melodi Dincer, a iniciativa anunciada pela OpenAI ainda não esclarece como funcionará na prática. “O anúncio é genérico, carece de detalhes e representa o mínimo que poderia ser feito. Muitas medidas simples de segurança já poderiam estar em vigor. Resta ver se a empresa cumprirá o que promete e se será eficaz”, afirmou em entrevista à AFP.
++ Pesquisadores propõem semáforo com quarta luz para era dos carros autônomos
Casos semelhantes têm sido relatados em outros países, levantando questionamentos sobre a influência de chatbots de inteligência artificial em pessoas em situação de vulnerabilidade. A OpenAI respondeu que vem fazendo ajustes nos modelos para reduzir a tendência de “bajulação”, quando o sistema confirma ou reforça falas do usuário sem questionamento.
“Continuamos melhorando nossa capacidade de reconhecer e responder a sinais de angústia mental e emocional”, declarou a empresa em nota divulgada à imprensa internacional.
