O Google removeu alguns de seus resumos gerados por inteligência artificial sobre temas relacionados à saúde após uma investigação do jornal The Guardian revelar que os usuários estavam sendo expostos a informações falsas. Os chamados AI Overviews, que aparecem no topo dos resultados das buscas, apresentavam dados imprecisos sobre exames médicos.
Segundo o jornal britânico, um dos exemplos mais graves era sobre testes de função hepática. Quando usuários pesquisavam “qual a faixa normal para exames de sangue do fígado”, o Google exibia uma grande lista de números, com pouco contexto e sem considerar fatores como idade, sexo, etnia ou nacionalidade, que podem influenciar os resultados.
Para especialistas ouvidos pelo The Guardian, a questão era “perigosa e alarmante”, pois os valores apresentados como “normais” pela IA podem ser diferentes dos parâmetros médicos. Com isso, pessoas com doenças hepáticas graves poderiam acreditar que estão saudáveis e deixar de comparecer a consultas ou exames de acompanhamento.
Após a investigação, o Google removeu os resumos de IA para as buscas sobre o tema específico. À reportagem, disse que não comenta remoções individuais no mecanismo de busca.
“Nos casos em que os resumos de IA omitem algum contexto, trabalhamos para fazer melhorias e tomamos medidas de acordo com nossas políticas, quando apropriado”, afirmou um porta-voz do Google.
Problema não foi completamente resolvido
A ação da empresa foi elogiada por Vanessa Hebditch, diretora de comunicação e políticas da British Liver Trust. Ela afirmou, porém, que o problema não foi completamente resolvido, já que algumas variações nas buscas ainda levam a resumos equivocados de IA.
De acordo com Hebditch, exames de função hepática precisam ser interpretados por especialistas, ação que não pode ser reduzida a uma lista de números. Ela alertou, ainda, que o fato dos resumos apresentarem números em bold pode induzir os usuários a conclusões erradas, sem deixar claro que resultados aparentemente normais podem coexistir com quadros graves de doenças hepáticas.
“Nossa maior preocupação é que o Google desative as IAs Overviews para um resultado específico, mas não resolva a questão mais abrangente do uso dessas ferramentas para informações de saúde”, afirmou.
Outros resultados preocupantes
A investigação identificou que os resumos de IA também apresentam informações inconsistentes sobre outros temas sensíveis, como câncer e saúde mental. Questionado sobre esses casos, o Google disse que os resumos incluem links para fontes consideradas confiáveis e alertas quando é necessário buscar atendimento médico.
