Google remove resumos de IA sobre saúde após alertas de informações falsas
Investigação do jornal The Guardian apontou irregularidades em dados sobre exames exibidos no topo das buscas
Exame.com
O Google removeu alguns de seus resumos gerados por inteligência artificial sobre temas relacionados à saúde após uma investigação do jornal The Guardian revelar que os usuários estavam sendo expostos a informações falsas. Os chamados AI Overviews, que aparecem no topo dos resultados das buscas, apresentavam dados imprecisos sobre exames médicos.
Acompanhe o SBT News nas TVs por assinatura Claro (586), Vivo (576), Sky (580) e Oi (175), via streaming pelo +SBT, Site e YouTube, além dos canais nas Smart TVs Samsung e LG.
Siga no Google DiscoverSegundo o jornal britânico, um dos exemplos mais graves era sobre testes de função hepática. Quando usuários pesquisavam "qual a faixa normal para exames de sangue do fígado", o Google exibia uma grande lista de números, com pouco contexto e sem considerar fatores como idade, sexo, etnia ou nacionalidade, que podem influenciar os resultados.
Para especialistas ouvidos pelo The Guardian, a questão era "perigosa e alarmante", pois os valores apresentados como "normais" pela IA podem ser diferentes dos parâmetros médicos. Com isso, pessoas com doenças hepáticas graves poderiam acreditar que estão saudáveis e deixar de comparecer a consultas ou exames de acompanhamento.
Após a investigação, o Google removeu os resumos de IA para as buscas sobre o tema específico. À reportagem, disse que não comenta remoções individuais no mecanismo de busca.
"Nos casos em que os resumos de IA omitem algum contexto, trabalhamos para fazer melhorias e tomamos medidas de acordo com nossas políticas, quando apropriado", afirmou um porta-voz do Google.
Problema não foi completamente resolvido
A ação da empresa foi elogiada por Vanessa Hebditch, diretora de comunicação e políticas da British Liver Trust. Ela afirmou, porém, que o problema não foi completamente resolvido, já que algumas variações nas buscas ainda levam a resumos equivocados de IA.
De acordo com Hebditch, exames de função hepática precisam ser interpretados por especialistas, ação que não pode ser reduzida a uma lista de números. Ela alertou, ainda, que o fato dos resumos apresentarem números em bold pode induzir os usuários a conclusões erradas, sem deixar claro que resultados aparentemente normais podem coexistir com quadros graves de doenças hepáticas.
"Nossa maior preocupação é que o Google desative as IAs Overviews para um resultado específico, mas não resolva a questão mais abrangente do uso dessas ferramentas para informações de saúde", afirmou.
"Este é um bom resultado, mas é apenas o primeiro passo necessário para manter a confiança nos resultados de pesquisa do Google sobre temas relacionados à saúde", disse Sue Farrington, presidente do Patient Information, que defende que a empresa direcione os usuários para conteúdos baseados em pesquisas científicas e instituições reconhecidas.
Outros resultados preocupantes
A investigação identificou que os resumos de IA também apresentam informações inconsistentes sobre outros temas sensíveis, como câncer e saúde mental. Questionado sobre esses casos, o Google disse que os resumos incluem links para fontes consideradas confiáveis e alertas quando é necessário buscar atendimento médico.
Em nota, a empresa disse que sua equipe interna de médicos analisou as informações e concluiu que, em muitos casos, elas não estavam equivocadas. Ainda, afirmou que os resumos só aparecem quando há alta confiança na qualidade das respostas e que a ferramenta passa por avaliações constantes.
