Como a visão geral da IA ​​do Google sobre ‘autoridade confiável’ está colocando a saúde pública em risco Google

Estou com gripe ou Covid? Por que acordo me sentindo cansado? O que está causando minha dor no peito? Por mais de duas décadas, digitar uma pergunta médica no mecanismo de busca mais popular do mundo gerou uma lista de links para sites com respostas. Google Hoje, essas perguntas e respostas sobre saúde provavelmente serão escritas pela inteligência artificial.

O presidente-executivo do Google, Sundar Pichai, expôs pela primeira vez os planos da empresa para incorporar IA em seu mecanismo de busca em maio de 2024, em sua conferência anual em Mountain View, Califórnia. A partir daquele mês, disse ele, os usuários dos EUA verão um novo recurso, AI Overview, que fornecerá resumos de informações sobre os resultados de pesquisa tradicionais. A mudança representa a maior mudança no produto principal do Google em um quarto de século. Em Julho de 2025, a tecnologia tinha-se expandido para mais de 200 países em 40 idiomas, fornecendo observações de IA a 2 mil milhões de pessoas todos os meses.

Com a rápida implementação da visão geral da IA, a Google está a correr para proteger o seu negócio tradicional de pesquisa, que gera cerca de 200 mil milhões de dólares (147 mil milhões de libras) por ano, antes que os rivais emergentes da IA ​​possam inviabilizá-lo. “Estamos avançando a uma velocidade incrível nas áreas de IA e transporte marítimo.” Pichai disse em julho passado. As observações da IA, em particular, tiveram “um bom desempenho”, disse ele.

Mas os especialistas dizem que a observação acarreta riscos. Eles usam IA generativa para fornecer instantâneos de informações sobre um tópico ou pergunta e adicionar respostas de conversação aos resultados de pesquisa tradicionais em um piscar de olhos. Eles podem citar fontes, mas não sabem necessariamente quando essa fonte está errada.

Poucas semanas após o lançamento do recurso nos EUA, Os usuários enfrentaram falsos Em uma variedade de assuntos. Visão geral de uma IA Andrew Jackson, o sétimo presidente dos EUA, disse: Concluiu a faculdade em 2005. Elizabeth Reed, chefe de pesquisa do Google, Respondeu às críticas em uma postagem no blog. Ele reconheceu que “em alguns casos”, a IA analisa a linguagem mal interpretada nas páginas da web e apresenta informações incorretas. “Na escala da Web, com bilhões de consultas chegando todos os dias, é natural que haja algumas esquisitices e erros”, escreveu ele.

Mas quando essas questões são sobre saúde, a precisão e o contexto são essenciais e inegociáveis, dizem os especialistas. O Google enfrenta um escrutínio cada vez maior sobre suas observações de IA para questões médicas um inquérito do guardião Descobriu que informações de saúde imprecisas e enganosas colocavam as pessoas em risco.

A empresa diz observações de IA “confiável“. Mas O Guardião encontrou Alguns resumos médicos continham informações de saúde imprecisas e colocavam as pessoas em risco. Num caso, que os especialistas descreveram como “realmente perigoso”, o Google aconselhou erroneamente as pessoas com câncer de pâncreas a evitar alimentos ricos em gordura. Especialistas disseram que isso é exatamente o oposto do que deveria ser recomendado e pode aumentar o risco dos pacientes morrerem pela doença.

Num outro exemplo “alarmante”, a empresa forneceu informações falsas sobre testes vitais da função hepática, o que poderia induzir em erro pessoas com doença hepática grave, fazendo-as pensar que eram saudáveis. O que a visão geral da IA ​​dizia ser normal pode, na verdade, diferir significativamente do que é considerado normal, disseram os especialistas. O resumo pode fazer com que pacientes gravemente doentes pensem erroneamente que os resultados dos seus testes são normais e não se preocupem em comparecer às consultas de acompanhamento.

Visão geral da IA ​​sobre testes de câncer em mulheres também fornecida”completamente erradoinformações, que os especialistas dizem que podem fazer com que as pessoas ignorem os sintomas reais.

Google no começo tentou humilhar As descobertas do Guardian. A empresa disse que, apesar do que seus próprios médicos pudessem avaliar, as observações da IA ​​preocuparam especialistas ligados a fontes confiáveis ​​e recomendaram a busca por aconselhamento especializado. Um porta-voz disse: “Investimos significativamente na qualidade das observações de IA, especialmente em tópicos como saúde, e a grande maioria fornece informações precisas”.

Contudo, dentro de alguns dias A empresa removeu Algumas observações de IA foram sinalizadas pelo Guardian por questões relacionadas à saúde. Um porta-voz disse: “Não comentamos remoções individuais na Pesquisa”. “Nos casos em que uma observação de IA perde algum contexto, trabalhamos para fazer melhorias mais amplas e também tomamos medidas no âmbito das nossas políticas, quando apropriado.”

Embora os especialistas tenham saudado a remoção de alguns resumos de IA para questões relacionadas com a saúde, muitos continuam preocupados. “Nossa grande preocupação com tudo isso é que está bagunçando um único resultado de pesquisa e o Google pode desativar as visões gerais de IA para isso, mas não está lidando com a questão maior das visões gerais de IA para a saúde”, diz Vanessa Hebditch, diretora de comunicações e políticas da British Liver Trust, uma instituição de caridade para a saúde do fígado.

“Ainda existem muitos exemplos de observações da IA ​​do Google que fornecem às pessoas informações de saúde imprecisas”, afirma Sue Farrington, presidente do Patient Information Forum, que promove informações de saúde baseadas em evidências para pacientes, público e profissionais de saúde.

UM novo estudo levantou outras preocupações. Quando os investigadores analisaram as respostas a mais de 50.000 pesquisas relacionadas com a saúde na Alemanha para ver quais as fontes de observação da IA ​​que eram mais fiáveis, um resultado destacou-se imediatamente. O domínio mais citado foi YouTube.

“Isso é importante porque o YouTube não é um editor médico”, pesquisadores escreveram. “É uma plataforma de vídeo de uso geral. Qualquer pessoa pode enviar conteúdo para lá (por exemplo, médicos certificados, canais hospitalares, mas também influenciadores de bem-estar, treinadores de vida e criadores sem treinamento médico).”

Especialistas dizem que na medicina não se trata apenas de onde vêm as respostas do caso, ou qual é o seu nível de precisão, mas também de como elas são apresentadas aos usuários. “Com a observação por IA, os utilizadores já não se deparam com fontes que possam comparar e avaliar criticamente”, afirma Hannah Van Colfschooten, investigadora em IA, saúde e direito na Universidade de Basileia. “Em vez disso, eles recebem uma resposta única e confiável gerada por IA que demonstra autoridade médica.

“Isso significa que o sistema não apenas reflete informações de saúde on-line, mas também as reorganiza ativamente. Quando esse feedback é baseado em fontes que nunca foram projetadas para atender aos padrões médicos, como YouTube Vídeo, cria uma nova forma de autoridade médica online não regulamentada.”

Google diz que visões gerais de IA foram criadas Para exibir informações apoiadas pelos principais resultados da webE inclua links para materiais da web que apoiem as informações apresentadas no resumo. A empresa disse ao Guardian que as pessoas podem usar esses links para se aprofundarem em um tópico.

Mas blocos únicos de texto na visão geral da IA, combinando informações de saúde de múltiplas fontes, podem causar confusão, diz Nicole Gross, professora associada de negócios e sociedade no National College of Ireland.

“Uma vez expostos a um resumo de IA, os utilizadores são muito menos propensos a fazer mais pesquisas, o que significa que são privados da oportunidade de avaliar criticamente e comparar informações ou mesmo de usar o seu bom senso quando se trata de questões relacionadas com a saúde.”

Os especialistas também levantaram outras preocupações ao Guardian. Ele diz que se e quando as observações da IA ​​fornecerem factos precisos sobre um tópico médico específico, não conseguirão distinguir entre provas fortes de ensaios aleatorizados e provas fracas de estudos observacionais. Ele disse ainda que algumas pessoas também esquecem avisos importantes sobre essas evidências.

Listar essas afirmações lado a lado em uma visão geral da IA ​​também pode dar a impressão de que algumas são mais bem fundamentadas do que realmente são. À medida que as observações da IA ​​evoluem, as respostas podem mudar, mesmo que a ciência não tenha mudado. “Isso significa que as pessoas estão obtendo respostas diferentes dependendo de como pesquisam, e isso não é suficiente”, diz Athena Lamnisos, executiva-chefe da instituição de caridade contra o câncer Eve Appeal.

O Google disse ao Guardian que os links incluídos na visão geral da IA ​​eram dinâmicos e alterados com base nas informações mais relevantes, úteis e oportunas para uma pesquisa. Se a IA analisar conteúdo da web mal interpretado ou perder algum contexto, a empresa usará esses erros para melhorar seus sistemas e também tomará medidas quando apropriado.

A maior preocupação, diz Gross, é que informações ou conselhos médicos falsos e perigosos nas observações da IA ​​“se traduzam nas práticas, rotinas e vidas diárias do paciente, mesmo em formas personalizadas”. “Nos cuidados de saúde, pode tornar-se uma questão de vida ou morte.”