De acordo com a pesquisa, o recurso de pesquisa AI Overview do Google cita o YouTube mais do que qualquer site médico ao responder perguntas sobre condições de saúde. levanta novas questões Sobre um dispositivo que é visitado por 2 bilhões de pessoas todos os meses.
A empresa disse que seus resumos de IA, que aparecem no topo dos resultados de pesquisa e usam IA generativa para responder às perguntas dos usuários, são “confiável” E cite fontes médicas respeitáveis, como os Centros de Controle e Prevenção de Doenças e a Clínica Mayo.
No entanto, um estudo que analisou respostas a mais de 50.000 questões de saúde obtidas através de pesquisas do Google em Berlim descobriu que a fonte mais citada foi YouTube. A plataforma de compartilhamento de vídeos é o segundo site mais visitado do mundo, depois do Google, e é propriedade do Google.
Pesquisadores do SE Ranking, uma plataforma de otimização de mecanismos de busca, descobriram que o YouTube foi responsável por 4,43% de todas as citações de observação de IA. Ele disse que nenhuma rede hospitalar, portal de saúde do governo, associação médica ou instituição de ensino chegou perto desse número.
“Isso é importante porque o YouTube não é um editor médico”, pesquisadores escreveram. “É uma plataforma de vídeo de uso geral. Qualquer pessoa pode enviar conteúdo para lá (por exemplo, médicos certificados, canais hospitalares, mas também influenciadores de bem-estar, treinadores de vida e criadores sem treinamento médico).”
O Google disse ao Guardian que a visão geral da IA foi projetada para apresentar conteúdo de alta qualidade de fontes confiáveis, independentemente do formato, e que uma variedade de autoridades de saúde confiáveis e profissionais médicos licenciados criaram o conteúdo no YouTube. Acrescentou que as conclusões do estudo não poderiam ser estendidas a outras regiões porque foi realizado na Alemanha com perguntas em língua alemã.
a pesquisa vem a seguir um inquérito do guardião Descobrimos que informações de saúde imprecisas e enganosas nas respostas de observação da IA do Google colocavam as pessoas em risco de danos.
Num caso que os especialistas descreveram como “alarmante” e “alarmante”, o Google forneceu informações falsas sobre testes vitais de função hepática, o que poderia ter induzido em erro pessoas com doença hepática grave, fazendo-as pensar que eram saudáveis. empresa mais tarde Observações de IA removidas Para algumas, mas não todas, descobertas médicas.
O estudo SE Ranking analisou 50.807 sinais e palavras-chave relacionados à saúde para ver em quais fontes o AI Overview depende ao gerar respostas.
Escolheram a Alemanha porque o seu sistema de saúde é estritamente regulamentado por uma combinação de directivas, normas e regras de segurança alemãs e da UE. “Se os sistemas de IA dependem fortemente de fontes não médicas ou não oficiais, mesmo num ambiente deste tipo, isso sugere que o problema pode estender-se para além de qualquer país.” ele escreveu.
Os pesquisadores disseram que as observações de IA apareceram em mais de 82% das pesquisas sobre saúde. Quando ele analisou quais fontes a AI Overviews confiava mais para obter respostas relacionadas à saúde, um resultado se destacou imediatamente, disse ele. O domínio mais citado foi o YouTube com 20.621 citações de um total de 465.823.
A próxima fonte mais citada foi ndr.deCom 14.158 citações (3,04%). A emissora pública alemã produz notícias, documentários e entretenimento, bem como conteúdos relacionados à saúde. Em terceiro lugar ficou um site de referência médica, msdmanuals.com Com 9.711 citações (2,08%).
A quarta fonte mais citada foi o maior portal de saúde do consumidor da Alemanha, Netdoktor.deCom 7.519 citações (1,61%). A quinta fonte mais citada foi um fórum de carreiras para médicos, Praktischarzt.deCom 7.145 citações (1,53%).
Os pesquisadores reconheceram as limitações de seu estudo. Foi realizado como um instantâneo único em dezembro de 2025, utilizando perguntas em alemão, refletindo como os utilizadores na Alemanha normalmente procuram informações de saúde.
Os resultados podem variar de acordo com o horário, região e redação das questões. No entanto, apesar dessas advertências, as conclusões ainda suscitam preocupações.
Hannah van Colfschooten, pesquisadora especializada em IA, saúde e direito na Universidade de Basileia, que não esteve envolvida na pesquisa, disse: “Este estudo fornece evidências empíricas de que os riscos para a saúde apresentados pelas observações de IA são estruturais, não reais.
“Em vez disso, as descobertas sugerem que estes riscos são inerentes à forma como as observações da IA são concebidas. Em particular, a forte dependência do YouTube, em vez de autoridades de saúde pública ou instituições médicas, sugere que a visibilidade e a popularidade, em vez da credibilidade médica, são o motor central do conhecimento em saúde.”
Um porta-voz do Google disse: “A implicação de que a Visão Geral da IA fornece informações não confiáveis é refutada pelos próprios dados do relatório, que mostram que os domínios mais citados na Visão Geral da IA são sites respeitáveis. E pelo que vimos nas descobertas publicadas, a Visão Geral da IA cita conteúdo especializado do YouTube de hospitais e clínicas.”
O Google disse que o estudo mostrou que 96% dos 25 vídeos mais citados no YouTube eram de canais médicos. No entanto, os investigadores alertaram que estes vídeos representam menos de 1% de todos os links do YouTube citados pela visão geral da IA sobre saúde.
“A maioria deles (24 de 25) vem de canais relacionados à medicina, como hospitais, clínicas e organizações de saúde”, pesquisadores escreveram. “Além disso, 21 dos 25 vídeos afirmaram claramente que o conteúdo foi criado por uma fonte licenciada ou confiável.
“Portanto, à primeira vista, isso parece bastante tranquilizador. Mas é importante lembrar que esses 25 vídeos são apenas uma pequena parte (menos de 1% de todos os links do YouTube citados na visão geral da IA). Com o restante dos vídeos, a situação poderia ser muito diferente.”
