O Google remove resumos de IA para determinadas consultas médicas

Continuar Investigação do Guardião Parece que a visão geral da IA ​​​​do Google forneceu informações enganosas em resposta a certas consultas relacionadas à saúde, então a empresa removeu a visão geral da IA ​​​​para algumas dessas consultas.

Por exemplo, o Guardian relatou inicialmente que quando os usuários perguntam: “Qual é o intervalo normal para um exame de sangue do fígado?” são apresentados a eles um número que não leva em consideração fatores como nacionalidade, gênero, etnia ou idade, levando-os potencialmente a acreditar que são saudáveis, quando seus resultados não o são.

Bem, o Guardião diz: Visão geral da IA ​​removida Com base nos resultados de “Qual é o intervalo normal para exames de sangue do fígado?” e ​​”Qual é o intervalo normal para testes de função hepática”. No entanto, descobrimos que variações de consultas como “intervalo de referência lft” e “intervalo de referência de teste lft” ainda podem levar a resumos gerados por IA.

Quando tentei essas consultas esta manhã, algumas horas depois da publicação do artigo no Guardian, nenhuma delas exibia um resumo de IA, mas o Google ainda me deu a opção de fazer as mesmas consultas no modo IA. Em alguns casos, os artigos do Guardian sobre exclusões foram, na verdade, os melhores resultados.

Um porta-voz do Google disse ao Guardian que a empresa “não comenta exclusões individuais nas pesquisas”, mas disse que estava trabalhando em “melhorias amplas”. O porta-voz disse ainda que uma equipa interna de médicos analisou as questões levantadas pelo Guardian e descobriu que “em muitos casos a informação não é imprecisa e é apoiada por um website de alta qualidade”.

O TechCrunch entrou em contato com o Google para comentários adicionais. No ano passado, a empresa anunciou Novos recursos destinados a melhorar a Pesquisa Google para casos de uso de saúdeinclui uma visão geral aprimorada e modelos de IA focados na saúde.

Vanessa Hebditch, diretora de comunicações e políticas do British Liver Trust, disse ao Guardian que a remoção era uma “ótima notícia”, mas acrescentou: “Nossa maior preocupação aqui é que o Google esteja escolhendo um único resultado de pesquisa e, embora o Google possa bloquear a Visão Geral da IA ​​para fazer isso, não está abordando a questão maior da Visão Geral da IA ​​para a saúde”.