O Google está colocando as pessoas em risco ao minimizar os avisos de segurança de que seus conselhos médicos gerados por IA podem estar errados.
Ao responder a perguntas sobre temas delicados como saúde, a empresa afirma que as suas observações de IA, que aparecem acima dos resultados da pesquisa, levam os utilizadores a procurar ajuda profissional em vez de confiar apenas no seu resumo. “As observações da IA informarão as pessoas quando for importante procurar aconselhamento especializado ou verificar as informações apresentadas”, Google disse.
Mas o Guardian descobriu que a empresa não inclui tal isenção de responsabilidade quando os usuários recebem aconselhamento médico pela primeira vez.
O Google só emite o aviso quando os usuários optam por solicitar informações adicionais de saúde e clicam em um botão chamado “Mostrar mais”. Ainda assim, os rótulos de segurança só aparecem abaixo de todos os conselhos médicos adicionais reunidos usando IA generativa e em letras menores e mais claras.
“Isso é apenas para fins informativos”, diz o aviso aos usuários que clicam para obter mais detalhes depois de ver o resumo inicial e vão até o final da visão geral da IA. “Para aconselhamento médico ou diagnóstico, consulte um profissional. As respostas da IA podem incluir imprecisões.”
O Google não negou que suas isenções de responsabilidade não aparecem quando os usuários recebem aconselhamento médico pela primeira vez, ou que aparecem abaixo da visão geral da IA e em uma fonte menor e mais clara. A AI Overview “incentiva as pessoas a procurar aconselhamento médico profissional”, disse um porta-voz, e frequentemente menciona a procura de ajuda médica “quando apropriado” no resumo.
Especialistas em IA e defensores dos pacientes apresentados às descobertas do Guardian disseram estar preocupados. Dito isto, a isenção de responsabilidade serve a um propósito importante e deve ser exibida de forma destacada quando os usuários recebem aconselhamento médico pela primeira vez.
“A ausência de isenções de responsabilidade quando os usuários recebem inicialmente informações médicas cria muitos perigos sérios”, disse Pat Paternataporn, professor assistente, tecnólogo e pesquisador do Instituto de Tecnologia de Massachusetts (MIT) e especialista de renome mundial em IA e interação humano-computador.
“Em primeiro lugar, mesmo os modelos de IA mais avançados de hoje ainda fornecem desinformação ou exibem comportamento bajulador, dando prioridade à satisfação do utilizador em detrimento da precisão. No contexto dos cuidados de saúde, isto pode ser realmente perigoso.
“Em segundo lugar, a questão não se trata apenas das limitações da IA – trata-se do lado humano da equação. Os utilizadores podem não fornecer todo o contexto necessário ou podem interpretar mal os seus sintomas e fazer perguntas erradas.
“As isenções de responsabilidade atuam como um importante ponto de intervenção. Elas perturbam essa confiança automática e estimulam os usuários a se envolverem mais seriamente com as informações que recebem”.
Gina Neff, professora de IA responsável na Queen Mary University de Londres, disse que “o problema da má visão geral da IA é intencional” e o Google é responsável por isso. “As observações de IA são projetadas para velocidade, não para precisão, e isso leva a imprecisões nas informações de saúde, o que pode ser perigoso.”
Em janeiro, um inquérito do guardião A observação da IA do Google revelou que informações de saúde falsas e enganosas colocavam as pessoas em risco.
neff disse resultados da investigação Mostrou por que grandes isenções de responsabilidade eram necessárias. “O Google faz com que as pessoas cliquem nele antes de receberem qualquer isenção de responsabilidade”, disse ele. “As pessoas que leem rapidamente podem pensar que as informações que obtêm das observações da IA são melhores do que realmente são, mas sabemos que isso pode levar a erros graves.”
Seguindo a reportagem do Guardian, o Google Observações de IA removidas Para algumas, mas não todas, descobertas médicas.
Sonali Sharma, pesquisadora do Centro de IA em Medicina e Imagem (AIMI) da Universidade de Stanford, disse: “A questão principal é que essas observações de IA do Google aparecem no topo da página de pesquisa e muitas vezes fornecem uma resposta completa à pergunta do usuário no momento em que ele está tentando acessar as informações e obter uma resposta o mais rápido possível.
“Para muitas pessoas, como esse resumo único está imediatamente presente, é basicamente cria uma sensação de segurança O que desencoraja pesquisas adicionais ou rolar até o resumo completo e clicar em ‘Mostrar mais’, onde um aviso de isenção de responsabilidade pode aparecer.
“Acho que uma das desvantagens que podem ocorrer no mundo real é o fato de que as observações da IA podem muitas vezes conter informações parcialmente verdadeiras e parcialmente falsas, e torna-se muito difícil dizer o que é preciso ou não, a menos que você já esteja familiarizado com o assunto.”
Um porta-voz do Google disse: “É incorreto sugerir que as observações de IA não incentivam as pessoas a procurar aconselhamento médico profissional. Além de uma isenção de responsabilidade explícita, as observações de IA geralmente se referem à busca de atendimento médico diretamente dentro da observação, quando apropriado”.
Tom Bishop, chefe de informação de pacientes da instituição de caridade para câncer de sangue Anthony Nolan, pediu ações urgentes. “Sabemos que a desinformação é um problema real, mas quando se trata de desinformação sobre saúde, é potencialmente perigosa”, disse Bishop.
“Essa isenção de responsabilidade precisa ser mostrada com mais destaque, para que as pessoas recuem e pensem… ‘Isso é algo que preciso verificar com minha equipe médica em vez de agir de acordo? Posso encarar isso pelo valor nominal ou realmente preciso analisar isso com mais detalhes e ver como essa informação se relaciona com minha própria condição médica específica?’ Porque essa é a chave aqui.”
Ele acrescentou: “Eu gostaria que este aviso estivesse no topo. Eu gostaria que fosse a primeira coisa que você vê. E, idealmente, seria a fonte do mesmo tamanho que você vê lá, não algo menor e mais fácil de perder.”
