Um homem de 60 anos, sem histórico de doença mental, apresentou-se ao pronto-socorro do hospital e insistiu que seu vizinho o estava envenenando. Nas 24 horas seguintes, suas alucinações pioraram e ele tentou fugir do hospital.
Os médicos finalmente descobriram que o homem tomava diariamente brometo de sódio, um sal inorgânico usado principalmente para fins industriais e laboratoriais, incluindo limpeza e tratamento de água.
ele comprou pela internet Chatgpt disse que ele poderia usá-lo no lugar do sal de cozinha. Porque ele estava preocupado com os efeitos do sal em sua dieta para a saúde. O brometo de sódio pode se acumular no corpo causando uma condição chamada bromismo, que inclui sintomas como alucinações, estupor e dificuldade de coordenação.
São essas questões que preocupam Alex Ruani, pesquisador doutor em desinformação em saúde na University College London, com seu lançamento. chatgpt Saúde na Austrália.
Um número limitado de usuários australianos já pode acessar uma plataforma de inteligência artificial que lhes permite “conectar com segurança registros médicos e aplicativos de bem-estar” para gerar respostas “que sejam mais relevantes e úteis para você”. Os usuários do ChatGPT na Austrália podem entrar na lista de espera para acesso.
“Chatgpt Saúde Ele está sendo apresentado como uma interface que pode ajudar as pessoas a entender informações de saúde e resultados de exames ou obter aconselhamento dietético, sem substituir um médico”, disse Ruani.
“O desafio é que, para muitos utilizadores, não está claro onde termina a informação geral e começa o aconselhamento médico, especialmente quando as respostas parecem confiantes e personalizadas, mesmo que possam ser enganosas”.
Ruani disse que havia muitos Exemplo “horrível” ChatGPT omite “detalhes importantes de segurança, como efeitos colaterais, contra-indicações, avisos de alergia ou riscos relacionados a suplementos, alimentos, dietas ou certas práticas”.
“O que me preocupa é que não existem estudos publicados testando especificamente a segurança do ChatGPT Health”, disse Ruani. “Quais sinais de usuário, caminhos de integração ou fontes de dados podem levar a informações enganosas ou prejudiciais?”
Inscreva-se: Email de notícias de última hora da UA
ChatGPT é desenvolvido pela OpenAI, que utilizou a ferramenta HealthBench para desenvolver ChatGPT Health. HealthBench emprega médicos para testar e avaliar o desempenho dos modelos de IA ao responder a perguntas relacionadas à saúde.
Ruani disse que a metodologia completa utilizada pelo HealthBench, e suas avaliações, “são em sua maioria desconhecidas, em vez de serem descritas em estudos independentes revisados por pares”.
“O ChatGPT Health não é regulamentado como um dispositivo médico ou dispositivo de diagnóstico. Portanto, não há controles de segurança obrigatórios, nenhum relatório de risco, nenhuma vigilância pós-comercialização e nenhuma exigência de publicação de dados de ensaios.”
Um porta-voz da OpenAI disse ao Guardian Australia que a empresa trabalhou em parceria com mais de 200 médicos de 60 países para aconselhar e melhorar os modelos que impulsionam o ChatGPT Health.
“ChatGPT Health é um espaço dedicado onde as conversas relacionadas à saúde permanecem separadas do resto dos seus bate-papos, com fortes proteções de privacidade por padrão”, disse o porta-voz.
Os dados do ChatGPT Health são criptografados e sujeitos à proteção de privacidade por padrão.
O compartilhamento com terceiros ocorrerá com o consentimento do usuário ou em circunstâncias limitadas descritas no OpenAI política de Privacidade.
A Dra. Elizabeth Deveney, executiva-chefe do Fórum de Saúde do Consumidor da Austrália, disse que o aumento dos custos médicos diretos E ter que esperar muito tempo para ver os médicos estavam movendo as pessoas em direção à IA.
Ele disse que o ChatGPS Health pode ser útil para ajudar as pessoas a lidar com doenças crônicas bem conhecidas e pesquisar maneiras de se manterem saudáveis. A capacidade da IA de responder em diferentes idiomas “proporciona um benefício real para pessoas que não têm proficiência em inglês”, disse ele.
Deveney está preocupado que as pessoas sigam os conselhos dados pela ChatGPT Health pelo valor nominal e que “as grandes empresas globais de tecnologia estejam se movendo mais rápido que os governos”, estabelecendo suas próprias regras em torno de privacidade, transparência e coleta de dados.
“Esta não é uma experiência pequena e bem-intencionada sem fins lucrativos. Esta é uma das maiores empresas de tecnologia do mundo.
“Quando as plataformas comerciais definem as normas, os benefícios vão para aqueles que já possuem os recursos, a educação e o conhecimento do sistema.
Ele disse que a omissão dos governos em agir deixou os consumidores de saúde sozinhos para navegar na mudança social provocada pela IA.
“Precisamos de barreiras de proteção claras, transparência e educação do consumidor para que as pessoas possam fazer escolhas informadas sobre se e como usar a IA para a sua saúde”, disse ele.
“Não se trata de parar a IA. Trata-se de agir antes que erros, preconceitos e desinformação se repitam em velocidade e escala, de maneiras quase impossíveis de superar.”
