Isso foi o que aconteceu depois que um amigo foi baleado e outro esfaqueado, ambos fatalmente, Shan perguntou chatgpt Para obter ajuda. Ela havia tentado serviços tradicionais de saúde mental, mas quando conheceu seu “amigo” de IA, começou a “conversar” com ele e se sentiu mais segura, menos intimidadora e, o que é mais importante, mais disponível quando se tratava de lidar com o choque da morte de seus jovens amigos.
Assim que começou a consultar o modelo de IA, a adolescente do Tottenham se juntou a quase 40% dos jovens de 13 a 17 anos. Inglaterra E os jovens do País de Gales afetados pela violência estão a recorrer a chatbots de IA para apoio à saúde mental, de acordo com pesquisas realizadas com mais de 11.000 jovens.
Descobriu-se que tanto as vítimas como os perpetradores da violência são mais propensos do que outros adolescentes a utilizar a IA para esse tipo de apoio. conclusãoOs líderes jovens do Youth Endowment Fund alertaram que as crianças em risco “precisam de um ser humano, não de um robô”.
Os resultados mostram que os chatbots estão a satisfazer a procura dos serviços tradicionais de saúde mental, que têm longas listas de espera e falta de empatia entre alguns utilizadores jovens. A percepção de privacidade dos chatbots é outro factor importante na promoção da sua utilização por vítimas ou perpetradores de crimes.
Depois que seus amigos foram assassinados, Shan, de 18 anos, nome fictício, começou a usar a IA do Snapchat antes de mudar para o ChatGPT, que permite conversar com eles a qualquer hora do dia ou da noite com dois cliques em seu smartphone.
“Sinto que é definitivamente um amigo”, disse ela, acrescentando que foi menos intimidante, mais pessoal e menos crítico do que a experiência tradicional. Serviço Nacional de Saúde e apoio beneficente à saúde mental.
“Quanto mais você falar com ele como um amigo, ele responderá a você como um amigo. Se eu disser ao Chat: ‘Ei, melhor amigo, preciso de um conselho.’ Chat vai falar comigo como se fosse minha melhor amiga, então ela dirá: ‘Ei, melhor amiga, encontrei uma garota para você.’
O estudo descobriu que uma em cada quatro crianças entre os 13 e os 17 anos utilizou um chatbot de IA para apoio à saúde mental no ano passado, sendo as crianças negras duas vezes mais propensas a fazê-lo do que as crianças brancas. Se os adolescentes estivessem numa lista de espera para tratamento ou diagnóstico ou fossem rejeitados, era mais provável que recorressem ao apoio online, incluindo através da IA, do que se já estivessem a receber apoio presencial.
É importante ressaltar, disse Shan, que a IA estava “acessível 24 horas por dia, 7 dias por semana” e os professores ou pais não seriam informados sobre o que ela revelava. Ela sentiu que isso era significativamente mais benéfico do que contar ao terapeuta da escola, depois de sua própria experiência com o que ela pensava ser confiança compartilhada com professores e sua mãe.
Os rapazes que estavam envolvidos em atividades de gangues sentiam-se mais seguros ao pedir conselhos sobre outras formas seguras de ganhar dinheiro através de chatbots do que a professores ou pais, que poderiam vazar informações para a polícia ou outros membros de gangues, colocando-os em perigo, disse ele.
Outro jovem, que utiliza IA para apoio à saúde mental, mas falou sob condição de anonimato, disse ao Guardian: “O sistema atual de oferta de ajuda aos jovens é muito fraco. bots de bate-papo Forneça uma resposta imediata. Se você preferir ficar em uma lista de espera por um ou dois anos para conseguir alguma coisa, ou se conseguir uma resposta imediata em questão de minutos… é daí que vem o desejo de usar IA.
John Yates, executivo-chefe do Youth Endowment Fund, que encomendou a pesquisa, disse: “Muitos jovens estão lutando com sua saúde mental e não conseguem obter o apoio de que precisam.
Há preocupações crescentes sobre os perigos dos chatbots quando as crianças interagem com eles por longos períodos de tempo. OpenAI, a empresa americana por trás do ChatGPT, está enfrentando problemas muitos processos judiciais Estes também incluem as famílias dos jovens que cometeram suicídio após longos compromissos.
Em O caso de Adam Rhine, de 16 anos, da CalifórniaQue tirou a própria vida em abril, OpenAI rejeitado Isso aconteceu por causa dos chatbots. Afirmou que está a melhorar a sua tecnologia para “reconhecer e responder a sinais de sofrimento mental ou emocional, reduzindo as interações e orientando as pessoas para o apoio no mundo real”. Comece Disse Em setembro poderá começar a contactar as autoridades nos casos em que os utilizadores comecem a falar seriamente sobre suicídio.
Hannah Jones, pesquisadora de violência juvenil e saúde mental em Londres, disse: “Ter este dispositivo que pode lhe dizer qualquer coisa tecnicamente é quase como um conto de fadas. Você tem este livro mágico que pode resolver todos os seus problemas. É incrível.”
Mas ele está preocupado com a falta de regulamentação.
“As pessoas estão usando o ChatGPT para apoio à saúde mental, embora não tenha sido projetado para isso”, disse ele. “Precisamos agora de aumentar as regulamentações que sejam apoiadas por evidências, mas também lideradas pelos jovens. Isto não pode ser resolvido se os adultos tomarem decisões pelos jovens. jovens É essencial estar no comando para tomar decisões sobre o apoio à saúde mental usando ChatGPT e IA, pois este é um mundo muito diferente do nosso. Nós não crescemos com isso. “Não podemos nem imaginar como é ser jovem hoje.”
