Três em cada dez adolescentes dos EUA usam chatbots de IA diariamente, mas as preocupações com segurança estão aumentando

de Centro de Pesquisa Pew foi lançado estudar O anúncio de terça-feira mostra como os jovens estão usando as mídias sociais e os chatbots de IA.

A segurança na Internet para adolescentes continua sendo um tema quente em todo o mundo e na Austrália vigor ser proibição de mídia social Para menores de 16 anos a partir de quarta-feira. O impacto das redes sociais na saúde mental dos adolescentes tem sido amplamente debatido e vários estudos mostram que sim. comunidade on-line pode ser melhorado saúde mentaloutros estudos mostraram efeitos negativos, como: pergaminho do destino ou despesa muito tempo on-line. Até o Cirurgião Geral dos EUA chamado No ano passado, as plataformas de redes sociais começaram a colocar rótulos de advertência nos seus produtos.

De acordo com um estudo da Pew, 97% dos adolescentes usam a Internet todos os dias e cerca de 40% dos entrevistados afirmam estar “quase sempre online”. Este valor é inferior ao do inquérito do ano passado (46%), mas significativamente superior ao de há uma década, quando 24% dos adolescentes afirmaram estar online a maior parte do tempo.

Mas à medida que os chatbots de IA se tornam mais predominantes nos Estados Unidos, esta tecnologia está a tornar-se outro factor no impacto da Internet na juventude americana.

De acordo com um estudo da Pew, quase 3 em cada 10 adolescentes nos EUA usam um chatbot de IA todos os dias e 4% dizem que o usam quase o tempo todo. 59% dos adolescentes afirmam usar o ChatGPT, duas vezes mais popular que os próximos dois chatbots mais usados, o Gemini do Google (23%) e o Meta AI (20%). 46% dos adolescentes norte-americanos dizem que usam um chatbot de IA pelo menos algumas vezes por semana, enquanto 36% relatam não usar nenhum chatbot de IA.

O estudo da Pew também detalha como raça, idade e classe influenciam o uso de chatbots pelos adolescentes.

Cerca de 68% dos adolescentes negros e hispânicos entrevistados disseram usar chatbots, em comparação com 58% dos entrevistados brancos. Especificamente, os adolescentes negros tinham aproximadamente duas vezes mais probabilidade de usar Gemini e Meta AI em comparação com os adolescentes brancos.

“As diferenças raciais e étnicas no uso do chatbot entre os adolescentes foram significativas (…) mas as razões por trás das diferenças são difíceis de compreender”, disse a pesquisadora do Pew, Michelle Faverio, ao TechCrunch. “Esse padrão é consistente com outras diferenças raciais e étnicas que vimos no uso de tecnologia por adolescentes. Os adolescentes negros e hispânicos são mais propensos do que os adolescentes brancos a dizer que usam determinados sites de mídia social, como TikTok, YouTube e Instagram.”

Quando se trata do uso geral da Internet, os adolescentes negros (55%) e hispânicos (52%) têm quase duas vezes mais probabilidade do que os adolescentes brancos (27%) de dizer que acessam a Internet “quase sempre”.

Os adolescentes mais velhos (15-17 anos) tendem a usar as redes sociais e os chatbots de IA com mais frequência do que os adolescentes mais jovens (13-14 anos). Em termos de renda familiar, aproximadamente 62% dos adolescentes que vivem em famílias com renda anual de US$ 75.000 ou mais disseram usar o ChatGPT, em comparação com 52% dos adolescentes com renda anual de US$ 75.000 ou mais. No entanto, o uso do Character.AI é duas vezes mais prevalente (14%) entre famílias com renda inferior a US$ 75.000.

Os adolescentes podem começar a usar essas ferramentas para perguntas básicas e ajuda com o dever de casa, mas seu relacionamento com um chatbot de IA pode ser mais ou menos assim: Viciante e potencialmente prejudicial.

As famílias de pelo menos dois adolescentes, Adam Lane e Amaury Lacy, estão processando a OpenAI, fabricante do ChatGPT, acusando a empresa de contribuir para o suicídio de seus filhos. Em ambos os casos, o ChatGPT deu aos adolescentes instruções detalhadas sobre como se enforcar, o que teve um efeito trágico.

(OpenAI alegar Como o garoto de 16 anos supostamente contornou os recursos de segurança do ChatGPT e violou os termos de serviço do chatbot, a empresa não deve ser responsabilizada pela morte de Rain. A empresa ainda não respondeu às acusações da família Lacey. )

Character.AI, uma plataforma de RPG de IA, também enfrentou um escrutínio cada vez maior por seu impacto na saúde mental dos adolescentes. pelo menos dois adolescentes morreu por suicídio Depois de uma longa conversa com um chatbot de IA. A startup finalmente decidiu Pare de fornecer chatbots para menoresEm vez disso, lançamos um produto chamado “”.história”é voltado para menores e é muito parecido com um jogo de escolha sua própria aventura.

A experiência refletida nas ações judiciais contra essas empresas representa uma pequena parcela de todas as interações que ocorrem no ChatGPT ou Character.AI. Em muitos casos, as conversas com chatbots podem ser incrivelmente inócuas. Segundo dados da OpenAI: 0,15% dos usuários ativos no ChatGPT Mas numa plataforma com 800 milhões de utilizadores activos semanais, essa pequena percentagem reflecte mais de 1 milhão de pessoas discutindo suicídio com chatbots todas as semanas.

“Mesmo que as ferramentas[das empresas de IA]não tenham sido projetadas para suporte emocional, as pessoas as usam dessa forma. Isso significa que as empresas têm a responsabilidade de ajustar seus modelos para resolver o bem-estar dos usuários”, disse a Dra. Nina Vasan, psiquiatra e diretora do Brainstorm: The Stanford Lab for Mental Health Innovation, ao TechCrunch.