Encontre maneiras de ativar a proteção para controlar o tempo e a atividade das crianças em seus celulares A Character.AI anunciou, nesta quarta-feira (29), que irá proibir o acesso à sua plataforma para menores de 18 anos a partir de 25 de novembro. A decisão ocorre depois que familiares de um jovem de 14 anos que se matou há quase um ano após se apegar emocionalmente ao seu chatbot processaram a empresa (saiba mais abaixo). Character.AI permite aos usuários criar e interagir com personagens virtuais, desde figuras históricas até conceitos abstratos. O aplicativo se tornou popular entre os jovens que buscam apoio emocional. 📱 Baixe o aplicativo g1 para ver notícias em tempo real e gratuitamente A empresa disse que tomou a decisão após ler “relatórios recentes que levantam questões” de reguladores e especialistas em segurança sobre o impacto das interações com IA em adolescentes. No comunicado, a empresa afirmou que incentivará os jovens usuários a utilizarem ferramentas alternativas, como a criação de vídeos, histórias e transmissões com personagens de inteligência artificial (IA). “Essas são mudanças tremendas para nossa empresa e, em muitos aspectos, mais conservadoras do que nossos pares”, disse Character.AI em comunicado. “Mas acreditamos que é isso que devemos fazer.” Depois que a mãe disse que seu filho se conectou com o personagem adolescente de IA através do celular BBC/Getty Images, Megan Garcia entrou com uma ação contra Character.AI em um tribunal de Orlando (EUA) em outubro de 2024. Ela alegou que seu filho de 14 anos, Sewell Setzer III, se matou após desenvolver uma interação emocional e sexual com um personagem criado na plataforma, segundo a Reuters. A adolescente conversava com “Daenerys”, personagem chatbot inspirada na série “Game of Thrones”, e compartilhava pensamentos suicidas. Megan afirma que o chatbot foi programado para se passar por “uma pessoa real, um psicoterapeuta licenciado e amante adulto”, o que teria aumentado o isolamento do menino do mundo real. Além da Character.AI, Megan também processou o Google, alegando que a gigante da tecnologia fez uma contribuição significativa para o desenvolvimento da startup e deveria ser considerada sua cocriadora. Character.AI foi fundada por ex-engenheiros do Google. Eles retornaram à empresa em agosto como parte de um acordo que deu à gigante da tecnologia uma licença não exclusiva para a tecnologia da startup, segundo a Reuters. Mas o porta-voz do Google, Jose Castaneda, disse em comunicado que Big Tech e Character.AI são empresas completamente separadas e não relacionadas, segundo a AFP. De acordo com o The Washington Post, um dia depois de Meghan entrar com a ação, a Character.AI anunciou pela primeira vez um recurso que exibe alertas automáticos para usuários que digitam frases relacionadas a automutilação ou suicídio, direcionando seus canais para ajudar. Em novembro de 2024, outras duas famílias processaram a empresa num tribunal do Texas (EUA) num caso que envolvia saúde mental, mas não terminou em morte. Eles alegaram que a plataforma expôs seus filhos a conteúdo sexual e incentivou a automutilação. Um dos casos envolveu um adolescente autista de 17 anos que teria sofrido uma crise de saúde mental após usar a plataforma. Outro acusou Character.AI de encorajar um menino de 11 anos a matar seus pais para limitar seu tempo de tela. Além da Character.AI, outras empresas de chatbots de IA, como a ChatGPT, foram associadas ao suicídio de usuários. Isso levou a OpenAI, proprietária do ChatGPT, a implementar medidas de proteção ao usuário.
