Character.AI oferece às crianças “histórias” interativas em vez de bate-papo ilimitado

Character.AI anunciou na terça-feira que lançará “.históriaO recurso vem em substituição ao chatbot da empresa, que a partir desta semana não estava mais acessível para usuários menores de 18 anos.

A mudança surge em resposta às preocupações crescentes sobre os riscos para a saúde mental dos chatbots de IA, que estão disponíveis 24 horas por dia, 7 dias por semana e podem iniciar conversas com os utilizadores. alguns ação judicial Ações judiciais foram movidas contra empresas como OpenAI e Character.AI por seu suposto envolvimento em suicídios de usuários. Character.AI tem eliminado gradualmente o acesso para menores no último mês e, a partir de terça-feira, usuários menores de idade não podem mais conversar com personagens de IA.

“O Stories oferece uma maneira guiada de criar e explorar ficção em vez de bate-papo gratuito”, disse a empresa em um blog. “Com outros recursos multimodais, os adolescentes podem continuar a interagir com seus personagens favoritos em um ambiente que prioriza a segurança.”

A ficção interativa é Popularidade crescente Portanto, o pivô do Character.AI faz sentido. No entanto, isso pode não ser suficiente para satisfazer usuários como: excessivamente dependente de Quando se trata de chatbots, há ainda mais razões pelas quais a decisão da Character.AI de restringir o acesso aos chatbots é justificável.

O subreddit Character.AI recebeu reações mistas. Nos seus comentários, alguns adolescentes disseram que estavam desapontados, mas que acabaram por pensar que era a coisa certa a fazer.

“Estou muito irritado com a proibição, mas também estou muito feliz porque agora posso fazer outras coisas e meu vício pode finalmente acabar”, escreveu uma usuária que se identificou como adolescente.

Outro disse: “Como alguém com menos de 18 anos, isso é realmente decepcionante. Mas não é surpresa que pessoas da minha idade gostem tanto disso”.

Resta saber como os adolescentes usarão o recurso de história, mas o formato não é tão psicologicamente questionável quanto o role-playing com um chatbot. Ao contrário dos Stories, os chatbots interagem diretamente com os usuários em conversas de formato livre e podem enviar mensagens sem aviso, mesmo quando os usuários não estão usando ativamente o aplicativo.

A decisão da Character.AI de impor restrições de idade ao acesso a chatbots ocorre num momento em que a Califórnia se tornou recentemente o primeiro estado a impor restrições de idade ao acesso a chatbots. regular Amigos da IA. Enquanto isso, os senadores Josh Hawley (R-Missouri) e Richard Blumenthal (D-Conn.) apresentou um projeto de lei nacional Isso proibiria completamente os companheiros de IA para menores.

“Realmente esperamos assumir a liderança e estabelecer um padrão da indústria de que o bate-papo aberto provavelmente não seja um caminho ou produto para menores de 18 anos”, disse Karandeep Anand, CEO da Character.AI. disse ao TechCrunch mês passado.