Na Universidade de Stanford, dezenas de participantes travaram um longo bate-papo sobre os benefícios e também os riscos dos companheiros bots. “No final das contas, há muita concordância”, diz Sunny Liu, diretora do programa de pesquisa da Universidade de Stanford. Ela enfatizou o entusiasmo do grupo sobre “como podemos usar essas ferramentas para unir outras pessoas”.
segurança adolescente
Como os companheiros de IA podem impactar os jovens foi um tópico importante de discussão, com perspectivas de funcionários da Character.AI, uma empresa projetada para dramatização e popular entre adolescentes, e especialistas em saúde online para adolescentes. Laboratório Digital de Bem-Estar No Hospital Infantil de Boston.
O foco está em usuários mais jovens com vários pais Processe o criador do chatbotincluindo OpenAI e Character.AI, sobre as mortes de crianças que interagiram com bots. OpenAI adicionou os seguintes slates Novos recursos de segurança Como parte dessa resposta, temos como alvo os adolescentes. E na próxima semana, Character.AI planeja: Proibir usuários menores de 18 anos Você não poderá mais acessar os recursos de chat.
Ao longo de 2025, as empresas de IA reconheceram, explícita ou implicitamente, que mais pode ser feito para proteger os utilizadores vulneráveis, como as crianças, que podem interagir com companheiros. Um metadocumento interno que descreve as diretrizes comportamentais da IA afirma: “Envolver crianças em conversas românticas ou eróticas é aceitável”. Relatório da Reuters.
No alvoroço que se seguiu por parte dos legisladores e dos pais furiosos, Mehta As informações foram alteradas Informações da empresa atualizadas Iniciativas de segurança Para adolescentes.
chamada de dramatização
Character.AI participou do workshop, mas ninguém do site de RPG semelhante Replika ou do bot Grok de Elon Musk compareceu. Companheiro de anime NSFW,havia. Os porta-vozes da Replica e da Grok não responderam imediatamente aos pedidos de comentários.
Em uma posição completamente flagrante, surgiram os desenvolvedores do Candy.ai, especializado em chatbots picantes voltados para homens heterossexuais. Os usuários da plataforma somente para adultos construída pela EverAI podem pagar para ter imagens não censuradas de mulheres sintéticas com histórias de fundo que imitam tropos pornográficos comuns. Por exemplo, as companheiras de Candy listadas em sua página inicial incluem Mona, sua “meia-irmã rebelde” que está sozinha em casa, e a filha de sua amiga, Elodie, que “acabou de completar 18 anos”.
