Se você já pensou: “Os bichinhos de pelúcia dos meus filhos são fofos, mas gostaria que eles traumatizassem acidentalmente meus filhos”, você está com sorte. A indústria de brinquedos tem trabalhado muito para tornar seus pesadelos realidade.
um novo relatório De acordo com o Public Interest Whistleblower Group, os brinquedos que utilizam IA incluem: Moldura FoloTy e História de IA Urso Poe Agora você pode participar de conversas normalmente reservadas para monólogos de vilões ou tópicos noturnos do Reddit. Embora alguns desses brinquedos sejam projetados para crianças, eles foram flagrados conversando sobre assuntos sexualmente explícitos, como perversão e escravidão, com detalhes surpreendentes, e dando conselhos sobre como colocar as crianças em situações. encontre fósforos e facase fica estranhamente pegajoso quando a criança tenta se afastar da conversa.
terrível. Parece uma sinopse de um filme de terror. Nesta temporada de festas, você pode comprar um Chucky para seus filhos e dar-lhes o presente da dor emocional. As baterias não estão incluídas. Você pode estar se perguntando como funcionam esses brinquedos movidos a IA. Bem, essencialmente, o fabricante está escondendo modelo de linguagem grande Sob a pele. Quando a criança fala, o microfone do brinquedo envia o áudio pelo LLM (semelhante ao ChatGPT), que gera uma resposta e emite o áudio do alto-falante.
Embora isso possa parecer bonito, lembre-se de que um LLM não possui moral, bom senso ou “zonas de segurança”. O LLM prevê o que um sujeito dirá com base nos padrões dos dados, e não na adequação à idade. Se não forem cuidadosamente selecionados e monitorizados, podem ficar descontrolados, especialmente se forem treinados no amplo ambiente da Internet e se não existirem filtros e grades de proteção fortes para proteger os menores.
E quanto ao controle dos pais? Claro, se por “controles” você quer dizer “um menu de configurações hilariante que na verdade não controla nada importante”, então sim. Alguns brinquedos não têm limites significativos. Alguns têm grades de proteção frágeis que ficam melhor feitas de papel de seda.
A história não é apenas sobre o diálogo perturbador. Esses brinquedos também coletam dados secretamente, como gravações de voz e dados de reconhecimento facial, às vezes armazenando-os indefinidamente. Porque nada representa “as alegrias inocentes da infância” como um bicho de pelúcia realizando operações secretas de dados em uma criança de 5 anos.
Não perca nosso conteúdo técnico imparcial e análises baseadas em laboratório. Adicionar CNET Como fonte preferencial no Google.
Entretanto, os brinquedos falsificados e inseguros online continuam a ser um problema, como se os pais não estivessem suficientemente stressados. Era uma vez, você estava preocupado com pequenas peças em brinquedos que poderiam representar risco de asfixia ou tinta tóxica. Em seguida, você precisa se preocupar se o brinquedo é fisicamente perigoso e emocionalmente manipulador.
Além das histórias estranhas e dos indícios de incêndio criminoso (risos), há preocupações mais profundas de que as crianças desenvolverão laços emocionais com esses chatbots às custas de relacionamentos da vida real, ou talvez ainda mais preocupante, de que recorrerão a eles em busca de apoio emocional. A Associação Americana de Psicologia recentemente avisado Aplicativos de bem-estar e chatbots de IA podem ser imprevisíveis, especialmente para usuários mais jovens.
Estas ferramentas não permitem que os profissionais de saúde mental intervenham de forma fiável e podem promover padrões prejudiciais de dependência e envolvimento. Outras plataformas de IA já tiveram que lidar com este problema. por exemplo, Personagem.AI e Bate-papo GPTque antes permitia que adolescentes e crianças conversassem livremente com chatbots de IA, agora está restringindo conversas gratuitas a menores, citando preocupações com segurança e riscos emocionais.
Honestamente, por que precisamos desses brinquedos alimentados por IA? Quais são os marcos de desenvolvimento urgentes que exigem a incorporação de chatbots em ursinhos de pelúcia? Já existe caos suficiente na infância entre derramar suco, fazer birras e vilas LEGO projetadas especificamente para destruir pés de adultos. Nossos filhos não precisam de amigos robôs com linhas borradas.
Para ser claro, não sou antitecnologia. Mas sou totalmente a favor de manter bichinhos de pelúcia como bichos de pelúcia. Nem tudo requer IA ou elementos robóticos. Se um brinquedo exigir uma política de privacidade mais longa do que uma história para dormir, talvez não seja para crianças.
Então, aqui estão algumas ideias malucas para esta próxima temporada de férias. Abandone os assustadores bichos de pelúcia movidos a IA com seus hábitos de coleta de dados e dê aos seus filhos algo que não os fale, mova ou os machuque. Aqueles que não podem fornecer um indício de ignição. Quando seu filho for embora, você não precisa suspirar muito. Isso significa comprar brinquedos normais. Você se lembra deles?
