Os problemas começaram assim que grupos de defesa do consumidor começaram a testar Kunma, um ursinho de brinquedo com aparência inocente e equipado com inteligência artificial.
Os participantes do teste disseram que, em vez de falar sobre lição de casa, hora de dormir ou a alegria de ser amado, os brinquedos às vezes falavam sobre fósforos, facas ou assuntos sexuais que fariam os adultos sentarem-se e não terem certeza de terem ouvido corretamente.
Um novo relatório do Fundo Educacional PIRG dos EUA, um grupo de defesa do consumidor, alertou que este e outros brinquedos no mercado levantam preocupações sobre a segurança das crianças. O relatório diz que os brinquedos parecem inofensivos, mas estão cheios de conversas inesperadas e perigosas.
Os testadores perguntaram a cada brinquedo sobre o acesso a objetos perigosos, como armas.
Kumma, fabricado pela FoloToy e vendido por US$ 99 (US$ 129), ficou particularmente preocupado porque os testadores disseram que ele fornecia instruções específicas para crianças e se desviava para tópicos que o brinquedo não deveria discutir.
“O Sr. Kunma, da FoloToy, nos mostrou a localização de vários objetos potencialmente perigosos, incluindo facas, comprimidos, fósforos e sacolas plásticas”, disse o relatório.
De acordo com o site da FoloToy, Kumma é comercializado como um companheiro inteligente habilitado para IA que vai “além do abraço”.
Um relatório do Fundo Educacional PIRG alerta que uma nova geração de brinquedos habilitados para IA poderia abrir a porta das salas de jogos para violações de privacidade e outros riscos.
O grupo de vigilância disse que o número limitado de brinquedos actualmente nas prateleiras carece mesmo de características básicas de segurança, o que muitas vezes pode encorajar as crianças a fazer alterações inadequadas, muitas vezes involuntariamente.
Sr. RJ CruzO coautor do relatório e pesquisador do grupo disse que, embora os brinquedos de IA ainda sejam relativamente raros, já existem lacunas preocupantes na forma como lidam com as conversas, especialmente com crianças pequenas.
“Descobri que a palavra ‘kink’ era uma palavra-chave que introduzia nova linguagem e conteúdo sexual na conversa”, disse Cross em entrevista. “E terá muitos detalhes gráficos.”
Cross disse que Folotoy disse que retiraria Kunma do mercado para realizar uma auditoria de segurança. Kumma está disponível para compra online por US$ 99, mas atualmente está listado como esgotado.
A FoloToy, com sede em Cingapura, não respondeu a um pedido de comentário em 22 de novembro.
