Comissão Federal de Comércio Começamos a pesquisar sete chatbots da IA, incluindo alfabetos, meta e openai, e os estamos usando para uso como companheiros. As consultas incluem encontrar como as empresas testam, monitoram e medem Danos potenciais para crianças e adolescentes.
Mídia de senso comum investigação Dos 1.060 adolescentes em abril e maio, mais de 70% deles usam companheiros de IA. Mais de 50% usaram de forma consistente – Mais de algumas vezes por mês.
Os especialistas estão alertando há algum tempo que a exposição aos chatbots pode ser prejudicial aos jovens. O estudo revelou que chatgpt Forneceu conselhos ruins para os adolescentesComo esconder distúrbios alimentares e personalizar notas suicidas. Em alguns casos, existem chatbots Ignorou o comentário Deveria ter sido percebido como uma preocupação pulando comentários para continuar a conversa anterior. Os psicólogos estão buscando guardrails para proteger os jovens, como um lembrete no bate -papo de que os chatbots não são humanos e que os educadores precisam priorizar a alfabetização da IA nas escolas.
Mas não é apenas para crianças e adolescentes. Existem muitos adultos que experimentaram consequências negativas de Depende de chatbots – Procurando fatos e fontes confiáveis para namoro, conselhos ou seu mecanismo de busca pessoal. Frequentemente chatbots Diga -me o que você quer ouvirpode entender uma mentira. E siga cegamente as instruções do chatbot O que é certo.
“À medida que as tecnologias de IA evoluem, é importante considerar o impacto que os chatbots têm nas crianças”, disse o presidente da FTC, Andrew N. Ferguson, em comunicado. “A pesquisa que estamos lançando hoje nos ajudará a entender melhor como as empresas de IA estão desenvolvendo seus produtos e as etapas que estão tomando para proteger seus filhos”.
um Personagem.ai O porta -voz disse à CNET que há um aviso notável que todos os bate -papos devem ser tratados como ficção.
“No ano passado, implantamos muitos recursos de segurança substanciais, incluindo novas experiências com menos de 18 anos e insight dos pais”, disse o porta-voz.
A empresa por trás da Rede Social do Snapchat disse que também tomou medidas para reduzir o risco. “Desde a apresentação da minha IA, o SNAP alavancou processos estritas de segurança e privacidade para criar um produto que não seja apenas benéfico para a comunidade, mas é transparente e claro sobre suas capacidades e limitações”, disse o porta -voz.
A Meta se recusou a comentar, e nem a FTC nem as quatro empresas restantes responderam imediatamente aos pedidos de comentários.
Está disponível na FTC Pedidos emitidos Ele também pede que sete empresas sejam contatadas até 25 de setembro sobre o tempo e o formato das submissões. As empresas sob investigação incluem o maior fabricante mundial de chatbots de IA e as redes sociais populares que incorporam IA generativa.
- Alphabet (empresa -mãe do Google)
- Tecnologia de personagens
- Instagram;
- Meta plataforma;
- Openai;
- foto
- x.ai.
Desde a segunda metade do ano passado, algumas dessas empresas atualizaram ou aprimoraram suas capacidades de proteção para os jovens. Chariture.ai começou Limitações impostas Como os chatbots podem responder a pessoas com menos de 17 anos e adicionar controle dos pais. O Instagram o apresentou Conta adolescente No ano passado, recentemente mudamos para a Meta para todos os usuários com menos de 17 anos. Estabeleça limites para os sujeitos Os adolescentes podem ter chatbots.
A FTC está buscando informações de sete empresas.
- Monetize o envolvimento do usuário
- Processa a entrada do usuário e gera saída em resposta às consultas do usuário
- Desenvolver e aprovar personagens
- Medir, testar e monitorar efeitos negativos antes e após a implantação
- Mitigar os efeitos negativos, especialmente em crianças
- Adote divulgações, publicidade e outras expressões para informar usuários e pais sobre suas funções, recursos, públicos -alvo, impactos negativos potenciais e práticas de coleta e manuseio de dados.
- Monitore e aplique a conformidade com as regras da empresa e os termos de serviço (por exemplo, diretrizes da comunidade e restrições de idade).
- Use ou compartilhe informações pessoais obtidas através de conversas do usuário com chatbots
