Elon MuskO Chatbot Grok postou na sexta-feira que um lapso nas medidas de segurança levou a “imagens retratando menores com roupas mínimas” na plataforma de mídia social X. chatbotUm produto da empresa xAI de Musk tem gerado uma onda de imagens eróticas ao longo da semana em resposta às solicitações dos usuários.
Capturas de tela compartilhadas pelos usuários x A aba de mídia pública de Grok parecia estar repleta dessas imagens. A XAI disse que está a trabalhar na melhoria dos seus sistemas para prevenir futuros incidentes.
“Há casos isolados em que os usuários solicitaram e receberam imagens de IA representando menores com roupas mínimas”, disse Grok em comunicado. Publicar Em resposta a um usuário em “XAI possui medidas de segurança em vigor, mas melhorias estão em andamento para evitar completamente tais solicitações.”
“Conforme observado, identificamos vulnerabilidades nas medidas de segurança e estamos corrigindo-as imediatamente – o CSAM é ilegal e proibido”, XAI Postado Na conta @Grok no X, referindo-se a material de abuso sexual infantil.
Vários usuários de Musk apontaram para essa tendência na quinta-feira, postando novamente uma foto de IA dele mesmo de biquíni, legendada com emojis chorando e rindo.
De acordo com as postagens do chatbot, a geração de imagens sexualmente explícitas de Grok parece não ter grades de segurança, permitindo que menores sejam retratados em postagens de pessoas, geralmente mulheres, vestindo roupas minúsculas. Em resposta a um usuário em
Quando contatado por e-mail para comentar, o xAI respondeu com a mensagem: “Mentiras da mídia legada”.
O uso de IA para gerar material de abuso sexual infantil é um problema antigo inteligência artificial Indústria. Estudo de Stanford de 2023 encontrado Um conjunto de dados usado para treinar várias ferramentas populares de geração de imagens de IA contém mais de 1.000 imagens CSAM. Especialistas dizem que treinar IA em imagens de abuso infantil pode permitir que modelos gerem novas imagens de crianças sendo exploradas.
Grok também tem um histórico de falha em manter suas proteções de segurança e de postar informações falsas. Em maio do ano passado, Grok começou a postar sobre Conspiração de extrema direita de “genocídio branco” Na África do Sul, em postagens que nada têm a ver com o conceito. xAI também se desculpou em julho depois que Grok começou a postar fantasias de estupro material anti-semitaEnvolvido Chamando a si mesmo de “MechaHitler” E elogiando a ideologia nazista. Ainda a empresa Seguro Um contrato no valor de aproximadamente US$ 200 milhões foi assinado com o Departamento de Defesa dos EUA uma semana após os acontecimentos.
