No início desta semana, o Gabinete do Procurador-Geral da Califórnia anunciou isso Em relação ao xAI a empresa disse que o chatbot da startup Grok foi usado Criação de imagens sexuais não consensuais de mulheres e menores. Na sexta-feira, o governo enviou uma carta de cessação à empresa, exigindo que ela parasse imediatamente de produzir CSAM, que contém imagens íntimas não consensuais e material de abuso sexual infantil.
“Hoje, enviei uma carta de cessação à xAI, exigindo que a empresa pare imediatamente de produzir e distribuir deepfakes, imagens íntimas não consensuais e material de abuso sexual infantil”, disse o AG da Califórnia, Rob Bonta. Comunicado de imprensa. “A produção deste material é ilegal. Espero que a xAI cumpra imediatamente. A Califórnia tem tolerância zero para (CSAM).”
O gabinete do Procurador-Geral afirmou ainda que a xAI parece estar a facilitar a “produção em grande escala” de nus não consensuais, que são “usados para assediar mulheres e raparigas na Internet”. A agência disse que espera que a xAI demonstre que está tomando medidas para resolver esses problemas nos próximos cinco dias.
No centro da reação está o recurso de modo “picante” de Grok, que xAI criou para gerar conteúdo explícito. Este problema se estende além da Califórnia. O Japão, o Canadá e o Reino Unido iniciaram investigações sobre Grok, enquanto a Malásia e a Indonésia iniciaram brevemente investigações. plataforma bloqueada absolutamente. Apesar do xAI ter algumas limitações em seus recursos de edição de imagens. final de quarta-feirao escritório do AG da Califórnia procedeu com uma carta de cessação e desistência.
condenado Em relação a este tipo de atividade do usuário, afirma: “Qualquer pessoa que use o Grok ou incentive a criação de conteúdo ilegal usando o Grok sofrerá as mesmas consequências como se tivesse carregado conteúdo ilegal”. Quando o TechCrunch entrou em contato com a xAI para comentar, recebeu um e-mail automático que dizia “mentiras da mídia legada”. TC também contatou o escritório da California AG para obter mais informações.
O surgimento de ferramentas generativas gratuitas de IA está causando alguns desenvolvimentos alarmantes. . Muitas plataformas, não apenas X, estão trabalhando nessa questão. Esta atividade covarde chamou a atenção dos líderes estaduais e também do Congresso. enviou uma carta Perguntamos a executivos de diversas empresas, incluindo X, Reddit, Snap, TikTok, Alphabet e Meta, como eles planejam impedir a disseminação de deepfakes sexuais.
