Clair, mãe de Elon Musk, processou a empresa de inteligência artificial de Musk, xAI, na quinta-feira, alegando que o gigante da IA foi negligente e causou sofrimento emocional ao ativar sua ferramenta de IA, Grok, para criar fotos falsas dela em poses sexualmente sugestivas. Limite consideravelmente esse comportamento Depois de sua reclamação.
caso vem mais tarde Semana de resposta crescente Contra a capacidade de Grok de criar deepfakes não consensuais, os usuários podem remover roupas de pessoas retratadas em fotos enviadas para o serviço, muitas vezes substituindo as roupas por biquínis ou roupas íntimas. Seu caso foi aberto no tribunal do estado de Nova York, mas foi rapidamente transferido para o Distrito Federal Sul de Nova York. Solicitação de xAI.
Clair foi notificado A xAI alegou que os usuários criaram fotos falsas ilegais dela “quando criança, vestida com um biquíni” e “como adulta em poses sexualmente explícitas” e solicitou que Grok impedisse o serviço de criar imagens questionáveis, diz o processo.
O processo alega que, embora Grok tenha garantido que “as imagens não seriam usadas ou modificadas sem consentimento expresso em qualquer geração ou resposta futura”, a xAI permitiu que os usuários criassem imagens dele mais explícitas geradas por IA e, em vez disso, retaliou encerrando sua conta X.
X e xAI não responderam imediatamente a um pedido de comentário. Quinta-feira xAI St. Caso Clair No tribunal federal do TexasDiz que violou os termos de serviço da xAI e exige mais de US$ 75.000 em danos. A xAI disse em seu processo que quaisquer reclamações contra a empresa devem ser apresentadas no tribunal federal no Distrito Norte do Texas ou no tribunal estadual no condado de Tarrant, Texas.
Na semana passada, X @Grok limitou a capacidade do bot de resposta, aparentemente impedindo-o de criar imagens que expõem de forma não consensual indivíduos identificáveis em trajes de banho ou roupas íntimas. como Tempo de relatórioEsses recursos permanecem intactos no aplicativo Grok independente e no site Grok, e na guia Grok dedicada do X.
Grok está criando uma enxurrada de imagens sexuais geradas por IA para a semanaNa semana passada, milhares de imagens chegaram a cada hora, Segundo pesquisadores. Muitas fotos são postadas publicamente no X.
Há criação e divulgação de imagens sexuais não consensuais Uma resposta mundialincluindo várias investigações governamentais e ligar para Mercado de aplicativos para smartphones X para proibir ou restringir. Os reguladores e outras empresas de tecnologia, no entanto, não conseguiram restringir o aplicativo.
O procurador-geral da Califórnia abriu na quarta-feira uma investigação sobre Groke, assim como o governador Gavin Newsom Postado em X que “a decisão da xAI de criar e hospedar um terreno fértil para professores espalharem deepfakes sexualizados questionáveis de IA, incluindo imagens que despem crianças digitalmente, é nojenta”.
Clair alega que o recurso do Grok permite aos usuários criar deepfakes não consensuais e que é uma falha de design e que a empresa poderia prever o uso do recurso para assediar pessoas com imagens ilegais.
Diz que as pessoas retratadas nos deepfakes, incluindo St. Clair, sofreram muito.
“O acusado se entregou a uma conduta extrema e ultrajante, além de todos os limites da decência e totalmente intolerável em uma sociedade civilizada”, afirmou o processo.
