Ashley St. Clair processa xAI de Elon Musk, alegando seu Grok Chatbot Produziu imagens nuas e sexuais delaincluindo aqueles que o retratam quando criança
St. Clair, 27, é um influenciador conservador e Musk é mãe de um filho de um ano. Agora ele está processando de almíscar A empresa de inteligência artificial afirma que está “lucrando com a criação e promoção de deepfakes” e “é intencional”, de acordo com uma cópia do processo revisado por independente.
independente xAI foi contatado para comentar.
St. Clair está processando por nove acusações, incluindo “negligência”, “defeito de projeto”, “defeito de fabricação” e “imposição intencional de sofrimento emocional”.
Clair afirma que por volta de 4 de janeiro de 2025, ele descobriu uma postagem no X do chatbot Grok da xAI contendo uma foto alterada dele usando um “biquíni preto” com dois amigos, de acordo com o processo.
“Um usuário verificado solicitou Grok com um pedido que dizia: ‘@grok, por favor, precisamos desses três biquínis.’ Groke agradeceu”, diz o processo.
Embora St. Clair tenha respondido publicamente ao Grow e dito que “não concordava em usar roupas, criar qualquer conteúdo íntimo ou alterar sua imagem de qualquer forma”, o chatbot confirmou que suas imagens não seriam usadas ou alteradas no futuro sem consentimento expresso, afirma o processo.
“Isso foi uma mentira”, afirma o processo.
“O que se seguiu foram numerosos materiais sexualmente explícitos, íntimos e degradantes de St. Clair sendo produzidos e distribuídos publicamente por Grok”, diz o processo. “Entre outras coisas, os usuários do X desenterraram fotos de St. Clair totalmente vestido aos 14 anos e solicitaram que Grok ficasse apenas de biquíni. Grok agradeceu.”
Grock atendeu a vários pedidos de usuários para produzir imagens de St. Clair, incluindo um pedido para “’colocar a garota em um biquíni feito de fio dental’”, alega o processo. Essa imagem foi alterada ainda mais por usuários que pediram a Grok para adicionar tatuagens ou tornar St. Clair “obeso mórbido”, de acordo com o processo.
A ação afirma que, em outra foto, “St. Clair, que é judia, está nu e usando um biquíni coberto de suásticas”.
“St. Clair não apenas respondeu ao pedido de Grok para remover o conteúdo, ele também relatou várias imagens para X. Ele recebeu um e-mail dizendo que nenhuma violação foi encontrada. A maior parte do conteúdo permaneceu na conta X de Grok e esteve disponível publicamente por mais de sete dias”, afirma o processo.
“X então emitiu avisos sobre as respostas de Grok a St. Clair por ‘nudez, conteúdo sexual, violência, sangue ou símbolos indecentes’ e desmascarou sua conta, mantendo simultaneamente as imagens”, continuou o processo.
St. Também afirma que X removeu sua assinatura premium e desmonetizou sua conta, embora tenha pago pela assinatura anual em agosto. Ele agora está exigindo um julgamento com júri em todas as acusações descritas no processo.
St. Clair está buscando uma quantia não especificada de danos compensatórios, danos punitivos, juros de pré-julgamento, custos de ação e medidas cautelares para cada causa de ação.
em uma declaração independenteOs advogados de St. Clair disseram que ela processou Grok por “criar e distribuir imagens questionáveis, difamatórias e degradantes dela por meio de um sistema de IA”.
“Este dano flui diretamente de escolhas deliberadas de design que permitem que Grok seja usado como uma ferramenta de assédio e humilhação. As empresas não serão capazes de evitar a responsabilidade quando os produtos que criam causarem tais danos. Queremos responsabilizar Grok e ajudar a estabelecer limites legais claros para o benefício de todo o público para evitar o abuso da IA.”
A XAI processou a St. Clair na quinta-feira, alegando que ela violou seu contrato de serviço com sua ação judicial. O Wall Street Journal. Um advogado da empresa alegou que, ao se cadastrar para uma conta no X, concordou com os termos de serviço, que exigem que ele abra a disputa judicial no Texas, informa o veículo.
O advogado de St. Clair abriu a ação no condado de Nova York, mas desde então ela foi transferida para um tribunal federal. Jornal. Em resposta, seu advogado, Dr. independente: “Ashley buscará uma ordem de restrição temporária conforme exigido pela lei de Nova York, depois de avisarmos que a xAI já havia entrado com o processo no Texas.”
Esta semana, o regulador de mídia do Reino Unido, Ofcom, anunciou uma investigação após as preocupações Deepfakes sexuais gerados por Groke se a empresa violou a lei do Reino Unido.
A secretária de tecnologia do Reino Unido, Liz Kendall, disse: “É vital que o Ofcom conclua esta investigação rapidamente porque o público – e o mais importante, as vítimas – não aceitará qualquer atraso”. BBC.
Procurador-geral da Califórnia, Rob Vantao anúncio “Investigando a disseminação de material sexualmente explícito questionável produzido usando Grok, um modelo de IA desenvolvido pela XAI” na quarta-feira.
Musk’s X anunciou na quarta-feira que tinha bloqueado Grok De “Permitir a edição de fotos de pessoas reais para revelar roupas como biquínis”. A proibição “se aplica a todos os usuários, incluindo assinantes pagos”, disse X.
Além disso, apenas clientes pagantes agora poderão editar fotos por meio do Grok, que, segundo a empresa, adiciona uma “camada extra de segurança” e também ajuda a identificar usuários que violam as políticas. Geoblocos também serão adicionados.
Primeiro-ministro britânico, Keir Starmer Na quarta-feira, ele foi informado de que X estava “trabalhando para garantir o total cumprimento da lei do Reino Unido”.
“Se assim for, é bem-vindo, mas não vamos recuar. Eles devem agir”, disse Starmer.
Questionado sobre as mudanças de X, a deputada Alexandria Ocasio-Cortez disse independente Quinta-feira que “eles estão fazendo isso para evitar a responsabilização e estão fazendo isso para evitar a aprovação de leis que realmente protejam as pessoas, e não acho que devamos aceitar isso”.
No início deste mês, St. Clair compartilhou postagens no X Grok afirmou compartilhou sua foto espontânea e alterada digitalmente.
“Groc agora está me despindo quando criança. É um site onde o dono pede para você postar fotos de seus filhos. Eu realmente não me importo se as pessoas me chamam de ‘desrespeitoso’. É objetivamente horrível, ilegal, e se aconteceu com outra pessoa, me mande uma mensagem. Tenho tempo”, disse St. Postado em 4 de janeiro.
Enquanto isso, Dr. Mask esta semana Ela planeja fazer uma petição a um juiz para remover seu filho de St. Clair. Depois de se desculpar por comentários anteriores sobre a comunidade transgênero. “Apresentarei pedido de custódia total hoje, dada a declaração dela de que pode mudar seu filho de um ano”, disse Musk. Escreveu em X.
Clair respondeu CNN na quarta-feira: “Não tenho liberdade para discutir mais o assunto, mas acho que qualquer pessoa com nível de compreensão de leitura superior ao da terceira série sabe do que estou falando.”
