A mãe de um dos filhos de Elon Musk está processando sua empresa – alegando que imagens explícitas foram geradas por sua ferramenta Grok AI, incluindo uma de suas menores de idade.
Ashley St. entrou com uma ação judicial O caso da Suprema Corte do Estado de Nova York contra XAI alegou que Grok, que é usado na plataforma de mídia social X, havia prometido parar de gerar imagens explícitas, mas continuou a fazê-lo.
Ela está buscando indenizações punitivas e compensatórias, alegando que dezenas de imagens falsas sexualmente explícitas e humilhantes foram criadas por Grok.
Após duas semanas de protestos públicos sobre o uso deste dispositivo Crie imagens eróticas de mulheres e criançasA empresa disse na quarta-feira que iria “bloquear geograficamente” a capacidade dos usuários de gerar imagens de pessoas reais em biquínis, roupas íntimas e trajes semelhantes por meio de contas Grok e Grok em X em países onde isso era ilegal.
St. Clair, 27, afastado de Musk, é um influenciador, autor e comentarista político de direita. Ela e Musk são pais de um filho nascido em 2024.
Ela está sendo representada pela advogada de direitos das vítimas, Carrie Goldberg, especializada em responsabilizar empresas de tecnologia e já representou mulheres vítimas de assédio e abuso sexual.
Goldberg disse ao Guardian: “O x.
“Este dano resultou diretamente de escolhas deliberadas de design que permitiram que Grok fosse usado como uma ferramenta de assédio e humilhação. As empresas não deveriam ser capazes de evitar a responsabilidade quando os produtos que fabricam causam tais danos. Pretendemos ajudar a responsabilizar Grok e estabelecer limites legais claros para o benefício de todo o público, para evitar que a IA se torne uma arma de abuso.”
O processo alega que a empresa de mídia social “retaliou contra ela, fechando seu
De acordo com o processo, uma das imagens criadas por Grok incluía uma menina de 14 anos posando de biquíni e St. Clair adulta posando para material sexualmente explícito, incluindo um pedido para “colocar a menina em um biquíni feito de fio dental”.
O processo afirma que não só as imagens eram realmente não consensuais, mas “Grok e XAI também tinham o conhecimento expresso de que St. Clair não estava consentindo com a criação ou divulgação dessas imagens” devido ao pedido de remoção.
Grok também respondeu aos pedidos dos usuários para adicionar tatuagens ao corpo de St. Clair – incluindo as palavras “Prostituta de Elon”, disse o processo.
St. Clair, que é judia, alega que Groke a fez digitalmente usar um biquíni estampado com suásticas.
O processo afirma que X “se beneficiou financeiramente da criação e disseminação de conteúdo deepfake erótico, não consensual e realista, retratando os demandantes como menores e adultos”.
“xAI é diretamente responsável pelas imagens explícitas e de assédio criadas por seu próprio chatbot, Grok”, afirma o documento.
Musk postou no X que os usuários de seu aplicativo são responsáveis pelas imagens que criam. Ele disse recentemente: “Qualquer pessoa que use o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que aqueles que enviam conteúdo ilegal”.
Ele acrescentou: “Obviamente, o Grok não gera imagens automaticamente, apenas o faz de acordo com as solicitações do usuário”.
एक्स ने गुरुवार को कहा कि इसमें “किसी भी प्रकार के बाल यौन शोषण, गैर-सहमति वाली नग्नता और अवांछित यौन सामग्री के प्रति शून्य सहनशीलता है”।
A empresa entrou com um pedido reconvencional alegando que, de acordo com os termos de serviço de X, a St. Clair não pode processar a empresa em Nova York, mas deve fazê-lo no Texas.
St. disse anteriormente ao Guardian Ela se sentiu “intimidada e humilhada”, acrescentando: “Esta é outra ferramenta de opressão. O consentimento é o ponto principal”.
Ele disse que os acólitos de Musk não gostavam dele desde que ele falou publicamente sobre seu desejo de criar uma “legião” de crianças. De quem é o pai de Musk? 13 outras criançasCom outras três mulheres.
X foi contatado para comentar.
