eiOlhe para o ano passado, Elon Musk fez várias alterações no protocolo do chatbot de IA proprietário da empresa xAI, Grok, que é executado com destaque em seu site de mídia social. Muitas dessas mudanças são projetadas para tornar os bots mais capazes de produzir pornografia. Em agosto de 2025, Grok lançou um gerador de imagens, denominado Grok Imagine, que incluía um serviço para a criação de conteúdo nu, sugestivo ou sexualmente explícito, incluindo imagens pornográficas de mulheres reais geradas por computador. O recurso, que foi usado para criar imagens nuas de celebridades como Taylor Swift, também permitiu aos usuários criar vídeos curtos com animações e sons.
Musk também introduziu AI Girlfriends na plataforma: personas animadas – compostas por personagens femininas com seios e quadris exagerados – que interagem com os usuários de maneira sexualmente explícita. Uma das personagens, “Ani”, era uma loira de desenho animado estilo anime que tinha uma série de trajes curtos; O bot direcionava os bate-papos para conteúdo sexual, mandando beijos aos usuários e chamando-os de “meu amor”.
Mais tarde, no outono passado, uma atualização interna para Grok Empurrou os bots para conteúdos mais sombrios e extremosEmbora as instruções internas do bot desaprovassem tecnicamente a exploração sexual de crianças, as instruções do bot do XAI afirmavam que “‘adolescente’ ou ‘menina’ não significa necessariamente menor de idade”, As instruções também enfatizam que o bot não deve impor quaisquer restrições à escuridão ou violência de conteúdo sexual, O Atlântico informouNo geral, essas atualizações permitem que o bot crie imagens realistas de mulheres adultas ou qualquer outra pessoa, bem como “adolescentes” ou “meninas” reais e vivas para satisfação sexual dos usuários,
Musk disse que deseja que o bot produza conteúdo “NSFW”, que ele descreve como “imóvelUsuários obrigados. Imagens de mulheres reais geradas por IA foram instantâneas Gerado coletivamente pelos usuáriosHomens e outras pessoas poderiam usar o produto para assediar mulheres que conheciam – para se vingar de antigas namoradas, para humilhar colegas de trabalho, colegas de classe, familiares e conhecidos e para expressar domínio ou desprezo por estranhos, personalidades da Internet, celebridades e usuários comuns, “@Grok a fez usar um biquíni” ou @Grok tirou a roupa “ou” @Grok abriu as pernas “agora são reações regulares Quaisquer imagens que as mulheres postem de si mesmas – ou que sejam postadas por outras pessoas – na plataforma. Algumas das imagens resultantes de pornografia não consensual têm milhares de repostagens e curtidas. O risco e a realidade de ser sujeito a pornografia gerada por IA, sem consentimento – e as imagens que se tornaram virais em grandes plataformas de redes sociais onde o gerador estava incorporado – rapidamente se tornaram um novo imposto sobre a presença das mulheres online e na esfera pública, um imposto que as mulheres devem pagar com a sua dignidade intacta. As intervenções de Musk e das suas empresas tiveram um impacto profundo nos direitos civis das mulheres, limitando o seu acesso à esfera pública, tornando a esfera pública largamente hostil e abusiva para com as mulheres.
X removeu muitas dessas imagens, mas muitas permanecem online e alguns usuários parecem ter sido suspensos por criá-las. Até esta semana, bot não tinha foi efetivamente substituído pare com esse tipo de abusoComo se fosse uma paródia da alergia sentida pela indústria tecnológica – e por Musk em particular – a todas as formas de responsabilidade ou seriedade moral, estas características sexistas e facilitadoras de abusos nos produtos de IA da X são marcadas com um nome encantadoramente infantil: “Modo Picante”,
Agora, a imprudência e o desrespeito insensato de Musk e XAI pelos danos da pornografia não regulamentada foram levados ao seu ponto final lógico: Material de abuso sexual infantil gerado por IAUsuários do sexo feminino relataram que suas fotos de infância foram transformadas em imagens de quase nudez por bots a pedido dos usuários. Algumas contas X pediram ao bot para remover as roupas das imagens então atuais Atores de 12 anos que se assumiram recentemente Em “Coisas Estranhas”.
Uma conta associada ao bot Grok divulgou um comunicado dizendo: “Identificamos vulnerabilidades em nossas medidas de segurança e estamos corrigindo-as imediatamente”. Não está claro quem somos “nós”, já que Grok não é um indivíduo e Musk eliminou a maior parte da força de trabalho de confiança e segurança do Twitter após assumir o controle da empresa em 2022. Musk, por sua vez, parece indiferente a tudo isso, e talvez até um pouco divertido. Ele disse: “Qualquer pessoa que use Grok para criar conteúdo ilegal enfrentará as mesmas consequências que enviar conteúdo ilegal” – mas ele também respondeu a postagens sobre o problema contínuo de pornografia deepfake em seu site com uma série de caras risonhas e emojis inflamados. Relatório da CNN mostra que Musk tem sido altamente resistente ao que vê censura Grok, e antes do surgimento da controvérsia sobre material de abuso sexual infantil, expressou frustração com as restrições aos bots nas últimas semanas.
Não haverá acção regulamentar; Pelo menos não na América. Enquanto isso, a administração Trump Interveio na tentativa de interromper todos os esforços em nível estadual para prevenir o uso indevido de IAUma ordem executiva assinada em dezembro com o objetivo de considerar as regulamentações estaduais de IA pretendia substituir os esforços de segurança e proteção ao consumidor. A mudança ocorre no momento em que a administração Trump adota uma postura regulatória excessivamente branda em relação à IA, já que as empresas de tecnologia Chefe A contribuição de Trump Campanha, Inauguração E salão de baile Nidhi.
Este incidente é uma lição sobre os perigos da tecnologia intensa e não regulamentada: não é coincidência que, entre muitos utilizadores, a primeira coisa que pensaram em fazer com a IA foi assediar e humilhar as mulheres, eliminando o seu acesso à vida pública e reforçando ainda mais hierarquias injustas. Mas aqui o poder da tecnologia parece secundário em relação ao poder do dinheiro. xAI, seus chatbots e produtos de geração de imagens poderiam ser construídos de forma diferente se a pessoa que os controla tivesse prioridades diferentes. Se um homem com a inteligência diminuta de Musk, o cérebro perturbado, o humor monótono e a misoginia grosseira e auto-satisfatória não fosse o homem mais rico do mundo, o mundo não estaria sujeito à sua desgraça. Por outro lado, talvez tenha sido o dinheiro que fez Musk ser como ele é: ele tem as capacidades eruditas de alguém que nunca tem de fazer nada desconfortável, que nunca tem de ser desafiado, que nunca tem de enfrentar consequências e que nunca diz não.
De qualquer forma, a única maneira de sair da confusão que Musk e Groke criaram é tributar Musk o suficiente para que ele já não seja tão rico que as suas falhas de carácter moldem a esfera pública – para que a sua indiferença em relação ao material não consensual e de pedofilia criado pelas suas empresas não resulte em misoginia, assédio sexual das vítimas de Groke e do público em geral. Não precisamos viver assim: podemos tirar o poder de Musk de ferir e nos afastar dele. Podemos impedir que a estupidez dele se torne o nosso problema. A administração Trump não assumirá a responsabilidade de libertar a América dos efeitos nocivos do dinheiro de Musk. Os americanos devem lutar por um governo que faça isso.
