IA de Elon Musk O chatbot Grok é sendo usado Inundação X milhares de Imagens sexuais de adultos minimamente vestidos e aparentes menores. Parece que parte deste conteúdo não viola apenas o conteúdo do próprio X políticaproíbe o compartilhamento de conteúdo ilegal, como material de abuso sexual infantil (CSAM), que também pode violar as diretrizes da App Store da Apple e da Google Play Store.
Tanto a Apple quanto o Google proíbem explicitamente aplicativos que contenham CSAM, cuja hospedagem e distribuição é ilegal em muitos países. A gigante da tecnologia também proíbe aplicativos que contenham material pornográfico ou promovam assédio. Loja de aplicativos da Apple dizer “Conteúdo abertamente sexual ou pornográfico” ou “conteúdo difamatório, discriminatório ou maldoso” não é permitido, especialmente se o aplicativo “puder humilhar, ameaçar ou prejudicar o indivíduo ou grupo visado”. Google Play Store proibir Aplicativos que “contêm ou promovem conteúdo relacionado a comportamento sexualmente predatório ou distribuem conteúdo sexual não consensual” e programas que “contêm ou promovem intimidação, assédio ou bullying”.
Nos últimos dois anos, a Apple e o Google removeram vários aplicativos de “nudificação” e geração de imagens de IA. investigação Descoberto pela BBC e 404 Media eles foram anunciados Ou usado para transformar efetivamente uma foto comum em uma imagem explícita de uma mulher sem o seu consentimento.
No entanto, no momento da publicação deste artigo, Aplicativo Grok independente Ele permanece disponível em ambas as lojas de aplicativos. Apple, Google e X não responderam aos pedidos de comentários. Grok é administrado pela xAI, startup multibilionária de inteligência artificial de Musk, que também não respondeu às perguntas da WIRED. em declaração pública Anunciado em 3 de janeiro, X anunciou que tomaria medidas contra conteúdo ilegal em sua plataforma, incluindo CSAM. “Aqueles que usam o Grok ou incentivam a criação de conteúdo ilegal sofrerão as mesmas consequências como se tivessem carregado conteúdo ilegal”, alertou a empresa.
Sloane Thompson, diretora de treinamento e educação da EndTAB, uma organização que ensina organizações como prevenir a disseminação de conteúdo sexual não consensual, disse que era “totalmente apropriado” que empresas como Apple e Google tomassem medidas contra X e Grok.
A quantidade de imagens explícitas não consensuais no X produzidas por Grok explodiu nas últimas duas semanas. um pesquisador Ele disse à Bloomberg que durante um período de 24 horas, de 5 a 6 de janeiro, Grok criou aproximadamente 6.700 imagens por hora que foram certificadas como “sexualmente sugestivas ou nuas”. Outro analista coletou mais de 15.000 URLs de imagens que Grok criou no X durante um período de duas horas em 31 de dezembro. WIRED.jp eu revisei Aproximadamente um terço das imagens apresentava mulheres vestindo roupas reveladoras. Mais de 2.500 foram marcados como indisponíveis em uma semana e cerca de 500 foram marcados como “conteúdo adulto com restrição de idade”.
No início desta semana, um porta-voz da Comissão Europeia, o órgão dirigente da União Europeia, disse: ser criticado publicamente Ele disse à Reuters que as imagens sexuais explícitas e não consensuais produzidas por Grok no X eram “ilegais” e “terríveis” e que tal conteúdo “não tem lugar na Europa”.
Na quinta-feira, a U.E. Eu pedi X Embora uma nova investigação formal ainda não tenha sido anunciada, decidiu prorrogar uma ordem preliminar de retenção e reter todos os documentos e dados internos relacionados com Grok até ao final de 2026, a fim de dar às autoridades acesso a materiais relacionados com o cumprimento da lei de serviços digitais da UE. autoridade reguladora outros paísesÍndia, incluindo o Reino Unido, e Malásia também disseram: eles são Pesquisando plataformas de mídia social.
