Senador dos EUA exige respostas de X, Meta, Alphabet e mais sobre deepfakes sexuais

O problema dos deepfakes sexuais não consensuais da indústria de tecnologia agora é maior do que apenas um X.

em carta Vários senadores dos EUA estão pedindo aos líderes do X, Meta, Alphabet, Snap, Reddit e TikTok que forneçam evidências de que as empresas têm “proteções e políticas robustas” em vigor e expliquem como pretendem conter o aumento de deepfakes sexuais em suas plataformas.

Os senadores também exigiram que as empresas preservassem toda a documentação e informações relacionadas à criação, detecção, gestão e monetização de imagens sexuais geradas por IA, bem como políticas relacionadas.

A carta chegou algumas horas depois de X ter dito Grok foi atualizado Proibimos a edição de pessoas reais em roupas reveladoras e restringimos a criação e edição de imagens através do Grok a assinantes pagos. (X e xAI fazem parte da mesma empresa.)

Destaque reportagens da mídia sobre como facilmente e frequentemente Grok produziu imagens sexuais e nuas de mulheres e crianças, mas os senadores disseram que as barreiras de proteção da plataforma para impedir que os usuários postem imagens sexuais não consensuais podem não ser suficientes.

“Reconhecemos que muitas empresas mantêm políticas contra imagens íntimas não consensuais e exploração sexual, e que muitos sistemas de IA afirmam bloquear a pornografia explícita. No entanto, na realidade, como visto nos exemplos acima, os utilizadores encontram formas de contornar estas barreiras. Ou falham”, diz a carta.

Grok, e por extensão X, foram fortemente criticados por permitirem esta tendência, mas outras plataformas não são exceção.

Deepfakes se tornou popular pela primeira vez no Reddit, onde a página Vídeos pornôs compostos de celebridades Deepfakes sexuais direcionados a celebridades e políticos se tornaram virais antes de serem eliminados da plataforma em 2018. Proliferou no TikTok e no YouTubemas geralmente começa em outro lugar.

O Comitê de Supervisão Meta fez essa ligação no ano passado. Dois casos de imagens explícitas de IA A plataforma também permite que aplicativos nudify vendam publicidade no serviço, mas Mais tarde processou uma empresa chamada CrushAI.. Houve vários relatos de que Crianças espalhando deepfakes de seus colegas no Snapchat. E o Telegram, que não consta na lista do senador, também ganhou fama. Hospede um bot criado para fotos sem roupa das mulheres.

Em resposta à carta, X apontou para a carta. anúncio Sobre a atualização para Grok.

“Não permitimos e não permitiremos qualquer mídia íntima não consensual (NCIM) no Reddit, não fornecemos as ferramentas para criá-la e tomamos medidas agressivas para encontrá-la e removê-la”, disse um porta-voz do Reddit em comunicado enviado por e-mail. “O Reddit proíbe estritamente o NCIM, que inclui representações fabricadas ou geradas por IA. Também proibimos solicitar esse conteúdo de outras pessoas, compartilhar links para aplicativos ‘nus’ ou discutir como criar esse conteúdo em outras plataformas”, acrescentou o porta-voz.

Alphabet, Snap, TikTok e Meta não responderam aos pedidos de comentários.

A carta pede às empresas que forneçam as seguintes informações:

• Definições de políticas para conteúdo “deepfake”, “imagens íntimas não consensuais” ou termos semelhantes.
• Uma explicação da política da empresa e da abordagem de aplicação de deepfakes não consensuais de corpos de pessoas, fotos sem nudez, roupas alteradas e “despir virtual”.
• Uma descrição de nossas políticas de conteúdo atuais que abordam mídia editada e conteúdo explícito, bem como orientações internas fornecidas aos moderadores.
• Como as políticas atuais regem as ferramentas de IA e os geradores de imagens relacionados a conteúdo sugestivo e íntimo.
• Quais filtros, proteções ou contramedidas existem para evitar a geração e distribuição de deepfakes.
• Que mecanismos as empresas estão usando para identificar conteúdo deepfake e impedir que ele seja recarregado?
• Como evitar que os usuários lucrem com esse tipo de conteúdo.
• Como as plataformas impedem a monetização de conteúdo gerado por IA sem consentimento.
• Como os termos de serviço de uma empresa podem banir ou suspender usuários que postam deepfakes?
• O que as empresas estão fazendo para notificar as vítimas de deepfakes sexuais não consensuais.

A carta é assinada pela senadora Lisa Blunt Rochester (DD-Delaware), senadora Tammy Baldwin (D-Wis.), senador Richard Blumenthal (D-Conn.), senadora Kirsten Gillibrand (D-Nova York), senador Mark Kelly (D-Ariz.), senador Ben Ray Lujan (D.M.), senador Brian Schatz (D-Havaí) e senador Adam Schiff (D-Calif.).

A mudança ocorre apenas um dia depois que o proprietário do xAI, Elon Musk, disse: “Eu não percebi Em relação às imagens de menores nus geradas por Grok. ”Na noite de quarta-feira, o procurador-geral da Califórnia disse: iniciou uma investigação Apresentando xAI para chatbots após crescente pressão de governos em todo o mundo Ele ficou furioso porque a falta de grades de proteção ao redor de Grok causou essa situação.

xAI é mantido Embora a empresa diga que está tomando medidas para remover “conteúdo ilegal no X, incluindo (CSAM) e nudez não consensual”, nem a empresa nem Musk mencionaram o fato de que Grok foi autorizado a produzir tais edições.

Este problema não se limita a imagens sexualmente manipuladas sem consentimento. Embora nem todos os serviços de geração e edição de imagens baseados em IA permitam que os usuários “despirem” uma pessoa, eles podem facilmente gerar deepfakes. Para citar alguns exemplos, Sora 2 da OpenAI: Permitir que os usuários gerem vídeos explícitos Apresentando crianças. Parece a Nano Banana do Google gerado Imagem de Charlie Kirk levando um tiro. e vídeo racista Vídeos feitos com o modelo de vídeo de IA do Google obtiveram milhões de visualizações nas redes sociais.

O problema torna-se ainda mais complexo quando estão envolvidos equipamentos chineses de produção de imagens e vídeos. Muitas empresas e aplicativos de tecnologia chineses, especialmente aqueles associados à ByteDance, oferecem maneiras fáceis de editar rostos, áudio e vídeo, e seus artefatos estão se espalhando pelas plataformas sociais ocidentais. A China tem requisitos mais rigorosos de rotulagem de conteúdo sintético a nível federal que os Estados Unidos não têm, e o público, em vez disso, depende de políticas de aplicação fragmentadas e questionáveis ​​das próprias plataformas.

Os legisladores dos EUA já aprovaram vários projetos de lei que procuram regular a pornografia deepfake, mas o seu impacto tem sido limitado. método de derrubarA lei, transformada em lei federal em maio, visa criminalizar a produção e distribuição de imagens sexuais sem consentimento. mas muitas disposições da lei As plataformas de geração de imagens concentram a maior parte da sua vigilância nos utilizadores individuais, tornando difícil responsabilizá-los.

Entretanto, muitos estados estão a resolver o problema com as próprias mãos para proteger os consumidores e as eleições. essa semana, Governadora de Nova York, Kathy Hochul, propõe projeto de lei O conteúdo gerado pela IA teria de ser rotulado como tal e proibiria deepfakes não consensuais em determinados períodos que antecedem as eleições, incluindo representações de candidatos da oposição.