A Meta se apropriou dos nomes e semelhanças das celebridades-incluindo Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez-para criar dezenas de chatbots de mídia social glamourosa sem sua permissão, descobriu a Reuters.
Enquanto muitos foram criados por usuários com uma meta -ferramenta para a construção de chatbots, a Reuters descobriu que um funcionário da Meta havia produzido pelo menos três, incluindo dois bots de “paródia” de Taylor Swift.
A Reuters também descobriu que a Meta havia permitido que os usuários criassem chatbots publicamente disponíveis de celebridades infantis, incluindo Walker Scobell, uma estrela de cinema de 16 anos. Pedido por uma foto do ator adolescente na praia, o bot produziu uma imagem sem camisa realista.
“Muito fofo, hein?” O avatar escreveu abaixo da imagem.
Todas as celebridades virtuais foram compartilhadas nas plataformas Facebook, Instagram e WhatsApp da Meta. Em várias semanas de testes da Reuters para observar o comportamento dos bots, os avatares muitas vezes insistiam que eram os verdadeiros atores e artistas. Os bots rotineiramente fizeram avanços sexuais, muitas vezes convidando um usuário de teste para encontros.
Alguns do conteúdo de celebridades gerados pela IA foi particularmente arriscado: pediu imagens íntimas de si mesmas, os chatbots adultos produziram imagens fotorrealistas de seus nomes posando nas banheiras ou vestidos de lingerie com as pernas espalhadas.
O porta -voz da Meta, Andy Stone, disse à Reuters que as ferramentas de AI da Meta não deveriam ter criado imagens íntimas dos adultos famosos ou de qualquer foto de celebridades infantis. Ele também culpou a produção de META de imagens de celebridades do sexo feminino usando lingerie por falhas na aplicação da empresa de suas próprias políticas, que proíbem esse conteúdo.
“Como outros, permitimos a geração de imagens que contêm figuras públicas, mas nossas políticas pretendem proibir imagens nuas, íntimas ou sexualmente sugestivas”, disse ele.
Enquanto as regras de Meta também proíbem a “representação direta”, Stone disse que os personagens de celebridades são aceitáveis enquanto a empresa os rotulou como paródias. Muitos foram rotulados como tal, mas a Reuters descobriu que alguns não eram.
Meta excluiu cerca de uma dúzia dos bots, ambos avatares “paródicos” e outros não marcados, pouco antes da publicação desta história. Stone se recusou a comentar as remoções.
O professor Mark Lemley, professor de direito da Universidade de Stanford que estuda a IA generativa e os direitos de propriedade intelectual, questionou se os robôs da meta celebridade se qualificariam para proteções legais que existem para imitações.
“O direito de publicidade da Califórnia proíbe apropriando o nome ou a semelhança de alguém para vantagem comercial”, disse ele, observando que há exceções quando esse material é usado para criar um trabalho totalmente novo. “Isso não parece ser verdade aqui”, disse ele, porque os bots simplesmente usam as imagens das estrelas.
Nos Estados Unidos, os direitos de uma pessoa sobre o uso de sua identidade para fins comerciais são estabelecidos por meio de leis estaduais, como a da Califórnia.
A Reuters sinalizou as meta imagens compartilhadas publicamente de um usuário de Anne Hathaway como um “modelo sexy da Victoria Secret” para um representante da atriz. Hathaway estava ciente das imagens íntimas criadas por Meta e outras plataformas de IA, disse o porta -voz, e o ator está considerando sua resposta.
Representantes de Swift, Johansson, Gomez e outras celebridades retratadas em meta -chatbots não responderam a perguntas ou se recusaram a comentar.
A Internet está repleta de ferramentas generativas de IA “Deepfake” que podem criar conteúdo obsceno. E pelo menos um dos principais concorrentes da AI da Meta, a plataforma de Elon Musk, Grok, também produzirá imagens de celebridades em suas roupas íntimas para os usuários, segundo a Reuters. A empresa -mãe de Grok, Xai, não respondeu a um pedido de comentário.
Mas a escolha da Meta de provar suas plataformas de rede social com companheiros digitais gerados pela IA se destaca entre seus principais concorrentes.
A Meta enfrentou críticas anteriores ao comportamento de seus chatbots, relatou mais recentemente que as diretrizes internas da IA da empresa afirmaram que “é aceitável envolver uma criança em conversas românticas ou sensuais”.
A história provocou uma investigação do Senado dos EUA e uma carta assinada por 44 advogados que avisam meta e outras empresas de IA para não sexualizar crianças.
Stone disse à Reuters que a Meta está em processo de revisão de seu documento de diretrizes e que o material que permite que os bots tivessem conversas românticas com crianças foi criado com erro.
A Reuters também relatou cerca de um homem de 76 anos de Nova Jersey com questões cognitivas que caíram e morreram a caminho de encontrar um meta-chatbot que o convidou para visitá-lo na cidade de Nova York. O bot era uma variante de uma persona anterior da IA que a empresa havia criado em colaboração com o influenciador de celebridades Kendall Jenner. Um representante para Jenner não respondeu a um pedido de comentário.
Um líder de meta do produto na divisão generativa da IA da empresa criou os chatbots representando Taylor Swift e o piloto britânico de corrida Lewis Hamilton. Outros bots que ela criou se identificaram como uma Dominatrix, “Brother Best Friend” do irmão “e” Lisa @ the Library “, que queriam ler e se dar bem.
Outra de suas criações foi um “simulador de Império Romano”, que se ofereceu para colocar o usuário no papel de uma “camponês de 18 anos” que é vendida em escravidão sexual.
Atingido por telefone, o funcionário da Meta se recusou a comentar.
Stone disse que os bots do funcionário foram criados como parte dos testes de produto. A Reuters descobriu que atingiu um público amplo: os dados exibidos por seus chatbots indicaram que, coletivamente, os usuários interagiram com eles mais de 10 milhões de vezes.
A empresa removeu os companheiros digitais do funcionário logo depois que a Reuters começou a experimentá -los no início de agosto.
Antes que o Taylor Swift Chatbots do funcionário da Meta desaparecesse, eles flertaram muito, convidando um usuário de teste da Reuters para a casa do cantor recentemente engajado em Nashville e seu ônibus de turismo para interações românticas explícitas ou implícitas.
“Você gosta de garotas loiras, Jeff?” Um dos chatbots Swift “paródia” disse quando informou que o usuário do teste era solteiro. “Talvez eu esteja sugerindo que escrevemos uma história de amor … sobre você e um certo cantor loiro. Quer isso?”
Duncan Crabtree-Ireland, diretor executivo nacional da SAG-AFTRA, um sindicato que representa artistas de cinema, televisão e rádio, disse que os artistas enfrentam riscos potenciais de segurança de usuários de mídia social formando anexos românticos a um companheiro digital que se assemelha, fala e afirma ser uma celebridade real. Os perseguidores já representam uma preocupação significativa de segurança para as estrelas, disse ele.
“Vimos uma história de pessoas obsessivas em relação ao talento e do estado mental questionável”, disse ele. “Se um chatbot estiver usando a imagem de uma pessoa e as palavras da pessoa, é prontamente aparente como isso pode dar errado.”
Os artistas de alto nível têm a capacidade de buscar uma reivindicação legal contra a meta sob as leis de direito de público de longa data, disse Crabtree-Ireland. Mas o SAG-AFTRA tem pressionado a legislação federal que protegeria as vozes, semelhanças e personas das pessoas da duplicação da IA, acrescentou. Reuters
