O regulador de mídia da Grã-Bretanha lançou uma investigação sobre o ex de Elon Musk para determinar se permitir que seu chatbot Grok AI produza deepfakes sexualmente íntimos viola seu dever de proteger as pessoas no Reino Unido de conteúdo que pode ser ilegal.
“Tem havido relatos profundamente preocupantes da conta do chatbot Grok AI no X sendo usada para criar e compartilhar imagens nuas de pessoas – o que pode constituir abuso de imagem íntima ou pornografia – e imagens sexualmente explícitas de crianças que podem se assemelhar a material de abuso sexual infantil”, disse o Ofcom em um comunicado.
O regulador está sob pressão para tomar medidas depois que o primeiro-ministro Keir Starmer disse que as imagens produzidas por Grok eram “nojentas” e “ilegais”.
Conheça novidades do app 7NEWS: Baixe hoje
Starmer disse na quinta-feira que o ex de Musk precisava “controlar” Groke e disse que o Ofcom tinha total apoio do governo para agir.
Criar ou compartilhar imagens íntimas não consensuais ou material de exploração sexual infantil, incluindo imagens sexuais geradas por IA, é ilegal no Reino Unido.
Além disso, as plataformas tecnológicas devem impedir que os utilizadores britânicos encontrem conteúdos ilegais e removê-los se deles tomarem conhecimento.
X enfrentou condenação em outros países por causa do recurso, que pode trazer à tona imagens de mulheres seminuas e menores.
As autoridades francesas denunciaram o conteúdo aos procuradores e reguladores, descrevendo-o como “claramente ilegal”, enquanto as autoridades indianas também exigiram esclarecimentos.
X limitou esse recurso a usuários pagantes.
Afirmou na semana passada que removeu todo o conteúdo ilegal da plataforma e suspendeu permanentemente as contas envolvidas.
Acrescentou: “Qualquer pessoa que use Grok ou os incite a criar conteúdo ilegal enfrentará as mesmas consequências que aqueles que enviam conteúdo ilegal”.
Questionado recentemente sobre o assunto, xAI disse à Reuters: “Mentiras da mídia legada”.
O Ofcom investigará se Axe não avaliou o risco de as pessoas no Reino Unido verem material ilegal e se considerou isso um risco para as crianças.
Ofcom disse que nos casos mais graves de incumprimento, poderia pedir ao tribunal que “exigisse aos prestadores de serviços de pagamento ou anunciantes que retirassem os seus serviços de uma plataforma”, ou pedir aos prestadores de serviços de Internet que bloqueiem o acesso a um site no Reino Unido.
Axe não respondeu imediatamente a um pedido para comentar a investigação do Ofcom.
