Grok AI: O que os limites da ferramenta significam para o X, seus usuários e o Ofcom? | Grok IA

O que X anunciou?

A plataforma de mídia social disse na quarta-feira que implementou “medidas técnicas” para impedir que a conta @groc no X permita a edição de imagens de pessoas reais para fazê-las aparecer em roupas reveladoras, como biquínis. Anteriormente, os usuários podiam solicitar à conta @Grok no X a manipulação de imagens, com os resultados publicados na plataforma.

X disse que a proibição se aplicará a todos os usuários, incluindo clientes pagos de X. X tem aproximadamente 300 milhões de usuários mensais e até 2,6 milhões de assinantes.

A plataforma informou que a capacidade de criar e editar qualquer imagem por meio da conta @grok será limitada aos assinantes. Isto significa que os indivíduos que tentam infringir a lei ou as políticas de X podem ser detectados mais facilmente.

X também está introduzindo limitações adicionais para países específicos, adicionando o botão Grok dentro dos aplicativos X e Grok, que também é propriedade de. Ele está limitando a capacidade dos usuários em algumas jurisdições de gerar imagens de pessoas reais em biquínis, roupas íntimas e roupas semelhantes via @Grok e o botão Grok dentro do aplicativo, se tal comportamento for ilegal nesses países. Este é um processo conhecido como bloqueio geográfico – e espera-se que também se aplique ao aplicativo Grok.

A distribuição de fotografias íntimas de pessoas sem o seu consentimento, conhecida coloquialmente como “pornografia de vingança”, é ilegal no Reino Unido, pelo que, pelo menos nesta jurisdição, o bloqueio geográfico será aplicado.

O que há de novo na declaração de X?

Na quarta-feira anterior, a conta @grok no X disse que havia desativado sua função de criação de imagens para não assinantes – a grande maioria de sua base de usuários. No entanto, foi Criticado pelo governo do Reino Unido Porque sugere que o desnudamento digital de mulheres e crianças ainda pode ser feito por clientes pagantes. O aplicativo Grok também parece não ter sido afetado.

Este último anúncio é a primeira declaração de X sobre o assunto desde 4 de janeiro. Ele é mais detalhado do que a mensagem @Grok, deixando claro que haverá restrições mais amplas às contas @Grok e ao botão Grok dentro do

Como o governo do Reino Unido respondeu?

Uma fonte de Downing Street descreveu a medida como um “decreto” para o primeiro-ministro do Reino Unido. Keir Starmer chamou a enxurrada de imagens de nudez de “nojenta” e “vergonhosa”. A secretária de tecnologia do Reino Unido, Liz Kendall, disse que acolheu com satisfação a medida, mas ainda espera que os fatos por trás do que aconteceu sejam “total e firmemente estabelecidos” pela investigação em andamento sobre o comportamento de Axe pelo órgão de fiscalização da mídia britânica, Ofcom.

Na semana passada, o governo disse que apoiaria o Ofcom se decidisse usar todo o seu conjunto de poderes sob as leis de segurança online do país. Proibição da plataforma em todo o Reino Unido.

O anúncio de X torna menos prováveis ​​as chances de uma proibição no Reino Unido?

Sim. sanções sempre foram a opção nuclear Sob a Lei de Segurança Online (OSA) e é considerado reservado para violações graves e contínuas da lei. X parece ter abordado isso com seu anúncio.

“Se as medidas técnicas que X implementou funcionarem, então banir a plataforma torna-se uma possibilidade menor”, ​​diz Lorna Woods, professora de direito da Internet na Universidade de Essex.

X ainda enfrentará punição?

O Ofcom divulgou um comunicado na quinta-feira dizendo que ainda estava investigando Axe, o que significa que ele ainda poderia ser punido.

“Este é um desenvolvimento bem-vindo”, disse o regulador. “No entanto, nossa investigação formal está em andamento. Estamos trabalhando dia e noite para acompanhar isso e obter respostas sobre o que deu errado e o que está sendo feito para consertar.”

X continua a ser investigado pelas circunstâncias circundantes torrent de imagem íntimaQue começou em dezembro e se intensificou depois do Natal.

O Ofcom está se concentrando em saber se X violou a lei das seguintes maneiras: não avaliando o risco de as pessoas visualizarem conteúdo ilegal na plataforma; Não tomar medidas apropriadas para impedir que os usuários visualizem conteúdo ilegal como abuso de imagens íntimas e material de abuso sexual infantil; Não remover prontamente conteúdo ilegal; Não proteger os usuários contra violações das leis de privacidade; Não avaliar os riscos que X pode representar para as crianças; e não usar verificações de idade eficazes para ver pornografia.

Se for considerado violador da Lei nessas circunstâncias, X ainda enfrenta a possibilidade de uma multa de até 10% do volume de negócios global ou de ser forçado a tomar medidas específicas para cumprir a OSHA.

Qual é o resultado possível?

Esta é a investigação de maior destaque do Ofcom até o momento, portanto, se for descoberto que X violou a lei, ele poderá enfrentar uma multa para enviar um exemplo a outras pessoas. Alternativamente, poderia decidir que X agora está em conformidade com a lei e seguir em frente, como fez com o Snapchat na quinta-feira.

Ofcom anunciou que levantou preocupações de que a plataforma não conseguiu realizar avaliações de risco adequadas relacionadas ao conteúdo ilegal que aparece no site. Ele disse que o Snapchat abordou suas preocupações como parte do processo de aplicação, fez alterações e decidiu que nenhuma ação adicional seria tomada.

No entanto, se X for considerado violador da Lei, o Ofcom poderá sentir a necessidade de emitir uma multa como precedente.