Cristal HayesE
Osmond Chia
Imagens GettyO modelo de IA de Elon Musk, Grok, não será mais capaz de editar fotos de pessoas reais para revelar roupas e mostrar-lhes onde é ilegal, após preocupação generalizada com deepfakes sexualizados de IA.
“Implementamos medidas técnicas para evitar que a conta Grok permita a edição de imagens de pessoas reais na publicação de roupas”, dizia um anúncio no X.
Reagindo à proibição, o governo do Reino Unido exigiu “evidências” depois que o primeiro-ministro, Sir Keir Starmer, pediu que X regulamentasse suas ferramentas de IA.
A mudança foi anunciada horas depois que o principal promotor da Califórnia disse que o estado estava investigando a disseminação de deepfakes sexualizados de IA, incluindo crianças geradas por modelos de IA.
“Agora bloqueamos geograficamente a capacidade de todos os usuários de criar imagens de pessoas reais em biquínis, roupas íntimas e roupas semelhantes por meio de contas Grok e por meio do Grok in X, onde é ilegal.” X disse isso em um comunicado na quarta-feira.
Reiterou que apenas usuários pagos poderão editar imagens usando Grok em sua plataforma.
Isto adicionará uma camada adicional de proteção, ajudando a garantir que aqueles que tentam e abusam de Grok para violar a lei sejam responsabilizados, de acordo com o comunicado.
Com as configurações NSFW (Not Safe for Work) habilitadas, a “nudez imaginária da parte superior do corpo adulta (não real)) de Grok é consistente com o que é visto em filmes censurados”, escreveu Musk online na quarta-feira.
“Este é o padrão de fato na América. Ele irá variar em outras regiões de acordo com as leis do país, país por país”, disse o multibilionário da tecnologia.
Musk defendeu X anteriormente, postando que os críticos “só querem sufocar a liberdade de expressão” com duas imagens geradas por IA do primeiro-ministro do Reino Unido, Sir Keir Starmer, de biquíni.
Nos últimos dias, líderes de todo o mundo criticaram os recursos de edição de imagens do Grok.
No fim de semana, tornou-se Malásia e Indonésia Grok é o primeiro país a proibir ferramentas de IA Os usuários disseram que as fotos foram alteradas para criar imagens explícitas sem consentimento
O regulador de mídia da Grã-Bretanha, Ofcom, disse na segunda-feira que investigaria se X não cumpriu Leis do Reino Unido sobre imagens sexuais.
Sir Kier alertou que X poderia perder o seu “direito à autorregulação” na sua resposta às imagens de IA, mas no final da semana ele disse que acolheu com satisfação relatos de que X estava tomando medidas para resolver o problema.
algo Os parlamentares do Reino Unido também abandonaram a plataforma de mídia social X Em termos de gritar
O procurador-geral da Califórnia, Rob Bonta, disse na quarta-feira: “Este material, que retrata mulheres e crianças em situações nuas e sexuais, tem sido usado para assediar pessoas na Internet”.
A pesquisadora de políticas Rhianna Pfefferkorn disse que ficou surpresa com o fato de X ter demorado tanto para implantar o novo sistema de segurança Grok e que os recursos de edição deveriam ter sido removidos assim que o abuso começou.
Permanecem dúvidas sobre como X implementará suas novas políticas, como como o modelo de IA saberá se uma imagem é de uma pessoa real e que ação tomará se os usuários violarem as regras, disse Pfefferkorn.
Musk também não apresentou a empresa de maneira séria, disse ele, acrescentando que ajudaria se ele “parasse de fazer coisas como repassar uma imagem de IA de Keir Starmer de biquíni”.
Reportagem adicional de Katy Bailes
