Imagem de IA A inicialização do gerador deixou mais de 1 milhão de imagens e vídeos criados com seu sistema disponíveis publicamente online para qualquer pessoa acessar, de acordo com um novo estudo revisado pela WIRED. Os pesquisadores que descobriram o tesouro de dados expostos disseram que a “esmagadora maioria” das imagens incluía nudez e “conteúdo adulto retratado”, com algumas retratando crianças ou parecendo ter o rosto de uma criança substituído pelo corpo de um adulto nu gerado por IA.
O pesquisador de segurança Jeremiah Fowler, que descobriu a falha de segurança em outubro, disse que vários sites, incluindo MagicEdit e DreamPal, parecem estar usando o mesmo banco de dados inseguro. Na época, cerca de 10 mil novas imagens eram adicionadas ao banco de dados todos os dias, disse Fowler. Demonstrando como as pessoas podem ter usado ferramentas de geração e edição de imagens, essas imagens incluíam fotos “brutas” de pessoas reais que podem ter sido tiradas sem o seu consentimento.despido,”Ou trocou de rosto com outros corpos nus.
“O verdadeiro problema é que imagens de pessoas inocentes, especialmente menores, são usadas sem o seu consentimento para criar conteúdo sexual”, diz Fowler, um prolífico caçador de bases de dados expostas. Blog ExpressVPN. Fowler diz que esta é a terceira configuração incorreta. Banco de dados de geração de imagens AI Ele descobriu acessos online este ano, que pareciam conter imagens não consensuais e explícitas, inclusive de jovens e crianças.
As descobertas de Fowler ocorrem no momento em que as ferramentas de geração de imagens de IA continuam a ser usadas maliciosamente para criar imagens explícitas de pessoas. Enorme ecossistema de serviços de ‘nudificação’. usado por milhões de pessoas e ganhar milhões de dólares por anousa IA para “tirar” as roupas das pessoas (principalmente mulheres) nas fotos. Fotos roubadas das redes sociais podem ser editadas com apenas alguns cliques, levando a abusos e assédios horríveis às mulheres. enquanto isso, relatório Exemplos de criminosos que usam IA para criar material de abuso sexual infantil. Gama de imagens obscenas O número de participantes, incluindo crianças, duplicou no ano passado.
“Levamos essas preocupações muito a sério”, disse um porta-voz da DreamX, a startup por trás do MagicEdit e do DreamPal. Um porta-voz disse que uma empresa de marketing influenciadora chamada SocialBook vinculada ao banco de dados é “operada por uma entidade separada e não está envolvida na operação de nenhum outro site”. “Embora essas empresas compartilhem relacionamentos históricos por meio de fundadores e ativos legados, elas operam de forma independente com linhas de produtos distintas”, disse o porta-voz.
“O SocialBook não se conecta ao banco de dados que você referenciou, não usa esse armazenamento e não está envolvido em sua operação ou gerenciamento em nenhum momento”, disse um porta-voz do SocialBook à WIRED. “As imagens referenciadas não são geradas, processadas ou armazenadas pelos sistemas do SocialBook. O SocialBook opera de forma independente e não tem nenhuma função na infraestrutura descrita.”
