A maioria dos principais programas de clonagem de voz de inteligência artificial não tem obstáculos significativos que as pessoas impedem que outras pessoas sejam disfarçadas de serem disfarçadas, mostrou uma investigação do consumidor.
A tecnologia de IA de clonagem de voz tomou medidas extraordinárias nos últimos anos e muitos serviços podem efetivamente duplicar a cadência de uma pessoa com alguns segundos de amostra de áudio. Um momento de flashpoint veio durante a primária democrata do ano passado, quando Um robocal de Joe Biden falso Os telefones dos eleitores foram moldados para que não pedissem votos. Consultor político que confessa a este projeto em mentalidade Foi multado em US $ 6 milhõesE desde a Comissão Federal de Comunicação O roboocle exposto a A proibeO
Uma nova pesquisa das seis principais ferramentas de clonagem de voz de IA disponíveis em seis tópicos mostrou que cinco salfgardes facilmente ignoráveis tornaram o desvio, facilitando o clon de uma pessoa sem consentimento. Software de identificação de áudio DIPFEC Muitas vezes lutando para dizer A diferença entre voz real e sintética.
O gerador AI, que duplica as qualidades humanas como sua presença, escrita e vocal, é uma tecnologia nova e rápida desenvolvida, e existem várias regras federais na arte. A maioria das verificações morais e de proteção no setor é auto-pressionada. Biden incluiu a demanda por alguma proteção nele Ordem Executiva em AIQue ele assinou em 2021, embora o presidente Donald Trump tenha cancelado a ordem enquanto assumiu o controle.
A tecnologia de clonagem de voz trabalha com a amostra de áudio de uma pessoa e, em seguida, a voz da pessoa funciona extrapolada em um arquivo de áudio sintético. Sem medidas de segurança, qualquer pessoa registra uma conta só pode fazer upload de um áudio de fala separado desse vídeo ou vídeo do YouTube e o serviço pode imitá -los.
Quatro Serviços – Elevenlab, Speechifi, Plahot e Greedo – apenas uma caixa precisa ser verificada para que cuja voz esteja clonando foi aprovada.
Outro serviço semelhante à IA, uma pessoa requer gravação de áudio em tempo real, em vez de permitir uma gravação apenas para fazer upload. No entanto, os relatórios do cliente conseguiram impedir facilmente essa restrição de reproduzir a gravação de áudio apenas do computador.
Somente o sexto serviço, a descrição teve alguma proteção eficaz. Exige que um cloner registre uma declaração de consentimento específica, difícil de se deparar com a clonagem de outro serviço.
Todos os seis serviços estão disponíveis ao público em seu site. O clone de voz personalizado é simplesmente semelhante às onze laboratórios e despesas de IA – US $ 5 e US $ 1, respectivamente. Outros são livres.
Algumas agências afirmam que seus equipamentos de equipamento podem ter sérias conseqüências negativas.
“Reconhecemos a possibilidade de uso indevido desse equipamento forte e aplicamos fortes medidas de segurança para impedir a criação de Dipfakes e proteger a voz da viagem”, disse um porta -voz semelhante à AI à NBC News em comunicado por e -mail.
A clonagem de voz da IA, incluindo ajudar as pessoas com deficiência e criar tradução de áudio de pessoas em diferentes idiomas, ter um uso válido. No entanto, há muito potencial para a perda, Sara Myers West, co-editora do Instituto AI Noo, diz um think tank que se concentra nas consequências da política de IA.
West disse à NBC News: “Isso é claramente usado para fraude, escândalo e caos.
Há muito pouca pesquisa sobre a oportunidade de quantas vezes a IA é usada no escândalo baseado em áudio. Um criminoso nos chamados escândalos avós chama uma pessoa que é uma reivindicação urgente de se envolver com uma pessoa que foi sequestrada, presa ou ferida. Comissão Federal de Comércio Este tipo de escândalo alertou A IA pode usar, embora os golpes prevejam a tecnologia.
Os vocais clonados foram usados para criar música sem permissão do artista ilustrado, como aconteceu com músicas virais de 2023 que pareciam ser falsas Drake e o fim de semanaE tem alguns músicos Esforce -se para controlar suas imagens Quando outras pessoas publicam música com suas vozes.
