A IA torna tudo mais fácil do que nunca Crie conteúdo E os golpistas estão se aproveitando disso. Um relatório divulgado quinta-feira pela empresa de segurança McAfee descobriu que muitos americanos (72%) viram o endosso de uma celebridade ou influenciador falso. Taylor Swift é a celebridade mais popular cujo nome, imagem e semelhança são usados em fraudes online.
Depois de Swift, as celebridades cujas imagens são mais usadas em golpes online são Scarlett Johansson, Jenna Ortega e Sydney Sweeney. O top 10 é dominado por ícones da cultura pop e músicos como Sabrina Carpenter, Kim Kardashian e Zendaya. O único político da lista é a deputada norte-americana Alexandria Ocasio-Cortez. Notavelmente, os únicos dois homens são Tom Cruise e LeBron James.
Não perca nosso conteúdo técnico imparcial e análises baseadas em laboratório. Adicionar CNET Como fonte preferencial no Google.
A investigação se concentra em golpes on-line de consumidores baseados em produtos, incluindo criptomoedas falsas que afirmam ser endossadas pela AOC. Ele não mede o nível de todos os deepfakes criados, e é por isso que outras figuras proeminentes como o presidente Donald Trump não estão entre os 10 primeiros. Esses tipos de golpistas da Internet dependem de fazer com que as pessoas interajam com seu conteúdo, como clicar em links falsos, participar de brindes fraudulentos ou comprar produtos falsificados. Portanto, não é nenhuma surpresa que eles dependam de grandes nomes como Swift para chamar nossa atenção, infelizmente. Por exemplo, quando Swift anunciou seu noivado com Travis Kelce, os golpistas Propaganda de produtos falsificados Baseado na sugestão do Sr. Kelce. Celebridades e influenciadores têm sido explorados dessa forma há muito tempo, mas a IA dá um impulso infeliz aos maus atores.
Ferramentas generativas de IA, como geradores de imagem, vídeo e áudio, oferecem novos caminhos para atores mal-intencionados. As imagens de celebridades podem ser clonadas para criar promoções falsas, brindes ou promover produtos falsos. Tudo o que um golpista precisa fazer é criar uma postagem suficientemente convincente nas redes sociais. E realmente funciona, com a McAfee relatando que 39% das pessoas clicaram em uma dessas recomendações falsas, 10% das pessoas arriscaram suas informações pessoais e perderam centenas de dólares (US$ 525) em média.
As empresas de IA que criam esses modelos de IA possuem sistemas para evitar que fraudadores e outros criem conteúdo de IA de celebridades sem o seu consentimento. Contudo, já vimos muitas vezes que estes sistemas não são perfeitos e podem ser contornados. Nas primeiras semanas após o lançamento do Sora, a fundação do líder dos direitos civis Martin Luther King Jr. teve que entrar em contato com a OpenAI devido à preocupação de que a plataforma estivesse sendo inundada com vídeos de IA inapropriados e racistas do Dr. OpenAI diz que planeja: Trabalhe com atores e celebridades nesta questãonão é algo que possa ser resolvido apenas com simples ajustes técnicos ou políticas.
Como detectar fraudes de celebridades por IA
O conteúdo gerado por IA é difícil de identificar, mas há algumas coisas que você pode observar. Aqui estão alguns.
- Dê uma olhada no vídeo ou nas imagens. Existem objetos que desaparecem e voltam? Obedece às leis da física? As pessoas têm uma aparência estranhamente brilhante, semelhante a plástico? Todos estes são sinais de IA.
- Verifique a marca d’água. Muitos geradores de IA adicionam automaticamente uma marca d’água transparente (ou incorporada) que os identifica como IA.
- Certifique-se de que Instagram, TikTok e YouTube não rotulem suas postagens como geradas por IA. Rótulos de IA de qualquer tipo são um sinal claro de que o que você está vendo não é real.
Mesmo na era da IA, as dicas para detectar uma fraude não são muito diferentes das da era pré-IA. Os golpistas podem estar usando IA, mas ainda usam as mesmas táticas.
“Os sinais de alerta não mudaram. Urgência, pressão emocional e demandas por informações pessoais ou pagamentos continuam sendo as maiores vítimas”, disse Abhishek Karnik, chefe de pesquisa de ameaças da McAfee, por e-mail.
aqui estão alguns Bandeiras vermelhas de fraude Por favor, preste atenção.
- Pense duas vezes antes de clicar. Karnik disse que os golpes têm como objetivo criar um senso de urgência e uma resposta emocional.
- Por favor, verifique a fonte. O link está incorreto ou malformado? A conta oficial de uma celebridade postou sobre o produto? A conta foi verificada? Todas essas coisas podem ajudá-lo a diferenciar o que é real de uma fraude.
- por favor duvide Número de sites que solicitam pagamentos por meio de criptomoedas, aplicativos de pagamento como Venmo ou outras fontes fraudulentas
Os golpistas tentarão manipular sua confiança, diz Karnik. Ser cauteloso e cuidadoso ao compartilhar informações pessoais pode ajudá-lo a evitar ser enganado. Só porque algo diz que foi aprovado ou usado pelo Swift não significa que realmente seja.
Para mais informações, por favor verifique Como detectar fraudes bancárias e Por que os e-mails de phishing se tornaram menos perceptíveis. (Divulgação: a controladora da CNET, Ziff Davis, entrou com uma ação judicial contra a OpenAI em abril, alegando que ela violou os direitos autorais de Ziff Davis no treinamento e operação de sistemas de IA.)
