Bate-papo GPT Atlas é um navegador com tecnologia de IA que pode reservar viagens, fazer pedidos de mantimentos, pesquisar e muito mais, tudo para você. De acordo com a OpenAI, é como ter um agente pessoal integrado ao seu navegador. É com isso que os especialistas em segurança estão preocupados.
Os sistemas de IA são incríveis, mas também são imperfeitos. de alucinação para lisonjaA IA muitas vezes erra. Entregar as chaves do seu navegador a uma IA apresenta muitos outros problemas potenciais, incluindo ataques de injeção imediata, ataques à área de transferência e simplesmente não entender que alguns sites são spam.
“O Atlas está exibindo os mesmos problemas iniciais que vimos em outros navegadores de estilo agente”, disse Rob T. Lee, diretor de pesquisa e diretor de IA do SANS Institute, uma organização colaborativa de treinamento e educação em segurança cibernética. “Os testes de injeção imediata e redirecionamento foram bem-sucedidos. Para nosso crédito, a OpenAI rapidamente abordou os relatórios.”
Não perca nosso conteúdo técnico imparcial e análises baseadas em laboratório. Adicionar CNET Como fonte preferencial no Google.
O lançamento do AI Atlas é a primeira salva em uma nova guerra de navegadores. Outros participantes no espaço incluem as empresas Perplexity. cometao que o Google incluiu Gêmeos no Chrome e Modo copiloto no Microsoft Edge. Para os gigantes da Big Tech, obter qualquer tipo de vantagem no espaço do navegador da web renderia dados importantes do usuário que poderiam ser usados para melhorar a otimização de produtos ou vender publicidade direcionada. Isto é especialmente importante para a OpenAI, que investiu milhares de milhões de dólares no desenvolvimento de infraestruturas de IA, apesar da capacidade limitada de gerar receitas, e muito menos lucro. A empresa está olhando em todas as direções. incluindo anúnciosaumentando os lucros e Geração de conteúdo de texto adulto.
(Divulgação: a controladora da CNET, Ziff Davis, entrou com uma ação judicial contra a OpenAI em abril, alegando que ela violou os direitos autorais de Ziff Davis no treinamento e operação de sistemas de IA.)
Para a OpenAI, a crescente popularidade dos navegadores baseados em IA significa afastar as pessoas do Chrome, atualmente o navegador mais popular do mundo, com uma participação de mercado global de 73%. estatísticas globais. ChatGPT Atlas tem potencial para expandir ainda mais o ecossistema OpenAI. ChatGPT tornou-se um termo abrangente para chatbots de IA, mas para que o Atlas alcance a adoção em massa nos setores de consumo e empresarial, ele deve garantir que o navegador do OpenAI seja tão seguro e confiável quanto o Chrome.
Injeção imediata, ataques à área de transferência, etc.
ataque de injeção imediata Essas vulnerabilidades são mais relevantes para navegadores da web com tecnologia de IA. Este é um tipo de exploração em que um invasor mal-intencionado coloca intencionalmente instruções maliciosas em um site para um agente de IA. O texto fica invisível e oculto do usuário. Mas como a IA pode analisar todo o conteúdo de um site, ela absorve instruções e ignora as diretrizes de segurança. Instruções inadequadas podem fazer com que a IA divulgue informações confidenciais, altere as configurações do sistema ou execute outras ações prejudiciais.
“Há também preocupações mais amplas dos consumidores em torno deste tipo de componente onipresente de visão computacional que se relaciona com todos os aspectos da navegação na web”, disse Simon Poulton, vice-presidente executivo de inovação e crescimento da agência de marketing Tinuity. Poulton preocupa-se com o facto de os consumidores não compreenderem como as suas informações são armazenadas e quão persistentes são na IA.
Isto leva a outra preocupação de Poulton: a submissão aos agentes. À medida que os usuários se familiarizam mais com o sistema de IA, eles começam a abandonar seu ceticismo e a dar mais controle à IA. Ele considera isso como andar em um carro autônomo Waymo pela primeira vez. A princípio, o cliente pode observar atentamente se o carro está funcionando corretamente. Mas depois de 10 minutos, ele passa a ser visualizado no seu telefone.
O problema é que os sistemas de IA não são perfeitos. Ao testar o Cometa do Perplexity, Poulton percebeu que ao fazer login em um site, o navegador começava a digitar a senha no campo de endereço de e-mail. Embora ele tenha conseguido capturá-lo, isso mostra que os sistemas de IA podem lidar mal com informações confidenciais.
Uma vulnerabilidade menos conhecida é o ataque de cópia da área de transferência. É quando um invasor mal-intencionado instrui a IA a copiar um link malicioso para a área de transferência de uma pessoa. Se você não tomar cuidado, poderá colar acidentalmente um link em seu navegador e ser direcionado para um site malicioso. Esse descuido pode levar a grandes vulnerabilidades.
“Um dos maiores riscos de usar o LLM como interface para a Internet é que as pessoas podem não compreender as suas limitações e usá-lo de forma inadequada”, disse Selina Booth, professora de ciência da computação na Universidade Brown.
Booth diz que costuma usar LLMs como terapeutas, embora seus sistemas não sejam adaptados para esse tipo de ajuda. “Acreditamos que este navegador também é alucinógeno e pode prejudicar aqueles que não o gerenciam de forma eficaz. A OpenAI deve sentir a grande responsabilidade de educar os usuários sobre o uso adequado do software”, disse Booth.
Quando solicitado a comentar, OpenAI publicou recentemente postagem no blog Sobre ataques de injeção imediata.
De acordo com a postagem do blog, “a defesa contra injeções solicitadas é um desafio em toda a indústria de IA e é o foco principal da OpenAI. Embora esperemos que os invasores continuem a desenvolver tais ataques, estamos construindo defesas projetadas para executar a tarefa pretendida do usuário, mesmo quando alguém está tentando ativamente enganar o usuário”.
OpenAI treina modelos de IA para hierarquia de comando O objetivo é distinguir entre instruções confiáveis e não confiáveis. Também desenvolvemos vários “monitores” alimentados por IA que podem identificar e bloquear ataques de injeção imediata. A Atlas transfere o controle aos usuários ao usar sites confidenciais, como serviços de compras online. A OpenAI também usa red teaming (onde as equipes de segurança simulam ataques do mundo real e colocam hackers contra defensores) com equipes internas e externas. generosidade Para quem encontrou um bug. O pagamento médio é de $ 784.
Tenha cuidado com os navegadores de IA no trabalho
Apesar dos riscos, há pressão sobre os funcionários para adotarem sistemas de IA. Com o lançamento do ChatGPT Atlas, 27,7% das empresas tiveram pelo menos uma pessoa baixando um navegador com tecnologia de IAde acordo com a empresa de segurança de dados Cyberhaven. Embora parte disso possa ser devido ao download e teste de navegadores por profissionais de TI, os riscos de os funcionários usarem navegadores de agente no trabalho permanecem significativos.
“O Agentic Browser pode simplificar e automatizar os piores ataques possíveis que roubam dados altamente confidenciais sobre clientes, indivíduos, pacientes, designs de produtos confidenciais e dados altamente regulamentados relacionados à segurança nacional”, disse o CEO da Cyberhaven, Nishant Doshi.
Doshi disse que esse risco não se limita ao ChatGPT Atlas, e são necessárias proteções porque os navegadores de IA podem agir em nome dos funcionários e usar suas credenciais para interagir com ferramentas corporativas.
As atuais ferramentas de IA e segurança de TI muitas vezes não conseguem comunicar claramente se os dados são confidenciais ou de onde vêm. “Sem esse contexto crítico, não é possível determinar com precisão se determinados dados são confidenciais ou não. Quando você combina essa enorme fraqueza com a grande força dos navegadores de agentes que automatizam o trabalho, você tem um incidente esperando para acontecer”, disse Doshi.
Devo usar ChatGPT Atlas?
De acordo com Lee do SANS Institute, os indivíduos podem usar o ChatGPT Atlas com segurança, desde que estejam cientes das limitações. Ele recomenda evitar sincronizar ou compartilhar diretamente o Atlas e “informações financeiras, médicas ou confidenciais” com esses sistemas e desabilitar permissões desnecessárias.
No entanto, no trabalho, é melhor agir com cuidado. Especialistas disseram que o ChatGPT Atlas deve ser usado em ambientes de teste com alcance de rede limitado. Também é importante rastrear todas as atividades e incorporá-las na estrutura de governança de IA da empresa desde o início, disse Lee.
A grande questão é se você precisa do ChatGPT Atlas. Funciona muito bem, mas vale realmente a pena se você precisa monitorá-lo constantemente para ter certeza de que está funcionando corretamente? Talvez você esteja familiarizado o suficiente com a Internet para fazer algo sozinho, mesmo que isso exija o uso de algumas sinapses extras em seu cérebro.
“É muito difícil explicar por que alguém usaria isso agora”, disse Poulton. Poulton acredita que o site será mais rápido de clicar. “Este é um fator de novidade. Mas de onde vem a facilidade da experiência real do consumidor? Isso não muda. Não cria nenhum valor para mim.”
DR;TL
Os consumidores podem usar o ChatGPT Atlas, mas procedam com cautela. Não o utilize em seu computador de trabalho sem a aprovação do departamento de TI, pois pode conter vulnerabilidades. Ao utilizá-lo, esteja atento a como informações confidenciais, como senhas, são utilizadas para transitar entre sites e realizar tarefas. Para estar seguro, evite bancos e outros sites confidenciais.
