Google detalha medidas de segurança para função de agente do Chrome

Cada vez mais navegadores estão experimentando recursos de agentes que realizam ações em seu nome, como reservar passagens ou comprar vários itens. No entanto, essas funções de agente também por favor venha comigo risco de segurança Isso pode levar à perda de dados e dinheiro.

O Google detalhou sua abordagem para lidar com a segurança do usuário no Chrome usando o modelo de observador e o consentimento de ação do usuário. A empresa fiscalizou Recursos do agente Chrome em setembro E ele disse que esses recursos serão lançados nos próximos meses.

A empresa disse que utiliza vários modelos para restringir as ações dos agentes. O Google disse que construiu o User Alignment Critic usando Gemini para examinar itens de ação criados por modelos de planejamento para tarefas específicas. Se o modelo crítico determinar que a tarefa planejada não está atingindo os objetivos do usuário, ele pede ao modelo planejador que reconsidere sua estratégia. O Google destacou que o modelo crítico analisa apenas os metadados da ação proposta, não o conteúdo real da web.

Além disso, para evitar que agentes acessem sites não autorizados ou não confiáveis, o Google usa conjuntos de origem de agentes. Isso restringe o modelo para acessar origens somente leitura e leitura-gravação. Origens somente leitura são dados dos quais o Gemini pode consumir conteúdo. Por exemplo, em um site de compras, as listas são relacionadas a tarefas, mas os banners não. Da mesma forma, o Google disse que os agentes só podem clicar ou inserir iframes específicos nas páginas.

“Esse limite força que apenas dados de um conjunto limitado de origens estejam disponíveis para o agente, e que esses dados sejam passados ​​apenas para origens graváveis. Isso limita o vetor de ameaça de vazamento de dados entre origens. Também dá aos navegadores a capacidade de impor parte do isolamento, como nem mesmo enviar dados fora do conjunto legível para o modelo”, disse a empresa em uma postagem no blog.

O Google também continua verificando a navegação nas páginas, inspecionando URLs por meio de um modelo de observador separado. A empresa afirma que isso impede a navegação para URLs prejudiciais geradas pelo modelo.

A gigante das buscas também disse que está entregando as rédeas de tarefas confidenciais aos usuários. Por exemplo, quando um agente tenta navegar para um site confidencial que contém informações como dados bancários ou médicos, ele primeiro faz perguntas ao usuário. Para sites que exigem login, peça permissão aos usuários para usar um gerenciador de senhas no Chrome. O Google disse que este modelo de agente não está exposto a dados de senha. A empresa acrescentou que faz perguntas aos usuários antes de realizar ações como fazer uma compra ou enviar uma mensagem.

Além disso, o Google disse que também possui um classificador de injeção imediata para evitar ações indesejadas e também está testando a funcionalidade do agente contra ataques criados por pesquisadores.

Os fabricantes de navegadores de IA também estão prestando atenção à segurança. Perplexity foi lançado no início deste mês Novo modelo de detecção de conteúdo de código aberto Para evitar ataques de injeção instantânea contra agentes.