A Google melhorou o Chrome com proteção de browsing com agente para proteger o utilizador de ataques indiretos de injeção de prompt
|
Após a introdução do Gemini no Chrome e das capacidades de IA com agência, a Google está a introduzir novas proteções de segurança no browser. Para assegurar que as novas funcionalidades podem ser utilizadas em segurança, a Google vai implementar defesas em camada para tornar mais difícil e dispendioso atacar os utilizadores. Explica a Google que as proteções têm como alvo a principal ameaça dos browsers com agência, nomeadamente injeções de prompt indiretas que pode levar a data leaks e a outras ações a serem levadas a cabo pelo agente. Segundo a google, os agentes de ameaça conseguem entregar prompts indiretos através de sites maliciosos, iframes com conteúdo de terceiros ou até conteúdo gerado por utilizadores, como reviews. O User Alignment Critic é a resposta da Google para combater estas ameaças, um novo modelo de IA separado construído com o Gemini. Isolado de conteúdo não confiável, o propósito é verificar as ações do agente, focando-se em determinar se a ação proposta se alinha com o objetivo proposto pelo utilizado e para proteger contra a exfiltração de dados. “Se a ação não está alinhada, o Alignment Critic vai vetá-la”, explica a Google. A empresa também está a expandir o já existente Site Isolation e políticas de proteção no Chrome ao Agent Origin Sets para enfrentar cenários onde um agente comprometido pode ultrapassar os controlos. |
Receba todas as novidades na sua caixa de correio!
