Google detalló su enfoque de seguridad para las funciones agentes de Chrome, que permiten acciones automatizadas como reservar boletos o comprar, abordando posibles riesgos financieros y de datos. Google emplea varios modelos para gestionar acciones de agencia. Un crítico de alineación del usuario, creado con Gemini, examina los elementos de acción generados por el modelo del planificador. Si el modelo crítico determina que las tareas planificadas no se alinean con los objetivos del usuario, solicita al planificador que reevalúe la estrategia. El modelo crítico accede sólo a metadatos de acciones propuestas, no al contenido web real. Para restringir el acceso de los agentes a sitios no permitidos o no confiables, Google utiliza Agent Origin Sets. Estos conjuntos limitan el modelo a orígenes específicos de solo lectura y de lectura y escritura. Los orígenes de sólo lectura definen el contenido que Gemini puede consumir; por ejemplo, los listados de productos en un sitio de compras son relevantes, pero los anuncios publicitarios no lo son. El agente sólo puede interactuar con iframes designados en una página. En una publicación de blog, la compañía declaró: “Esta delimitación exige que el agente solo tenga disponibles datos de un conjunto limitado de orígenes, y estos datos solo pueden transmitirse a los orígenes grabables. Esto limita el vector de amenaza de fugas de datos entre orígenes. Esto también le da al navegador la capacidad de imponer parte de esa separación, como por ejemplo ni siquiera enviar al modelo datos que están fuera del conjunto legible”. Google monitorea la navegación de la página a través de otro modelo de observador para evitar el acceso a URL dañinas generadas por el modelo. Para tareas delicadas, Google requiere el consentimiento del usuario. Si un agente intenta acceder a sitios confidenciales, como plataformas bancarias o médicas, solicita el permiso del usuario. Si un sitio requiere iniciar sesión, Chrome solicitará permiso al usuario para utilizar el administrador de contraseñas; El modelo del agente no accede a los datos de la contraseña. Se preguntará a los usuarios antes de que el agente inicie acciones como realizar una compra o enviar un mensaje. Google también emplea un clasificador de inyección rápida para evitar acciones no deseadas y está evaluando capacidades de agente contra ataques desarrollados por investigadores. A principios de este mes, Perplejidad lanzó un modelo de detección de contenido de código abierto para contrarrestar los ataques de inyección rápida contra agentes.
Crédito de imagen destacada
Source: Google usa Géminis "crítico" modelo para monitorear agentes de Chrome
