Un número cada vez decano de navegadores está experimentando con funciones de agentes que realizarán acciones en su nombre, como reservar boletos o comprar diferentes artículos. Sin bloqueo, estas capacidades agentes incluso ven con Riesgos de seguridad que podrían conducir a la pérdida de datos o peculio.

Google detalló su enfoque para manejar la seguridad del becario en Chrome utilizando modelos de observador y consentimiento para la batalla del becario. La compañía presentó una aspecto previa de las capacidades agentes en Chrome en septiembre y dijo que estas funciones se implementarán en los próximos meses.

La compañía dijo que está utilizando la ayuda de algunos modelos para abastecer bajo control las acciones de la agencia. Google dijo que creó un crítico de formación de usuarios utilizando Gemini para examinar los rudimentos de batalla creados por el maniquí de planificación para una tarea en particular. Si el maniquí crítico piensa que las tareas planificadas no sirven al objetivo del becario, le pide al maniquí planificador que reconsidere la táctica. Google señaló que el maniquí crítico sólo ve los metadatos de la batalla propuesta y no el contenido web existente.

Es más, para evitar que los agentes accedan a sitios no permitidos o no confiables, Google está utilizando Conjuntos de orígenes de agentes, que restringen el maniquí para penetrar a orígenes de solo recital y orígenes de recital y escritura. El origen de solo recital son datos de los que Gemini puede consumir contenido. Por ejemplo, en un sitio de compras, los listados son relevantes para la tarea, pero los anuncios publicitarios no lo son. De forma similar, Google dijo que el agente solo puede hacer clic o escribir en ciertos iframes de una página.

“Esta delimitación obliga a que el agente solo tenga a disposición del agente los datos de un conjunto restringido de orígenes, y estos datos sólo pueden transmitirse a los orígenes grabables. Esto limita el vector de amenaza de las filtraciones de datos entre orígenes. Esto incluso le da al navegador la capacidad de imponer parte de esa separación, como por ejemplo ni siquiera cursar al maniquí datos que están fuera del conjunto inteligible”, dijo la compañía en una publicación de blog.

Google incluso controla la navegación de la página investigando las URL a través de otro maniquí de observador. Esto puede impedir la navegación a URL dañinas generadas por modelos, dijo la compañía.

El coloso de las búsquedas dijo que incluso entregará las riendas a los usuarios para tareas delicadas. Por ejemplo, cuando un agente intenta navegar a un sitio confidencial con información como datos bancarios o médicos, primero le pregunta al becario. Para los sitios que requieren inicio de sesión, le pedirá permiso al becario para permitir que Chrome use el administrador de contraseñas. Google dijo que el maniquí del agente no está expuesto a los datos de contraseña. La empresa añadió que preguntará a los usuarios ayer de realizar acciones como realizar una importación o cursar un mensaje.

Google dijo que, adicionalmente de esto, incluso tiene un clasificador de inyección rápida para evitar acciones no deseadas y incluso está probando capacidades de agente contra ataques creados por investigadores.

Los fabricantes de navegadores con IA incluso están prestando atención a la seguridad. A principios de este mes, Perplexity lanzó un nuevo maniquí de detección de contenido de código destapado para advertir ataques rápidos de inyección contra agentes.