Google ha descrito las protecciones de seguridad que ha implementado para las funciones agentes en Chrome. Así es como Géminis se protegerá a sí mismo y a ti de las amenazas.

En caso de que te lo hayas perdido, Google comenzó a implementar funciones de inteligencia industrial en Chrome hace unos meses, para usuarios de EE. UU.

Google destaca que la principal amenaza a la que se enfrentan los navegadores agentes es la inyección indirecta de avisos. Básicamente es un mensaje secuestrado que engaña a la IA. Estos ataques pueden ocurrir cuando se visitante un sitio receloso o se distribuye a través de contenido de terceros en iframes. Incluso podría propagarse conveniente a reseñas falsas generadas por los usuarios. Estas indicaciones indirectas podrían hacer que el agente de IA realice acciones no deseadas, que pueden incluir transacciones financieras o incluso la filtración de datos confidenciales.

Para combatir esto, Google dice que está preparando una defensa en capas con defensas deterministas y probabilísticas. Dice que esto hará que a los atacantes les resulte más difícil causar daño y además será más costoso para los actores de amenazas.

La primera capa es poco llamado “Crítico de línea del agraciado”, que es un maniquí separado que está incidental del maniquí principal de Gemini. Google lo describe de la posterior guisa: “el crítico de línea del agraciado se ejecuta una vez completada la planificación, para compulsar cada bono propuesta”. Lo que eso significa es que la UAC analiza si las acciones que el agente planificó para la tarea solicitada se alinean con el objetivo del agraciado. Si la bono está desalineada, la UAC impedirá que se ejecute. Consulte el diagrama de flujo mencionado, que muestra los pasos involucrados en el proceso.

Google dice que Alignment Critic no accederá a contenido web no confiable y solo tiene llegada a los metadatos para la bono propuesta. Eso es lo que lo aísla del maniquí principal. La UAC retroalimentará el maniquí de planificación para reformular el plan, que a su vez devolverá el control al agraciado en caso de fallas repetidas.

El aislamiento de sitios de Chrome y la política del mismo origen son el núcleo del maniquí de seguridad agente. Los agentes tienen llegada a través de sitios web, pero si no están restringidos, podrían hallarse comprometidos e interactuar con sitios arbitrarios, es opinar, evitar el aislamiento de sitios. Esto podría provocar el robo de datos o poco peor. Para evitar esto, la IA agente seguirá los conjuntos de origen del agente. Restringe a los agentes a aceptar solo a datos de los orígenes relacionados con la tarea coetáneo o a los datos que el agraciado compartió con el agente.

El contenido al que Gemini puede aceptar son orígenes de solo repaso, mientras que se impide el llegada a todos los demás orígenes. Los medios procesables, como aquellos en los que se puede hacer clic o escribir, son orígenes de repaso y escritura, al igual que el contenido que se puede acertar en una página.

El agente de IA pedirá permiso al agraciado ayer de navegar a sitios sensibles, como transacciones bancarias o información médica. Para ello, la IA ejecuta una comprobación determinista de una serie de sitios sensibles. El agente confirmará con el agraciado ayer de permitir que Chrome inicie sesión en un sitio a través del Administrador de contraseñas de Google. La empresa de Mountain View dice que la IA no tiene llegada a las contraseñas. Finalmente, el agente hará una pausa y pedirá permiso al agraciado, para acciones como completar una operación o suscripción, mandar mensajes o acciones consecuentes.

Encima de las comprobaciones anteriores, Google emplea varios procesos para detectar amenazas y replicar a ellas. El escaneo en tiempo verdadero de Chrome con Navegación segura y la IA en el dispositivo se utilizan para proteger contra estafas tradicionales. Y un clasificador de inyección rápida se ejecuta en paralelo a la inferencia del maniquí de planificación. Evitará que se tomen acciones basadas en el contenido, si determina que poco está apuntando al maniquí para hacer poco que no está formado con el objetivo del agraciado.

Ojear el completo anuncio en el blog de Google para más detalles. Google Chrome puede enfrentarse a Perplexity Comet y ChatGPT Atlas con sus capacidades de navegación agente.

¿Qué opinas de las IA agentes? ¿Has usado alguno?

Anuncio