La IA llegó para quedarse. De hecho, incluso está llegando a nuestros navegadores. Si perfectamente algunos navegadores populares han optado por incorporar gradualmente funciones de IA con el tiempo, como Google Chrome con Gemini, otros, como el navegador Comet de Perplexity y el navegador Atlas de ChatGPT, están construidos desde cero para utilizar funciones de IA, incluidos los agentes de IA. Ahora perfectamente, ya sea que estés en la ola de la IA o no, hay una cosa que es difícil de ignorar, y es la cantidad de riesgos de seguridad que ha introducido el uso de navegadores con agentes de IA.

Si perfectamente hay muchas razones para evitar los navegadores de IA como Comet, asimismo pueden ser extremadamente aperos para elogiar a los usuarios la posibilidad de tocar la navegación web desde una dirección diferente. Sin incautación, un aventura de seguridad importante se ha destacado por encima del resto: el hecho de que los agentes de IA como los utilizados en navegadores como Atlas y Comet pueden frustrarse y anularse con el uso de inyecciones rápidas. Eso puede permitir que los malos actores tomen el control de un agente de IA o intercepten información y datos, y es posible que el sucesor nunca se dé cuenta de lo que sucedió.

El posterior progreso de Perplexity, un nuevo sistema llamado BrowseSafeestá diseñado para detectar y avisar este tipo de ataques que afectan a los agentes de navegador de IA. Y, si otros navegadores lo utilizan, tal vez el sistema podría hacer que los agentes y navegadores de IA sean más factibles y seguros de usar a dadivoso plazo.

Según la publicación de Perplexity sobre el nuevo sistema, está diseñado en torno a una “construcción de defensa” distinto que se podio en puntos de narración y un nuevo maniquí de detección. Estos componentes están destinados a unirse de una modo que no sólo proteja a los agentes de IA, sino que asimismo los proteja específicamente para el “entorno web de mundo rajado”. Para ser sincero, estas mejoras no podrían acontecer llegado en mejor momento, lejos de cuando se lanzaron los modelos por primera vez, ya que cada semana surgen nuevos métodos para romper y explotar productos y servicios de IA. Los investigadores no solo han demostrado repetidamente que pueden tomar el control de diferentes sistemas usando IA (una vez tomaron el control de una casa inteligente usando Gemini y Google Calendar), sino que asimismo han usado la IA para romper la IA.

Para hacer de BrowseSafe un sistema de seguridad viable, Perplexity realizó una gran cantidad de investigaciones sobre todos los vectores de ataque conocidos. Usaron esa información para ayudar a crear un punto de narración, que era fundamental en el entrenamiento de un maniquí de detección del mundo positivo. Este maniquí tiene que ejecutarse de forma asincrónica adjunto con los agentes de IA, y Perplexity dice que ha preciso el maniquí para hacer precisamente eso.

Por supuesto, si este nuevo sistema se adoptará ampliamente o no es otra cuestión completamente distinta. Incluso está la cuestión de cuánto tiempo les tomará a los malos actores encontrar formas de eludir el sistema, ya que los investigadores de seguridad encuentran constantemente nuevas amenazas en la naturaleza.