Comet, el nuevo navegador web de AI de Perplexity, recientemente sufrió una vulnerabilidad de seguridad significativa, según un publicación de blog la semana pasada De Brave, una compañía de navegadores web competidor. Desde entonces, la vulnerabilidad se ha solucionado, pero apunta a los desafíos de incorporar modelos de idiomas grandes en los navegadores web.

A diferencia de los navegadores web tradicionales, Comet tiene un asistente de IA integrado. Este asistente puede escanear la página que está viendo, resumir sus contenidos o realizar tareas para usted. El problema es que el asistente de IA de Comet se zócalo en la misma tecnología que otros chatbots de IA, como ChatGPT.

Los chatbots de IA no pueden pensar y razonar de la misma forma que los humanos pueden, y si leen una aposento de contenido destinada a manipular su salida, puede terminar continuando. Esto se conoce como ingeniería rápida.

(Divulgación: Ziff Davis, la empresa matriz de CNET, en abril presentó una demanda contra OpenAi, alegando que infringió los derechos de autor de Ziff Davis en la capacitación y la operación de sus sistemas de IA).

Un representante de Brave no respondió de inmediato a una solicitud de comentarios.

Las compañías de IA intentan mitigar la manipulación de los chatbots de IA, pero eso puede ser complicado, ya que los malos actores siempre miran formas novedosas de romper las protecciones.

“Esta vulnerabilidad es fija”, dijo Jesse Dwyer, presidente de comunicaciones de Perplexity en un comunicado. “Tenemos un software de recompensas proporcionado robusto, y trabajamos directamente con Brave para identificarlo y repararlo”.

Prueba utilizada Texto oculto en Reddit

En su prueba, Brave configuró una página Reddit con texto invisible en la pantalla y le pidió a Comet que resumiera el contenido en pantalla. A medida que la IA procesaba el contenido de la página, no podía distinguir entre las indicaciones maliciosas y comenzó a procurar la información confidencial de los probadores de Brave.

En este caso, el texto oculto habilitó el Asistente de AI de Comet para navegar a la cuenta de perplejidad de un usufructuario, extraer la dirección de correo electrónico asociada y navegar a una cuenta de Gmail. El agente de IA esencialmente actuaba como un usufructuario efectivo, lo que significa que los métodos de seguridad tradicionales no funcionaban.

Brave advierte que este tipo de inyección rápida puede ir más allá, accediendo a cuentas bancarias, sistemas corporativos, correos electrónicos privados y otros servicios.

El ingeniero de seguridad móvil senior de Brave, Artem Chaikin, y el vicepresidente de privacidad y seguridad, Shivan Kaul Sahib, presentaron una índice de posibles soluciones. Primero, los navegadores web de IA siempre deben tratar el contenido de la página como no confiable. Los modelos AI deben corroborar para comprobar de que sigan la intención del usufructuario. El maniquí siempre debe corroborar con el usufructuario para comprobar de que las interacciones sean correctas, y el modo de navegación de agente solo debe activarse cuando el usufructuario lo desee.

La publicación del blog de Brave es la primera de una serie sobre desafíos que enfrentan los navegadores web de IA. Brave asimismo tiene un asistente de IA, Valienteincrustado en su navegador.

La IA está cada vez más integrada en todas las partes de la tecnología, desde las búsquedas de Google hasta cepillo de dientes. Si correctamente tener un asistente de IA es útil, estas nuevas tecnologías tienen diferentes vulnerabilidades de seguridad.

En el pasado, los piratas informáticos necesitaban ser codificadores expertos para entrar en sistemas. Sin incautación, cuando se tráfico de IA, es posible usar un habla ardientemente natural para exceder las protecciones incorporadas.

Adicionalmente, cedido que muchas empresas confían en los principales modelos de inteligencia fabricado, como los de OpenAi, Google y Meta, cualquier vulnerabilidad en esos sistemas podría tumbarse a las empresas que usan esos mismos modelos. Las compañías de IA no han sido abiertas sobre este tipo de vulnerabilidades de seguridad, ya que hacerlo podría dar a luz a los piratas informáticos, dándoles nuevas vías para explotar.