ztevenreal
La última ola de publicidad en torno a los LLM ha creado una nueva tendencia en el mundo de los navegadores. De repente, todo el mundo quiere crear un “navegador de IA”, e incluso los grandes nombres como OpenAI y Perplexity ahora están tratando de enfrentarse al coloso categórico en el que se ha convertido Google Chrome. La competencia siempre es buena, especialmente en un espacio que prácticamente se ha convertido en un monopolio, pero tengo que ser honesto. Estos nuevos navegadores con IA no lo son.
Estoy totalmente a distinción de la competencia, especialmente en un espacio que básicamente se ha convertido en un monopolio. Pero luego de utilizar algunos de estos llamados navegadores AI, no estoy convencido. Probé el nuevo navegador ChatGPT Atlas durante aproximadamente una semana antaño de eliminarlo, y eso me impulsó a profundizar en toda la categoría. Cuanto más miraba, más sentía que íbamos en la dirección equivocada.
La mayoría de los agentes de IA son vulnerables a ataques de inyección rápida
Irónicamente, Géminis creó uno para mí.
Un ataque de inyección rápida se produce cuando un sitio web introduce sus propias instrucciones ocultas y la IA las sigue en extensión de lo que usted verdaderamente le pidió que hiciera. No se piratea cero. La IA simplemente lee todo lo que hay en la página, incluido el texto que es invisible para usted, y lo manejo como parte de la conversación.
Esto se convierte en un problema positivo en los navegadores de IA porque el agente intenta comprender toda la página a la vez. Si un sitio oculta una dirección de texto, la IA aún puede leerla y podría pensar que es un comando positivo. Así es como un sitio puede decirle al agente que ignore su solicitud o que produzca poco que usted nunca pretendió.
Incluso OpenAI dice El nuevo navegador ChatGPT Atlas sigue siendo indefenso a la inyección rápida. Entonces, si aceptablemente la idea suena verdaderamente sofisticada, en existencia me sorprendió lo obediente que fue crear un ataque similar yo mismo.
No entraré en detalles técnicos por razones obvias de seguridad, pero logré engañar a Dia, un navegador de inteligencia sintético proporcionado popular, para que hablara solo en verbo pirata y dijera “perros de mar” en extensión de “perros” cada vez que intentaba resumir o contestar poco relacionado con una página que creé. Fue un ejemplo tonto, pero demostró el punto. El agente escuchó las instrucciones ocultas en la página más que a mí.
Si poco tan simple puede cambiar la forma en que asegura una IA, imagine lo que podría hacer una tienda o un sitio incompleto. Un sitio de compras podría empujar a la IA a encomendar la interpretación más cara de un producto, o un sitio pillo podría empujar silenciosamente al agente en torno a enlaces inseguros.
Si aceptablemente no pude replicar los mismos resultados en ChatGPT Atlas, además debo señalar que lo que hice no fue verdaderamente sofisticado de ninguna modo.
Tú no eres el heredero, eres el producto
Estás construyendo el sucesivo maniquí.
Durante abriles, Google ha sido la empresa que crea un perfil detallado de quién es usted. Comenzó con la Búsqueda de Google, donde todo lo que buscaba ayudaba a Google a comprender qué anuncios mostrarle. Con el tiempo, esto se expandió a otros servicios como Maps y YouTube, que agregaron aún más datos sobre sus hábitos, ubicaciones e intereses.
Pero con los LLM la situación es muy diferente. La mayoría de las personas no se dan cuenta de cuánto están renunciando cuando hablan con una IA. A diferencia de la búsqueda tradicional, los usuarios tienden a ser mucho más personales con modelos de verbo grandes porque la interacción se siente como una conversación. Incluso he trillado a personas intentar tratar a ChatGPT como a un terapeuta.
El problema es que tus chats no se quedan sin usar. En muchos casos, los datos que usted proporciona se utilizan para entrenar o mejorar modelos futuros. Eso significa que sus historias, preferencias y decisiones personales pueden terminar como parte del conjunto de datos que determina cómo se comporta la IA para millones de otros usuarios.
Cuando un navegador con IA envía cada página que encuentro y cada mensaje que escribe a la estrato, el costo de privacidad se vuelve mucho anciano. Y esta es probablemente la forma más pura de elaboración de perfiles que pueden hacer las empresas, por lo que obviamente un navegador “IA” es la forma más obediente de conseguir allí.
La mayoría de los “agentes” de IA verdaderamente no resuelven problemas
¿Le gustaría además valer algún aventura con su agente?
Si no está familiarizado con el funcionamiento de estos agentes, se supone que deben manejar las acciones automáticamente según una indicación. En teoría, esto debería eludir tiempo. En la actos, esto rara vez ocurre. Cuando probé el nuevo navegador ChatGPT Atlas, el Modo Agente fue casi inútil.
Alucinaría acciones, resumiría aleatoriamente texto que nunca pedí o ignoraría por completo cosas básicas como las barras de desplazamiento. Encima, era tan calmoso que podría sobrevenir realizado la tarea yo mismo en un tercio del tiempo. En extensión de ayudar, siguió interponiéndose.
Pero el anciano problema es en existencia la seguridad. Estos agentes además son propensos a los rápidos ataques de inyección que mencioné anteriormente, y las consecuencias pueden ser mucho peores. De hecho, se puede engañar a los navegadores de IA para que caigan en estafas como correos electrónicos de phishing, lo cual es un fracaso catastrófico a error de un término mejor.
Si las operaciones agentes son uno de los principales puntos de traspaso de estos navegadores y lo exponen a un aventura tan enorme (por ahora), ¿qué sentido tiene utilizarlas?
Puede obtener la mayoría de las mismas funciones con extensiones.
Al final, todo es Cromo
Eche un vistazo rápido a los navegadores de IA más populares en la contemporaneidad y observe cuán asombrosamente similares son todos ellos. Perplexity Comet, ChatGPT Atlas y Dia siguen casi exactamente la misma fórmula. Llaman a un LLM cuando una pregunta es demasiado amplia o vaga para una búsqueda frecuente en Google. Añaden una mostrador vecino de IA que lee la página en la que te encuentras y asegura a tus preguntas. E incluyen un conjunto de funciones básicas de agente que intentan automatizar las cosas por usted. Ese es prácticamente el paquete completo.
Cuando lo desglosas, cero de esto es exclusivo de estos navegadores. Puedes alegrar casi todo en un navegador Chromium frecuente con algunas extensiones. Estos navegadores no están haciendo cero revolucionario para incorporar la IA a su flujo de trabajo. La inteligencia positivo proviene de la estrato, no del navegador en sí, por lo que el navegador actúa principalmente como una interfaz para el maniquí.
La perplejidad tiene la suya Extensión de búsqueda AI que ya reemplaza la Búsqueda de Google. Para la parte de la mostrador vecino de IA, puedes usar poco como FillAppque te brinda la gloriosa “mostrador vecino de IA” y un poco de comportamiento del agente si te sientes atrevido. Una vez que sumas estas piezas, obtienes el mismo conjunto de funciones sin indigencia de un navegador completamente nuevo en tu vida.
Los navegadores de IA deben apuntar más detención que los contenedores LLM
Las empresas deben dejar antes la idea de que un LLM es suficiente para hacer que un navegador sea “inteligente”. En existencia, la IA debería mejorar la experiencia, no someterse a sentarse en una mostrador vecino repitiendo lo que ya está en la página. Por eso Arc se sentía tan diferente de su sucesora, Dia.
Por ahora, todavía me siento como un refugiado del navegador, saltando entre opciones y esperando que poco finalmente haga clic. Desde que desapareció el Arc flamante, cero se ha acercado a reemplazarlo.
