Hemos escuchado mucho este año sobre la IA que permite nuevas estafas, desde hasta. Sin confiscación, un nuevo crónica sugiere que la IA igualmente presenta un aventura de fraude desde la otra dirección, cayendo fácilmente para las estafas que los usuarios humanos tienen mucho más probabilidades de atrapar.

El crónica, Proviene de una startup de ciberseguridad convocatoria Guardio, que produce una extensión del navegador diseñada para capturar estafas en tiempo vivo. Sus hallazgos se refieren a los llamados navegadores de “IA de agente” como, que navegan por Internet por usted y regresan con resultados. AGENIC AI afirma poder trabajar en tareas complejas, como construir un sitio web o planificar un delirio, mientras que los usuarios se repletan.

Aquí hay un gran problema desde una perspectiva de seguridad: mientras que los humanos no siempre son excelentes para clasificar el fraude de la sinceridad, la IA es aún peor. Una tarea aparentemente simple, como resumir sus correos electrónicos o comprarle poco en cadeneta, viene con innumerables oportunidades para deslizarse. Al carecer de sentido global, la IA agente puede ser propensa a tropezar en trampas obvias.

Los investigadores de Guardio probaron esta hipótesis utilizando, actualmente el único navegador de agente ampliamente adecuado. Usando una IA diferente, giraron un sitio web mentiroso que pretendía ser Walmart, luego navegó a ella y le dijeron a Comet que les comprara un Apple Watch. Ignorando varias pistas de que el sitio no era seguro, incluido un logotipo y URL obviamente inestable, Comet completó la negocio, entregando detalles financieros en el proceso.

En otra prueba, los autores del estudio se enviaron un correo electrónico que pretendía ser de Wells Fargo, que contiene una verdadera URL de phishing. Comet abrió el enlace sin crear alarmas y arrojó alegremente un nombre de adjudicatario y contraseña de un tira en el sitio de phishing. Una tercera prueba demostró ser susceptible a una estafa de inyección rápida, en la que un cuadro de texto oculto en una página de phishing ordenó a la IA que descargara un archivo.

Es solo un conjunto de pruebas, pero las implicaciones son aleccionadoras. Los navegadores de IA de agente no solo son susceptibles a nuevos tipos de estafas, sino que igualmente pueden ser exclusivamente vulnerables a las estafas más antiguas del vademécum. AI está construida para hacer lo que quiera su actor, por lo que si un adjudicatario humano no nota los signos de una estafa la primera vez que miran, la IA no servirá como una balaustrada.

Esta advertencia se produce cuando todos los líderes en el campo apostan en sobresaliente a la IA de agente. Microsoft está, OpenAi, y Google ha estado en proceso desde el año pasado. Si los desarrolladores no comienzan a construir una mejor detección de estafas en sus navegadores, la IA agente corre el aventura de convertirse en un punto ciego masivo en el mejor de los casos y un nuevo vector de ataque en el peor.