Es posible que recibamos una comisión por las compras realizadas a través de enlaces.

Géminis tiene un gran problema de seguridad. Verdaderamente no es sorprendente, considerando que hemos conocido a investigadores de seguridad tomar el control de una casa inteligente usando invitaciones de Google Calendar que secuestran la IA usando código o texto oculto. Bueno, parece que uno de los mayores problemas nuevos tiene que ver con la capacidad de los atacantes de ocultar cargas avíos maliciosas en ASCIIlo que lo hace detectable por los LLM pero no por los usuarios.

La configuración es similar a lo que ya hemos conocido, lo que permite explotar Gemini aprovechando el hecho de que puede registrar texto que un beneficiario humano podría no detectar. Ahora acertadamente, vale la pena mencionar que esto es sólo una cuestión de Géminis. Todavía aparece en DeepSeek y Grok. Sin requisa, ChatGPT, Copilot y Claude muestran resistor delante el problema, aunque ChatGPT tiene sus propios problemas de seguridad que afrontar.

El problema fue descubierto por pan dulce de fuegouna empresa de ciberseguridad que ha puesto a prueba a Gemini y todos los demás chatbots de IA mencionados anteriormente para ver si una técnica conocida como contrabando de ASCII (todavía conocido como contrabando de caracteres Unicode) funcionaría. Al informarlo a Google, FireTail señala que la compañía dijo que el problema no es en existencia un error de seguridad. De hecho, Google cree que el ataque “sólo puede resultar en ingeniería social” y tomar medidas “no haría que nuestros usuarios sean menos propensos a este tipo de ataques”.

Si acertadamente la vulnerabilidad de Gemini al contrabando de ASCII podría no ser técnicamente un error de seguridad, el hecho de que Google rechazo el problema por completo es preocupante, especialmente a medida que Gemini se vuelve más frecuente en los productos y servicios de Google. Ya puedes conectar Gemini a tu bandeja de entrada de Gmail, lo que podría permitir que ataques de ingeniería social envíen comandos a tu IA sin que tú lo sepas.

Esto, por supuesto, plantea otras preguntas sobre cómo podría afectar a Géminis en el futuro. Regalado que ChatGPT pone las compras en primer plano, todavía tiene sentido que Google haga poco similar. Pero la investigación detrás del hallazgo en FireTail sugiere que esta vulnerabilidad podría permitir a los malos actores cursar enlaces a sitios maliciosos en los resultados de Gemini utilizando instrucciones invisibles, poco que el investigador de seguridad incluso demostró que era posible en su ejemplo.

Esto es ciertamente preocupante y será interesante ver si Google continúa adoptando esta postura, especialmente cuando otros como Amazon lo han hecho. publicó extensas publicaciones de blog sobre el tema. Los ingenieros de seguridad de Amazon incluso señalan que “las medidas de protección deben considerarse componentes fundamentales para aplicaciones críticas de IA generativa en división de adiciones opcionales”.