Meta ha solucionado un error de seguridad que permitió a los usuarios de chatbot de Meta AI entrar y ver las indicaciones privadas y las respuestas generadas por IA de otros usuarios.

Sandeep Hodkasia, fundador de la firma de pruebas de seguridad AppSegure, dijo exclusivamente a TechCrunch que Meta pagó $ 10,000 en una retribución de retribución de errores por revelar en privado el error que presentó el 26 de diciembre de 2024.

Meta desplegó una alternativa el 24 de enero de 2025, dijo Hodkasia y no encontró evidencia de que el error fuera explotado maliciosamente.

Hodkasia le dijo a TechCrunch que identificó el error luego de examinar cómo Meta AI permite que sus usuarios iniciados editaran sus indicaciones de IA para reinterpretar texto e imágenes. Descubrió que cuando un adjudicatario edita su aviso, los servidores de back-end de Meta asignan el mensaje y su respuesta generada por IA es un número único. Al analizar el tráfico de la red en su navegador mientras edita un aviso de IA, Hodkasia descubrió que podía cambiar ese número único y los servidores de Meta devolverían una respuesta rápida y generada por AI de alguno por completo.

El error significaba que los servidores de Meta no estaban verificando correctamente para cerciorarse de que el adjudicatario solicitara el mensaje y su respuesta estaba autorizada para verlo. Hodkasia dijo que los números rápidos generados por los servidores de Meta eran “fácilmente adivinables”, lo que podría permitir que un actor receloso raspe las indicaciones originales de los usuarios cambiando rápidamente los números de inmediato utilizando herramientas automatizadas.

Cuando TechCrunch fue contactado, Meta confirmó que solucionó el error en enero y que la compañía “no encontró evidencia de alcaldada y recompensó al investigador”, dijo a TechCrunch a TechCrunch, el portavoz de Meta Daniels.

La información del error llega en un momento en que los gigantes tecnológicos están luchando para editar y refinar sus productos de IA, a pesar de muchos riesgos de seguridad y privacidad asociados con su uso.

La aplicación independiente de Meta AI, que debutó a principios de este año para competir con aplicaciones rivales como ChatGPT, se lanzó a un principio difícil luego de que algunos usuarios inadvertidamente compartieron públicamente lo que pensaron que eran conversaciones privadas con el chatbot.