Un agente de IA se volvió desobediente en Meta y expuso datos confidenciales de la empresa y de los usuarios a empleados que no tenían permiso para obtener a ellos.

Según un referencia de incidente, que fue trillado y reportado por La informaciónun empleado de Meta publicó en un foro interno pidiendo ayuda con una pregunta técnica, lo cual es una actividad normalizado. Sin incautación, otro ingeniero le pidió a un agente de IA que lo ayudara a analizar la pregunta y el agente terminó publicando una respuesta sin pedirle permiso al ingeniero para compartirla. Meta confirmó el incidente a The Information.

Resulta que el agente de IA no dio buenos consejos. El empleado que hizo la pregunta terminó tomando acciones basadas en la preceptor del agente, lo que sin darse cuenta puso a disposición de los ingenieros, que no estaban autorizados a obtener a ellos, cantidades masivas de datos relacionados con la empresa y los usuarios durante dos horas.

Meta consideró el incidente como “Sev 1”, que es el segundo nivel más parada de alcance en el sistema interno de la empresa para contar problemas de seguridad.

Los agentes rebeldes de IA ya han planteado un problema en Meta. Summer Yue, directora de seguridad y vinculación de Meta Superintelligence, publicado en X el mes pasado describiendo cómo su agente de OpenClaw terminó borrando toda su bandeja de entrada, a pesar de que ella le pidió que confirmara con ella antaño de tomar cualquier medida.

Aún así, Meta parece eufórico sobre el potencial de la IA agente. La semana pasada, Meta compró Moltbook, un sitio de redes sociales similar a Reddit para que los agentes de OpenClaw se comuniquen entre sí.