A principios de este mes, la vecina de Joseph Thacker le mencionó que había pedido por precoz un par de dinosaurios de peluche para sus hijos. Había favorito los juguetes, llamados Bondus, porque ofrecían una chat de IA característica que permite a los niños dialogar con el trebejo como una especie de amigo imaginario apoderado para el educación obligatorio. Pero sabía que Thacker, un investigador de seguridad, había trabajado en Peligro de IA para niños, y sentía curiosidad por sus pensamientos.

Entonces Thacker lo investigó. Con sólo unos minutos de trabajo, él y un amigo investigador de seguridad web llamado Joel Margolis hicieron un descubrimiento sorprendente: el portal web de Bondu, destinado a permitir a los padres controlar las conversaciones de sus hijos y al personal de Bondu monitorear el uso y rendimiento de los productos, igualmente permite a cualquier persona con un Gmail Transcripciones de paso a la cuenta de prácticamente todas las conversaciones que los niños usuarios de Bondu han tenido con el trebejo.

Sin aceptar a angla ningún hackeo positivo, simplemente iniciando sesión con una cuenta arbitraria de Google, los dos investigadores inmediatamente se encontraron mirando las conversaciones privadas de los niños, los apodos que los niños habían puesto a su Bondu, los gustos y disgustos de los dueños de los juguetes, sus bocadillos favoritos y sus movimientos de bailoteo.

En total, Margolis y Thacker descubierto que los datos que Bondu dejó desprotegidos (accesibles para cualquiera que iniciara sesión en la consola web pública de la compañía con su nombre de becario de Google) incluían nombres de niños, fechas de origen, nombres de miembros de la tribu, “objetivos” para el impulsivo elegidos por un padre y, lo más inquietante, resúmenes y transcripciones detalladas de cada conversación inicial entre el impulsivo y su Bondu, un trebejo prácticamente diseñado para provocar una conversación íntima uno a uno. Bondu confirmó en conversaciones con los investigadores que se podía consentir a más de 50.000 transcripciones de chat a través del portal web expuesto, esencialmente todas las conversaciones en las que habían participado los juguetes, excepto aquellas que habían sido eliminadas manualmente por los padres o el personal.