Meta se ha enfrentado a algunas preguntas serias sobre cómo permite a sus usuarios menores de permanencia interactuar con chatbots impulsados ​​por IA. Más recientemente, comunicaciones internas obtenidas por la Oficina del Fiscal Caudillo de Nuevo México revelaron que, aunque el director ejecutor de Meta, Mark Zuckerberg, se oponía a que los chatbots tuvieran conversaciones “explícitas” con menores, igualmente rechazó la idea de imponer controles parentales a la función.

Reuters reportado que en un intercambio entre dos empleados anónimos de Meta, uno escribió que “presionamos mucho para que los controles parentales desactivaran GenAI, pero el liderazgo de GenAI rechazó la audacia de Mark”. En su manifiesto a la publicación, Meta acusó al Fiscal Caudillo de Nuevo México de “preferir documentos para pintar una imagen defectuosa e inexacta”. Nuevo México está demandando a Meta por cargos de que la empresa “no logró detener la marea de material sexual dañino y proposiciones sexuales entregadas a niños”; Está previsto que el caso vaya a proceso en febrero.

A pesar de estar disponibles solo por un breve tiempo, los chatbots de Meta ya han acumulado un historial de comportamiento que se vuelve ofensivo, si no completamente ilegal. En abril de 2025, El diario de Wall Street publicó una investigación que encontró que los chatbots de Meta podrían entablar conversaciones sexuales de imaginación con menores, o podrían ser dirigidos para imitar a un beocio y entablar conversaciones sexuales. El mensaje afirmaba que Zuckerberg había querido que se implementaran protecciones más flexibles en torno a los chatbots de Meta, pero un portavoz negó que la compañía hubiera pasado por detención las protecciones para niños y adolescentes.

Los documentos de revisión interna revelados en agosto de 2025 detallaban varias situaciones hipotéticas sobre qué comportamientos de chatbot estarían permitidos, y la estría entre lo sensual y lo sexual parecía proporcionado confusa. El documento igualmente permitió a los chatbots argumentar conceptos racistas. En ese momento, un representante le dijo a Engadget que los pasajes ofensivos eran hipotéticos y no una política existente, lo que en efectividad no parece una gran alivio, y que fueron eliminados del documento.

A pesar de los múltiples casos de uso cuestionable de los chatbots, Meta decidió suspender el golpe de las cuentas de adolescentes a ellos la semana pasada. La compañía dijo que está eliminando temporalmente el golpe mientras desarrolla los controles parentales que Zuckerberg supuestamente había rechazado usar.

“Los padres han podido ver durante mucho tiempo si sus hijos adolescentes han estado chateando con IA en Instagram, y en octubre anunciamos nuestros planes de ir más allá, creando nuevas herramientas para darles a los padres más control sobre las experiencias de sus hijos adolescentes con personajes de IA”, dijo un representante de Meta. “La semana pasada reforzamos una vez más nuestro compromiso de cumplir nuestra promesa de controles parentales para la IA, pausando por completo el golpe de los adolescentes a los personajes de la IA hasta que la traducción actualizada esté registro”.

Nuevo México presentó esta demanda contra Meta en diciembre de 2023 alegando que las plataformas de la empresa no protegían a los menores del acoso de los adultos. Los documentos internos revelados al principio de esa denuncia revelaron que 100.000 niños usuarios eran acosados ​​diariamente en los servicios de Meta.

Aggiornamento, 27 de enero de 2025, 6:52 p.m. ET: Se agregó una manifiesto del portavoz de Meta.

Aggiornamento, 27 de enero de 2025, 6:15 p.m. ET: Se corrigió el cronograma incorrecto de la demanda de Nuevo México, que se presentó en diciembre de 2023, no en diciembre de 2024.