Los funcionarios indonesios dijeron el sábado que están bloqueando temporalmente el golpe al chatbot Grok de xAI.

Esta es una de las medidas más agresivas hasta el momento por parte de funcionarios gubernamentales en respuesta a una avalancha de imágenes sexualizadas generadas por IA, que a menudo representan mujeres y menores reales, y a veces mostrando embestida y atropello — publicado por Grok en respuesta a las solicitudes de los usuarios de la red social X. (X y xAI son parte de la misma empresa).

En una confesión compartida con The Guardian y otras publicaciones, el ministro digital y de comunicaciones de Indonesia, Meutya Hafid, dijo: “El gobierno considera la praxis de deepfakes sexuales no consensuales como una difícil violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”.

Según se informa, el profesión todavía convocó a funcionarios de X para discutir el tema.

Las diversas respuestas gubernamentales durante la semana pasada incluyen una orden del Profesión de TI de la India para que xAI tome medidas para evitar que Grok genere contenido obsceno, así como una orden de la Comisión Europea para que la empresa conserve todos los documentos relacionados con Grok, lo que podría estar preparando el tablado para una investigación.

En el Reino Unido, el regulador de comunicaciones Ofcom ha dicho que “realizará una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”. El primer ministro Keir Starmer dijo en una entrevista que Ofcom tiene su “pleno apoyo para tomar medidas”.

Y aunque en Estados Unidos la oficina Trump parece economizar silencio sobre el tema (el director ejecutante de xAI, Elon Musk, es un importante donante de Trump y dirigió el controvertido Unidad de Eficiencia Público de la oficina el año pasado), los senadores demócratas han llamó a Apple y Google para eliminar X de sus tiendas de aplicaciones.

xAI respondió inicialmente por informar una disculpa aparentemente en primera persona a la cuenta de Grok, reconociendo que una publicación “violó los estándares éticos y potencialmente las leyes estadounidenses” en torno al material de atropello sexual inmaduro. Más tarde restringió la función de engendramiento de imágenes con IA a los suscriptores de suscripción en X, aunque esa restricción no pareció afectar a la aplicación Grok en sí, que todavía permitía a cualquiera ocasionar imágenes.

En respuesta a una publicación que preguntaba por qué el gobierno del Reino Unido no estaba tomando medidas contra otras herramientas de engendramiento de imágenes de IA, almizcle escribió“Quieren cualquier excusa para la censura”.