Si aún no lo sabes, Grok AI es un asistente de IA tirado con el que los usuarios pueden interactuar en X (anteriormente Twitter). Lo etiquetas en una publicación, respondes o actualizas, y Grok responderá en consecuencia. El Grok-4 de ‘nivel de doctorado’ se lanzó en julio de 2025 y, en ese momento, igualmente estaba luchando por cumplir “entusiastamente” las indicaciones de los usuarios. Tenía pocas limitaciones a las solicitudes de los usuarios, incluso generaba imágenes racistas y de odio a pedido. La multitud usa principalmente Grok para producir contenido único u obtener reacciones, pero al igual que otras herramientas de inteligencia fabricado, los usuarios pueden cargar una imagen o interactuar con contenido existente a través de la plataforma. Por ejemplo, podrías reponer a la selfie de alguno y pedirle a Grok que genere una nueva imagen que agregue un sombrero de copa o un filtro tonto.

Sin requisa, según varios medios de comunicación, una investigación de Reuters incluyóGrok se utiliza actualmente para producir fotografías sexualizadas de mujeres y menores. Han aparecido imágenes reales generadas que son “deshumanizando” usuarios quitándoles la ropa artificialmente. Varias mujeres han sido atacadas, lo cual es espantoso por sí mismo, pero la forma en que los usuarios ofensivos interactúan con la utensilio igualmente es particularmente atroz. Están pidiendo a Grok que regenere imágenes de mujeres en bikinis con poca ropa o ropa “muy transparente”. Otros delincuentes le piden rotundamente a Grok que se quiebro la ropa por completo o que coloque a las mujeres en poses más reveladoras.

El regulador britano Ofcom supuestamente ha hecho un “contacto urgente” con X y xAI, la empresa responsable de Grok, y evaluará más a fondo si existen “posibles problemas de cumplimiento que justifiquen una investigación”. A su vez, los reguladores en todo el mundo igualmente parecen estar respondiendo a la situación. Todavía es demasiado pronto para ver acciones legales, como prohibiciones totales, pero es una posibilidad verdadero a posteriori de una viejo investigación.

Elon Musk, conocido por sus respuestas sarcásticas o, en ocasiones, rebeldes, ha utilizado emojis en varios casos para reponer a los usuarios que comentan sobre la situación. almizcle hizo finalmente emitir una enunciación diciendo “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”. Encima, el Seguimiento de la cuenta oficial de X Safety.proclamando “Tomamos medidas contra el contenido ilegal en X, incluido el material de injusticia sexual pueril (CSAM), eliminándolo, suspendiendo cuentas permanentemente y trabajando con los gobiernos locales y las fuerzas del orden según sea necesario”.

La propia expareja de Musk, Ashley St. Clair, ha incompatible las indicaciones sexualizadas en el contenido de X. Ella describe pedirle a Grok que elimine una publicación relacionada, a la que calificó el contenido de “humorístico”. Si correctamente se eliminó la publicación innovador, St. Clair dice que los medios posteriores empeoraron y eventualmente llevaron a deepfakes; algunos de los cuales incluso se convirtieron en contenido de video. El material ilegal y los cambios de contenido son conveniente a “fallos en las salvaguardias”, según la cuenta oficial de Grok. En la misma respuesta, el equipo de Grok recomienda presentar informes formales en presencia de el FBI o CyperTipline del NCMEC cuando encuentre material ilegal en la plataforma.

Muchos expertos en IA no confían en los chatbots de IA, incluidas herramientas como Grok. Incluso recomiendan evitar hacerle ciertas preguntas a la IA o realizar ciertas solicitudes, como producir deepfakes, producir contenido que incite al odio o procesar datos personales, incluidas imágenes personales publicadas en las redes sociales. Situaciones como la flagrante ayudan a resaltar por qué existen estas advertencias. Pero es importante memorar, especialmente en este caso; el contenido generado o desencajado no necesariamente está siendo publicado por el sujeto o con algún tipo de consentimiento.