X dice que está cambiando sus políticas en torno a las capacidades de estampado de imágenes de Grok luego de una protesta de varias semanas por el hecho de que el chatbot fue procesado repetidamente de ocasionar imágenes sexualizadas de niños y desnudez no consensuada. En una aggiornamento compartida desde la cuenta @Safety en X, la compañía dijo que ha “implementado medidas tecnológicas para evitar que la cuenta Grok permita la estampado de imágenes de personas reales con ropa reveladora como bikinis”.

Las nuevas salvaguardas, según X, se aplicarán a todos los usuarios independientemente de si pagan por Grok. xAI asimismo está trasladando todas las funciones de reproducción de imágenes de Grok detrás de su pared de cuota para suscriptores, de modo que los usuarios que no pagan ya no podrán crear imágenes. Y bloqueará geográficamente “la capacidad de todos los usuarios de ocasionar imágenes de personas reales en bikini, ropa interior y vestimenta similar a través de la cuenta de Grok y en Grok en X” en regiones donde es ilegal.

La revelación de la compañía se produce horas a posteriori de que el estado de California abriera una investigación sobre xAI y Grok por su manejo de material de explotación pueril y desnudez generado por IA. Una revelación del Fiscal Normal de California, Rob Bonta, citó un descomposición que encontró que “más de la centro de las 20.000 imágenes generadas por xAI entre Navidad y Año Nuevo mostraban a personas con ropa mínima”, incluidas algunas que parecían ser niños.

En su aggiornamento, X dijo que tiene “tolerancia cero” con la explotación pueril y que elimina “contenido violatorio de inscripción prioridad, incluido material de demasía sexual pueril (CSAM) y desnudez no consensuada” de su plataforma. Temprano en el día, Elon Musk dicho “No tenía conocimiento de ninguna imagen de menores desnudos generada por Grok”. Él Más tarde auxiliar que cuando su configuración NSFW está habilitada, “Se supone que Grok (sic) permite la desnudez de la parte superior del cuerpo de humanos adultos imaginarios (no reales) de modo consistente con lo que se puede ver en películas con clasificación R en Apple TV”. Añadió que “esto variará en otras regiones” según las leyes locales.

Malasia e Indonesia se mudaron recientemente rodear Grok cita preocupaciones de seguridad y su manejo de material sexualmente patente generado por IA. En el Reino Unido, donde el regulador Ofcom asimismo está investigando a xAI y Grok, los funcionarios asimismo dijeron que respaldarían un sitio similar del chatbot.

¿Tienes algún consejo para Karissa? Puedes contactar con ella por correo electrónicoen busilis, bóveda celeste azur, Traposo envía un mensaje a @karissabe.51 para chatear de forma confidencial en Signal.