Horas a posteriori de que una coalición de organizaciones de derechos digitales, seguridad de niño y derechos de las mujeres pidiera a Apple que “tomara medidas inmediatas” contra X y Grok AI, xAI confirmó que Grok ya no editará “imágenes de personas reales con ropa reveladora como bikinis”, con importantes exclusiones. Aquí están los detalles.

Apple enfrenta una nueva presión para eliminar X y Grok de la App Store

En los últimos días, innumerables usuarios de X y Grok han estado pidiendo al chatbot de xAI que desnude a mujeres e incluso a niñas menores de perduración, basándose en fotos publicadas en X.

Si correctamente xAI inicialmente definió la situación como “fallos en las salvaguardias”, Grok siguió cumpliendo con múltiples solicitudes para editar imágenes de esa forma. Esto, a su vez, llevó a que X fuera bloqueado en varios países y a que xAI se convirtiera en blanco de investigaciones en otros.

Mientras tanto, Apple se ha enfrentado a una renovada presión para eliminar las aplicaciones X y Grok de la App Store, tanto por parte de senadores como de usuarios. Hoy temprano, una coalición de 28 organizaciones de derechos digitales, seguridad de niño y derechos de las mujeres cartas abiertas enviadas a Apple y a Google, pidiendo a ambas empresas “que tomen medidas inmediatas para prohibir Grok, el maniquí de verbo vasto (LLM) impulsado por xAI”, en sus tiendas de aplicaciones.

De la carta abierta:

Nosotros, las organizaciones debajo firmantes, escribimos para instar a los líderes de Apple a tomar medidas inmediatas para prohibir Grok, el maniquí de verbo vasto (LLM) impulsado por xAI, en la tienda de aplicaciones de Apple. Grok se utiliza para crear cantidades masivas de imágenes íntimas no consentidas (NCII), incluido material de despotismo sexual de niño (CSAM), contenido que constituye un delito penal y una violación directa de las pautas de revisión de aplicaciones de Apple. Oportuno a que Grok está apto en la aplicación Grok y está directamente integrado en X, hacemos un llamado a los líderes de Apple para que eliminen de inmediato el ataque a ambas aplicaciones.

Y

Tal como están las cosas, Apple no sólo está habilitando NCII y CSAM, sino que además se está beneficiando de ello. Como coalición de organizaciones comprometidas con la seguridad y el bienestar en itinerario de todos, en particular mujeres y niños, así como con la aplicación ética de la inteligencia fabricado (IA), exigimos que los líderes de Apple eliminen urgentemente Grok y X de la App Store para evitar más abusos y actividades delictivas.

xAI dice que Grok dejará de editar imágenes, más o menos

Si correctamente Apple y Google han permanecido mayoritariamente en silencio desde que comenzó el problema, lo que provocó duras críticas, así como especulaciones de que temían enojar a Elon Musk e incluso al presidente Trump, xAI confirmado hoy que actualizará la cuenta de Grok en X para solucionar el problema, al menos en parte:

Actualizaciones de la cuenta @Grok

Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la tiraje de imágenes de personas reales con prendas reveladoras como bikinis. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos.

Encima, la creación de imágenes y la posibilidad de editar imágenes a través de la cuenta Grok en la plataforma X ahora solo están disponibles para suscriptores pagos. Esto agrega una capa adicional de protección al ayudar a respaldar que las personas que intenten extralimitarse de la cuenta de Grok para violar la ley o nuestras políticas puedan ser consideradas responsables.

Modernización de geobloqueo

Ahora bloqueamos geográficamente la capacidad de todos los usuarios de crear imágenes de personas reales en bikini, ropa interior y vestimenta similar a través de la cuenta de Grok y en Grok en X en aquellas jurisdicciones donde es ilegal.

Como era de esperar, una búsqueda rápida de las menciones de Grok revela que varios suscriptores de X ya están intentando eludir las restricciones recién impuestas, con cierto éxito. Al mismo tiempo, los no suscriptores reciben principalmente el próximo mensaje:

Actualmente, la procreación y tiraje de imágenes están limitadas a suscriptores Premium verificados. Puede suscribirse para desbloquear estas funciones.

La opinión de 9to5Mac

A medida que xAI ajusta los nuevos filtros y reglas, queda por ver si esto será suficiente para poner fin a este caso.

La historia muestra que los trolls pueden ser implacablemente creativos cuando intentan eludir las restricciones de seguridad, especialmente cuando se tráfico de atacar a mujeres en itinerario.

Y considerando las múltiples excepciones en el anuncio de xAI, incluido el hecho de que algunas de las reglas se aplican solo a la cuenta de Grok en X, es más probable que esto no sea el final, particularmente para las víctimas.

Sea como fuere, una cosa es segura: ha sido muy decepcionante ver a Apple sentarse delante el problema (al menos públicamente), esperando que desaparezca por sí solo.

Con cada nuevo bikini no consensuado e imagen CSAM ampliamente accesible para menores a través de la aplicación iOS de X en las últimas semanas, Apple no sólo socavó su argumento de que se esfuerza por fomentar un entorno seguro en la App Store, sino que además reforzó la concepto (a veces injusta) de que perdió por completo su carácter en los últimos primaveras.

Ofertas de accesorios en Amazon