Grok, el chatbot de IA respaldado por Elon Musk entretejido en la estructura de X, ha comenzado a aislar sus herramientas de coexistentes y impresión de imágenes para suscriptores pagos. El el cambio sigue a un sismo de críticas sobre la capacidad de la aparejo para producir imágenes sexualizadas no consensuadas. Si adecuadamente la restricción es claramente un intento de detener la marea de controversia, los reguladores, los grupos de defensa y los usuarios argumentan que hace poco para detener la creación de contenido dañino y potencialmente ilegal que involucra a mujeres y niños.

A partir del jueves por la confusión, Grok trasladó oficialmente sus funciones de creación de imágenes detrás del pared de cuota X Premium, que comienza en $ 8 por mes.

Sin bloqueo, la medida ha sido ampliamente burlada como una alternativa “con fugas”. Si adecuadamente los usuarios ocasionales en X pueden ser bloqueados, el golpe a las herramientas de coexistentes sigue siendo completamente sin cargo a través del sitio web independiente y la aplicación móvil de Grok. Esta omisión jurídica efectivamente socava la afirmación de la plataforma de que está adoptando una postura firme contra el uso indebido, dejando las herramientas más peligrosas aún al difusión del notorio en universal.

Los investigadores de seguridad y los observadores digitales no están convencidos de que el requisito de una polímero de crédito resuelva el problema. De hecho, muchos argumentan que en sinceridad monetiza el despotismo. Según la investigadora de deepfake Genevieve Oh, Grok seguía publicando más de 1.500 imágenes dañinas cada hora incluso a posteriori de que se activara el pared de cuota, lo que representa aproximadamente el 60% de su producción total de imágenes públicas. Los datos de Oh sugieren que Grok actualmente está generando contenido sexualizado a un ritmo que eclipsa incluso a los sitios web más notorios dedicados a la “nudificación”.

Las consecuencias han llegado a los niveles más altos del gobierno de EE.UU.

Los senadores demócratas Ron Wyden, Edward J. Markey y Ben Ray Luján enviaron recientemente una carta a los directores ejecutivos de Apple y Google, exigiendo que X fuera retirado de sus respectivas tiendas de aplicaciones. Los senadores argumentaron que al permitir que estas herramientas persistan, X está mostrando un “completo desprecio” por las reglas de seguridad que todos los demás desarrolladores de aplicaciones se ven obligados a seguir.

La presión internacional asimismo está alcanzando un punto de revuelo. Los funcionarios del Reino Unido e India han criticado el pared de cuota como una respuesta inadecuada. Un portavoz del primer ministro inglés describió la medida como “insultante” para las víctimas, sugiriendo que X simplemente está convirtiendo una crisis de seguridad en una fuente de ingresos por primas. Las víctimas han compartido historias similares; El instigador Jess Davies informó que Grok todavía podía “desnudar” digitalmente una foto de ella a través de su aplicación independiente el viernes por la mañana, a pesar de las supuestas restricciones.

Curiosamente, la controversia parece estar proporcionando un impulso financiero perverso a la plataforma.

Las estimaciones de Sensor Tower muestran que los ingresos por compras en el interior de la aplicación móvil en X aumentaron un 18% solo el jueves. Este pico supera con creces el crecimiento diario característico de la aplicación, lo que sugiere que el impulso para obtener al “modo picante” de Grok en sinceridad podría estar ayudando a los resultados financieros en apuros de X.

Los expertos jurídicos advierten que estas medidas a medias no se mantendrán en los tribunales por mucho tiempo. El fiscal universal de Carolina del Finalidad, Jeff Jackson, calificó la situación de Grok como un “punto de inflexión” para la seguridad de la IA, y señaló con qué facilidad estos sistemas pueden convertirse en armas. Sostuvo que la era de “moverse rápido y romper cosas” está chocando contra un pared en lo que respecta a la dignidad y seguridad de los ciudadanos privados.

A medida que los muros se acercan, X se enfrenta a una difícil dilema: implementar barreras técnicas genuinas y codificadas o enemistar un corte total en las principales tiendas de aplicaciones y mercados internacionales. Si Elon Musk decide restringir el software en sí (en superficie de simplemente el golpe a él) determinará si Grok tiene futuro como aparejo legítima o si se convierte en un paria de la era de la IA generativa.