La UE ha descubierto su propia investigación sobre el chatbot Grok que genera material de extralimitación sexual inmaduro. Se estima que Grok generó 23.000 imágenes CSAM en sólo 11 días.

A pesar de los múltiples llamamientos para que Apple y Google eliminen temporalmente X y Grok de la App Store, ninguna de las empresas lo ha hecho todavía…

Grok generó 23.000 imágenes CSAM

Como la mayoría de los otros chatbots de IA, Grok de xAI puede suscitar imágenes a partir de mensajes de texto. Puede hacerlo directamente en la aplicación, en la web o a través de X. Sin incautación, a diferencia de otros servicios, Grok tiene barreras de seguridad extremadamente flexibles que lo han manido suscitar imágenes semidesnudas no consensuadas de personas reales, incluidos niños.

Engadget informa que una estimación sugiere que Grok generó más o menos de 23.000 imágenes CSAM en solo 11 días.

El Centro para Contrarrestar el Odio Digital (CCDH) publicó sus hallazgos. La estructura británica sin fines de utilidad basó sus hallazgos en una muestra aleatoria de 20.000 imágenes de Grok del 29 de diciembre al 9 de enero. Luego, el CCDH extrapoló una estimación más amplia basada en los 4,6 millones de imágenes que Grok generó durante ese período (…)

Durante un período de 11 días, Grok generó aproximadamente 3 millones de imágenes sexualizadas, incluidas unas 23.000 de niños.

Dicho de otra modo, Grok generó aproximadamente 190 imágenes sexualizadas por minuto durante ese período de 11 días. Entre ellos, creó una imagen sexualizada de niños una vez cada 41 segundos.

Se abre una investigación de la UE

A principios de este mes, tres senadores estadounidenses pidieron al director ejecutante de Apple, Tim Cook, que eliminara temporalmente X y Grok de la App Store correcto a la “engendramiento de contenido repugnante”. La empresa aún no lo ha hecho.

Dos países han bloqueado la aplicación y ya se han descubierto investigaciones tanto en California como en el Reino Unido. El Tiempos financieros informa que la UE incluso ha descubierto una investigación.

La investigación, anunciada el lunes en virtud de la Ley de Servicios Digitales de la UE, evaluará si xAI intentó mitigar los riesgos de implementar las herramientas de Grok en X y la proliferación de contenido que “puede equivaler a material de extralimitación sexual inmaduro”.

“Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación”, dijo la jefa de tecnología de la UE, Henna Virkkunen.

Si se descubre que la empresa ha incumplido la DSA, se le puede imponer una multa de hasta el 6% de sus ingresos globales anuales.

Foto por Logan Voss en desempaquetar