La UE ha descubierto su propia investigación sobre el chatbot Grok que genera material de exageración sexual pueril. Se estima que Grok generó 23.000 imágenes CSAM en sólo 11 días. Refrescar: Una segunda investigación se ha descubierto en Irlanda, centrándose en posibles violaciones de la privacidad.

A pesar de los múltiples llamamientos para que Apple y Google eliminen temporalmente X y Grok de la App Store, ninguna de las empresas lo ha hecho todavía…

Grok generó 23.000 imágenes CSAM

Como la mayoría de los otros chatbots de IA, Grok de xAI puede originar imágenes a partir de mensajes de texto. Puede hacerlo directamente en la aplicación, en la web o a través de X. Sin confiscación, a diferencia de otros servicios, Grok tiene barreras de seguridad extremadamente flexibles que lo han trillado originar imágenes semidesnudas no consensuadas de personas reales, incluidos niños.

Engadget informa que una estimación sugiere que Grok generó cerca de de 23.000 imágenes CSAM en solo 11 días.

El Centro para Contrarrestar el Odio Digital (CCDH) publicó sus hallazgos. La ordenamiento británica sin fines de beneficio basó sus hallazgos en una muestra aleatoria de 20.000 imágenes de Grok del 29 de diciembre al 9 de enero. Luego, el CCDH extrapoló una estimación más amplia basada en los 4,6 millones de imágenes que Grok generó durante ese período (…)

Durante un período de 11 días, Grok generó aproximadamente 3 millones de imágenes sexualizadas, incluidas unas 23.000 de niños.

Dicho de otra guisa, Grok generó aproximadamente 190 imágenes sexualizadas por minuto durante ese período de 11 días. Entre ellos, creó una imagen sexualizada de niños una vez cada 41 segundos.

Se abre una investigación de la UE

A principios de este mes, tres senadores estadounidenses pidieron al director ejecutor de Apple, Tim Cook, que eliminara temporalmente X y Grok de la App Store adecuado a la “vivientes de contenido repugnante”. La empresa aún no lo ha hecho.

Dos países han bloqueado la aplicación y ya se han descubierto investigaciones tanto en California como en el Reino Unido. El Tiempos financieros informa que la UE además ha descubierto una investigación.

La investigación, anunciada el lunes en virtud de la Ley de Servicios Digitales de la UE, evaluará si xAI intentó mitigar los riesgos de implementar las herramientas de Grok en X y la proliferación de contenido que “puede equivaler a material de exageración sexual pueril”.

“Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación”, dijo la jefa de tecnología de la UE, Henna Virkkunen.

Si se descubre que la empresa ha incumplido la DSA, se le puede imponer una multa de hasta el 6% de sus ingresos globales anuales.

Foto por Logan Voss en desempaquetar