India ordenó a X de Elon Musk que realice cambios técnicos y de procedimiento inmediatos en su chatbot de inteligencia fabricado Grok a posteriori de que usuarios y legisladores señalaron la coexistentes de contenido “obsceno”, incluidas imágenes de mujeres alteradas por inteligencia fabricado creadas con la aparejo.

El viernes, el Servicio de TI de la India emitió la orden ordenando a Musk’s X que tomara medidas correctivas contra Grok, incluida la restricción de la coexistentes de contenido que involucre “desnudez, sexualización, material sexualmente patente o de otro modo ilegal”. El tarea además le dio a la plataforma de redes sociales 72 horas para presentar un referencia de las medidas tomadas que detalla las medidas que ha tomado para evitar el alojamiento o la difusión de contenido considerado “obsceno, pornográfico, vulgar, indecente, sexualmente patente, pedófilo o prohibido por la ley”.

La orden, revisada por TechCrunch, advirtió que el incumplimiento podría poner en peligro las protecciones de “puerto seguro” de X: inmunidad procesal de responsabilidad por el contenido generado por el adjudicatario según la ley india.

La medida de la India surge tras las preocupaciones planteadas por usuarios que compartieron ejemplos de cómo se pidió a Grok que alterara imágenes de personas, principalmente mujeres, para que pareciera que llevaban bikinis, lo que provocó una denuncia formal de la parlamentaria india Priyanka Chaturvedi. Por otra parte, informes recientes señalaron casos en los que el chatbot de IA Generaron imágenes sexualizadas que involucran a menores.un problema X admitido El viernes temprano se debió a fallas en las salvaguardias. Esas imágenes fueron eliminadas después.

Sin secuestro, las imágenes generadas con Grok que hacían que las mujeres parecieran usar bikinis a través de una variación de IA permanecían accesibles en X en el momento de la publicación, según descubrió TechCrunch.

La última orden llega días a posteriori de que el Servicio de TI de la India emitiera el lunes un aviso más amplio, que además fue revisado por TechCrunch, para las plataformas de redes sociales, recordándoles que el cumplimiento de las leyes locales que rigen el contenido obsceno y sexualmente patente es un requisito previo para conservar la inmunidad procesal de responsabilidad por el material generado por el adjudicatario. El aviso instaba a las empresas a proteger las salvaguardias internas y advertía que de no hacerlo podría dar lado a acciones legales en virtud de las leyes penales y de TI de la India.

“Se reitera que el incumplimiento de los requisitos anteriores se considerará seriamente y puede tener consecuencias legales estrictas contra su plataforma, sus funcionarios responsables y los usuarios de la plataforma que violen la ley, sin previo aviso”, advirtió la orden.

El gobierno indio dijo que el incumplimiento podría dar lado a acciones contra X según la ley de TI y los estatutos penales de la India.

India, uno de los mercados digitales más grandes del mundo, se ha convertido en un caso crítico de prueba de hasta dónde están dispuestos a lograr los gobiernos para responsabilizar a las plataformas por el contenido generado por IA. Cualquier endurecimiento de la aplicación de la ley en el país podría tener enseres dominó para las empresas tecnológicas globales que operan en múltiples jurisdicciones.

La orden se produce mientras Musk’s X continúa desafiando aspectos de las reglas de regulación de contenido de la India en los tribunales, argumentando que los poderes de exterminio del gobierno federal corren el aventura de extralimitarse, incluso cuando la plataforma ha cumplido con la mayoría de las directivas de soledad. Al mismo tiempo, los usuarios de X han utilizado cada vez más Grok para probar hechos en tiempo positivo y comentar eventos noticiosos, lo que hace que sus resultados sean más visibles (y más políticamente sensibles) que los de las herramientas de inteligencia fabricado independientes.

X y xAI no respondieron de inmediato a las solicitudes de comentarios sobre la orden del gobierno indio.