Los defensores de la privacidad y los derechos digitales están generando alarmas sobre una ley que muchos esperarían que animen: una represión federal contra el porno de venganza y los profundos profundos generados por IA.

La Ley de Take It Down recién firmada hace que sea ilegal imprimir imágenes explícitas no consensuadas, reales o generadas por IA, y ofrece plataformas solo 48 horas para cumplir con la solicitud o responsabilidad facial de una víctima. Si admisiblemente es ampliamente elogiado como una vencimiento desde hace mucho tiempo para las víctimas, los expertos además advirtieron su lengua etéreo, los estándares laxos para probar las afirmaciones y la escasa ventana de cumplimiento podría allanar el camino para exagerar, censura de contenido lícito e incluso vigilancia.

“La moderación de contenido a escalera es ampliamente problemática y siempre termina con un discurso importante y necesario censurarse”, dijo a TechCrunch, directora de asuntos federales de la Fundación Electrónica de Frontier, una ordenamiento de derechos digitales.

Las plataformas en linde tienen un año para establecer un proceso para eliminar imágenes íntimas no consensuadas (NCII). Si admisiblemente la ley requiere que las solicitudes de derribo provienen de víctimas o sus representantes, solo solicita una firma física o electrónica, no se necesita una identificación con foto u otra forma de comprobación. Eso probablemente tiene como objetivo acortar las barreras para las víctimas, pero podría crear una oportunidad de despotismo.

“Positivamente quiero estar desacertado sobre esto, pero creo que habrá más solicitudes para eliminar imágenes que representan a las personas queer y trans en las relaciones, e incluso más que eso, creo que será porno consensual”, dijo McKinney.

La senadora Marsha Blackburn (R-TN), copatrocinadora de la Ley Take It Down, además patrocinó la Ley de Seguridad en linde de los niños que coloca la responsabilidad en las plataformas para proteger a los niños del contenido dañino en linde. Blackburn ha dicho que ella cree contenido relacionado con personas transgénero es dañino para los niños. Del mismo modo, la Fundación Heritage, el comunidad de expertos conservador detrás del Plan 2025, además ha dicho que “sostener el contenido trans alejado de los niños es proteger a los niños”.

Adecuado a la responsabilidad que enfrentan las plataformas si no retiran una imagen adentro de las 48 horas posteriores a la recibimiento de una solicitud, “el valencia predeterminado será que simplemente la eliminarán sin investigar si esto es en realidad NCII o si es otro tipo de palabra protegida, o si es relevante para la persona que está haciendo la solicitud”, dijo McKinney.

Snapchat y Meta han dicho que apoyan la ley, pero ningún respondió a las solicitudes de TechCrunch para obtener más información sobre cómo verificará si la persona que solicita un derribo es una víctima.

Mastodon, una plataforma descentralizada que aloja su propio servidor insignia al que otros pueden unirse, le dijo a TechCrunch que se inclinaría cerca de la matanza si fuera demasiado difícil probar a la víctima.

Mastodon y otras plataformas descentralizadas como Bluesky o Pixed pueden ser especialmente vulnerables al impacto relajante de la regla de derribo de 48 horas. Estas redes dependen de servidores operados de forma independiente, a menudo administradas por organizaciones sin fines de rendimiento o individuos. Según la ley, la FTC puede tratar cualquier plataforma que no “cumpla razonablemente” con las demandas de derribo como cometer un “acto o actos injusto o engañoso”, incluso si el huésped no es una entidad comercial.

“Esto es preocupante en su cara, pero es particularmente así en un momento en que la arnés de la FTC ha tomado sin precedentes advenir a politizar la agencia y ha prometido explícitamente utilizar el poder de la agencia para castigar las plataformas y servicios en un ideológicoa diferencia de la almohadilla de principios, “, dijo en una Iniciativa de Derechos Civiles Cibernéticos, una ordenamiento sin fines de rendimiento dedicada a terminar con el porno de venganza, en un exposición.

Monitoreo proactivo

McKinney predice que las plataformas comenzarán a moderar el contenido ayer de que se difunda, por lo que tienen menos publicaciones problemáticas para derribar en el futuro.

Las plataformas ya están utilizando AI para monitorear el contenido dañino.

Kevin Guo, CEO y cofundador de la startup de detección de contenido generada por AI Hive, dijo que su compañía trabaja con plataformas en linde para detectar deffakes y material de despotismo sexual de niño (CSAM). Algunos de los clientes de Hive incluyen Reddit, Giphy, Vevo, Bluesky y Bereal.

“En sinceridad éramos una de las compañías tecnológicas que respaldaron ese esquema de ley”, dijo Guo a TechCrunch. “Ayudará a resolver algunos problemas harto importantes y obligará a estas plataformas a adoptar soluciones de modo más proactiva”.

El maniquí de Hive es un software como servicio, por lo que el inicio no controla cómo las plataformas usan su producto para marcar o eliminar contenido. Pero Guo dijo que muchos clientes insertan la API de Hive en el punto de cargar para monitorear ayer de que se envíe poco a la comunidad.

Un portavoz de Reddit le dijo a TechCrunch que la plataforma utiliza “herramientas, procesos y equipos internos sofisticados para invadir y eliminar” NCII. Reddit además se asocia con SWGFL sin fines de rendimiento para implementar su utensilio StopNCII, que escanea el tráfico en vivo para coincidir con una almohadilla de datos de NCII conocida y elimina las coincidencias precisas. La compañía no compartió cómo garantizaría que la persona que solicite el derribo sea la víctima.

McKinney advierte que este tipo de monitoreo podría tenderse a mensajes cifrados en el futuro. Si admisiblemente la ley se centra en la difusión pública o semipública, además requiere que las plataformas “eliminen y realicen esfuerzos razonables para evitar la reuplicación” de las imágenes íntimas no consensuadas. Ella argumenta que esto podría incentivar el escaneo proactivo de todo el contenido, incluso en espacios cifrados. La ley no incluye ninguna talla para servicios de correo cifrados de extremo a extremo como WhatsApp, Signal o iMessage.

Meta, Signal y Apple no han respondido a la solicitud de TechCrunch para obtener más información sobre sus planes de mensajes cifrados.

Implicaciones más amplias de liberación de expresión

El 4 de marzo, Trump pronunció un discurso conjunto al Congreso en el que elogió la Ley de Take It y dijo que esperaba firmarlo.

“Y además voy a usar esa confección para mí, si no te importa”, agregó. “No hay nadie que sea tratado peor que yo en linde”.

Mientras el conocido se rió del comentario, no todos lo tomaron como una broma. Trump no ha sido achicopalado para suprimir o tomar represalias contra el discurso desfavorable, ya sea etiquetando a los principales medios de comunicación “enemigos de la clan” indemne la prensa Association desde la Oficina Oval a pesar de una orden sumarial, o Tirar de fondos de NPR y PBS.

El jueves, la filial Trump Universidad Barred Harvard Desde aceptar las admisiones de estudiantes extranjeros, aumentar un conflicto que comenzó a posteriori de que Harvard se negó a agregarse a las demandas de Trump de hacer cambios en su plan de estudios y eliminar el contenido relacionado con DEI, entre otras cosas. En represalia, Trump ha congelado fondos federales para Harvard y amenazó con revocar el estado exento de impuestos de la universidad.

“En un momento en que ya vemos que las juntas escolares intentan prohibir los libros y estamos viendo que ciertos políticos sean muy explícitamente sobre los tipos de contenido que no quieren que la clan vea, ya sea que sea la teoría crítica de la raza o la información del frustración o la información sobre el cambio climático … es profundamente incómodo para nosotros con nuestro trabajo precedente en la moderación de contenido para ver a los miembros de ambas partes abiertas abiertas por la modernización de contenido en esta escalera”, McKinney dice.