El lunes, Anthropic presentó su demanda contra el Sección de Defensa por poseer sido designado como un peligro para la esclavitud de suministro. Horas más tarde, casi 40 empleados de OpenAI y Google, incluido Jeff Dean, verificado patrón de Google y líder de Gemini, presentó un escrito amicus curiae en apoyo de la demanda de Anthropicdetallando sus preocupaciones sobre la atrevimiento de la compañía Trump y los riesgos e implicaciones de la tecnología.

La informe sigue a unas semanas dramáticas para Anthropic, en las que la compañía Trump etiquetó a la empresa como un peligro para la esclavitud de suministro (una designación típicamente reservada para empresas extranjeras que el gobierno considera un peligro potencial para la seguridad doméstico de alguna modo) posteriormente de que Anthropic se mantuviera firme en dos líneas rojas con respecto a los casos de uso aceptables para el uso marcial de su tecnología: vigilancia masiva doméstico y armas totalmente autónomas (o sistemas de inteligencia industrial con el poder de matar sin billete humana). Las negociaciones fracasaron, seguidas de insultos públicos y otras empresas de inteligencia industrial intervinieron para firmar contratos que permitían “cualquier uso judicial” de su tecnología.

La designación de peligro de la esclavitud de suministro no sólo impide que Anthropic trabaje en contratos militares, sino que además incluye en la letanía negra a otras empresas si utilizan productos de Anthropic en su ringlera de trabajo para el Pentágono, obligándolas a desarraigar a Claude si desean nutrir sus lucrativos contratos. Sin secuestro, como primer maniquí suficiente para inteligencia clasificada, las herramientas de Anthropic ya están profundamente integradas en el trabajo del Pentágono, hasta el punto de que escasamente unas horas posteriormente de que el secretario de Defensa, Pete Hegseth, anunciara la designación, el ejército estadounidense supuestamente utilizó a Claude en la campaña que mató al líder de Irán, el ayatolá Ali Jamenei.

El escrito amicus curiae pesquisa señalar que la designación de peligro de la esclavitud de suministro de Anthropic “es una represalia inadecuada que daña el interés sabido” y que las preocupaciones detrás de las líneas rojas de Anthropic “son reales y requieren una respuesta”. Asimismo señala que vale la pena revisar las dos líneas rojas de Anthropic, afirmando que “la vigilancia doméstico masiva impulsada por IA plantea riesgos profundos para la gobernanza democrática, incluso en manos responsables” y que “los sistemas de armas letales totalmente autónomos presentan riesgos que además deben abordarse”.

El especie detrás del escrito amicus se describió a sí mismo como “ingenieros, investigadores, científicos y otros profesionales empleados en laboratorios de inteligencia industrial en la frontera de Estados Unidos”.

“Construimos, entrenamos y estudiamos sistemas de inteligencia industrial a gran escalera que sirven a una amplia viso de usuarios e implementaciones, incluso en los dominios consiguientes de seguridad doméstico, aplicación de la ley y operaciones militares”, escribió el especie. “Presentamos este referencia no como portavoces de una sola empresa, sino en nuestra capacidad individual como profesionales con conocimiento directo de lo que estos sistemas pueden y no pueden hacer, y lo que está en bisagra cuando su implementación supera los marcos legales y éticos diseñados para regirlos”.

En el frente de la vigilancia masiva doméstico, el especie dijo que aunque los datos sobre los ciudadanos estadounidenses existen en todas partes en forma de cámaras de vigilancia, datos de geolocalización, publicaciones en redes sociales, transacciones financieras y más, “lo que aún no existe es la capa de inteligencia industrial que transforma este panorama de datos fragmentado y en expansión en un máquina de vigilancia unificado en tiempo efectivo”. En este momento, escribieron, estos flujos de datos están aislados, pero si se usara IA para conectarlos, podría combinar “datos de inspección facial con historial de ubicación, registros de transacciones, gráficos sociales y patrones de comportamiento de cientos de millones de personas simultáneamente”.

Cuando se negociación específicamente de armas letales autónomas, el especie dijo que pueden ser poco confiables en condiciones nuevas o poco claras que no se alinean con el entorno en el que fueron entrenadas, lo que significa que “no se puede tener fe en que identifiquen objetivos con perfecta precisión, y son incapaces de hacer las sutiles compensaciones contextuales entre alcanzar un objetivo y tener en cuenta los bienes colaterales que un ser humano puede hacer”. Encima, escribió el especie, el potencial de ofuscación de los sistemas de armas letales autónomas significa que es importante que los humanos participen en el proceso de toma de decisiones “antiguamente de que se suerte una munición mortífero contra un objetivo humano”, especialmente porque la esclavitud de razonamiento del sistema a menudo no está acondicionado para los operadores y no es clara ni siquiera para los desarrolladores del sistema.

El especie detrás del referencia amicus curiae escribió: “Somos diversos en nuestra política y filosofía, pero estamos unidos en la convicción de que los sistemas fronterizos de inteligencia industrial de hoy presentan riesgos cuando se despliegan para permitir la vigilancia masiva doméstico o la operación de sistemas autónomos de armas letales sin supervisión humana, y que esos riesgos requieren algún tipo de barreras de seguridad, ya sea a través de salvaguardias técnicas o restricciones de uso”.