OpenAI tiene llegó a un acuerdo con el Unidad de Defensa para desplegar sus modelos en la red de la agencia, reveló el presidente de la compañía Sam Altman en X. En su publicación, dijo que dos de los principios de seguridad más importantes de OpenAI son “las prohibiciones de la vigilancia masiva doméstico y la responsabilidad humana por el uso de la fuerza, incluidos los sistemas de armas autónomos”. Altman afirmó que la compañía incluyó esos principios en su acuerdo con la agencia, a la que llamó por el nombre preferido del gobierno de Unidad de Guerrilla (DoW), y que había resuelto respetarlos.

La agencia cerró el acuerdo con OpenAI, poco posteriormente de que el presidente Donald Trump ordenara a todas las agencias gubernamentales que dejaran de usar Claude y cualquier otro servicio de Anthropic. Si recuerdan, el Secretario de Defensa de EE.UU., Pete Hegseth, amenazó anteriormente con etiquetar a Anthropic como “aventura de dependencia de suministro” si continúa negándose a eliminar las barreras de seguridad de su IA, que impiden que la tecnología se utilice para vigilancia masiva contra estadounidenses y en armas totalmente autónomas.

No está claro por qué el gobierno acordó asociarse con OpenAI si sus modelos además tienen las mismas barreras de seguridad, pero Altman dijo que está pidiendo al gobierno que ofrezca los mismos términos a todas las empresas de IA con las que trabaja. Jeremy Lewin, Subsecretario Oficial Superior de Colaboración Extranjero, Asuntos Humanitarios y Atrevimiento Religiosa, dijo en X que el DoW “hace relato a ciertas autoridades legales existentes e incluye ciertos mecanismos de seguridad mutuamente acordados” en sus contratos. Tanto OpenAI como xAI, que además habían firmado previamente un acuerdo para implementar Grok en los sistemas clasificados del DoW, aceptaron esos términos. Dijo que era el mismo “compromiso que se ofreció a Anthropic y se rechazó”.

Anthropic, que comenzó a trabajar con el gobierno de Estados Unidos en 2024, se negó a ocultarse frente a Hegseth. En su última revelación, publicada casi nada unas horas ayer de que Altman anunciara el acuerdo de OpenAI, repitió su postura. “Ninguna intimidación o castigo por parte del Unidad de Guerrilla cambiará nuestra posición sobre la vigilancia interna masiva o las armas totalmente autónomas”, escribió Anthropic. “Impugnaremos cualquier designación de aventura en la dependencia de suministro frente a los tribunales”.

Altman agregó en su publicación en X que OpenAI creará salvaguardas técnicas para respaldar que los modelos de la compañía se comporten como deberían, afirmando que eso además es lo que quería el DoW. Está enviando ingenieros para trabajar con la agencia para “respaldar la seguridad (de sus modelos)” y solo se implementará en redes en la aglomeración. Como Los New York Times Como señala, OpenAI aún no está en la aglomeración de Amazon, que utiliza el gobierno. Pero eso podría cambiar pronto, ya que la compañía además acaba de anunciar la formación de una asociación con Amazon para ejecutar sus modelos en Amazon Web Services (AWS) para clientes empresariales.