Según admitió el propio director ejecutor Sam Altman, el acuerdo de OpenAI con el Unidad de Defensa fue “definitivamente apresurado” y “la óptica no parece buena”.

Luego de que las negociaciones entre Anthropic y el Pentágono fracasaran el viernes, el presidente Donald Trump ordenó a las agencias federales que dejaran de usar la tecnología de Anthropic a posteriori un período de transición de seis mesesy el secretario de Defensa, Pete Hegseth, dijo que designaba a la empresa de inteligencia industrial como un aventura para la prisión de suministro.

Luego, OpenAI anunció rápidamente que había llegado a un acuerdo propio para que los modelos se implementaran en entornos clasificados. Con Anthropic diciendo que estaba trazando líneas rojas en torno al uso de su tecnología en armas totalmente autónomas o vigilancia doméstica masiva, y Altman diciendo que OpenAI tenía las mismas líneas rojas, hubo algunas preguntas obvias: ¿OpenAI estaba siendo honesto acerca de sus salvaguardias? ¿Por qué pudo asistir a un acuerdo y Anthropic no?

Mientras los ejecutivos de OpenAI defendían el acuerdo en las redes sociales, la compañía asimismo publicó una publicación de blog que describe su enfoque.

De hecho, la publicación señaló tres áreas en las que decía que los modelos de OpenAI no se pueden utilizar: vigilancia doméstico masiva, sistemas de armas autónomos y “decisiones automatizadas de detención aventura (por ejemplo, sistemas como el ‘crédito social’)”.

La compañía dijo que, a diferencia de otras compañías de IA que han “pequeño o eliminado sus barreras de seguridad y se han basado principalmente en políticas de uso como salvaguardas principales en los despliegues de seguridad doméstico”, el acuerdo de OpenAI protege sus líneas rojas “a través de un enfoque más amplio y de múltiples capas”.

“Mantenemos total discreción sobre nuestra pila de seguridad, implementamos a través de la estrato, el personal competente de OpenAI está al tanto y tenemos fuertes protecciones contractuales”, decía el blog. “Todo esto se suma a las fuertes protecciones existentes en la constitución estadounidense”.

La compañía agregó: “No sabemos por qué Anthropic no pudo asistir a este acuerdo y esperamos que ellos y más laboratorios lo consideren”.

Luego de que se publicó la publicación, Mike Masnick de Techdirt afirmó que el acuerdo “permite absolutamente la vigilancia doméstico”, porque dice que la colección de datos privados cumplirá con Orden Ejecutiva 12333 (anejo con una serie de otras leyes). Masnick describió esa orden como “cómo la NSA oculta su vigilancia interna al capturar comunicaciones interviniendo líneas *fuera de EE.UU.* incluso si contiene información de/sobre personas estadounidenses”.

En una publicación de LinkedInKatrina Mulligan, directora de asociaciones de seguridad doméstico de OpenAI, argumentó que gran parte de la discusión sobre el verbo del entendimiento supone que “lo único que se interpone entre los estadounidenses y el uso de la IA para la vigilancia doméstico masiva y las armas autónomas es una disposición de política de uso único en un entendimiento único con el Unidad de Lucha”.

“No es así como funciona todo esto”, dijo Mulligan, y agregó: “La cimentación de implementación importa más que el verbo del entendimiento (…) Al amurallar nuestra implementación a API en la estrato, podemos respaldar que nuestros modelos no se puedan integrar directamente en sistemas de armas, sensores u otro hardware eficaz”.

Altman asimismo respondió preguntas sobre el acuerdo en X, donde admitió que había sido apresurado y resultó en una reacción significativa contra OpenAI (hasta el punto de que Claude de Anthropic superó a ChatGPT de OpenAI en la App Store de Apple el sábado). Entonces, ¿por qué hacerlo?

“Positivamente queríamos calmar las cosas y pensamos que el acuerdo que se ofrecía era bueno”, dijo Altman. “Si tenemos razón y esto conduce a una reducción de las tensiones entre el Unidad de Lucha y la industria, pareceremos genios y una empresa que se ha esforzado mucho para hacer cosas para ayudar a la industria. Si no, seguiremos caracterizándonos como (…) apresurados y descuidados”.