La ejecutiva de hardware Caitlin Kalinowski anunció hoy que, en respuesta al controvertido acuerdo de OpenAI con el Unidad de Defensa, renunció a su puesto de líder del equipo de robótica de la compañía.

“Esta no fue una atrevimiento realizable”, dijo Kalinowski en una publicación en las redes sociales. “La IA tiene un papel importante en la seguridad doméstico. Pero la vigilancia de los estadounidenses sin supervisión procesal y la autonomía venenoso sin autorización humana son líneas que merecían más deliberación de la que recibieron”.

Kalinowski, quien anteriormente dirigió el equipo de creación de lentes de ingenuidad aumentada en Meta, se unió a OpenAI en noviembre de 2024. En su anuncio de hoy, enfatizó que la atrevimiento se trataba “de principios, no de personas” y dijo que tiene un “profundo respeto” por el director ejecutante Sam Altman y el equipo de OpenAI.

En una publicación de seguimiento en XKalinowski añadió: “Para ser claros, mi problema es que el anuncio se apresuró sin que se definieran las barreras de seguridad. Es una preocupación de gobernanza delante todo. Son demasiado importantes para que los acuerdos o anuncios se apresuren”.

Un portavoz de OpenAI confirmó la salida de Kalinowski a TechCrunch.

“Creemos que nuestro acuerdo con el Pentágono crea un camino viable para usos responsables de la IA en materia de seguridad doméstico, al tiempo que deja claras nuestras líneas rojas: sin vigilancia interna ni armas autónomas”, dijo la compañía en un comunicado. “Reconocemos que la multitud tiene opiniones firmes sobre estos temas y continuaremos dialogando con los empleados, el gobierno, la sociedad civil y las comunidades de todo el mundo”.

El acuerdo de OpenAI con el Pentágono se anunció hace poco más de una semana, a posteriori de que las discusiones entre el Pentágono y Anthropic fracasaran cuando la compañía de IA intentó negociar salvaguardias que impidieran que su tecnología se utilizara en vigilancia doméstico masiva o en armas totalmente autónomas. Seguidamente, el Pentágono designó a Anthropic como un peligro para la sujeción de suministro. (Anthropic dijo que luchará contra la designación en los tribunales; mientras tanto, Microsoft, Google y Amazon dijeron que continuarán poniendo Claude de Anthropic a disposición de clientes no relacionados con el sector de defensa).

Luego, OpenAI anunció rápidamente un acuerdo propio que permite utilizar su tecnología en entornos clasificados. Mientras los ejecutivos intentaban explicar el acuerdo en las redes sociales, la compañía lo describió como la admisión de “un enfoque más amplio y de múltiples niveles” que se pedestal no sólo en el jerga del convenio, sino incluso en salvaguardias técnicas, para proteger líneas rojas similares a las de Anthropic.

No obstante, la controversia parece acontecer dañado la reputación de OpenAI entre algunos consumidores, con las desinstalaciones de ChatGPT aumentando un 295% y Claude subiendo a la cima de las listas de la App Store. Hasta el sábado por la tarde, Claude y ChatGPT siguen siendo las aplicaciones gratuitas número uno y dos de la App Store de EE. UU., respectivamente.