ztevenreal
- Casi mil empleados de Google y OpenAI firmaron una carta abierta pidiendo límites claros a los usos militares de la IA
- La carta insta a las empresas de tecnología a rehusar los planes gubernamentales de vigilancia mediante inteligencia industrial y armas autónomas.
- La medida refleja la creciente tensión en el interior de la industria de la IA por los contratos gubernamentales y las asociaciones de defensa.
Casi mil empleados de Google y OpenAI han firmado un acuerdo carta abierta instando a sus empresas a resistir la presión del ejército estadounidense para relajar las restricciones sobre cómo se pueden utilizar los sistemas de inteligencia industrial. La carta declara “No estaremos divididos” sobre el tema, incluso posteriormente de que el Pentágono designara a Anthropic como un “peligro para la esclavitud de suministro posteriormente de que la compañía se negó a permitir que su tecnología se utilizara para vigilancia masiva doméstico o armas totalmente autónomas”.
Esa medida sorprendió a muchos observadores en Silicon Valley y provocó una ola de preocupación entre los ingenieros que construyen los modelos de IA de vanguardia de hoy. Especialmente porque, según se informa, OpenAI y Google están negociando para aceptar el acuerdo rechazado por Anthropic.
Los firmantes formulan su mensaje en un jerga inusualmente persuasivo para una industria conocida por su comunicación corporativa cautelosa. La carta alega que funcionarios gubernamentales están intentando presionar a las empresas de inteligencia industrial para que abandonen ciertos límites éticos.
“Están tratando de dividir a cada empresa por miedo a que la otra ceda. Esa organización sólo funciona si nadie de nosotros sabe cuál es la posición de los demás”, afirma la carta. “Esta carta sirve para crear comprensión y solidaridad compartidas frente a esta presión del Área de Combate”.
La carta abierta es trascendente porque incluye personas de empresas rivales que normalmente compiten ferozmente. El argumento que esgrimen es que la IA es ahora lo suficientemente poderosa como para que las decisiones sobre su uso no puedan tratarse como acuerdos comerciales rutinarios.
Estas preocupaciones no son puramente teóricas. Los gobiernos de todo el mundo están explorando cómo se podría integrar la IA en la planificación de la defensa y el disección de inteligencia. Las agencias militares han utilizado durante mucho tiempo herramientas de software para vigilancia y selección de objetivos. Los modelos generativos avanzados podrían acelerar dramáticamente esas capacidades. Y cuando los estudios empiezan a mostrar cómo la IA prefiere el opción nuclear en los juegos de aniquilamiento, dejarle controlar armas y sistemas de vigilancia parece una idea aún peor.
aniquilamiento de IA
Es un retroceso para los trabajadores de Google, miles de los cuales protestaron por la décimo de la compañía en el plan Tesina Maven del Pentágono para utilizar el formación inevitable para analizar imágenes de drones en 2018. Luego de una reacción interna generalizada, Google finalmente permitió que ese acuerdo expirara y publicó un conjunto de pautas éticas conocidas como sus Principios de IA.
Esos principios estaban destinados a concretar cómo Google abordaría los usos sensibles de la inteligencia industrial. En ese momento, la compañía dijo que no desarrollaría tecnologías diseñadas para causar daño o permitir una vigilancia que violara las normas internacionales. La última carta abierta sugiere que tensiones similares están resurgiendo a medida que los gobiernos se interesan más en implementar modelos lingüísticos potentes.
La carta puede cambiar o no las decisiones corporativas, pero al menos los trabajadores pueden señalarla como un mensaje que no puede ser malinterpretado.
Siga TechRadar en Google News y agréganos como fuente preferida para percibir parte, reseñas y opiniones de nuestros expertos en sus feeds. ¡Asegúrate de hacer clic en el tallo Seguir!
Y por supuesto incluso puedes Siga TechRadar en TikTok para parte, reseñas, unboxings en forma de video y reciba actualizaciones periódicas de nuestra parte en WhatsApp incluso.
Los mejores portátiles empresariales para todos los presupuestos
