La superinteligencia se ha convertido en “un pronóstico cuasi político” con “muy poco que ver con ningún consenso comprobado, sino que surge de determinados corredores de poder”. Eso es la advertencia de James O’Sullivanprofesor de humanidades digitales de la University College Cork. En un refrescante prueba de 5.600 palabras en Noviembre revista, señala la sospechosa coincidencia de que “los profetas más ruidosos de la superinteligencia son aquellos que construyen los mismos sistemas contra los que advierten…”

“Cuando aceptamos que AGI es insalvable, dejamos de preguntarnos si debería construirse y, en medio del furor, nos perdemos el hecho de que parecemos sobrevenir admitido que un pequeño congregación de tecnólogos debería determinar nuestro futuro”. (Por ejemplo, el director ejecutor de OpenAI, Sam Altman, “parece decidido a posicionar a OpenAI como el campeón de la humanidad, soportando la terrible carga de crear una inteligencia divina para poder limitarla”).

El discurso de la superinteligencia funciona como un sofisticado artilugio de poder, transformando cuestiones inmediatas sobre la responsabilidad corporativa, el desplazamiento de trabajadores, el sesgo algorítmico y la gobernanza democrática en rompecabezas filosóficos abstractos sobre la conciencia y el control… La amplificación de los medios juega un papel crucial en este proceso, ya que cada perfeccionamiento incremental en los grandes modelos lingüísticos se enmarca como un paso en dirección a la AGI. ChatGPT escribe poesía; seguramente la consciencia es inminente…” Tales cuentas, a menudo provenientes de las mismas empresas que construyen estos sistemas, crean una sensación de impulso que se vuelve autocumplido. Los inversores invierten porque AGI parece estar cerca, los investigadores se unen a las empresas porque ahí es donde se está construyendo el futuro y los gobiernos aplazan la regulación porque no quieren perjudicar a sus campeones nacionales…

Debemos explorar este proceso como político, no técnico. La inevitabilidad de la superinteligencia se fabrica a través de decisiones específicas sobre financiación, atención y legalidad, y otras decisiones. quería producir futuros diferentes. La pregunta fundamental no es si AGI llegará, sino quién se beneficia al hacernos creer que así será… Aún no entendemos qué tipo de sistemas estamos construyendo, o qué combinación de avances y fracasos producirán, y esa incertidumbre hace que sea imprudente canalizar el moneda notorio y la atención en una sola trayectoria especulativa.
Algunos puntos secreto:

• “Las máquinas vienen por nosotros, o eso nos dicen. No hoy, pero lo suficientemente pronto como para que aparentemente debamos reorganizar la civilización en torno a su presentación…”
• “Cuando debatimos si una futura inteligencia industrial caudillo podría eliminar a la humanidad, no estamos hablando del trabajador del almacén de Amazon cuyos movimientos están dictados por la vigilancia algorítmica o del palestino cuyo vecindario es atacado por sistemas de armas automatizados. Estas realidades presentes se disuelven en el ruido de fondo frente a la retórica del peligro existencial…”
• “Conocido claramente, la profecía de la superinteligencia es menos una advertencia sobre las máquinas que una táctica para el poder, y esa táctica necesita ser reconocida por lo que es…”
• “El discurso de la superinteligencia no se está difundiendo porque los expertos coinciden en caudillo en que es nuestro problema más urgente; se difunde porque un movimiento con buenos bienes le ha cedido moneda y ataque al poder…”
• “Las instituciones académicas, que están destinadas a resistir tales lógicas, han sido reclutadas en esta fabricación de la inevitabilidad… reforzando las narrativas de la industria, produciendo artículos sobre cronogramas y estrategias de línea de AGI, otorgando autoridad académica a la ficción especulativa…”
• “La profecía se cumple a través de la concentración material: a medida que los bienes fluyen en dirección a el incremento de AGI, los enfoques alternativos a la IA mueren de escasez…”
• El predominio de las narrativas de superinteligencia oscurece el hecho de que existen muchas otras formas de hacer IA, basadas en micción sociales actuales más que en hipotéticos dioses máquinas. (Enumera los movimientos de soberanía de datos “que tratan los datos como un petición colectivo sujeto a consentimiento colectivo”, así como organizaciones como el Centro de Gobernanza de la Información de las Primeras Naciones de Canadá y Te Mana Raraunga de Nueva Zelanda, adicionalmente de “iniciativas del Sur Completo que utilizan sistemas de IA modestos y gobernados localmente para apoyar la atención sanitaria, la agricultura o la educación bajo estrictas limitaciones de bienes”). podemos ver el proporcionadamente longevo que todos los demás se han perdido…”
• “Estas alternativas igualmente iluminan el pasivo tolerante en el corazón de la novelística de la superinteligencia. Tratar a la IA al mismo tiempo como un problema técnico misterio que la multitud popular no puede entender y como un motor incuestionable de progreso social permite que la autoridad se consolide en manos de quienes poseen y construyen los sistemas…”

En última instancia, nos advierte sobre “la política disfrazada de predicciones…”

“La verdadera cuestión política no es si surgirá alguna superinteligencia industrial, sino quién decide qué tipos de inteligencia construimos y mantenemos. Y la respuesta no puede dejarse en manos de los profetas corporativos de la trascendencia industrial porque el futuro de la IA es un campo político: debería estar libre a la controversia.

“No pertenece a aquellos que advierten más ruidosamente sobre dioses o monstruos, sino a los públicos que deberían tener el derecho honrado de regentar democráticamente las tecnologías que dan forma a sus vidas”.