ARS Technica: Soy escéptico de la IA en caudillo, particularmente en un contexto de investigación, pero hay casos muy específicos en los que puede ser extremadamente útil. Esto me parece uno de ellos, en gran parte porque su maniquí nuclear demostró ser muy robusto. Obtienes la misma dinámica sin introducir falta extra.

Petter Törnberg: Sí. Ha sido una gran conversación en ciencias sociales en los últimos dos abriles más o menos. Hay un montón de interés en usar LLM para la simulación social, pero nadie positivamente ha descubierto qué o cómo va a ser útil, o cómo superaremos estos problemas de validez, etc. El tipo de enfoque que adoptamos en este documento se pedestal en una tradición de pensamiento arduo de sistemas. Imaginamos modelos muy simples del mundo humano e intentamos capturar mecanismos muy fundamentales. Efectivamente no tiene como objetivo ser realista o un maniquí completo y completo de comportamiento humano.

He sido una de las personas más críticas de este método, para ser honesto. Al mismo tiempo, es difícil imaginar cualquier otra forma de estudiar este tipo de dinámica donde tenemos aspectos culturales y estructurales que se alimentan entre sí. Pero todavía tengo que tomar los hallazgos con un fruto de sal y darme cuenta de que estos son modelos, y están capturando una especie de mundo hipotético, una cooperación esférica en el infructifero. No podemos predecir lo que cualquiera va a comer el martes, pero podemos capturar mecanismos más amplios, y podemos ver cuán robustos son esos mecanismos. Podemos ver si son estables, inestables, en qué condiciones emergen y los límites generales. Y en este caso, encontramos un mecanismo que parece ser muy robusto, desafortunadamente.

ARS Technica: El sueño era que las redes sociales ayudarían a revitalizar la esfera pública y apoyar el tipo de diálogo político constructivo que su artículo considera “básico para la vida democrática”. Eso en gran medida no ha sucedido. ¿Cuáles son las principales consecuencias negativas inesperadas que han surgido de las plataformas de redes sociales?

Petter Törnberg: Primero, tienes cámaras de eco o burbujas de filtro. El peligro de un acuerdo amplio es que si desea tener una conversación política utilitario, que funcione de la deliberación, debe hacerlo en la división partidista. Si solo tienes una conversación con personas que ya están de acuerdo entre sí, eso no es suficiente. Hay un debate sobre cómo están en serie las cámaras de eco generalizadas, pero está sobrado establecido que hay muchos espacios en serie que no son muy constructivos porque solo hay personas de un banda político. Entonces ese es un ingrediente que necesitas. Necesita tener una complejidad de opinión, una complejidad de perspectiva.