Yoshua Bengio pidió una pausa sobre el exposición del maniquí de IA hace dos primaveras para centrarse en los estándares de seguridad. En cambio, las empresas invirtieron cientos de miles de millones de dólares en la construcción de modelos más avanzados capaces de ejecutar largas cadenas de razonamiento y tomar medidas autónomas. El triunfador del Premio AM Turing y el profesor de Universite de Montreal le dijeron al Wall Street Journal que Sus preocupaciones sobre el aventura existencial no han disminuido.

Bengio fundó la estructura de investigación sin fines de interés LawZero a principios de este año para explorar cómo construir modelos de IA verdaderamente seguros. Experimentos recientes demuestran que los sistemas de IA en algunas circunstancias eligen acciones que causen la homicidio humana por desistir sus objetivos asignados. Operai insistió recientemente en que los marcos de modelos fronterizos actuales no eliminarán las alucinaciones. Bengio, sin bloqueo, dijo que incluso una probabilidad del 1% de eventos catastróficos como la cese o la destrucción de las democracias es inaceptable. Estima que la IA destacamento capaz de proyectar tales riesgos podría calar en cinco a diez primaveras, pero instó a tratar tres primaveras como el plazo relevante. La condición étnico entre las compañías de IA competidores centradas en los lanzamientos de interpretación semanales sigue siendo la anciano barrera para el trabajo de seguridad adecuado, dijo.