ztevenreal
¿Quieres ideas más inteligentes en tu bandeja de entrada? Regístrese en nuestros boletines semanales para obtener solo lo que importa a los líderes de IA, datos y seguridad empresariales. Suscríbete ahora
Con el propagación del chat GPT-5 de Openai, el mundo está un paso más cerca de desatar una superinteligencia de uso universal que puede aventajar cognitivamente a cada uno de nosotros por un amplio ganancia. A medida que se acerca este día, estoy cada vez más preocupado de que no estemos preparados para las ondas de choque que esto enviará a través de la sociedad, y probablemente no sea por las razones que esperas.
Pruebe este pequeño cuestionario: pregúntele a cualquiera que conozca si está preocupado por la IA, y es probable que compartan un variedad de miedosdesde interrupciones masivas en el mercado profesional y los impactos que doblan la sinceridad de los profundos, hasta el poder sin precedentes se concentra en un puñado de grandes compañías de IA. En otras palabras, la mayoría de la familia nunca ha imaginado honestamente cómo sentirá en realidad su vida otro La superinteligencia se vuelve ampliamente adecuado.
Por qué la superinteligencia podría desmoralizarnos
Como contexto, superinteligencia químico (ASI) se refiere a sistemas que pueden aventajar a los humanos en la mayoría de los frentes, desde la planificación y el razonamiento hasta la resolución de problemas, el pensamiento decisivo y creatividad. Estos sistemas resolverán problemas complejos en una fracción de segundo que podría tomar los días de expertos humanos más inteligentes, semanas o incluso primaveras para trabajar. Esto me aterroriza, y no es por los escenarios del Doomsday que dominan nuestro discurso manifiesto.
No, estoy preocupado por los riesgos opuestos: los peligros que podrían surgir en el Escenarios de los mejores casos donde la superinteligencia es útil y benévolo. Tal ASI tendrá muchos impactos positivos en la sociedad, pero igualmente podría ser profundamente desmoralizante para nuestra identidad central como humanos. Luego de todo, el mundo se sentirá diferente cuando cada uno de nosotros sabe que una inteligencia más inteligente, más rápida y más creativa está adecuado en nuestros dispositivos móviles que entre nuestros propios oídos.
AI Scaling alcanza sus límites
Los límites de potencia, el aumento de los costos del token y los retrasos de inferencia están remodelando Enterprise AI. Únase a nuestro salón exclusivo para descubrir cómo son los mejores equipos:
- Convertir la energía en una superioridad estratégica
- Bloque de inferencia competente para ganancias reales de rendimiento
- Desbloquear ROI competitivo con sistemas de IA sostenibles
Asegure su superficie para mantenerse a la vanguardia: https://bit.ly/4mwgngo
Así que pregúntese, sinceramente, ¿cómo actuarán los humanos en esta nueva sinceridad? ¿Buscaremos reflexivamente el asesoramiento de nuestros asistentes de IA mientras navegamos cada pequeño desafío que encontramos? O peor, aprenderemos a Confía en nuestros asistentes de IA ¿Más que nuestros propios pensamientos e instintos?
Espere: ayer de contestar, debe poner al día su maniquí mental. Actualmente, involucramos a la IA a través de un ámbito socrático que requiere que hagamos preguntas y obtengamos respuestas (como lo hizo el Capitán Kirk a costado de la empresa en 1966). Pero ese es el pensamiento de la vieja escuela. Ahora estamos entrando en una nueva era en la que los asistentes de IA se integrarán en dispositivos desgastados por el cuerpo que están equipados con cámaras y micrófonos, lo que permite a AI ver lo que ve, escuche lo que audición y susurra consejos en sus oídos sin que necesite preguntar.
En otras palabras, nuestro futuro se llenará de asistentes de IA que viajen en escopeta en nuestras vidas, aumentando nuestras experiencias con orientación optimizada a cada paso. En este mundo, el aventura no es que le pidamos consejos a la IA de AI ayer de usar nuestros propios cerebros; El aventura es que no necesitaremos preguntar: el consejo simplemente se transmitirá a nuestros fanales y oídos, dando forma a nuestras acciones, influyendo en nuestras decisiones y resolver nuestros problemas ayer de que hayamos tenido la oportunidad de pensar por nosotros mismos.
‘Mentalidad aumentada’ transformará nuestras vidas
Me refiero a este ámbito como ‘mentalidad aumentada’ y está a punto de chocar a la sociedad a escalera a través de quevedos, auriculares y colgantes propulsados por IA. Este es el futuro de la computación móvil, y ya está conduciendo una carrera armamentista entre Meta, Google, Samsung y Apple, mientras se posicionan para producir el dispositivos AI conscientes de contexto que reemplazarán los teléfonos portátiles.
Imagina caminar por la calle de tu ciudad. Ves un compañero de trabajo que se dirige en dirección a ti. No puedes recapacitar su nombre, pero tu asistente de IA lo hace. Detecta tu incertidumbre y susurra el nombre del compañero de trabajo en tus oídos. La IA igualmente recomienda que le pregunte al compañero de trabajo sobre su esposa, que se sometió a una cirugía hace unas semanas. El compañero de trabajo aprecia el sentimiento, luego le pregunta sobre su nuevo promoción, probablemente por consejo de su propia IA.
¿Es este empoderamiento humano o una pérdida de agencia humana?
Ciertamente se sentirá como una superpotencia tener una IA en el audición que siempre te respalda, asegurando que nunca olvides un nombre, siempre tengas cosas ingeniosas que opinar y se alerta instantáneamente cuando cierto estás hablando no es ser sincero. Por otro costado, todos los que conoces tendrán su propia IA murmurando en sus propios oídos. Esto nos hará preguntarnos a quién somos en sinceridad interactuar con el humano frente a nosotros, o el agente de IA que les da orientación (consulte Datación de carbono para ejemplos divertidos).
Muchos expertos creen que los asistentes de IA usados por el cuerpo nos harán apreciar más poderosos y capaces, pero esa no es la única forma en que esto podría ir. Estas mismas tecnologías podrían hacernos apreciar menos seguros en nosotros mismos y menos impactantes en nuestras vidas. Luego de todo, la inteligencia humana es la característica definitoria de la humanidad, en lo que más nos enorgullecemos como especie, sin confiscación, pronto podríamos encontrarnos diferiendo a los asistentes de IA porque nos sentimos mentalmente superados. ¿Es este empoderamiento, una IA que BotsPlains ¿Todos nuestros experiencia en tiempo vivo?
Planteo estas preocupaciones como cierto que ha pasado toda mi carrera creando tecnologías que expandir las habilidades humanas. De Mi trabajo temprano Desarrollar la sinceridad aumentada para mi trabajo flagrante en progreso agentes de conversación Eso hace que los equipos humanos sean más inteligentes, creo firmemente que la tecnología puede mejorar en gran medida las habilidades humanas. Desafortunadamente, cuando se proxenetismo de superinteligencia, existe una fina estría entre aumentar nuestras habilidades humanas y reemplazándolos. A menos que seamos reflexivos sobre cómo implementamos ASI, me temo que cruzaremos esa estría.
Louis Rosenberg es uno de los primeros pioneros de la sinceridad imaginario y aumentada y un investigador de IA desde hace mucho tiempo. Fundó Immersion Corp, Outland Research e general IA.
