La idea de un sistema activo agente suena maravilloso sobre el papel. En circunscripción de hacer clic en los menús y realizar tareas monótonas usted mismo, le dice a su computadora lo que desea a través de un mensaje y ella descubre cómo realizar esa tarea por sí sola. Los archivos se pueden mover, cambiar la configuración, redactar y destinar correos electrónicos y, lo más importante, estas tareas se encadenan con una billete mínima por parte del afortunado.

En un mundo donde no hay actores maliciosos ni errores de software, todo eso suena maravilloso, pero desafortunadamente vivimos en un mundo plagado de esas cosas. Este maniquí agente rompe silenciosamente muchos de los supuestos sobre los que se cimiento la informática moderna. Históricamente, los sistemas operativos han sido reactivos, deterministas y explícitos, y los diseños de SO agentes reemplazan eso con autonomía, inferencia y toma de decisiones probabilística. Ese cambio conlleva compensaciones que son mucho más serias de lo que implica la mayoría del marketing.

Aventura de seguridad dramáticamente aumentado

Estás poniendo mucha confianza en poco que se puede engañar.

Los humanos somos falibles. Podemos ser engañados para que proporcionemos información que de otro modo no proporcionaríamos mediante ingeniería social, phishing u otros medios nefastos. Para que un sistema activo agente sea útil, necesita la mismo nivel de entrada que usted, el afortunado, tiene. Esto significa que necesita permisos de archivos, permisos de aplicaciones, entrada a la red y, quizás lo más preocupante, su cúpula de contraseñas. Un sistema activo agente que se detiene cada 10 minutos para solicitar su contraseña o confirmar una secreto de entrada frustra el propósito, y aquí radica el meollo del problema con los sistemas operativos agente.

Los sistemas agentes no son infalibles. Cuando una aplicación tradicional error o se ve comprometida (o incluso un LLM, por ejemplo), el “radiodifusión de crisis” es relativamente circunscrito, pero cuando error un agente, su autoridad cercana al nivel del sistema podría tener consecuencias catastróficas no solo para su computadora, sino igualmente para sus datos. La superficie de ataque es enorme. La inyección rápida, el contexto mordaz y otras manipulaciones de la información de entrada de un agente pueden convertirse en vectores de seguridad viables. La muchedumbre ha demostrado una y otra vez que se puede engañar a personas como ChatGPT o Claude para que hagan poco que no deberían hacer, y estos sistemas operativos agentes no serán diferentes.

No hay responsabilidad

Las empresas se lavarán las manos en presencia de la responsabilidad

Cuando un sistema activo tradicional hace poco inesperado, la responsabilidad suele ser sobrado clara. Un afortunado hizo clic en un capullo, una aplicación se comportó mal o un regulador falló. Con los sistemas agentes, esa claridad desaparece prácticamente por completo. ¿Fue el mensaje del afortunado? ¿El agente malinterpretó el contexto precursor en el que lo usaste? ¿Alucinó?

Si un agente elimina archivos incorrectos, envía datos confidenciales o cambia configuraciones críticas, ¿quién es responsable? El afortunado no realizó la influencia explícitamente. El sistema activo no siguió una instrucción determinista. El maniquí interpreta la intención basándose en el contexto, la historia y la probabilidad, y a veces puede (y lo hará) equivocarse.

Esto crea un enorme problema de responsabilidad, especialmente cuando se trabaja con datos confidenciales. Es probable que cualquier tipo de sistema activo agente venga con una exposición de términos y condiciones muy larga que les permita echarle la error al afortunado. En cualquier tipo de entorno empresarial, puedo ver que esto se convierta en una pesadilla admitido, si algún administrador es lo suficientemente fuerte como para permitir su uso en primer circunscripción.

Los fallos pueden volverse irreproducibles

Puede interrumpir por completo la resolución de problemas de la PC

Una de las partes fundamentales de tener una PC y usarla a diario es la capacidad de reproducir errores y solucionarlos en consecuencia. Un problema que no se puede reproducir es extremadamente difícil de remediar, y una vez que se agregan características agentes a la mezcla, se pierde la capacidad de razonar sobre un problema.

Las decisiones de los agentes están influenciadas por el momento, el contexto previo, el estado del sistema y el razonamiento probabilístico. La misma solicitud emitida dos veces puede producir resultados diferentes. Una error que ocurre una vez puede no retornar a ocurrir o puede reaparecer en circunstancias sutilmente diferentes.

Los registros pueden mostrar qué acciones se tomaron, pero rara vez por qué se eligieron. Esto hace que los flujos de trabajo tradicionales de resolución de problemas sean ineficaces. No es posible retornar sobre pasos que nunca fueron explícitos en primer circunscripción.

La inferencia de intención sigue siendo fundamentalmente poco confiable

Los humanos no siempre son predecibles

Los sistemas operativos agentes se basan en una suposición frágil: que el sistema puede inferir correctamente lo que el afortunado pretendía hacer. Sin requisa, la intención humana es a veces confusa, a menudo ambigua y muy contextual.

Los usuarios suelen dar instrucciones incompletas porque los humanos dependen de suposiciones compartidas y de conciencia situacional. En existencia, los modelos no comprenden esos supuestos, sino que se aproximan a ellos. Cuando se equivocan, el resultado no es sólo una mala sugerencia; es una influencia realizada en nombre del afortunado.

Los errores más peligrosos son los que son casi correctos. Eliminar la carpeta incorrecta, modificar la configuración incorrecta o compartir el documento incorrecto son mucho peores que no hacer carencia en inmutable. Personalmente, prefiero equivocarme por mi propia cuenta.

La automatización tiene un circunscripción en los sistemas operativos, pero la influencia agente no

Los sistemas agentes tienen sentido en herramientas limitadas y de buen ámbito, pero los sistemas operativos no entran en esa categoría. Su ámbito es amplio y variado, y si proporcionadamente pueden beneficiarse de las automatizaciones definidas por el afortunado, cualquier cosa agente traspasa los límites demasiado para mi paladar. Los sistemas operativos deberían ser aburridos y predecibles.