Fintech Brex desafío a que el futuro de la IA empresarial no es una mejor orquestación, sino menos.

A medida que los agentes generativos de IA pasan de copilotos a sistemas autónomos, el CTO de Brex, James Reggio, dice que los marcos tradicionales de orquestación de agentes se están convirtiendo en una seto en ocasión de un facilitador. En ocasión de acatar de un coordinador central o flujos de trabajo rígidos, Brex ha creado lo que claridad una “malla de agentes”: una red de agentes estrecha y con funciones específicas que se comunican en un jerga sencillo y operan de forma independiente, pero con total visibilidad.

“Nuestro objetivo es utilizar la IA para hacer que Brex desaparezca efectivamente”, dijo Reggio a VentureBeat. “Nuestro objetivo es conseguir una automatización total”.

Brex aprendió que, para sus propósitos, los agentes deben trabajar en roles específicos y limitados para ser más modulares, flexibles y auditables.

Reggio dijo que el objetivo arquitectónico es permitir que cada administrador de una empresa “tenga un único punto de contacto adentro de Brex que se encargue de la totalidad de sus responsabilidades, ya sea la papeleo de gastos, la solicitud de viajes o la aprobación de solicitudes de confín de gastos”.

El delirio desde Brex Assistant

La industria de servicios financieros lleva mucho tiempo adoptando la inteligencia químico y el educación forzoso para manejar las enormes cantidades de datos que procesa. Pero cuando se prostitución de incorporar modelos y agentes de IA, la La industria tomó un camino más cauteloso. al principio. Ahora, más empresas de servicios financieros, incluido Brex, han lanzó plataformas impulsadas por IA y varios flujos de trabajo agentes.

La primera incursión de Brex en la IA generativa fue con su Brex Assistant, enérgico en 2023, que ayudó a los clientes a automatizar ciertas tareas financieras y de gastos. Proporciona sugerencias para completar gastos, completa información automáticamente y realiza un seguimiento de los gastos que violan las políticas.

Reggio reconoce que Brex Assistant funciona, pero no es suficiente. “Creo que, hasta cierto punto, sigue siendo una tecnología de la que no conocemos del todo sus límites," dijo. "Es necesario que existan una gran cantidad de patrones a su cerca de que la industria está desarrollando a medida que la tecnología madura y a medida que más empresas construyen con ella."

Brex Assistant utiliza varios modelos, incluidos Claude de Anthropic y modelos Brex personalizados, así como la API de OpenAI. El asistente automatiza algunas tareas, pero aún está establecido en cuanto a cuán sencillo puede ser.

Reggio dijo que Brex Assistant todavía juega un papel importante en el delirio de autonomía de la empresa, principalmente porque su producto Agent Mesh fluye cerca de la aplicación.

Agent Mesh para reemplazar la orquestación

El consenso en la industria es que los ecosistemas de múltiples agentes, en los que los agentes se comunican para realizar tareas, requieren un entorno de orquestación que los guíe.

Reggio, por otro flanco, tiene una opinión diferente. "La infraestructura de orquestación determinista… fue una decisión para los problemas que vimos hace dos abriles, que era que los agentes, al igual que los modelos, alucinan mucho”, dijo Reggio. “No son muy buenos con múltiples herramientas, por lo que es necesario darles estos grados de atrevimiento, pero en un sistema más estructurado y rígido. Pero a medida que los modelos mejoran, creo que está empezando a frenar la tonalidad de posibilidades que se están expandiendo”.

Las arquitecturas de orquestación de agentes más tradicionales se centran en un único agente que hace todo o, más comúnmente, en un coordinador/orquestador más agentes de herramientas que definen explícitamente los flujos de trabajo. Reggio dijo que los dos marcos son demasiado rígidos y resuelven problemas que se ven más comúnmente en el software tradicional que en la IA.

La diferencia, sostiene Reggio, es estructural:

• Orquestación tradicional: flujos de trabajo predefinidos, coordinador central, rutas deterministas

• Malla de agente: agentes especializados en roles, impulsados ​​por eventos, coordinación basada en mensajes

Agent Mesh se apoyo en unir redes de muchos agentes pequeños, cada uno de los cuales se especializa en una sola tarea. Los agentes, una vez más utilizando la combinación híbrida de modelos como con el Asistente Brex, se comunican con otros agentes “en un inglés sencillo” a través de un flujo de mensajes compartido. Un maniquí de enrutamiento determina rápidamente qué herramientas invocar, afirmó.

Una única solicitud de reembolso desencadena varias tareas: una demostración de cumplimiento para alinearse con las políticas de gastos, nervio del presupuesto, cotejo de recibos y luego inicio del cuota. Si perfectamente un agente ciertamente puede codificarse para hacer todo eso, este método es “frágil y propenso a errores” y de todos modos replica a nueva información compartida a través de un flujo de mensajes.

Reggio dijo que la idea es eliminar todas esas tareas separadas y asignarlas a agentes más pequeños. Comparó la edificio con una malla Wi-Fi, donde ningún nodo controla el sistema: la confiabilidad surge de muchos contribuyentes pequeños y superpuestos.

“Básicamente, encontramos una muy buena idea con la idea de incorporar funciones específicas como agentes en la parte superior de la mejor plataforma para resolver responsabilidades específicas, de forma muy parecida a cómo se pueden delegar las cuentas por abonar a un equipo en ocasión de la papeleo de gastos a otro equipo”, dijo Reggio.

Brex define tres ideas centrales en la edificio Agent Mesh:

• Config, donde se encuentran las definiciones del agente, maniquí, herramientas y suscripción.

• MessageStream, un registro de cada mensaje, indicación de aparejo y transición de estado

• Cronómetro, que garantiza un orden determinista.

Brex igualmente incorporó evaluaciones al sistema, en las que el LLM actúa como togado y un agente de auditoría revisa las decisiones de cada agente para asegurar que cumplan con las políticas de precisión y comportamiento.

Éxito hasta ahora

Brex dice que ha trillado ganancias sustanciales en la eficiencia entre sus clientes en su ecosistema de IA. Brex no proporcionó puntos de narración de terceros ni datos específicos de los clientes para validar esas ganancias.

Pero Reggio dijo que los clientes empresariales que utilizan Brex Assistant y los sistemas de educación forzoso de la compañía “pueden conseguir un 99% de automatización, especialmente para los clientes que en realidad se inclinaron por la IA”.

Esta es una alivio extraordinario con respecto al 60% al 70% de los clientes de Brex que pudieron automatizar sus procesos de gastos ayer del tiro de Brex Assistant.

La compañía aún se encuentra en una etapa temprana de su delirio cerca de la autonomía, dijo Reggio. Pero si el enfoque Agent Mesh funciona, el resultado más exitoso puede ser invisible: los empleados ya no piensan en invariable en los gastos.