¿Cómo equilibra la papeleo de riesgos y la seguridad con la innovación en los sistemas de agente, y cómo torear con las consideraciones básicas sobre los datos y la selección del maniquí? En esto Transformación de VB Session, Milind Naphade, SVP, Technology, de las bases de IA en Renta One, ofreció las mejores prácticas y lecciones aprendidas de experimentos y aplicaciones del mundo existente para implementar y ascender un flujo de trabajo de agente.

Renta One, comprometido a permanecer a la vanguardia de las tecnologías emergentes, lanzó recientemente un sistema de IA de agentes múltiples de última concepción de categoría de producción para mejorar la experiencia de operación de automóviles. En este sistema, múltiples agentes de IA trabajan juntos para no solo proporcionar información al comprador de automóviles, sino todavía para tomar medidas específicas basadas en las preferencias y deposición del cliente. Por ejemplo, un agente se comunica con el cliente. Otro crea un plan de obra basado en las reglas comerciales y las herramientas que puede usar. Un tercer agente evalúa la precisión de los dos primeros, y un cuarto agente explica y valida el plan de obra con el usufructuario. Con más de 100 millones de clientes que usan una amplia viso de otras aplicaciones potenciales de casos de uso de renta, el sistema de agente está creado para la escalera y la complejidad.

“Cuando pensamos en mejorar la experiencia del cliente, deleitar al cliente, pensamos, ¿cuáles son las formas en que eso puede suceder?” Dijo Naphade. “Ya sea que esté abriendo una cuenta o que desee conocer su saldo o está tratando de hacer una reserva para probar un transporte, hay un montón de cosas que los clientes quieren hacer. En el corazón de esto, de forma muy simple, ¿cómo comprende lo que el cliente quiere? ¿Cómo comprende las mecanismos de cumplimiento a su disposición?

La IA de Agente fue claramente el sucesivo paso, dijo, para los casos de uso internos y orientados al cliente.

Diseño de un flujo de trabajo de agente

Las instituciones financieras tienen requisitos particularmente estrictos al diseñar cualquier flujo de trabajo que respalde los viajes de los clientes. Y las aplicaciones de Renta One incluyen una serie de procesos complejos a medida que los clientes plantean problemas y consultas que aprovechan las herramientas de conversación. Estos dos factores hicieron que el proceso de diseño fuera especialmente confuso, que requería una visión holística de todo el alucinación, incluida la forma en que tanto los clientes como los agentes humanos responden, reaccionan y razonan en cada paso.

“Cuando observamos cómo los humanos hacen el razonamiento, nos sorprendió algunos hechos sobresalientes”, dijo Naphade. “Vimos que si lo diseñamos usando múltiples agentes lógicos, podríamos imitar conveniente acertadamente el razonamiento humano. Pero luego te preguntas, ¿qué hacen exactamente los diferentes agentes? ¿Por qué tienes cuatro? ¿Por qué no tres? ¿Por qué no 20?”

Estudiaron experiencias de los clientes en los datos históricos: donde esas conversaciones salen acertadamente, dónde salen mal, cuánto tiempo deben tomar y otros hechos sobresalientes. Aprendieron que a menudo requiere múltiples giros de conversación con un agente para comprender lo que el cliente quiere, y cualquier flujo de trabajo de agente necesita planificar para eso, pero todavía estar completamente basado en los sistemas de una ordenamiento, herramientas disponibles, API y barandillas de políticas organizativas.

“El avance principal para nosotros fue darnos cuenta de que esto tenía que ser dinámico e iterativo”, dijo Naphade. “Si observa cómo muchas personas están utilizando LLM, están dando una palmada en los LLM como un punta del mismo mecanismo que solía existir. Solo están usando LLM para la clasificación de la intención. Pero nos dimos cuenta desde el principio que eso no era escalable”.

Tomar señales de los flujos de trabajo existentes

Basado en su intuición de cómo los agentes humanos razonan mientras responden a los clientes, los investigadores de Renta One desarrollaron un situación en el que un equipo de agentes expertos de IA, cada uno con diferente experiencia, se unen y resuelve un problema.

Por otra parte, Renta One incorporó marcos de aventura robustos en el crecimiento del sistema de agente. Como institución regulada, Naphade señaló que, por otra parte de su rango de protocolos y marcos de mitigación de riesgos internos, “, adentro de Renta One, para dirigir el aventura, otras entidades que son independientes lo observan, lo evalúan, le preguntan, le auditan”, dijo Naphade. “Pensamos que era una buena idea para nosotros tener un agente de IA cuyo trabajo completo era evaluar lo que hacen los dos primeros agentes en función de las políticas y reglas de Renta One”.

El evaluador determina si los agentes anteriores tuvieron éxito y, si no, rechaza el plan y solicita al agente de planificación que corregiera sus resultados en función de su querella sobre dónde estaba el problema. Esto sucede en un proceso iterativo hasta que se alcanza el plan apropiado. Asimismo se ha demostrado que es una gran prosperidad para el enfoque de IA agente de la compañía.

“El agente evaluador es … donde traemos un maniquí mundial. Ahí es donde simulamos lo que sucede si se ejecutara efectivamente una serie de acciones. Ese tipo de rigor, que necesitamos porque somos una empresa regulada, creo que eso efectivamente nos está poniendo en una gran trayectoria sostenible y robusta. Espero que muchas empresas finalmente van a ese punto”.

Los desafíos técnicos de la IA de agente

Los sistemas de agente deben trabajar con sistemas de cumplimiento en toda la ordenamiento, todos con una variedad de permisos. Invocar herramientas y API adentro de una variedad de contextos mientras mantenía una adhesión precisión todavía fue desafiante, desde desambiguar la intención del usufructuario hasta difundir y ejecutar un plan confiable.

“Tenemos múltiples iteraciones de experimentación, pruebas, evaluación, humano en el onda, todas las barandillas correctas que deben ocurrir ayer de que podamos entrar al mercado con poco como esto”, dijo Naphade. “Pero uno de los mayores desafíos fue que no teníamos ningún precedente. No podíamos ir y afirmar, oh, cualquiera más lo hizo de esta forma. ¿Cómo funcionó eso? Había ese tipo de novedad. Lo estábamos haciendo por primera vez”.

Selección de maniquí y asociación con NVIDIA

En términos de modelos, Renta One está rastreando profundamente la investigación académica e industrial, presentando en conferencias y manteniéndose al tanto de lo que es el estado del arte. En el presente caso de uso, utilizaron modelos de peso descubierto, en ocasión de cerrados, porque eso les permitió una personalización significativa. Eso es fundamental para ellos, la Nafada afirma, porque la superioridad competitiva en la logística de IA se zócalo en datos propietarios.

En la pila de tecnología en sí, utilizan una combinación de herramientas, que incluyen tecnología interna, cadenas de herramientas de código descubierto y pila de Inferencia Nvidia. Trabajar en estrecha colaboración con NVIDIA ha ayudado a Renta One a obtener el rendimiento que necesitan, y colaborar en oportunidades específicas de la industria en la biblioteca de Nvidia y priorizar las características del servidor Triton y su Tensort LLM.

AI de agente: mirando en dirección a el futuro

Renta One continúa desplegando, escalera y refina a los agentes de IA en sus negocios. Su primer flujo de trabajo múltiple fue el conserje de chat, implementado a través del negocio automotriz de la compañía. Fue diseñado para apoyar tanto a los concesionarios de automóviles como a los clientes con el proceso de operación de automóviles. Y con los datos de los clientes ricos, los concesionarios están identificando clientes potenciales, lo que ha mejorado significativamente las métricas de décimo del cliente, hasta un 55% en algunos casos.

“Son capaces de difundir clientes potenciales mucho mejores a través de este agente natural, más acomodaticio, las 24 horas, los 7 días de la semana, que trabaja para ellos”, dijo Naphade. “Nos gustaría transigir esta capacidad a (más) de nuestros compromisos orientados al cliente. Pero queremos hacerlo de una forma acertadamente administrada. Es un alucinación”.