Por qué los agentes basados ​​en objetivos es el enfoque correcto

Uno de los cambios en el pensamiento incluye comprender la naturaleza de los agentes basada en los resultados. Por ejemplo, ella dijo que muchos clientes solicitan a los agentes que ayuden a sus equipos legales a revisar o reiniciar contratos. Pero eso es demasiado franco. En cambio, un enfoque orientado a objetivos significa diseñar un agente para someter el tiempo dedicado a revisar y reiniciar contratos.

“En el ciclo de vida del progreso de software tradicional, está diseñando para un conjunto determinista de pasos muy predecibles”, dijo Habib. “Se ingresa, ingresa de una modo más determinista. Pero con los agentes, está tratando de dar forma al comportamiento de los agentes. Por lo tanto, está buscando menos flujo controlado y mucho más para dar contexto y ejemplarizar la toma de decisiones por parte del agente”.

Otra diferencia es construir un plan para los agentes que les instruyen con la deducción de negocios, en ocupación de proporcionarles flujos de trabajo a seguir. Esto incluye diseñar bucles de razonamiento y colaborar con expertos en sujetos para mapear los procesos que promueven los comportamientos deseados.

Si acertadamente se deje mucho sobre los agentes de escalera, el escritor todavía está ayudando a la mayoría de los clientes a construirlos uno a la vez. Esto se debe a que es importante primero objetar preguntas sobre quién posee y audita al agente, quién se asegura de que se mantenga relevante y aún revisa si todavía produce los resultados deseados.

“Hay un escabrosidad de escalera que la clan llega muy, muy rápidamente sin un nuevo enfoque para construir y progresar agentes”, dijo Habib. “Hay un escabrosidad al que la clan llegará cuando la capacidad de su ordenamiento para mandar a los agentes de modo responsable supera el ritmo del área de progreso de Área”.

QA para agentes vs software

La seguro de calidad igualmente es diferente para los agentes. En ocupación de una índice de comprobación objetiva, la evaluación de agente incluye contabilizar el comportamiento no binario y evaluar cómo los agentes actúan en situaciones del mundo actual. Eso se debe a que el fracaso no siempre es obvio, y no tan blanco y molesto como corroborar si poco se rompió. En cambio, Habib dijo que es mejor corroborar si un agente se comportó acertadamente, preguntando si Fail-Safes funcionó, evaluando los resultados e intención: “El objetivo aquí no es la perfección, es una confianza conductual, porque hay mucha subjetividad en esto aquí”.

Las empresas que no entienden la importancia de la iteración terminan jugando “un gozne constante de tenis que simplemente desgasta cada costado hasta que ya no quieren brincar”, dijo Habib. Asimismo es importante que los equipos estén acertadamente, ya que los agentes son menos que perfectos y más sobre “lanzarlos de modo segura y valer rápido y iterando una y otra vez”.

A pesar de los desafíos, hay ejemplos de agentes de IA que ya ayudan a suscitar nuevos ingresos para empresas empresariales. Por ejemplo, Habib mencionó un porción importante que colaboró ​​con el escritor para desarrollar un sistema basado en agentes, lo que resultó en una nueva tubería de ventas elevadas con un valía de $ 600 millones al incorporar nuevos clientes en múltiples líneas de productos.

Nuevos controles de versiones para agentes de IA

El mantenimiento de agente igualmente es diferente. El mantenimiento del software tradicional implica corroborar el código cuando poco se rompe, pero Habib dijo que los agentes de IA requieren un nuevo tipo de control de versiones para todo lo que pueda dar forma al comportamiento. Asimismo requiere una gobernanza adecuada y asegurar que los agentes sigan siendo bártulos con el tiempo, en ocupación de incurrir en costos innecesarios.

Conveniente a que los modelos no se asignan limpiamente a los agentes de IA, Habib dijo que el mantenimiento incluye corroborar las indicaciones, la configuración del maniquí, los esquemas de herramientas y la configuración de la memoria. Asimismo significa rastrear completamente las ejecuciones entre entradas, expectativas, pasos de razonamiento, llamadas de herramientas e interacciones humanas.

“Puede poner al día una solicitud de LLM (maniquí de idioma sobresaliente) y ver al agente comportarse de modo completamente diferente, aunque cero en el historial de GIT efectivamente cambió”, dijo Habib. “El maniquí vincula el cambio, los índices de recuperación se actualizan, las API de herramientas evolucionan y de repente el mismo aviso no se comporta como se esperaba … puede parecer que estamos depurando fantasmas”.

Insights diarias sobre casos de uso comercial con VB diariamente

Si quieres impresionar a tu superior, VB Daily te tiene cubierto. Le damos la cuenta interior de lo que las empresas están haciendo con la IA generativa, desde cambios regulatorios hasta implementaciones prácticas, por lo que puede compartir ideas para el ROI mayor.

Lea nuestra Política de privacidad

Gracias por suscribirse. Mira más boletines de VB aquí.

Ocurrió un error.