La ontología es la verdadera barrera de seguridad: cómo evitar que los agentes de IA malinterpreten su negocio

La ontología es la verdadera barrera de seguridad: cómo evitar que los agentes de IA malinterpreten su negocio

Las empresas están invirtiendo miles de millones de dólares en infraestructura y agentes de IA para elaborar los procesos de negocio. Sin confiscación, estamos viendo un éxito establecido en las aplicaciones del mundo verdadero, a menudo adecuado a la incapacidad de los agentes para comprender verdaderamente los datos, las políticas y los procesos comerciales.

Si proporcionadamente gestionamos proporcionadamente las integraciones con tecnologías como la gobierno de API, el protocolo de contexto maniquí (MCP) y otras, hacer que los agentes comprendan efectivamente el “significado” de los datos en el contexto de un negocio determinado es una historia diferente. Los datos empresariales están en su mayoría aislados en sistemas dispares en formas estructuradas y no estructuradas y deben analizarse con una cristal empresarial de dominio específico.

Por ejemplo, el término “cliente” puede referirse a un peña diferente de personas en un sistema CRM de ventas, en comparación con un sistema financiero que puede usar esta epíteto para clientes que pagan. Un sección podría determinar “producto” como un SKU; otro puede representar como un "producto" grupo; un tercero como paquete de marketing.

Por lo tanto, los datos sobre “ventas de productos” varían en significado sin relaciones y definiciones acordadas. Para que los agentes combinen datos de múltiples sistemas, deben comprender diferentes representaciones. Los agentes necesitan aprender qué significan los datos en contexto y cómo encontrar los datos correctos para el proceso correcto. Encima, los cambios de esquema en los sistemas y los problemas de calidad de los datos durante la colección pueden suscitar más equívoco e incapacidad de los agentes para aprender cómo representar cuando se encuentran tales situaciones.

Encima, es necesario seguir rigurosamente la clasificación de datos en categorías como PII (información de identificación personal) para persistir el cumplimiento de estándares como GDPR y CCPA. Esto requiere que los datos estén etiquetados correctamente y que los agentes sean capaces de comprender y respetar esta clasificación. Por lo tanto, vemos que crear una demostración interesante utilizando agentes es muy factible, pero poner en producción trabajando con datos comerciales reales es una historia completamente diferente.

La fuente de la verdad basada en la ontología

La creación de soluciones agentes efectivas requiere una única fuente de verdad basada en ontologías. La ontología es una definición empresarial de conceptos, su clase y relaciones. Define términos con respecto a dominios comerciales, puede ayudar a establecer una fuente única de verdad para los datos y capturar nombres de campos uniformes y aplicar clasificaciones a los campos.

Una ontología puede ser de un dominio específico (atención médica o finanzas) o de una ordenamiento específica basada en estructuras internas. Concretar una ontología por aventajado lleva mucho tiempo, pero puede ayudar a estandarizar los procesos de negocio y sentar una saco sólida para la IA agente.

La ontología se puede realizar utilizando formatos consultables comunes como triplestore. Las reglas comerciales más complejas con relaciones de múltiples saltos podrían utilizar gráficos de propiedades etiquetados como Neo4j. Estos gráficos asimismo pueden ayudar a las empresas a descubrir nuevas relaciones y replicar preguntas complejas. Ontologías como FIBO (Finance Industry Business Ontology) y UMLS (Unified Medical Language System) están disponibles en el dominio divulgado y pueden ser un muy buen punto de partida. Sin confiscación, normalmente es necesario personalizarlos para capturar detalles específicos de una empresa.

Empezando con la ontología

Una vez implementada, una ontología puede ser la fuerza impulsora para los agentes empresariales. Ahora podemos hacer que la IA siga la ontología y la utilice para descubrir datos y relaciones. Si es necesario, podemos hacer que una capa de agente proporcione detalles esencia de la ontología misma y descubra datos. En esta ontología se pueden implementar reglas y políticas comerciales para que los agentes las cumplan. Esta es una excelente forma de conectar a sus agentes y establecer barreras de seguridad basadas en el contexto empresarial verdadero.

Los agentes diseñados de esta forma y sintonizados para seguir una ontología pueden agregarse a las barreras de seguridad y evitar las alucinaciones que pueden ser causadas por los grandes modelos de idioma (LLM) que los impulsan. Por ejemplo, una política comercial puede determinar que, a menos que todos los documentos asociados con un préstamo no tengan indicadores verificados establecidos en "serio," el estado del préstamo debe mantenerse en estado “irresoluto”. Los agentes pueden solucionar esta política y determinar qué documentos se necesitan y consultar la saco de conocimientos.

A continuación se muestra un ejemplo de implementación:

(Figura flamante del autor)

Como se ilustra, tenemos datos estructurados y no estructurados procesados ​​por un agente de inteligencia documental (DocIntel) que llena una saco de datos Neo4j basada en una ontología del dominio empresarial. Un agente de descubrimiento de datos en Neo4j encuentra y consulta los datos correctos y los pasa a otros agentes que manejan la ejecución del proceso de negocio. La comunicación entre agentes se produce con un protocolo popular como A2A (agente a agente). Un nuevo protocolo llamado AG-UI (Agent User Interaction) puede ayudar a crear pantallas de UI más genéricas para capturar el funcionamiento y las respuestas de estos agentes.

Con este método, podemos evitar las alucinaciones obligando a los agentes a seguir caminos impulsados ​​por ontologías y persistir clasificaciones y relaciones de datos. Encima, podemos ascender fácilmente agregando nuevos activos, relaciones y políticas que los agentes puedan cumplir automáticamente, y controlar las alucinaciones definiendo reglas para todo el sistema en oportunidad de entidades individuales. Por ejemplo, si un agente alucina a un “cliente” individual, adecuado a que los datos conectados para el “cliente” alucinado no serán verificables en el descubrimiento de datos, podemos detectar fácilmente esta anomalía y planificar su asesinato. Esto ayuda al sistema de agencia a ascender con el negocio y administrar su naturaleza dinámica.

De hecho, una inmueble de narración como esta agrega cierta sobrecarga en el descubrimiento de datos y en las bases de datos de gráficos. Pero para una gran empresa, agrega las barreras de seguridad adecuadas y brinda a los agentes instrucciones para orquestar procesos comerciales complejos.

Dattaraj Rao es arquitecto de innovación e I+D en Sistemas persistentes.

Lea más de nuestro escritores invitados. ¡O considere mandar una publicación propia! Vea nuestro pautas aquí.

Related Posts

Ahorre $450 en el scooter eléctrico Segway Max G3

Los scooters eléctricos son una excelente forma de recorrer distancias cortas o moverse por la ciudad, pero los buenos pueden resultar suficiente caros. Por ejemplo, si quieres un scooter eléctrico…

Pixel 10 con SIM física cuesta $ 599 en EE. UU. en este momento

La serie Pixel 10 de Google es una de las primeras colecciones importantes de teléfonos inteligentes Android que abandona la compatibilidad con tarjetas SIM físicas en privanza de la eSIM…

You Missed

Senado da luz verde a ampliación del uso de firma digital en los procesos judiciales

Senado da luz verde a ampliación del uso de firma digital en los procesos judiciales

Ahorre $450 en el scooter eléctrico Segway Max G3

Ahorre 0 en el scooter eléctrico Segway Max G3

República Dominicana celebra la gran incertidumbre de Premio Soberano 2026

República Dominicana celebra la gran incertidumbre de Premio Soberano 2026

Fiscalía presenta pruebas contra Elizabeth Silverio Silien por usurpación de funciones en sanidad

Fiscalía presenta pruebas contra Elizabeth Silverio Silien por usurpación de funciones en sanidad

Cortes de energía responden a mantenimientos del sistema eléctrico en el país, según Marranzini

Cortes de energía responden a mantenimientos del sistema eléctrico en el país, según Marranzini

Israel dice asesinó ministro de Inteligencia iraní, Ismail Jatib | AlMomento.net

Israel dice asesinó ministro de Inteligencia iraní, Ismail Jatib | AlMomento.net