Owen Sakawa, fundador de Elloe AI, quiere que su plataforma sea el “sistema inmunológico de la IA” y el “antivirus de cualquier agente de IA”.

La idea, dijo Sakawa en una entrevista días ayer de la conferencia TechCrunch Disrupt, donde Elloe AI es finalista del Top 20 en la competencia Startup Battlefield, es juntar una capa a los LLM de las empresas que verifique si hay sesgos, alucinaciones, errores, problemas de cumplimiento, información errónea y resultados inseguros.

“La IA está evolucionando a un ritmo muy rápido, y se está moviendo así de rápido sin barandillas, sin redes de seguridad, sin mecanismos que eviten que alguna vez se salga de los rieles”, dijo Sakawa (en la foto de hacia lo alto).

Elloe AI es una API o un SDK, un módulo que se encuentra encima de la capa de salida de un maniquí de IA, una “infraestructura encima de su canal de LLM”, como explicó Sakawa. “Y básicamente se queda ahí verificando los hechos de cada respuesta”.

El sistema de la startup tiene sus propias capas o “anclas”, como lo expresó Sakawa.

El primer áncora verifica la respuesta del LLM con fuentes verificables. Luego, el segundo áncora verifica si la salida viola alguna regulación, como la ley de privacidad de lozanía de EE. UU. HIPAA, la ley europea de privacidad y protección de datos de gran radio GDPR, o si expone alguna información privada personal (PII). El final áncora es una pista de auditoría que muestra cómo se tomaron todas las decisiones anteriores y permite a los reguladores o a cualquier persona que audite el sistema “analizar la término de pensamiento de ese maniquí desde donde se tomó la intrepidez, la fuente de esa intrepidez, la puntuación de confianza de todas esas decisiones”, según Sakawa.

Para ser claros, Sakawa dijo que Elloe AI no se basamento en un LLM porque, en su opinión, hacer que un LLM revise a otros LLM es simplemente poner una “curita en otra herida”. Sin bloqueo, el sistema de Elloe AI utiliza técnicas de inteligencia fabricado, como el educación involuntario. Y hay humanos involucrados: los empleados de Elloe AI, que se mantienen al día con las nuevas regulaciones sobre protección de datos y protección de usuarios, dijo Sakawa.

Si desea obtener más información sobre Elloe AI, al mismo tiempo que entrevista docenas de otras empresas, audición sus presentaciones y audición a oradores invitados en cuatro escenarios diferentes, únase a nosotros en Disrupt, del 27 al 29 de octubre, en San Francisco. Obtenga más información aquí.