ztevenreal
¿Quieres ideas más inteligentes en tu bandeja de entrada? Regístrese en nuestros boletines semanales para obtener solo lo que importa a los líderes de IA, datos y seguridad empresariales. Suscríbete ahora
Osar los modelos de IA es una osadía técnica y es estratégica. Pero nominar modelos abiertos, cerrados o híbridos tiene compensaciones.
Mientras hablan en la transformación VB de este año, los expertos en bloque de modelos de Normal Motors, Teleobjetivo e IBM discutieron cómo sus empresas y clientes consideran la selección de modelos de IA.
Barak Turovsky, quien en marzo se convirtió en el primer director de IA de GM, dijo que hay mucho ruido con cada nuevo tiro del maniquí y cada vez que cambia la tabla de clasificación. Mucho antaño de que las tablas de clasificación fueran un debate convencional, Turovsky ayudó a exhalar el primer maniquí de idioma prócer (LLM) y recordó las formas en que los pesos del maniquí de IA abiertos y los datos de entrenamiento condujeron a grandes avances.
“Ese fue francamente probablemente uno de los mayores avances que ayudaron a Operai y otros a comenzar a lanzarse”, dijo Turovsky. “Así que en ingenuidad es una detalle divertida: la fuente abierta en ingenuidad ayudó a crear poco que se cerró y ahora tal vez vuelva a estar hendido”.
Los factores para las decisiones varían e incluyen costo, rendimiento, confianza y seguridad. Turovsky dijo que las empresas a veces prefieren una logística mixta: usar un maniquí hendido para uso interno y un maniquí cerrado para la producción y el cliente o al revés.
Logística de IA de IBM
Armand Ruiz, vicepresidente de IBM, la plataforma AI, dijo que IBM inicialmente comenzó su plataforma con sus propios LLM, pero luego se dio cuenta de que eso no sería suficiente, especialmente a medida que los modelos más poderosos llegaron al mercado. Luego, la compañía se expandió para ofrecer integraciones con plataformas como abrazar la cara para que los clientes puedan nominar cualquier maniquí de código hendido. (La compañía presentó recientemente una nueva puerta de enlace maniquí que brinda a las empresas una API para cambiar entre LLMS).
Más empresas eligen comprar más modelos de múltiples proveedores. Cuando Andreessen Horowitz encuestado 100 CIO, el 37% de los encuestados dijeron que estaban usando 5 o más modelos. El año pasado, solo el 29% usaba la misma cantidad.
La votación es esencia, pero a veces demasiada opción crea confusión, dijo Ruiz. Para ayudar a los clientes con su enfoque, IBM no se preocupa demasiado por qué LLM están usando durante la prueba de concepto o grado piloto; El objetivo principal es la viabilidad. Solo más tarde comienzan a ver si destilar un maniquí o personalizar uno según las deyección de un cliente.
“Primero tratamos de simplificar toda esa parálisis de disección con todas esas opciones y centrarnos en el caso de uso”, dijo Ruiz. “Luego descubrimos cuál es el mejor camino para la producción”.
Cómo se acerca el teleobjetivo ai
Los clientes de Teleobjetivo pueden nominar entre dos configuraciones para su compañero de IA, dijo Teleobjetivo CTO Xuedong Huang. Uno implica federal a la propia LLM de la compañía con otros modelos de colchoneta más grandes. Otra configuración permite a los clientes preocupados por usar demasiados modelos para usar el maniquí de solo Teleobjetivo. (La compañía incluso se asoció recientemente con Google Cloud para adoptar un protocolo de agente a agente para AI Companion para flujos de trabajo empresariales).
La compañía hizo su propio maniquí de jerigonza pequeño (SLM) sin usar datos del cliente, dijo Huang. Con 2 mil millones de parámetros, el LLM es efectivamente muy pequeño, pero aún puede exceder a otros modelos específicos de la industria. El SLM funciona mejor en tareas complejas cuando se trabaja anejo con un maniquí más prócer.
“Este es efectivamente el poder de un enfoque híbrido”, dijo Huang. “Nuestra filosofía es muy directa. Nuestra compañía está liderando el camino muy parecido a Mickey Mouse y el elefante bailando juntos. El pequeño maniquí realizará una tarea muy específica. No estamos diciendo que un maniquí pequeño sea lo suficientemente bueno … El Mickey Mouse y el elefante trabajarán juntos como un solo equipo”.
