No todo necesita un LLM: un situación para evaluar cuándo AI tiene sentido


Únase a nuestros boletines diarios y semanales para obtener las últimas actualizaciones y contenido exclusivo sobre la cobertura de IA líder de la industria. Obtenga más información


Pregunta: ¿Qué producto debe usar el formación mecánico (ML)?
Respuesta del apoderado del esquema: Sí.

Dejando de flanco, el inicio de la IA generativa ha volcado nuestra comprensión de lo que los casos de uso se prestan mejor a ML. Históricamente, siempre hemos diligente ML por patrones repetibles y predictivos en las experiencias de los clientes, pero ahora, es posible disfrutar una forma de ML incluso sin un conjunto de datos de capacitación completo.

No obstante, la respuesta a la pregunta “¿Qué deposición del cliente requieren una decisión de IA?” Todavía no es siempre “sí”. Los modelos de idiomas grandes (LLM) aún pueden ser prohibitivamente caros para algunos, y como con todos los modelos ML, los LLM no siempre son precisos. Siempre habrá casos de uso en los que disfrutar una implementación de ML no es el camino correcto en torno a delante. ¿Cómo nosotros, como gerentes de proyectos de IA, evaluamos las deposición de nuestros clientes para la implementación de AI?

Las consideraciones secreto para ayudar a tomar esta osadía incluyen:

  1. Las entradas y horizontes necesarias para satisfacer las deposición de su cliente: El cliente proporciona una entrada a su producto y su producto proporciona la salida. Por lo tanto, para una relación de reproducción generada por Spotify ML (una salida), las entradas podrían incluir preferencias de clientes y canciones de ‘gustos’, artistas y artículos musical.
  2. Combinaciones de entradas y horizontes: Las deposición del cliente pueden variar según si desean la misma o diferente salida para la misma o diferente entrada. Cuantas más permutaciones y combinaciones necesitemos replicar las entradas y horizontes, a escalera, más necesitamos acogerse a los sistemas ML frente a basados ​​en reglas.
  3. Patrones en entradas y horizontes: Los patrones en las combinaciones requeridas de entradas o horizontes lo ayudan a lanzarse qué tipo de maniquí ML necesita usar para la implementación. Si hay patrones en las combinaciones de entradas y horizontes (como revisar las anécdotas del cliente para obtener una puntuación de sentimiento), considere modelos ML supervisados ​​o semi-supervisados ​​a través de LLM porque podrían ser más rentables.
  4. Costo y precisión: Las llamadas de LLM no siempre son baratas a escalera y las horizontes no siempre son precisas/exactos, a pesar de ajustar e ingeniería rápida. A veces, está mejor con modelos supervisados ​​para redes neuronales que pueden clasificar una entrada utilizando un conjunto fijo de etiquetas, o incluso sistemas basados ​​en reglas, en espacio de usar un LLM.

Armé una tabla rápida a continuación, resumiendo las consideraciones anteriores, para ayudar a los gerentes de proyectos a evaluar las deposición de sus clientes y determinar si una implementación de ML parece ser la ruta correcta en torno a delante.

Tipo de privación del clienteEjemploImplementación de ML (sí/no/depende)Tipo de implementación de ML
Tareas repetitivas donde un cliente necesita la misma salida para la misma entradaAgregue mi correo electrónico en varios formularios en rayaNoCrear un sistema basado en reglas es más que suficiente para ayudarlo con sus horizontes
Tareas repetitivas donde un cliente necesita diferentes horizontes para la misma entradaEl cliente está en “modo de descubrimiento” y dilación una nueva experiencia cuando tome la misma influencia (como firmar en una cuenta):

– Suscitar una nueva obra de arte por clic

Tortuga (¿Recuerdas eso?) Descubriendo un nuevo rincón de Internet a través de una búsqueda aleatoria

–LMM de coexistentes de imágenes

–Secoritmos de recomendación (filtrado colaborativo)

Tareas repetitivas donde un cliente necesita la misma salida/salida similar para diferentes entradas–Draiseños de gradificación
–Gestación de temas de los comentarios de los clientes
DependeSi el número de combinaciones de entrada y salida es conveniente simple, un sistema determinista basado en reglas aún puede funcionar para usted.

Sin requisa, si comienza a tener múltiples combinaciones de entradas y horizontes porque un sistema basado en reglas no puede esquilar de forma efectiva, considere apoyarse en:

–Clasificadores
–Elvocador tópico

Pero solo si hay patrones en estas entradas.

Si no hay patrones en total, considere disfrutar los LLM, pero solo para escenarios únicos (ya que los LLM no son tan precisos como los modelos supervisados).

Tareas repetitivas donde un cliente necesita diferentes horizontes para diferentes entradas –Las preguntas de atención al cliente.
-Averiguar
Es raro encontrar ejemplos en los que pueda proporcionar diferentes horizontes para diferentes entradas a escalera sin ML.

Hay demasiadas permutaciones para que una implementación basada en reglas escalera de forma efectiva. Considerar:

–LLMS con coexistentes de recuperación aumentada (trapo)
–Crees de osadía para productos como la búsqueda

Tareas no repetitivas con diferentes horizontesRevisión de un hotel/restaurantePre-LLM, este tipo de escena fue difícil de alcanzar sin modelos que fueron capacitados para tareas específicas, como:

–Encontar redes neuronales recurrentes (RNN)
–Las redes de memoria a corto plazo (LSTMS) para predecir la venidero palabra

Los LLM son una gran opción para este tipo de escena.

La conclusión: no use un sable de luz cuando un par simple de tijeras pueda hacer el truco. Evalúe la privación de su cliente utilizando la matriz precedente, teniendo en cuenta los costos de implementación y la precisión de la salida, para producir productos precisos y rentables a escalera.

Sharanya Rao es apoderado de producto del Reunión Fintech. Las opiniones expresadas en este artículo son las del autor y no necesariamente las de su empresa u ordenamiento.


Related Posts

Resultados de la indagación semanal: Vivo X200 Extremista podría activo sido un éxito general, X200s lo habría hecho perfectamente

La indagación de la semana pasada muestra que Vivo tiene un éxito en sus manos con el X200 Extremista, lo que hace que su renuencia a venderla a nivel mundial…

La encargo de ventanas en macOS me molesta. Esta aplicación gratuita era la posibilidad que necesitaba

Tabla de contenido Tabla de contenido ¿Qué es Swift Shift? ¿Qué lo hace distinto? ¿Cómo alivia la encargo de las ventanas? Menos controles, apetencia clara El enfoque de Apple para…

Leave a Reply

Your email address will not be published. Required fields are marked *

You Missed

Las principales noticiario de la semana

Las principales noticiario de la semana

Preocupación en Haití por temporada ciclónica y vigor | AlMomento.net

Preocupación en Haití por temporada ciclónica y vigor | AlMomento.net

Naivelys Pérez imparte conferencia sobre comunicación ministerial

Naivelys Pérez imparte conferencia sobre comunicación ministerial

Detienen a dos en España por el homicidio de Chelo Regidor – Remolacha

Detienen a dos en España por el homicidio de Chelo Regidor – Remolacha

Resultados de la indagación semanal: Vivo X200 Extremista podría activo sido un éxito general, X200s lo habría hecho perfectamente

Resultados de la indagación semanal: Vivo X200 Extremista podría activo sido un éxito general, X200s lo habría hecho perfectamente

Siete de cada 10 conductores reconocen acaecer actuado de forma agresiva al volante, según estudio

Siete de cada 10 conductores reconocen acaecer actuado de forma agresiva al volante, según estudio