No todo necesita un LLM: un situación para evaluar cuándo AI tiene sentido


Únase a nuestros boletines diarios y semanales para obtener las últimas actualizaciones y contenido exclusivo sobre la cobertura de IA líder de la industria. Obtenga más información


Pregunta: ¿Qué producto debe usar el formación mecánico (ML)?
Respuesta del apoderado del esquema: Sí.

Dejando de flanco, el inicio de la IA generativa ha volcado nuestra comprensión de lo que los casos de uso se prestan mejor a ML. Históricamente, siempre hemos diligente ML por patrones repetibles y predictivos en las experiencias de los clientes, pero ahora, es posible disfrutar una forma de ML incluso sin un conjunto de datos de capacitación completo.

No obstante, la respuesta a la pregunta “¿Qué deposición del cliente requieren una decisión de IA?” Todavía no es siempre “sí”. Los modelos de idiomas grandes (LLM) aún pueden ser prohibitivamente caros para algunos, y como con todos los modelos ML, los LLM no siempre son precisos. Siempre habrá casos de uso en los que disfrutar una implementación de ML no es el camino correcto en torno a delante. ¿Cómo nosotros, como gerentes de proyectos de IA, evaluamos las deposición de nuestros clientes para la implementación de AI?

Las consideraciones secreto para ayudar a tomar esta osadía incluyen:

  1. Las entradas y horizontes necesarias para satisfacer las deposición de su cliente: El cliente proporciona una entrada a su producto y su producto proporciona la salida. Por lo tanto, para una relación de reproducción generada por Spotify ML (una salida), las entradas podrían incluir preferencias de clientes y canciones de ‘gustos’, artistas y artículos musical.
  2. Combinaciones de entradas y horizontes: Las deposición del cliente pueden variar según si desean la misma o diferente salida para la misma o diferente entrada. Cuantas más permutaciones y combinaciones necesitemos replicar las entradas y horizontes, a escalera, más necesitamos acogerse a los sistemas ML frente a basados ​​en reglas.
  3. Patrones en entradas y horizontes: Los patrones en las combinaciones requeridas de entradas o horizontes lo ayudan a lanzarse qué tipo de maniquí ML necesita usar para la implementación. Si hay patrones en las combinaciones de entradas y horizontes (como revisar las anécdotas del cliente para obtener una puntuación de sentimiento), considere modelos ML supervisados ​​o semi-supervisados ​​a través de LLM porque podrían ser más rentables.
  4. Costo y precisión: Las llamadas de LLM no siempre son baratas a escalera y las horizontes no siempre son precisas/exactos, a pesar de ajustar e ingeniería rápida. A veces, está mejor con modelos supervisados ​​para redes neuronales que pueden clasificar una entrada utilizando un conjunto fijo de etiquetas, o incluso sistemas basados ​​en reglas, en espacio de usar un LLM.

Armé una tabla rápida a continuación, resumiendo las consideraciones anteriores, para ayudar a los gerentes de proyectos a evaluar las deposición de sus clientes y determinar si una implementación de ML parece ser la ruta correcta en torno a delante.

Tipo de privación del clienteEjemploImplementación de ML (sí/no/depende)Tipo de implementación de ML
Tareas repetitivas donde un cliente necesita la misma salida para la misma entradaAgregue mi correo electrónico en varios formularios en rayaNoCrear un sistema basado en reglas es más que suficiente para ayudarlo con sus horizontes
Tareas repetitivas donde un cliente necesita diferentes horizontes para la misma entradaEl cliente está en “modo de descubrimiento” y dilación una nueva experiencia cuando tome la misma influencia (como firmar en una cuenta):

– Suscitar una nueva obra de arte por clic

Tortuga (¿Recuerdas eso?) Descubriendo un nuevo rincón de Internet a través de una búsqueda aleatoria

–LMM de coexistentes de imágenes

–Secoritmos de recomendación (filtrado colaborativo)

Tareas repetitivas donde un cliente necesita la misma salida/salida similar para diferentes entradas–Draiseños de gradificación
–Gestación de temas de los comentarios de los clientes
DependeSi el número de combinaciones de entrada y salida es conveniente simple, un sistema determinista basado en reglas aún puede funcionar para usted.

Sin requisa, si comienza a tener múltiples combinaciones de entradas y horizontes porque un sistema basado en reglas no puede esquilar de forma efectiva, considere apoyarse en:

–Clasificadores
–Elvocador tópico

Pero solo si hay patrones en estas entradas.

Si no hay patrones en total, considere disfrutar los LLM, pero solo para escenarios únicos (ya que los LLM no son tan precisos como los modelos supervisados).

Tareas repetitivas donde un cliente necesita diferentes horizontes para diferentes entradas –Las preguntas de atención al cliente.
-Averiguar
Es raro encontrar ejemplos en los que pueda proporcionar diferentes horizontes para diferentes entradas a escalera sin ML.

Hay demasiadas permutaciones para que una implementación basada en reglas escalera de forma efectiva. Considerar:

–LLMS con coexistentes de recuperación aumentada (trapo)
–Crees de osadía para productos como la búsqueda

Tareas no repetitivas con diferentes horizontesRevisión de un hotel/restaurantePre-LLM, este tipo de escena fue difícil de alcanzar sin modelos que fueron capacitados para tareas específicas, como:

–Encontar redes neuronales recurrentes (RNN)
–Las redes de memoria a corto plazo (LSTMS) para predecir la venidero palabra

Los LLM son una gran opción para este tipo de escena.

La conclusión: no use un sable de luz cuando un par simple de tijeras pueda hacer el truco. Evalúe la privación de su cliente utilizando la matriz precedente, teniendo en cuenta los costos de implementación y la precisión de la salida, para producir productos precisos y rentables a escalera.

Sharanya Rao es apoderado de producto del Reunión Fintech. Las opiniones expresadas en este artículo son las del autor y no necesariamente las de su empresa u ordenamiento.


Related Posts

Esta aplicación convirtió la aptitud en un deporte y no puedo dejar de brincar

Me regaló una cinta de pasar, pero aún me resultaba difícil motivarse para hacer prueba. Luego, encontré una aplicación que no solo hizo que la aptitud sea más divertida, sino…

Togado en la capacitación de AI de Meta: “Simplemente no entiendo cómo puede ser de uso adaptado”

Determinado a investigar esta pregunta esencia, Chhabria presionó al abogado de los autores, David Boies, a señalar evidencia específica de daños en el mercado que parecían notablemente faltantes en el…

Leave a Reply

Your email address will not be published. Required fields are marked *

You Missed

Abaten a “Renol El Último” – Remolacha

Abaten a “Renol El Último” – Remolacha

Reportera de la NBA se vuelve vírico por su belleza – Remolacha

Reportera de la NBA se vuelve vírico por su belleza – Remolacha

Esta aplicación convirtió la aptitud en un deporte y no puedo dejar de brincar

Esta aplicación convirtió la aptitud en un deporte y no puedo dejar de brincar

Este sábado se celebra el Miss Grand República Dominicana – Remolacha

Este sábado se celebra el Miss Grand República Dominicana – Remolacha

Más temprano que tarde la prensa tradicional sucumbirá | AlMomento.net

Más temprano que tarde la prensa tradicional sucumbirá | AlMomento.net

La IA permite obtener resultados de laboratorio más rápido y precisos

La IA permite obtener resultados de laboratorio más rápido y precisos