Liquid AI, la startup formada por ex investigadores del Instituto de Tecnología de Massachusetts (MIT) para desarrollar nuevas arquitecturas de modelos de IA más allá de los ampliamente utilizados “Transformadores“, hoy anunció el extensión de SALTO Aka, la “plataforma Liquid Edge AI”, un Kit de crecimiento de software de plataforma multiplataforma (SDK) diseñado para proveer que los desarrolladores integren modelos de idiomas pequeños (SLM) directamente en aplicaciones móviles.

Contiguo con el brinco, la compañía todavía introdujo Apolouna aplicación de iOS complementaria para probar estos modelos localmente, promoviendo la tarea de Liquid AI para permitir la IA competente y la preservación de la privacidad en el hardware del consumidor.

El SDK Leap llega en un momento en que muchos desarrolladores buscan alternativas a los servicios de IA solo en la cirro conveniente a las preocupaciones sobre la latencia, el costo, la privacidad y la disponibilidad fuera de recta.

LEAP aborda esas micción de frente con un enfoque circunscrito primero que permite que los modelos pequeños funcionen directamente en el dispositivoreduciendo la dependencia de la infraestructura de la cirro.

Construido para desarrolladores móviles sin experiencia previa en ML

Leap está diseñado para desarrolladores que desean construir con IA pero que pueden no tener una profunda experiencia en el educación inevitable.

Según Liquid AI, el SDK se puede asociar a un esquema de iOS o Android con solo unas pocas líneas de código, y convocar a un maniquí circunscrito está destinado a sentirse tan familiarizado como interactuar con una API de cirro tradicional.

“Nuestra investigación muestra que los desarrolladores están moviendo más allá de la IA solo en la cirro y buscan socios de confianza para ayudarlos Sitio web de Liquid. “Leap es nuestra respuesta: una plataforma de implementación de extremo a extremo flexible construida desde cero para hacer que la IA de borde privado y potente sea positivamente accesible”.

Una vez integrados, los desarrolladores pueden pretender un maniquí de la biblioteca de modelos LEAP incorporada, que incluye modelos compactos tan pequeños como 300 MB, lo suficientemente etéreo para teléfonos modernos con tan solo 4 GB de RAM (!!) y hacia lo alto.

El SDK maneja la inferencia circunscrito, la optimización de la memoria y la compatibilidad del dispositivo, simplificando el proceso de implementación de borde peculiar.

LEAP es descreído de OS y maniquí por diseño. En el extensión, es compatible con iOS y Android, y ofrece compatibilidad con los modelos Liquid Liquid Foundation (LFMS) de Liquid AI, así como muchos modelos pequeños populares de código libre.

El objetivo: un ecosistema unificado para Edge AI

Más allá de la ejecución del maniquí, LEAP se posiciona como una plataforma todo en uno para descubrir, adaptar, probar e implementar SLM para el uso de borde.

Los desarrolladores pueden navegar por un catálogo de modelos curados con varias opciones de cuantización y punto de control, lo que les permite adaptar el rendimiento y la huella de la memoria a las limitaciones del dispositivo de destino.

La IA líquida enfatiza que los modelos grandes tienden a ser generalistas, mientras que los modelos pequeños a menudo funcionan mejor cuando se optimizan para un conjunto disciplinado de tareas. El sistema unificado de Leap se estructura en torno a ese principio, ofreciendo herramientas para la rápida iteración e implementación en entornos móviles del mundo efectivo.

El SDK todavía viene con una comunidad de desarrolladores organizada en Discord, donde Liquid Ai ofrece horas de oficina, apoyo, eventos y competiciones para fomentar la experimentación y la feedback.

Apolo: como Volante Para modelos de IA locales

Para complementar el brinco, Liquid Ai todavía se libera Apolouna aplicación IOS gratuita que permite a los desarrolladores y usuarios interactuar con modelos compatibles con LEAP en una configuración circunscrito fuera de recta.

Originalmente comoStartup de aplicaciones móviles eParate que permitió a los usuarios chatear con LLMS en privado en el dispositivoque Liquid adquirió a principios de este año, Apollo ha sido reconstruido para apoyar toda la biblioteca de modelos Leap.

Apollo está diseñado para la experimentación de quebranto fricción: los desarrolladores pueden “probar” probar el comportamiento de tono, latencia o salida de un maniquí directamente en sus teléfonos antaño de integrarlo en una aplicación de producción. La aplicación se ejecuta completamente fuera de recta, preservando la privacidad del legatario y reduciendo la dependencia en el cálculo de la cirro.

Ya sea que se use como una utensilio de crecimiento ligera o un asistente privado de IA, Apollo refleja el impulso más amplio de Liquid AI para descentralizar el camino y la ejecución de la IA.

Construido en la parte posterior de la tribu Model LFM2 anunciada la semana pasada

El extensión de Leap SDK se podio en Anuncio del 10 de julio de Liquid AI de LFM2su tribu Foundation Model de segunda procreación diseñada específicamente para cargas de trabajo en el dispositivo.

Los modelos LFM2 vienen en tamaños de parámetros de 350 m, 700m y 1.2b, y comparan de modo competitiva con modelos más grandes en velocidad y precisión en varias tareas de evaluación.

Estos modelos forman la columna vertebral de la biblioteca de modelos LEAP y están optimizados para una inferencia rápida en CPU, GPU y NPUS.

De balde y despierto para que los desarrolladores comiencen a construir

Actualmente, Leap es de balde de usar bajo una abuso de desarrollador que incluye el SDK y la biblioteca de modelos Core.

Liquid AI señala que las funciones de Premium Enterprise estarán disponibles bajo una abuso comercial separada en el futuro, pero que ya está recibiendo consultas de clientes empresariales. a través de su formulario de contacto con el sitio web.

Los modelos LFM2 todavía son gratuitos para uso colegial y uso comercial por parte de empresas con menos de $ 10 millones en ingresos, con organizaciones más grandes requeridas para contactar a la compañía para obtener licencias.

Los desarrolladores pueden comenzar visitando el Sitio web de Leap SDKdescargando Apollo de la App Store, o unirse a la comunidad de desarrolladores de Liquid AI en Discord.