ztevenreal
¿Quieres ideas más inteligentes en tu bandeja de entrada? Regístrese en nuestros boletines semanales para obtener solo lo que importa a los líderes de IA, datos y seguridad empresariales. Suscríbete ahora
El equipo de investigación de IA Deepmind de Google tiene presentó un nuevo maniquí de IA de código destapado hoy, Gemma 3 270m.
Como su nombre sugeriría, este es un Maniquí de 270 millones de parámetros – Mucho más pequeño que los 70 mil millones o más parámetros de muchos LLM de Frontier (los parámetros son el número de configuraciones internas que rigen el comportamiento del maniquí).
Si admisiblemente más parámetros generalmente se traducen en un maniquí más amplio y más potente, el enfoque de Google con esto es casi lo contrario: adhesión eficiencia, lo que brinda a los desarrolladores un maniquí Lo suficientemente pequeño como para valer directamente en teléfonos inteligentes y en la zona, sin conexión a Internetcomo se muestra en las pruebas internas en un Pixel 9 Pro Soc.
Sin secuestro, el maniquí todavía es capaz de manejar tareas complejas específicas de dominio y se puede ajustar rápidamente en solo minutos para adaptarse a las deposición de una empresa o desarrollador independiente.
AI Scaling alcanza sus límites
Los límites de potencia, el aumento de los costos del token y los retrasos de inferencia están remodelando Enterprise AI. Únase a nuestro salón exclusivo para descubrir cómo son los mejores equipos:
- Convertir la energía en una preeminencia estratégica
- Inmueble de inferencia válido para ganancias reales de rendimiento
- Desbloquear ROI competitivo con sistemas de IA sostenibles
Asegure su circunstancia para mantenerse a la vanguardia: https://bit.ly/4mwgngo
En el red social xGoogle Deepmind Staff IA El ingeniero de relaciones con el desarrollador de AI Omar Sanseviero agregó que Gemma 3 270m asimismo puede Ejecutar directamente en el navegador web de un usufructuario, en una Raspberry Piy “en tu tostadora”, subrayando su capacidad para negociar en hardware muy frívolo.
Gemma 3 270m combina 170 millones de parámetros de incrustación, gracias a un gran vocabulario de 256k capaz de manejar tokens raros y específicos, con 100 millones de parámetros de soledad de transformadores.
Según Google, la bloque admite un cachas rendimiento en las tareas de seguimiento de instrucciones desde el primer momento mientras se mantiene lo suficientemente pequeño para ajustar y implementar rápidamente en dispositivos con bienes limitados, incluido el hardware móvil.
GEMMA 3 270M hereda la bloque y el pretrete de los modelos más grandes de Gemma 3, asegurando la compatibilidad en el ecosistema de Gemma. Con documentación, recetas de ajuste fino y guías de implementación disponibles para herramientas como abrazar Face, Uncera y Jax, los desarrolladores pueden producirse de la experimentación a la implementación rápidamente.
Puntajes altos en puntos de remisión para su tamaño y adhesión hefiencia
En el Ifeval Benchmark, que mide la capacidad de un maniquí para seguir las instruccionesel Gemma sintonizado con instrucciones 3 270m anotado 51.2%.
El puntaje lo coloca Muy por encima de los modelos pequeños similares como SMOLLM2 135M INSTRUCT y QWEN 2.5 0.5B INSTRUCTy más cerca del rango de rendimiento de algunos modelos de mil millones de parámetros, según la comparación publicada de Google.
Sin secuestro, como investigadores y líder En el rival AI Startup Liquid AI señaló en respuestas en X, Google dejó el propio Liquid Maniquí LFM2-350M valiente en dirección a a espaldas en julio de este año, que obtuvo un enorme 65.12% Sin secuestro, con solo unos pocos parámetros (maniquí de verbo de tamaño similar).
Una de las fortalezas definitorias del maniquí es su eficiencia energética. En pruebas internas utilizando el maniquí cantizado con INT4 en un Pixel 9 Pro SOC, 25 conversaciones consumieron solo el 0.75% de la fila del dispositivo.
Esto hace que Gemma 3 270m sea una opción destreza para la IA en el dispositivo, particularmente en los casos en que la privacidad y la funcionalidad fuera de segmento son importantes.
El tirada incluye un maniquí previo y razonable por instrucciones, lo que brinda a los desarrolladores una utilidad inmediata para tareas generales de seguimiento de instrucciones.
Los puntos de control capacitados por cuantización (QAT) asimismo están disponibles, lo que permite la precisión INT4 con una pérdida de rendimiento mínima y haciendo que el maniquí esté presto para la producción para entornos con bienes limitados.
Una pequeña lectura de Gemma 3 270m puede realizar muchas funciones de LLM más grandes
Google Frames Gemma 3 270m como parte de una filosofía más amplia de designar la aparejo adecuada para el trabajo en circunstancia de pender del tamaño del maniquí sin procesar.
Para funciones como investigación de sentimientos, ascendencia de entidad, enrutamiento de consultas, concepción de texto estructurado, verificaciones de cumplimiento y escritura creativa, la compañía dice que un maniquí pequeño razonable puede ofrecer resultados más rápidos y rentables que uno amplio de propósito universal.
Los beneficios de la especialización son evidentes en trabajos pasados, como la colaboración de ML adaptativa con SK Telecom.
Al ajustar un maniquí GEMMA 3 4B para la moderación de contenido multilingüe, el equipo superó a sistemas de propiedad mucho más grandes.
Gemma 3 270m está diseñado para permitir un éxito similar a una escalera aún más pequeña, Flotas de soporte de modelos especializados adaptados a tareas individuales.
La aplicación de productor de cuentos de la hora de adormecerse de la demostración muestra el potencial de Gemma 3 270m
Más allá del uso empresarial, el maniquí asimismo se ajusta a escenarios creativos. En Video de demostración publicado en YouTubeGoogle muestra una aplicación de productor de cuentos ayer de adormecerse construida con Gemma 3 270m y Transformers.js que se ejecuta completamente fuera de segmento en un navegador web, mostrando la versatilidad del maniquí en aplicaciones ligeras y accesibles.
El video destaca la capacidad del maniquí para sintetizar múltiples entradas al permitir selecciones para un personaje principal (por ejemplo, “un micifuz mágico”), un entorno (“en un bosque encantado”), un construcción de la trama (“descubre una puerta secreta”), un tema (“arriesgado”) y una largo deseada (“corta”).
Una vez que se establecen los parámetros, el maniquí Gemma 3 270m genera una historia coherente e imaginativa. La aplicación procede a tejer una historia breve y aventurera basada en las elecciones del usufructuario, lo que demuestra la capacidad del maniquí para la concepción de texto creativo y consciente del contexto.
Este video sirve como un poderoso ejemplo de cómo El Gemma 3 270m frívolo pero capaz puede impulsar aplicaciones rápidas, atractivas e interactivas sin pender de la cirroabriendo nuevas posibilidades para las experiencias de IA en el dispositivo.
De código destapado bajo una deshonestidad personalizada de Gemma
GEMMA 3 270M se libera bajo los Términos de uso de Gemma, que permiten el uso, reproducción, modificación y distribución del maniquí y derivados, siempre que se cumplan ciertas condiciones.
Estos incluyen padecer a final las restricciones de uso posterior descritas en la política de uso prohibida de Google, suministrar los términos de uso a los destinatarios aguas debajo e indicar claramente cualquier modificación realizada. La distribución puede ser directa o mediante servicios alojados como API o aplicaciones web.
Para los equipos empresariales y los desarrolladores comerciales, esto significa que el maniquí puede integrarse en productos, implementarse como parte de los servicios en la cirro o ajustar a derivados especializados, siempre que se respeten los términos de deshonestidad. Google no reclama los resultados generados por el maniquí, lo que brinda a las empresas todos los derechos sobre el contenido que crean.
Sin secuestro, los desarrolladores son responsables de avalar el cumplimiento de las leyes aplicables y de evitar usos prohibidos, como producir contenido dañino o violar las reglas de privacidad.
El La deshonestidad no es de código destapado en el sentido tradicional, pero permite un uso comercial amplio sin una deshonestidad pagada por separado.
Para las empresas que construyen aplicaciones comerciales de IA, las principales consideraciones operativas están garantizando que los usuarios finales estén sujetos a restricciones equivalentes, documentando modificaciones del maniquí e implementación de medidas de seguridad alineadas con la política de usos prohibidos.
Con el Gemmaverse superando 200 millones de descargas y la línea de Gemma que albarca las variantes de la cirro, el escritorio y las optimizadas móviles, los desarrolladores de Google AI están posicionando Gemma 3 270m como pulvínulo para construir soluciones AI rápidas, rentables y centradas en la privacidad, y ya parece un gran eclosión.
