Raspberry Pi ha vendido la placa AI HAT+ durante más de un año, lo que brinda a las placas Pi la capacidad de ejecutar modelos livianos de formación inevitable para la detección de objetos, etiquetado de archivos y otras tareas. Ahora hay un Raspberry Pi AI HAT+ 2 y es lo suficientemente potente como para ejecutar modelos de verbo grandes (LLM).

La nueva Raspberry Pi AI HAT+ 2 es una placa complementaria para Raspberry Pi 5, impulsada por un chip Halio-10H y 8 GB de RAM dedicada. Puede ofrecer 40 TOPS (IN4) de rendimiento de inferencia, lo que se acerca a los 40-60 TOPS en las unidades de procesamiento neuronal (NPU) que se encuentran en los chips de PC más nuevos de Intel, AMD y Qualcomm.

Podrá ejecutar modelos de verbo grandes como Vehemencia 3.2 1B, DeepSeek-R1-Distill 1.5B, Qwen2.5-Coder 1.5B, Qwen2.5-Instruct 1.5B y Qwen2 1.5B, y Raspberry Pi dice que se están desarrollando modelos adicionales con tamaños de parámetros más grandes. Los 8 GB de RAM no son suficientes para modelos como GPT-OSS o DeepSeek común, pero no sería difícil que Gemma 3 1B u otros modelos más pequeños eventualmente sean compatibles.

Sin confiscación, la grupo no es solo para LLM. Funciona con la misma pila de software de cámara que el AI HAT+ llamativo, por lo que puede configurar modelos basados ​​en visión para la detección de objetos, la estimación de poses u otros flujos de trabajo de formación inevitable. Raspberry Pi dice rendimiento para modelos de visión como Yolo es “ampliamente equivalente al de su predecesor 26-TOPS, gracias a la RAM integrada”.

Raspberry Pi dijo en una publicación de blog que “los LLM basados ​​en la nubarrón de OpenAI, Meta y Anthropic oscilan entre 500 mil millones y 2 billones de parámetros; los LLM basados ​​en el borde que se ejecutan en Raspberry Pi AI HAT+ 2, que están dimensionados para entrar en la RAM integrada habitable, generalmente se ejecutan entre 1 y 7 mil millones de parámetros. Los LLM más pequeños como estos no están diseñados para igualar el conjunto de conocimientos disponibles para los modelos más grandes, sino más proporcionadamente para especular internamente de un conjunto de datos restringido”.

Si está trabajando en un esquema que podría beneficiarse del formación inevitable o de los modelos de IA generativa, como una cámara que detecta qué pájaros pasan volando por su ventana o un motor de texto a voz, una Raspberry Pi 5 con AI HAT+ 2 podría ser una forma de hacerlo. Con suerte, la letanía de modelos disponibles crece con el tiempo, por lo que la letanía de capacidades continúa ampliándose.

Puede comprar Raspberry Pi AI HAT+ 2 a partir de hoy por $130 en tiendas autorizadas. Es un poco más caro que la Raspberry Pi de 8 GB de RAM por sí sola, que ahora cuesta 95 dólares.

Fuente: Frambuesa Pi