ztevenreal
Presentado por protección
La IA ya no se limita a la aglomeración o a los centros de datos. Cada vez más, se ejecuta directamente donde se crean los datos: en dispositivos, sensores y redes en el borde. Este cambio en torno a la inteligencia en el dispositivo está siendo impulsado por las preocupaciones sobre latencia, privacidad y costos que enfrentan las empresas a medida que continúan sus inversiones en IA.
Para los equipos de liderazgo, la oportunidad es clara, dice Chris Bergey, vicepresidente senior y apoderado genérico de Arm’s Client Business: cambiar en plataformas basadas en IA que complementen el uso de la aglomeración, brinden capacidad de respuesta en tiempo verdadero y protejan datos confidenciales.
"Con la ataque de los dispositivos conectados y el auge de la IoT, la IA de vanguardia ofrece una importante oportunidad para que las organizaciones obtengan una delantera competitiva a través de una IA más rápida y capaz." Bergey explica. "Aquellos que actúan primero no sólo mejoran la eficiencia, sino que todavía redefinen lo que esperan los clientes. La IA se está convirtiendo en un diferenciador en confianza, capacidad de respuesta e innovación. Cuanto ayer una empresa convierta la IA en un factor central de sus flujos de trabajo, más rápido aumentará esa delantera."
Casos de uso: implementación de IA donde residen los datos
Las empresas están descubriendo que la IA de vanguardia no es sólo un aumento del rendimiento: es un nuevo maniquí activo. Procesar localmente significa menos dependencia de la aglomeración y una toma de decisiones más rápida y segura en tiempo verdadero.
Por ejemplo, una industria puede analizar los datos de los equipos al instante para evitar el tiempo de inactividad, mientras que un hospital puede ejecutar modelos de dictamen de forma segura en el sitio. Los minoristas están implementando prospección en las tiendas utilizando sistemas de visión, mientras que las empresas de abastecimiento utilizan IA en los dispositivos para optimizar las operaciones de la flota.
En motivo de mandar grandes volúmenes de datos a la aglomeración, las organizaciones pueden analizar y llevar a cabo en función de los conocimientos que surjan. El resultado es una cimentación de IA más receptiva, rentable y que preserva la privacidad.
La expectativa del consumidor: Inmediatez y confianza
Al trabajar con el equipo de Taobao de Alibaba, la plataforma de comercio electrónico más ancho de China, Arm (Nasdaq:Arm) permitió recomendaciones de productos en el dispositivo que se actualizan instantáneamente sin acatar de la aglomeración. Esto ayudó a los compradores en sarta a encontrar lo que necesitan más rápido y, al mismo tiempo, perseverar privados los datos de navegación.
Otro ejemplo proviene de la tecnología de consumo: las antiparras inteligentes Ray-Ban de Meta, que combinan la aglomeración y la inteligencia sintético en el dispositivo. Las antiparras manejan comandos rápidos localmente para respuestas más rápidas, mientras que las tareas más pesadas como la traducción y el registro visual se procesan en la aglomeración.
"Cada cambio tecnológico importante ha creado nuevas formas de participar y monetizar," dice Bergey. "A medida que crecen las capacidades de IA y las expectativas de los usuarios, será necesario abocar más inteligencia al borde para ofrecer este tipo de inmediatez y confianza que la parentela ahora aplazamiento."
Este cambio todavía se está produciendo en las herramientas que la parentela utiliza todos los días. Asistentes como Microsoft Copilot y Google Gemini están combinando inteligencia en la aglomeración y en el dispositivo para abocar la IA generativa al heredero, brindando experiencias más rápidas, más seguras y más conscientes del contexto. El mismo principio se aplica en todas las industrias: cuanta más inteligencia traslade de guisa segura y capaz al borde, más responsivas, privadas y valiosas serán sus operaciones.
Construir de guisa más inteligente para resquilar
La ataque de la IA en el borde exige no sólo chips más inteligentes sino todavía una infraestructura más inteligente. Al alinear la potencia informática con las demandas de la carga de trabajo, las empresas pueden someter el consumo de energía manteniendo un suspensión rendimiento. Este estabilidad entre sostenibilidad y escalera se está convirtiendo rápidamente en un diferenciador competitivo.
"Las deposición informáticas, ya sea en la aglomeración o en las instalaciones, seguirán aumentando considerablemente. La pregunta es: ¿cómo se maximiza el valencia de ese cálculo?" dijo. "Esto solo puede lograrse invirtiendo en plataformas informáticas y software que se adapten a sus ambiciones de IA. La verdadera medida del progreso es la creación de valencia empresarial, no las métricas de eficiencia en bruto."
La cojín inteligente
La rápida proceso de los modelos de IA, especialmente aquellos que impulsan la inferencia de borde, las aplicaciones multimodales y las respuestas de mengua latencia, exige no solo algoritmos más inteligentes, sino todavía una cojín de hardware de suspensión rendimiento y eficiencia energética. A medida que las cargas de trabajo se vuelven más diversas y distribuidas, las arquitecturas heredadas diseñadas para cargas de trabajo tradicionales ya no son adecuadas.
El papel de las CPU está evolucionando y ahora se encuentran en el centro de sistemas cada vez más heterogéneos que ofrecen experiencias avanzadas de IA en el dispositivo. Gracias a su flexibilidad, eficiencia y soporte de software prudente, las CPU modernas pueden ejecutar de todo, desde el formación inevitable clásico hasta cargas de trabajo complejas de IA generativa. Cuando se combinan con aceleradores como NPU o GPU, coordinan de guisa inteligente la computación en todo el sistema, lo que garantiza que la carga de trabajo correcta se ejecute en el motor correcto para conseguir el mayor rendimiento y eficiencia. La CPU sigue siendo la cojín que permite una IA escalable y capaz en todas partes.
Tecnologías como Scalable Matrix Extension 2 (SME2) de Arm brindan celeridad matricial descubierta a las CPU Armv9. Mientras tanto, Arm KleidiAI, su capa de software inteligente, está ampliamente integrada en marcos líderes para aumentar automáticamente el rendimiento de una amplia tono de cargas de trabajo de IA, desde modelos de jerga hasta registro de voz y visión por computadora, que se ejecutan en dispositivos de borde basados en Arm, sin aprieto de que los desarrolladores reescriban su código.
"Estas tecnologías garantizan que los marcos de IA puedan explotar el rendimiento completo de los sistemas basados en Arm sin un esfuerzo adicional del desarrollador." él dice. "Así es como hacemos que la IA sea escalable y sustentable: integrando la inteligencia en la cojín de la computación moderna, para que la innovación ocurra a la velocidad del software, no de los ciclos del hardware."
Esa democratización de la potencia informática todavía es lo que facilitará la próxima ola de experiencias inteligentes en tiempo verdadero en toda la empresa, no sólo en productos emblemáticos, sino en carteras completas de dispositivos.
La proceso de la IA de vanguardia
A medida que la IA pasa de proyectos piloto aislados a una implementación a gran escalera, las empresas que tendrán éxito serán aquellas que conecten la inteligencia en cada capa de la infraestructura. Los sistemas de IA agente dependerán de esta integración perfecta, permitiendo procesos autónomos que puedan razonar, coordinar y entregar valencia al instante.
"El patrón es conocido, ya que en cada ola disruptiva, los operadores tradicionales que se mueven lentamente corren el aventura de ser superados por nuevos entrantes," él dice. "Las empresas que prosperarán serán las que se despierten cada mañana preguntándose cómo hacer que su estructura dé prioridad a la IA. Al igual que con el auge de Internet y la computación en la aglomeración, aquellos que se apoyen y efectivamente se conviertan en habilitados para la IA darán forma a la próxima período."
Los artículos patrocinados son contenido producido por una empresa que paga por la publicación o tiene una relación comercial con VentureBeat, y siempre están claramente marcados. Para más información, póngase en contacto ventas@venturebeat.com.
