Uso de unidades de procesamiento neuronal desde el Edge al centro de datos
Autor: Bernd Hantsche, vicepresidente de marketing de productos integrados e inalámbricos de Rutronik
La gama de herramientas de desarrollo de la IA es diversa y está en continua expansión. Este artículo ofrece una visión general de las potentes herramientas habilitadas para la IA, desde chips y procesadores hasta placas y ordenadores.
Da la sensación de que nuestro mundo gira cada vez más deprisa y que los ciclos de innovación de la industria electrónica son cada vez más cortos. En los más de 50 años transcurridos desde su fundación, Rutronik ha seguido constantemente el ritmo de la evolución de la industria, proporcionando así a sus clientes acceso a las últimas innovaciones. En el panorama actual de la inteligencia artificial (IA), el hardware con aceleradores de IA, como las unidades de procesamiento neuronal, puede encontrarse ahora en todas las áreas de productos y clases de rendimiento. Estos aceleradores funcionan como coprocesadores, garantizando que las aplicaciones, desde el uso en el campo hasta los centros de datos, estén preparadas para satisfacer los requisitos futuros. Además, hay varios aspectos legales que las empresas deben conocer.
El fin de Windows 10 y sus consecuencias
Muchas empresas aún disponen de portátiles con el sistema operativo Windows 10. Sin embargo, Microsoft ya ha anunciado el fin oficial del soporte el 14 de octubre de 2025. Y no es solo el soporte técnico el que está en vías de desaparición. La falta de actualizaciones de seguridad, en particular, está obligando a las empresas en entornos con mayor criticidad a realizar una transición debido a la Directiva de Seguridad de las Redes y de la Información (NIS2), que entrará en vigor un año antes (octubre de 2024). Dicho esto, todas las demás empresas, así como los usuarios privados, también deben ser conscientes de los futuros riesgos de seguridad, sobre todo porque las amenazas potenciales están destinadas a aumentar.
Los usuarios que simplemente quieran actualizar su entorno informático actual a Windows 11 podrían fracasar debido a la falta de compatibilidad o al aumento de los requisitos del sistema. Los propietarios de ordenadores con procesadores Intel Core hasta la séptima generación inclusive tendrían, en el mejor de los casos, que pasarse a Linux o funcionar sin conexión para evitar un desastre. Es probable que la mayoría de las empresas y usuarios vean el fin de la compatibilidad como una oportunidad para actualizar su hardware en la transición a Windows 11. Además, los periféricos de los últimos dispositivos también han avanzado. Los usuarios también se benefician de especificaciones Bluetooth y Wi-Fi más recientes, así como de cámaras, pantallas y duración de la batería mejoradas. Al adquirir nuevos ordenadores como parte de la transición a Windows 11, es aconsejable elegir dispositivos con una NPU integrada. Esto no sólo alivia la CPU y la GPU, sino que también proporciona enormes ventajas de velocidad y gestión de la energía para el uso cada vez mayor de procesos de IA.
Asesoramiento experto y opciones de configuración individuales
Con los portátiles exone go Business 1490 X14 y exone go Business 1690 X14, Rutronik pone a disposición de sus clientes dos modelos con pantalla de 14″ y 16″, ambos equipados con el nuevo procesador Intel Core Ultra 7-155U apto para IA. En una carcasa duradera y ligera (peso total aproximado de 1 kg), las funciones de seguridad garantizan la protección de los datos. Las opciones avanzadas de conectividad garantizan que se pueda establecer una conexión con el ordenador en cualquier momento y lugar. El proveedor estipula una duración de la batería de 16 horas, garantizando así que, incluso después de años de uso, siga habiendo energía suficiente para toda una jornada de trabajo ( Fig. 1 )
Figura 1. Con los portátiles exone go Business 1490 X14 y exone go Business 1690 X14, Rutronik ofrece dos modelos con pantalla de 14” y 16”, ambos equipados con el nuevo procesador Intel Core Ultra 7-155U apto para IA (fuente: Extra Computer).
Los expertos de la relativamente nueva división Rutronik IT Electronics ofrecen asesoramiento sobre opciones de configuración, ampliaciones, periféricos y tarjetas aceleradoras de IA para el hardware existente, por ejemplo. El equipo también está encantado de ayudar con la configuración individual de un ordenador. Como distribuidor oficial de la franquicia Intel, Rutronik ofrece los nuevos procesadores Core Ultra junto con placas base compatibles de Kontron, Asus y Advantech. Junto con una cartera de memorias principales, ROMs (también junto con licencias de Windows), paquetes de alimentación, carcasas y periféricos, es posible montar ordenadores AI personalizados.
Una mirada al mercado informático
Mirando más allá del presente y hacia el futuro: Cuando se produjo la pandemia del COVID-19 y muchas personas empezaron a trabajar desde casa, todo lo relacionado con la informática experimentó un auge de popularidad. Se adquirieron ordenadores portátiles y periféricos para los trabajadores en remoto, junto con servidores que facilitaban el trabajo en red y descentralizado. La cadena de suministro se vio sometida a una dura prueba. Muchos componentes de semiconductores se destinaron a la industria informática, que obviamente tenía la ventaja añadida de realizar grandes pedidos. Por cada coche producido, se fabricaban innumerables ordenadores portátiles nuevos. Algunos sectores, como la citada industria automovilística, se quedaron rezagados en lo que respecta al suministro de chips. Trataron de hacerse con los codiciados recursos del mercado mediante el aumento de las previsiones y la realización de pedidos dobles, con lo que pretendían mantener ampliamente los niveles de producción de sus productos finales. Cuando el mercado se estabilizó en 2022/2023, los almacenes se vieron súbitamente desbordados por la acumulación de pedidos. Incluso en 2024 todavía se observan coberturas de existencias de hasta dos años, lo que podría considerarse un récord histórico.
Debido a las completas instalaciones de almacenamiento de las empresas de procesamiento electrónico y al debilitamiento de la economía, los nuevos pedidos son escasos, ya que los plazos de entrega y la disponibilidad de semiconductores han dejado de ser preocupaciones críticas. Se recomienda precaución: Los proveedores de semiconductores se están viendo obligados a reducir sus capacidades de producción y a ajustar en consecuencia sus cadenas de suministro.
Este yoyó del inventario de los almacenes y de los volúmenes de producción se conoce coloquialmente desde hace décadas como el ciclo del cerdo. A pesar de las dramáticas fluctuaciones de los últimos años, la situación actual es bastante diferente de los patrones familiares del pasado. El incierto clima económico, marcado por unos tipos de interés superiores a los de la década pasada, está provocando que las empresas se muestren más cautelosas a la hora de invertir, con la esperanza de que los tipos de interés empiecen a bajar pronto. El fin de la compatibilidad con Windows 10 y la presión competitiva para utilizar la inteligencia artificial darán un nuevo impulso al mercado de los ordenadores en 2025. Para entonces, los ordenadores portátiles de los primeros días de la pandemia se habrán amortizado por completo y podrán ser sustituidos. Este auge previsto, unido a una disminución de la capacidad de producción de pequeños componentes electrónicos, señala el inicio de la siguiente fase de asignación. Toda la industria electrónica lleva varias semanas insistiendo en que los planes de demanda a largo plazo de los clientes son esenciales para garantizar el suministro para 2025 y más allá. Todos los compradores de TI hacen bien en no esperar a que finalice el soporte apoyo de Microsoft. Un poco más de previsión y un margen de tiempo pueden ayudar a evitar un mercado agotado y ofrecer mejores condiciones de compra que esperar a que las estanterías de los distribuidores y minoristas vuelvan a estar vacías.
Potentes aplicaciones de IA y herramientas para desarrolladores
Sin embargo, la IA no es sólo un tema para los que nos sentamos delante de un PC. Incluso en las aplicaciones profesionales, como las observadas en la industria, la medicina, la robótica y la automatización, los patrones de los sensores, las imágenes de las cámaras y las fuentes de audio se analizan con frecuencia utilizando grandes modelos de lenguaje (LLMs) o grandes modelos de acción (LAMs), con conclusiones extraídas según las leyes de la probabilidad.
Empecemos por los sensores y los actuadores, es decir, muy cerca de la pieza de trabajo. Los datos de los sensores se analizan y evalúan en busca de patrones antes de proceder a su posterior procesamiento. Edge Impulse, por ejemplo, proporciona software de aprendizaje automático para microcontroladores de Nordic Semiconductor e Infineon. Algunos anillos inteligentes que monitorizan los parámetros de salud del portador y transmiten los datos a un smartphone utilizan hardware de bajo consumo de Nordic Semiconductor, junto con el respectivo software ML/AI de Edge Impulse. El hecho de que un anillo equipado con sensores, Bluetooth y cálculos de IA funcione con una batería compacta pone de relieve los importantes avances en eficiencia energética logrados en los últimos años.
Las nuevas familias nRF54L y nRF54H, que representan las últimas y mejoradas generaciones de microcontroladores multinúcleo en un chip del tamaño de un alfiler, saldrán al mercado a finales de 2024 y principios de 2025, respectivamente. Con el microcontrolador Bluetooth PSoC 63 de Infineon, los clientes pueden elegir entre Edge Impulse y el software Imagemob, que ahora se integra en la oferta de Infineon. Ambas soluciones de software se centran en tareas de aprendizaje automático en el controlador. Imagemob ya está disponible en la caja de herramientas Modbus SDK de Infineon. Las instrucciones de instalación para el uso del software del proveedor externo Edge Impulse también se pueden encontrar allí.
A la altura de los retos del edge computing
Si necesita más potencia de procesamiento más allá de la evaluación de movimientos, la asignación de patrones de sonido a eventos, la consolidación de parámetros ambientales y la realización de previsiones, Rutronik le ofrece ordenadores completos, chips semiconductores y placas integradas con capacidad de IA. Esta clase se utiliza normalmente para aplicaciones edge computing, es decir, a pocos metros de la pieza de trabajo. Las aplicaciones edge computing se alimentan con tensiones fijas, lo que les permite convertir más energía que las aplicaciones alimentadas por batería. La potencia de procesamiento es correspondientemente mayor, lo que permite realizar aquí análisis de vídeo y cálculos de alta frecuencia, a menudo en tiempo real.
Intel Tiber Development Cloud ofrece a los desarrolladores acceso a numerosas herramientas de IA, como OpenVino, OneAPI, PyTorch, TensorFlow, Llama2 y muchos otros LLMs, marcos y kits de herramientas. Es posible diseñar su propio ordenador como plataforma de hardware, con Rutronik proporcionando soporte para coprocesadores de IA utilizando procesadores Intel Core Ultra ( Fig. 2 ) o Intel Gaudi. Otra posibilidad es utilizar una placa de un proveedor externo que haya instalado, verificado y certificado los chips semiconductores.
Figura 2. La familia de procesadores Intel Core Ultra ofrece funciones avanzadas de IA (fuente: Intel)
Sistemas Edge para procesar grandes cantidades de datos
Advantech AIR-030 es la siguiente etapa de expansión y representa una computadora de IA completamente ensamblada para uso edge. Basado en Nvidia Jetson AGX Orin, el ordenador ofrece certificación de industria pesada conforme a ISO 61000-6-4, así como USB-C, CanBus, Ethernet y varias opciones de expansión, por ejemplo, mediante tarjetas M.2. Además de este ordenador, Advantech ofrece otros 12 sistemas de vanguardia basados en Nvidia Jetson Nano, TX2 NX, AGX Xavier o Nvidia Jetson Xavier NX. Los datos prefiltrados de este modo corresponden sólo a una fracción del volumen de los datos brutos generados por los sensores. En muchos casos, el transporte de los datos a los centros de datos es mucho menos costoso y más rápido. Para ciertas aplicaciones, los cálculos de IA requieren el procesamiento de datos de varias fuentes globales, lo que significa que los centros de datos seguirán siendo esenciales y continuarán creciendo a pesar de la expansión de edge computing. Con la serie MIC-735, Advantech ofrece servidores completos basados en Nvidia IGX Origin que permiten cálculos rápidos de hasta 275 TOPS ( Fig. 3 ). Una Nvidia RTX A6000 potencia adicionalmente la familia de servidores para análisis complejos de imágenes en movimiento. Con la familia MIC-71xx de Advantech, Rutronik pone a disposición de sus clientes seis entornos de desarrollo basados en diversos chips Nvidia Jetson para el desarrollo de dispositivos específicos para cada cliente.
Figura 3. Sistema MIC-735E-IO AI de Advantech basado en NVIDIA IGX Orin para baja latencia, seguridad de red y seguridad funcional (fuente: Advantech)
Chips y placas de IA para cámaras inteligentes
Los modelos ICAM-500, 520 y 540 de Advantech demuestran claramente lo que puede conseguir una cámara cuando se combinan chips de IA de Nvidia con sensores de imagen de Sony ( Fig. 4 ). Hasta 8 MP@50 FPS o 1,6 MP@60 FPS permiten obtener señales de vídeo de alta resolución incluso con imágenes que cambian rápidamente. La cámara reconoce y evalúa los escenarios filmados dentro de su carcasa, de modo que sólo es necesario transferir las conclusiones de la escena al ordenador conectado externamente, lo que requiere menos potencia de procesamiento externa. Las cámaras AI de Advantech complementan la gama de cámaras inteligentes de Rutronik, que han logrado una importante penetración en el mercado en los últimos años gracias al éxito de las cámaras, módulos de cámara y soluciones de chip Intel RealSense. Gracias sobre todo al soporte que ofrecen OpenVino y otras herramientas de software de IA, los productos Intel RealSense también facilitan el análisis de imágenes sin sobrecargar excesivamente la CPU. Adlink es otro proveedor de cámaras con IA de la cartera de Rutronik, y su combinación con el software Edge Vision Analytics resulta igualmente interesante para una amplia gama de tareas.
Figura 4. La ICAM-520 de Advantech es una cámara de IA industrial equipada con un módulo de procesamiento NVIDIA Jetson Xavier NX y un sensor de imagen Sony de calidad industrial (fuente: Advantech).
Cuando se buscan sistemas de edge computing para operar en entornos especialmente duros, merece la pena considerar la familia MIC-71x de Advantech o la MIC-730IVA. Este tipo de ordenador puede capturar y analizar hasta ocho secuencias de vídeo, incluso sin ventilador, lo que resulta crucial para su uso en entornos polvorientos, por ejemplo. La gama de prestaciones abarca desde 512 GOPS a 21 y 32 TOPS, hasta 100 TOPS para los modelos MIC-715OX y MIC-717OX de gama alta. El software SECeDGE de los ordenadores Advantech protege los modelos de IA del cliente, garantiza la integridad de los datos, elimina la necesidad de un chip TPM externo y, al mismo tiempo, permite el arranque seguro, las actualizaciones de firmware, la recuperación de fallos, la encriptación, la gestión de credenciales y la integración en la nube ( Fig. 5 ).
Figura 5. Sistema de inferencia de IA AIR-030 de Advantech basado en NVIDIA Jetson AGX Orin (fuente: Advantech)
Ordenador, procesador y placas para aplicaciones de IA
Una solución de IA del proveedor italiano de PCB Seco es la opción ideal para determinadas aplicaciones. Seco Titan 300 TGL-UP3 AI es un ordenador multinúcleo sin ventilador que utiliza procesadores Intel Core e Intel Celeron, lo que permite realizar las tareas en las unidades de procesamiento de mayor eficiencia energética ( Fig. 6 ).
Figura 6. Ordenador integrado sin ventilador Titan 300 TGL-UP3 de Seco con SoCs Intel Core e Intel Celeron de 11ª generación, así como chip Axelera AI (fuente: Seco)
Además, Seco ha añadido una NPU como coprocesador a las dos CPU. Una Axelera Metis, también denominada AIPU (unidad de procesamiento de inteligencia artificial), puede ofrecer hasta 120 TOPS. Via Technologies, socio franquiciado relativamente nuevo de Rutronik, utiliza semiconductores inteligentes de MediaTek para sus placas de IA. Via ARTiGO A5000 es un sistema ARM ultracompacto y sin ventilador con ocho núcleos de rendimiento (dos MediaTek Genio 700 o dos unidades ARM Cortex-A78) para aplicaciones de IA en el edge. También se pueden conectar dos cámaras AHD a Via SOM-5000 mediante MIPI y paneles táctiles mediante LVDS y HDMI ( Fig. 7 ). La aceleración de hardware 4K compatible con H.265/H.264 permite la compresión y descompresión de vídeo sin suponer una carga adicional para el ordenador principal. Los cuatro TOPS de la unidad AI deberían ser adecuados para muchas tareas de vídeo, lo que permite ahorrar tanto en consumo de energía como en costes de adquisición desde la fase de selección del producto.
Figura 7. El módulo VIA SOM-5000 está alimentado por un procesador octa-core MediaTek Genio 700 con un procesador de IA integrado que ofrece hasta cuatro TOPS para el aprendizaje profundo, la aceleración de redes neuronales, aplicaciones de visión por ordenador y procesamiento de audio HiFi 5 (fuente: Via Technologies).
Para reequipar las estaciones de trabajo o servidores existentes con aceleradores de IA, las tarjetas iEi Mustang-T100-T5 y Mustang-M2BM ofrecen las correspondientes tarjetas de expansión. La tarjeta T100 utiliza cinco TPU Coral Edge de Google, mientras que la tarjeta M2BM realiza los cálculos utilizando dos VPU Intel Movidius Myriad X. La tarjeta de Google ya ofrece 20 TOPS consumiendo sólo unos 15 W. Junto a iEi, la empresa hermana de Molex, BittWare, también utiliza tecnología Intel con su tarjeta aceleradora IA-440i. Sin embargo, utiliza un chip FPGA Agilex 7 de Altera, lanzada como empresa independiente de FPGA por Intel. La tarjeta es ideal para tareas de almacenamiento de datos a alta velocidad, por lo que resulta muy adecuada para su uso en registradores de datos y en la construcción de servidores de almacenamiento.
Soluciones modulares para aplicaciones de cálculo intensivo
La IA también se ha abierto camino en el siempre popular segmento de los módulos estandarizados de norma abierta (OSM). Con ROM-2620, ROM-2820 y ROM-2860 de Advantech, Rutronik ofrece tres módulos a los que el proveedor también se refiere como ahorrador de energía, habilitador de IA y estrella transfronteriza, que proporcionan soluciones a medida para cálculos sobre el terreno basados en requisitos específicos. Mientras que los dos primeros módulos funcionan con el sistema operativo Yocto, la última variante está disponible exclusivamente para Windows 11 en ARM o Ubuntu. Los tres módulos OSM tienen garantizada su disponibilidad hasta 2034, lo que asegura que la inversión actual en desarrollo tiene tiempo de sobra para rentabilizarse. Los módulos Yocto son compatibles con núcleos ARM Cortex-A35 o A55. El ROM-2820 puede acceder a una NPU Ethos-U65 de 500 GOPS, que puede ejecutar algoritmos de IA hasta diez veces más rápido que el núcleo Cortex-A55 ( Fig. 8 ). El buque insignia ROM-2860 se basa en un Qualcomm QCS6490, que contiene la CPU Kyro 670 y la NPU Hexagon de la misma empresa. La potencia de procesamiento se utiliza a menudo en cámaras embarcadas, cortadoras de césped, aspiradoras o escáneres industriales para el análisis ultrarrápido de cámaras: los 12 TOPS lo hacen posible. Gracias a la compatibilidad con ARM64 y al Wi-Fi 6E integrado, los datos prefiltrados pueden transmitirse sin problemas a Microsoft Azure Cloud o aprovecharse con Azure AI Services, junto con una amplia gama de otras herramientas de desarrollo.
Figura 8. El ROM-2820 de Advantech es un potente SoC (OSM tamaño L) con capacidades Edge ML (fuente: Advantech)
Rutronik dispone desde hace tiempo de factores de forma aún mayores, como los ordenadores en módulo, con IA integrada. El Advantech AOM-3511, con cinco TOPS, tiene sólo 5 cm de profundidad, mientras que el AOM-3411 tiene una profundidad de 80 mm. El primero se basa en un ARM Cortex Multicore. Seis A55@2 GHz, un M7@800 MHz y un M33@250 MHz permiten que las tareas sean abordadas por la unidad de procesamiento más adecuada. El AOM-3411 va un paso más allá: Equipado con un Rockchip RK3576, dispone de cuatro A72@2.2 GHz, cuatro A53@1.8 GHz y un M0@800 MHz. La NPU integrada realiza hasta seis TOPS.
La variedad de arquitecturas de microcontroladores y de sistemas operativos disponibles puede resultar aún algo abrumadora para los recién llegados, los que están en transición o los que regresan al sector. En junio de 2024 se presentaron los primeros portátiles que utilizaban arquitecturas ARM en lugar de x86, con Microsoft Windows 11 en ARM en la subestructura y Microsoft Copilot en la superestructura. Todos los proveedores de portátiles, incluido Microsoft con sus modelos Surface, confían en el nuevo procesador Qualcomm Snapdragon X Elite como unidad motriz. Este nuevo procesador también se utiliza ya en el ordenador en módulo AOM-7721 de Advantech ( Fig. 9 ). Con unos impresionantes 45 TOPS, el rendimiento de la IA en dispositivos finales rivaliza ahora con lo que antes sólo se podía conseguir en servidores de alto consumo energético. El Advantech RSB-3810 es un ordenador monoplaca en el factor de forma Pico-ITX de 2,5″, ideal para quienes no pueden utilizar una placa base para ordenadores en módulos. El ordenador está alimentado por un MediaTek Genio 1200, que contiene una CPU, una VPU y un MDLA, y es, por tanto, también adecuado para operaciones de cálculo más intensivas, especialmente las basadas en TensorFlow Lite.
Figura 9. El AOM-7721 de Advantech está alimentado por un SoC Qualcomm X Elite para el procesamiento de imágenes de máquinas y aplicaciones de IA (fuente Advantech)
Resumen del producto en el nuevo folleto Rutronik AI Highlights
Si esta visión general de nuestras categorías de productos, que abarcan desde microcontroladores de IA compactos hasta robustos servidores de IA, ha despertado su interés por todo el espectro de prestaciones, el folleto Rutronik AI Highlights ofrece una comparativa informativa. También incluye productos de DFI, AAEON, Cherry Embedded Solutions, Adlink y soluciones de almacenamiento especializadas de varios proveedores. En relación con este tema en particular, cabe destacar que a medida que el mundo sigue girando cada vez más rápido, Rutronik amplía su gama de productos con nuevas soluciones de IA casi a diario. Por ello, una charla con los expertos de Rutronik no puede ser sustituida por la IA ni por el catálogo. No espere a que finalice oficialmente la compatibilidad con Windows 10, ya que es probable que los precios y los plazos de entrega vuelvan a aumentar.
