Wie können Konstruktionsingenieure die Vorteile von Edge-KI-Lösungen der nächsten Generation nutzen?

Autor: David Ramos, stellvertretender Regionalmanager Iberien, Italien und Griechenland – Advantech

Die Nachfrage von Entwicklungsingenieuren nach der direkten Implementierung von Algorithmen und Modellen der künstlichen Intelligenz (KI) in Edge-Geräten wächst. Der Grund liegt auf der Hand: Dieser Ansatz bringt KI-Funktionen näher an die Anwendung und ermöglicht so schnellere Verarbeitung, geringere Latenz und mehr Datenschutz – ganz ohne die Abhängigkeit von zentralisierten Cloud-Servern. Advantech bietet Entwicklern in diesem Zusammenhang einen zusätzlichen Wettbewerbsvorteil: robuste KI-on-Module-Lösungen mit niedrigem TDP-Wert, die modernste System-on-Computer-Plattformen führender Hersteller wie Qualcomm®, NVIDIA, Rockchip und NXP® in kompakten Formfaktoren integrieren und optional mit KI-Beschleunigungsmodulen erweitert werden können.

An vorderster Front: Entscheidende Mission

Modulare KI-Lösungen ermöglichen die Entwicklung der nächsten Generation schnell wachsender batteriebetriebener Anwendungen, wie beispielsweise Drohnen und autonome Geräte für die Verteidigungsindustrie. Neueste KI-Technologie in leistungsstärkeren System-on-a-Chip (SoC)-Prozessoren mit integrierten NPUs und erweiterten Konnektivitätsfunktionen trägt zur Entwicklung größerer Funktionalitäten bei. Die Erstellung und der Einsatz von KI-Modellen werden durch eine wachsende Anzahl bestehender Toolsets und Beispielmodelle unterstützt, die den Einstieg erleichtern. Die zu erwartende KI-Leistung lässt sich bereits zu Beginn des Entwicklungszyklus präziser messen.

Die nächste Generation von Edge-KI ist ein entscheidender Faktor, der Designern hilft, die grundlegenden Ziele dieser anspruchsvollen Branche zu erreichen.

Lange Markteinführungszeiten und branchenspezifische Anforderungen bedeuten auch, dass Entwicklungsingenieure bereits in die Zukunft blicken und den Einsatz von Hardware planen, die es heute noch nicht gibt. Daher ist die Nutzung der in Kürze verfügbaren vorkonfigurierten Edge-KI-Module von Advantech sowohl attraktiv als auch kosteneffizient.

Kommerzielle Anwendungen

Es ist wichtig zu betonen, dass diese Perspektive keineswegs auf den Verteidigungssektor beschränkt ist. In Europa steigt die Nachfrage nach kommerziellen Anwendungen von Edge-KI stetig. Zahlreiche Branchen können von dieser Spitzentechnologie profitieren. Die neuesten Lösungen von Advantech ermöglichen es Entwicklern, PoE-Stromversorgung bereits auf ihren Applikationsplatinen zu nutzen. Das Unternehmen konzentriert sich insbesondere auf sein Produktportfolio „Computer on Modules“ und verfügt über einige der besten Ressourcen und Infrastrukturen der Branche vor Ort, um Ingenieure bei der Systementwicklung optimal zu unterstützen.

Darüber hinaus arbeitet Advantech an der Markteinführung von PoE-fähigen Embedded-Computern mit KI-Funktionen. Diese sollen eine schnelle Markteinführung ermöglichen und sich gut für kleine und mittlere Unternehmen eignen.

Ein weiteres häufiges Anliegen bei kommerziellen Anwendungen ist der Datenschutz und die vergleichsweise strengen EU-Rechtsvorschriften. In vielen Anwendungen trägt die Verarbeitung von Bildern am Netzwerkrand und die Übermittlung ausschließlich anonymisierter Daten an den Server zur Einhaltung dieser Vorschriften bei.

Wissen ist Macht

Die thermische Verlustleistung (TDP) gibt die maximale Wärmemenge an, die eine Komponente unter normalen Betriebsbedingungen voraussichtlich erzeugt. Bei Halbleitern bedeutet eine niedrige TDP, dass ein Prozessor weniger Strom verbraucht und weniger Wärme erzeugt als ein Prozessor mit höherer TDP. Systementwickler können ihren Kunden somit Lösungen mit reduziertem Stromverbrauch anbieten, was längere Akkulaufzeiten in tragbaren Geräten, eine geringere Wärmeabgabe (wodurch komplexe Kühlsysteme überflüssig werden), eine geringere Umweltbelastung und potenziell einen leiseren Betrieb ermöglicht.

Entwicklungsingenieure müssen auch den Formfaktor berücksichtigen. Edge-KI-Geräte arbeiten oft an der Grenze der thermischen Lösungen. Ein kleiner Formfaktor ist entscheidend, da kompakte, energieeffiziente und robuste Geräte benötigt werden, die in unterschiedlichsten Umgebungen und Anwendungen eingesetzt werden können. Doch lassen sich mit OSM- oder SMARC-Modulen effizientere thermische Lösungen und insgesamt bessere Systeme realisieren? Dies stellt in der Konzeptphase oft eine große Herausforderung dar.

Advantech erfüllt mit seinen Edge-KI-Modulen der nächsten Generation, von denen einige in Kürze verfügbar sein werden, sowohl die Anforderungen an niedrige TDP als auch an geringe Größe. Zu den Neuerscheinungen gehören Lösungen auf Basis von Qualcomm®- und NXP®-CPU-Plattformen.

Fahrplan in die Zukunft

Advantech verfolgt einen intensiven Plan zur Veröffentlichung neuer KI-Module (KI-auf-Modul), während Innovationen von der Konzeptphase über die Entwicklung und Validierungstests bis hin zur Massenproduktion fortschreiten.

Zu den neuesten Lösungen, die in Produktion gehen, gehört der Advantech AOM-2721. Er bietet ein kompaktes OSM-Format (Open Standard Module) im L-Format mit Abmessungen von nur 45 x 45 mm und basiert auf der leistungsstarken Qualcomm® QCS6490-Plattform. Dieser Chipsatz ermöglicht dank seiner KI-Beschleunigerarchitektur leistungsstarke Edge-KI mit einer potenziellen Spitzenleistung von bis zu 13 TOPS bei niedriger TDP.

Maschinelles Lernen direkt auf dem Gerät ermöglicht die exponentielle Verbreitung lokaler Rechenanwendungen. Der Qualcomm® QCS6490 System-on-a-Chip (SoC) wurde speziell für leistungsstarkes lokales Rechnen entwickelt und kombiniert eine Qualcomm® CPU mit bis zu 8 Kernen, eine integrierte Qualcomm® Adreno™ GPU und eine leistungsstarke KI-Engine (NPU + digitaler Signalprozessor). Mit drei KI-basierten Bildsignalprozessoren (ISPs), skalierbarer Rechenleistung, erstklassigen Multi-Gigabit-Konnektivitätsoptionen und erweiterten I/O-Schnittstellen ist der QCS6490 die ideale Wahl.

Das Advantech AOM-2721 OSM 1.1 AI-Modul mit Qualcomm® QCS6490 bietet PCIe, USB 3.2, Gigabit Ethernet, eine serielle MIPI-CSI-Kameraschnittstelle, das serielle I2C-Kommunikationsprotokoll, eine serielle Peripherieschnittstelle, universelle E/A, PWM (Pulsweitenmodulation) und integrierte DisplayPort-Schnittstellen sowie DisplayPort- und MIPI-D-Seriellschnittstellen für eingebettete Anwendungen.

Ein weiteres neues KI-Modul, das Advantech AOM-5521, befindet sich nun ebenfalls in Serienproduktion. Es basiert auf der NXP® i.MX 95 System-on-Computer-Plattform und bietet ein kompaktes SMARC-Gehäuse mit den Abmessungen 82 x 50 mm. Der i.MX 95 ermöglicht sicheres und energieeffizientes Edge Computing und kombiniert KI-beschleunigte Bildverarbeitung mit leistungsstarken Rechenfunktionen und immersiver 3D-Grafik auf Basis der Arm® Mali™-Technologie. Zu den wichtigsten Merkmalen gehören der innovative NXP Neutron NPU-Beschleuniger für maschinelles Lernen, Hochgeschwindigkeitsverbindungen, Sicherheits- und Schutzfunktionen sowie das integrierte, sichere EdgeLock®-Gehäuse.

Der Advantech AOM-5521 mit integriertem NXP® i.MX95 und KI-NPU gewährleistet einen zuverlässigen und sicheren Betrieb. Er bietet umfangreiche Anschlussmöglichkeiten, darunter USB 2.0, USB 3.2 Gen1 (1x), 10-Gigabit-Ethernet, eine serielle MIPI-C-Schnittstelle, PCIe, eine Dual-Channel-LVDS-Signalschnittstelle und eine serielle 4-Lane-MIPI-D-Displayschnittstelle. Diese Eigenschaften machen den AOM-5521 zur idealen Wahl für eine Vielzahl von Embedded-Anwendungen.

Hochleistungsprodukte

Zusätzlich zu den Modellen Qualcomm® QCS6490 und NXP® i.MX95 plant Advantech auch die Einführung von „AI-on-Module“-Lösungen mit den Modellen Qualcomm® Elite/X Plus und Qualcomm® QCS9100.

Dies sind hervorragende Neuigkeiten für Branchen wie die Verteidigungsentwicklung, da sie die Möglichkeiten für wichtige Anwendungen, darunter auch schwebende Drohnen, erweitern. Die Verfügbarkeit von KI-Modulen mit kleinen Bauformen und niedriger TDP – in manchen Fällen nur 6,5 Watt – ermöglicht kritische Aufgaben wie die autonome Objekterkennung. Tatsächlich profitieren alle Anwendungen, die Funktionen wie die Einhaltung gesetzlicher Vorschriften, Cybersicherheit und Ausfallsicherheit erfordern. Zur Auswahl stehen sowohl lötbare OSM-Module als auch SMARC-Module, die mehr Freiheit bei der mechanischen Konstruktion bieten.

Innovative Optionen für kommerzielle Anwendungen, wie beispielsweise die Gesichtserkennung in Gegensprechanlagen, zeichnen sich ebenfalls ab. Ein Beispiel hierfür ist das kommende KI-Modul AOM-3841 von Advantech, das den energieeffizienten Rockchip RK3576 SoC integriert.

In einer Zeit, in der Entwicklungsingenieure nach optimierten Lösungen streben, indem sie verschiedene Attribute wie Leistung, Zuverlässigkeit, Ausfallsicherheit, Formfaktor und geringe TDP in Einklang bringen, bieten die KI-Module der nächsten Generation von Advantech einen komfortablen und effizienten Weg in die Zukunft. In Osteuropa, wo die steigende Nachfrage nach KI-basierten Lösungen durch erhöhte Risikokapitalinvestitionen, starke staatliche Förderung und einen wachsenden Pool an qualifizierten IT-Fachkräften befeuert wird, sollten Entwickler die Verfügbarkeit von Edge-KI-Plattformen für den Einsatz in dieser Region, die international weiterhin bemerkenswerte Fortschritte erzielt, genau im Auge behalten.