Von der Cloud zu Edge-KI

Die Hardware-Revolution, die KI-fähige Embedded-Systeme vorantreibt

Künstliche Intelligenz hat sich vom Rechenzentrum zum Edge verlagert. Die KI der Dinge (AIoT) ist kein bloßes Schlagwort mehr, sondern eine zentrale technische Realität. Von Smart Homes und industrieller Automatisierung bis hin zu erweiterten Fahrerassistenzsystemen in Elektrofahrzeugen und autonomer Robotik – die Nachfrage nach lokalisierter Intelligenz treibt Innovationen im Bereich der Embedded-Hardware voran.

Entwickler stehen an der Spitze dieser Transformation. Ihre Aufgabe ist es, Intelligenz direkt in die Endprodukte zu integrieren, indem sie die Herausforderungen der Ausführung von KI-Workloads auf Geräten mit begrenzten Ressourcen bewältigen und gleichzeitig die richtigen SoCs, SOMs und Development Kits auswählen, mit denen Edge-Intelligenz nicht nur praktisch, sondern auch einsetzbar wird.

Warum ist die Ausführung von KI auf Edge-Geräten eine Herausforderung?

Cloud-basierte KI-Modelle benötigen große Rechenleistung und -speicher. Hingegen müssen Edge-Geräte folgende Anforderungen erfüllen:

Geringe Latenz: Bei Robotik, ADAS oder Fehlererkennungen an Produktionslinien kommt es auf Millisekunden an.
Bandbreiteneffizienz: Das Senden von RAW-Video-/Audiodaten an die Cloud ist teuer und unpraktisch.
Datenschutz und Sicherheit: Gesichtsbilder, Gesundheitssignale und Sprachbefehle dürfen das Gerät häufig nicht verlassen.
Energie- und Kostenbeschränkungen: Embedded-KI muss in lüfterlose Gehäuse, batteriebetriebene Knoten und kostensensible Verbrauchergeräte passen.

Die Lösung sind lokalisierte KI-Modelle, die durch NPUs, DSPs, FPGAs oder Neuralnetzwerk-Engines mit ultraniedriger Leistungsaufnahme beschleunigt werden. Diese Beschleuniger ermöglichen Echtzeit-Inferenzen, ohne Energie zu verbrauchen oder eine Cloud-Verbindung zu benötigen.

Entwickler spielen eine entscheidende Rolle bei der Auswahl der richtigen Development Kits und Referenzplattformen, indem sie hochrangige KI-Konzepte mit einsetzbaren Hardwarelösungen verbinden.

KI-fähige Development Kits und Boards

Der Übergang von cloudbasierter KI zu Edge-Intelligenz wäre ohne eine neue Generation von KI-fähigen Hardwareplattformen nicht möglich. Diese Development Kits und Boards dienen Entwicklern als praktische Grundlage und bieten ein ausgewogenes Verhältnis zwischen Rechenleistung, Energieeffizienz und Integrationsflexibilität. Sie sind mehr als Prozessoren, denn sie vereinen optimierte Siliziumchips, Software-Frameworks, vortrainierte Modelle und Peripherieschnittstellen und reduzieren so effektiv die Komplexität der Bereitstellung von KI-Workloads auf Geräten mit begrenzten Ressourcen. Unabhängig davon, ob das Ziel die Stichworterkennung mit ultraniedriger Leistungsaufnahme in einem Wearable oder eine leistungsstarke Bildverarbeitung in der industriellen Automatisierung ist, enthalten diese Kits die Bausteine, mit denen KI-Konzepte in einsetzbare Produkte umgesetzt werden können. Entdecken Sie die fortschrittlichsten KI-fähigen Development Kits und SBCs, um der Konkurrenz einen Schritt voraus zu sein:

AMD Kria™ K24/K26 SOMs und Starter-Kits

Produktpalette Kria K24/26: Basierend auf Zynq™ UltraScale+™ MPSoC: Arm Cortex-A53 + R5F-Kerne mit programmierbarer FPGA-Struktur.
Der FPGA ermöglicht benutzerdefinierte Beschleuniger wie die DPU von Xilinx, die sich ideal für CNN-Inferenz und Video-Vorverarbeitung eignen.
KV260 Vision AI Starter-Kit: bis zu dreimal höherer KI-Durchsatz pro Watt als bei vielen SOMs.
Hauptsächliche Anwendungsbereiche: industrielle Maschinenvision, Robotik, Prototypenentwicklung für Fahrerassistenzsysteme (ADAS) und deterministische Echtzeitanalysen.

NXP: breites Spektrum an KI-Lösungen

FRDM-MCXN947: Cortex-M33-MCU + NPU für TinyML und Anomalieerkennung in Motorantrieben, HLK-Anlagen und Haushaltsgeräten.
FRDM-IMX93: Cortex-A55 + Ethos-U65 MicroNPU; besonders geeignet für Fahrerüberwachung, Sprachassistenten und Smart Hubs.
SLN-VIZN3D-IOT: Sichere 3D-Gesichtsauthentifizierung mit Spoofing-Schutz.
SLN-SVUI-IOT: Optimiert für die Aktivierungswort- und Befehlserkennung.
SLN-TLHMI-IOT: Schlüsselfertiges multimodales HMI-Kit mit Gesichts-, Gesten- und Spracherkennung.
Die Stärke von NXP liegt in Referenzkits, die nahezu produktionstauglich sind und das Integrationsrisiko erheblich reduzieren.

STMicroelectronics: von TinyML zu industrieller KI

STM32N6570-DK: Cortex-M55-MCU, optimiert für ML-Befehle; ideal für Audio- oder Schwingungsanalysen mit niedriger Leistungsaufnahme.
STM32MP257F-DK: Heterogene Cortex-A35 + Cortex-M33-MPU mit integrierter NPU, die Linux-KI-Frameworks für industrielle HMIs unterstützt.
STEVAL-BFA001V2B: Kit für die Zustandsüberwachung und vorausschauende Wartung mit Multi-Sensor-Integration und ML-basierter Anomalieerkennung.

Analog Devices: KI-Pioniere mit äußerst geringer Leistungsaufnahme

MAX78000EVKIT, MAX78000FTHR: MCU mit dediziertem CNN-Beschleuniger, der die Gesichter- und Stichworterkennung im Mikrowattbereich ermöglicht.
MAXREFDES178#: Komplette KI-Referenzentwicklung in Ton und Bild.

Raspberry Pi 5 und Compute Module 5

Raspberry Pi 5 und CM5: basierend auf einem Quad-Core-Cortex-A76 mit 2,4 GHz und einer deutlichen Steigerung der Speicherbandbreite und GPU-Leistung.
Dank der starken Unterstützung durch die Community ist dieses Produkt die erste Wahl für Vision-KI, Robotik und Edge-Analytics-Prototyping.
Dank der Kompatibilität mit Beschleunigern wie Google Coral TPU und Intel Myriad X ermöglicht es die Erkennung von Nummernschildern, Personenerkennung und intelligente Überwachung.
Das Compute Module 5 (CM5) bringt die Leistung des Pi 5 in eine produktionsreife SOM-Form, die sich perfekt für Embedded-Produkte für Industrie und Verbraucher eignet.

Arduino Portenta und Nicla-Sensorik

Arduino Portenta H7/X8: Dual-Core-MCUs/MPUs mit Unterstützung für TensorFlow Lite und MicroPython, ideal für vernetzte IoT- und KI-Workloads.
Arduino Nicla Sense ME: kleines, mit Sensorik ausgestattetes Modul mit IMU, Gas-, Feuchtigkeits- und Barometerfunktion – optimiert für die ML-basierte Zustandsüberwachung und Umweltsensorik.
Das Ökosystem Portenta + Nicla verbindet Prototyping und Produktion und ebnet Entwicklern den Weg vom Proof-of-Concept zu einsetzbaren Lösungen.
Software mit Community-Unterstützung und zugängliche APIs verringern die Eintrittsbarrieren und sorgen gleichzeitig für professionelle Hardwarezuverlässigkeit.

Hardware-Vergleichsmatrix

Plattformen	CPU/MPU	KI / Beschleunigung	Leistung	Hauptanwendungsbereiche
AMD Kria K24/K26 SOM	Quad-Cortex-A53 + R5F, FPGA-Struktur	programmierbare DPU für CNN/Vision	5–15 W	Robotik, Industrial Vision, ADAS-Prototyping
NXP FRDM-MCXN947	Dual Cortex-M33	DSP-Befehle der NPU-Klasse	< 1 W	TinyML, Anomalieerkennung, Sensoren im Internet der Dinge (IoT)
NXP FRDM-IMX93	Dual Cortex-A55 + Cortex-M33	Arm-Ethos-U65 MicroNPU (0,5 TOPS)	2–5 W	Treiberüberwachung, Voice Hubs, Edge-KI-Gateways
NXP SLN-VIZN3D-IOT	Cortex-M7 MCU	Vision/3D-Tiefe + sichere Engine	< 2 W	Sichere Gesichtsauthentifizierung
NXP SLN-SVUI-IOT	Cortex-M7 MCU	Lokale Sprach-/Stichwort-Engine	< 2 W	Aktivierungswort- und Sprach-UI
NXP SLN-TLHMI-IOT	Cortex-M7 MCU	Fusion von Vision- und Audio-Informationen	< 2 W	Berührungsloses HMI (Gesten, Sprache, Gesicht)
ST STM32N6570-DK	Dual Cortex-A35 + Cortex-M33	GPU/NEON für ML-Vorgänge	1–3 W	Intelligentes HMI, Audio-ML, stromsparender Edge
ST STM32MP257F-DK	Dual Cortex-A35 + Cortex-M33	Integrierte NPU (~0,5 TOPS)	3–6 W	Linux-basierte KI-Frameworks, industrielle Automatisierung
ST STEVAL-BFA001V2B	Cortex-M4 MCU	ML in der Sensorfusions-Pipeline	< 1 W	Vorausschauende Wartung, Schwingungsüberwachung
Analog Devices MAX78000EVKIT	Arm Cortex-M4F MCU	CNN-Beschleuniger (KI bei µW)	< 0,5 W	Stichworterkennung, Gesichtserkennung bei Wearables
Analog Devices MAXREFDES178#	MAX78000 SoC	CNN + Audio-DSP	< 0,5 W	Audio- und Vision-Referenzentwicklung
Raspberry Pi 5	Quad-Cortex-A76 mit 2,4 GHz	Broadcom VideoCore VII GPU; optionale Coral TPU	5–15 W	Robotik, Überwachungstechnologie, intelligente Kameras
Raspberry Pi Compute Module 5	wie bei Pi 5	Unterstützung für externen Beschleuniger (TPU/Myriad X)	konfigurierbar 5–15 W	Embedded-Produktentwicklung
Arduino Portenta H7/X8	Dual Cortex-M7 + M4 (H7) oder Linux MPU (X8)	TensorFlow Lite Micro + HW DSP	< 2 W	IoT-KI, intelligente Gateways
Arduino Nicla Sense ME	Cortex-M4F MCU	Sensorfusion und ML am Netzwerkrand	< 0,5 W	Umweltüberwachung, vorausschauende Wartung

Darum sind diese Kits wichtig

Über verschiedene Anbieter hinweg bieten diese Development Kits folgende Möglichkeiten für Entwickler:

Voroptimierte Modelle für Gesichtserkennung, Stichwort- und Anomalieerkennung.
Toolchains für die Modelloptimierung: Quantifizierung, Pruning und INT8/FP16-Inferenzlaufzeiten.
Schnittstellen für Peripheriegeräte: Kameraeingänge, Audio-Frontends, Multi-Sensor-Stacks.
Abstimmung auf das Ökosystem: TensorFlow Lite, PyTorch Mobile, ONNX-Laufzeiten und herstellerspezifische SDKs (entsprechend OpenVINO, Ethos-U, DRP-AI).

Mit diesem Ökosystem können Entwickler komplexe Technologien bereitstellen, wodurch Reibungsverluste bei der Entwicklung reduziert werden und sich die Produkteinführungszeit verkürzt.

Anwendungen in verschiedenen Branchen

Abschließende Gedanken

Der Übergang von Cloud-basierter KI zu lokalisierter Edge-KI verändert die Entwicklung von Embedded-Systemen. Für Entwickler besteht die zentrale Herausforderung darin, Leistung, Energieverbrauch und Kosten in realen Anwendungen miteinander in Einklang zu bringen.

Hier machen KI-orientierte Development Kits und Referenzplattformen einen Unterschied. Sie abstrahieren die Komplexität der Hardware und stellen optimierte Software-Stacks und getestete Anwendungsfälle bereit, sodass Entwickler schneller vom Konzept zum einsetzbaren Produkt gelangen.

Als weltweit führender Distributor für Elektronik bietet Farnell all diese Kits und viele weitere an, zusammen mit technischer Dokumentation, Entwicklungsressourcen und Anwendungshinweisen, wodurch die Arbeit von Entwicklern vereinfacht und effizienter gestaltet wird. Die Hardware-Revolution ist da, und Farnell hat sich zum Ziel gesetzt, das Lernen zu beschleunigen und Entwicklern die Möglichkeit zu geben, KI-Konzepte in reale Konstruktionen zu verwandeln. Wenn es darauf ankommt, geht es bei Innovation nicht nur darum, was KI leisten kann, sondern auch darum, was Sie mit KI erreichen können.

AI Hub:

AI Hub:Explore the latest trends, latest NPI, advancements and insights on AI

Veröffentlichung:

e-TechJournal:Step into the Future!Transforming your visions into reality with emerging AI technologies