Noch mehr KI-Beschleunigung für den Raspberry Pi 5

Summary

Mit dem AICore DX-M1M hat Radxa ein neues KI-Beschleunigermodul vorgestellt. Das Kärtchen im M.2-Format misst 22 mm × 42 mm und lässt sich in Systeme über PCI Express integrieren. Notwendig ist wahlweise ein M- oder B-Key-Steckplatz. M-Key-Steckplätze sind aufgrund von M.2-SSDs verbreitet. Weiterlesen nach der Anzeige Im Inneren arbeitet der KI-Beschleuniger DeepX DX-M1M, der laut Hersteller eine Rechenleistung von bis zu 25 Tops im Datenformat INT8 schafft. Das entspricht 25 Billionen Operationen pro Sekunde. Als Referenz: Eine Copilot+PC-Zertifizierung verlangt 40 Tops. Damit ist das Modul klar auf Aufgaben wie Bilderkennung oder Sprachverarbeitung ausgelegt. Angebunden wird der Beschleuniger über bestenfalls zwei PCIe-3.0-Lanes. Als Speicher steht 1 GByte LPDDR4X zur Verfügung. Das klingt zunächst knapp, ist für inferenzbasierte KI-Workloads aber typisch, denn trainiert wird ohnehin meist extern. Unterstützt werden gängige Frameworks wie TensorFlow, ONNX, Keras und PyTorch, wobei Modelle über einen eigenen DX-COM-Compiler für die Hardware optimiert werden müssen. Das bedeutet etwas Einarbeitung, dürfte aber für viele Maker zum Alltag gehören. Windows- und Ubuntu-Support Das Modul läuft unter Windows 10 und 11 sowie unter Ubuntu ab Version 20.04. Auch Docker wird unterstützt. Als Host-Systeme kommen sowohl ARM- als auch x86-Plattformen infrage. Konkret nennt Radxa unter anderem den Raspberry Pi 5 sowie verschiedene Rock-Boards wie Rock 5A, 5B oder 5 ITX. Im Falle des Raspis ist ein M.2-Adapter (M.2-HAT) für den Betrieb notwendig. Darüber läuft immerhin eine PCIe-Lane. Für Maker ist vor allem die Kombination aus geringer Leistungsaufnahme und hoher Rechenleistung interessant. Mit typischen drei Watt bleibt der Energiebedarf überschaubar, was den Einsatz in Edge-Geräten, mobilen Projekten oder Dauerbetrieb ermöglicht. Gerade bei Anwendungen wie smarter Videoüberwachung, lokalen Sprachassistenten oder Bilderkennung direkt auf dem Gerät kann das Modul seine Stärken au...