Neues Raspberry Pi AI Kit integriert KI-Beschleuniger mit M.2 HAT+

Große Neuigkeiten in der Welt des Edge AI Computing: Raspberry Pi hat ein Kit auf den Markt gebracht, das aus seinem M.2 HAT+ und dem Hailo-8L AI-Beschleuniger besteht. Diese neue Kombination bringt erhebliche AI-Rechenleistung auf den Raspberry Pi 5 und bietet Entwicklern und Ingenieuren beeindruckende Inferencing-Leistung.

Warum Edge?

Edge Computing verarbeitet Daten lokal auf Geräten, anstatt sich auf cloudbasierte Server zu verlassen. Dieser Ansatz reduziert die Latenzzeit erheblich, sorgt für schnellere Reaktionszeiten und verbessert die Zuverlässigkeit. Es ist entscheidend für Anwendungen, die Echtzeit-Entscheidungen erfordern, wie Robotik, autonome Fahrzeuge und intelligente Heimgeräte. Durch die Verwaltung von Daten am Edge kann die Leistung verbessert und die Bandbreitenkosten, Latenzzeit und Datensicherheit erhöht werden.

Der Haken ist, dass Edge-Hardware normalerweise nicht annähernd die Leistung von Cloud-Servern hat. Das Raspberry Pi AI Kit soll dieses Problem angehen, indem es den Hailo-8L mit dem M.2 HAT+ des Raspberry Pi integriert und damit den Weg zu effizienteren und reaktionsschnelleren AI-gesteuerten Lösungen weist.
 

Eben Upton, Mitbegründer von Raspberry Pi, betonte die wachsende Bedeutung des Edge Computing: „Da immer mehr Geräte intelligent werden, steigt die Nachfrage nach lokaler AI-Verarbeitung. Unser Ziel mit diesem neuen AI-Kit ist es, Hochleistungsrechner für Entwickler, die am Edge arbeiten, zugänglicher zu machen.“

Der Hailo-8L Chip

Was ist also das Besondere am Hailo-8L? Zunächst einmal ist dieser AI-Beschleuniger ein Kraftpaket und damit perfekt für Echtzeit-AI-Aufgaben geeignet. Das bedeutet, dass Sie Projekte in den Bereichen Robotik, Computer Vision, intelligente Heimgeräte und industrielle Automatisierung ohne Probleme bewältigen können. Das M.2 HAT+ macht es super einfach, diese Leistung zu nutzen und die Rechenleistung des Raspberry Pi 5 zu verwenden.
 

Der Hailo-8L AI-Beschleuniger ist darauf ausgelegt, Rechenzentrumsleistung an Edge-Geräte zu liefern und bietet bis zu 13 TOPS (Tera-Operations Per Second). Damit einigt es sich ideal für Einstiegsprodukte, die lokale AI-Kapazitäten erfordern. Was den Hailo-8L auszeichnet, ist seine überlegene Flächen- und Energieeffizienz, die ihn im Vergleich zu anderen Lösungen in seiner Kategorie sehr wettbewerbsfähig macht.

Er bietet latenzarme, hocheffiziente Verarbeitung und kann komplexe Pipelines mit mehreren Echtzeit-Streams und gleichzeitiger Verarbeitung verschiedener Modelle und AI-Aufgaben verwalten. Dieser Beschleuniger ist auch mit der umfassenden Software-Suite von Hailo-8 kompatibel und ermöglicht nahtlose Upgrades auf höhere AI-Kapazitäten in der Zukunft.

Der Hailo-8L AI-Beschleuniger umfasst eine umfassende Software-Suite mit Hailo-Treibern, HailoRT und HailoTappas, die einfach über den apt-Paketmanager installiert werden können. Dies gewährleistet eine nahtlose Einrichtung und Betrieb.

Die AI-Beschleunigungsunterstützung ist vollständig in den Kamerasoftware-Stack von Raspberry Pi integriert, einschließlich Unterstützung für libcamera, rpicam-apps und picamera2. Dies ermöglicht fortschrittliche Bildverarbeitung und AI-Anwendungen direkt auf dem Raspberry Pi 5.

Hauptmerkmale und Vorteile:

Hohe Effizienz: Der Hailo-8L bietet hochleistungsfähige AI-Verarbeitung mit minimalem Stromverbrauch. Dies ist entscheidend für Edge-Geräte, bei denen ein Gleichgewicht zwischen Leistung und Energieeffizienz erforderlich ist.

Echtzeit-AI-Verarbeitung: Mit seinen 13 TOPS bewältigt der Hailo-8L komplexe Aufgaben wie Objekterkennung, Bildklassifikation und Spracherkennung in Echtzeit. Ihre Anwendungen können reaktionsschneller und intelligenter sein.

Nahtlose Integration: Das Kit wird ab Werk mit dem Hailo-8L zusammengebaut geliefert. Stecken Sie es einfach auf Ihren Raspberry Pi 5, und Sie sind startklar. Kein Aufwand, kein Ärger.

Robuste Softwareunterstützung: Vollständig in die Raspberry Pi OS-Umgebung integriert, können Sie Hailos Softwarepakete einfach über den apt-Paketmanager installieren. Dies umfasst Gerätetreiber und neuronale Netzbibliotheken, sodass Sie mit Ihren AI-Projekten sofort loslegen können.

Diese Konfiguration kombiniert die Erschwinglichkeit und Vielseitigkeit des Raspberry Pi mit den fortschrittlichen AI-Fähigkeiten des Hailo-8L. Das Ergebnis? Sie können ausgeklügelte AI-Modelle direkt am Edge ausführen, was die Latenzzeit und den Bandbreitenverbrauch im Vergleich zu cloudbasierten Lösungen reduziert.

Der Hailo-8L unterstützt beliebte AI-Frameworks wie TensorFlow, TensorFlow Lite, Keras, PyTorch und ONNX und ist mit ARM-Host-Architekturen kompatibel. Dies macht ihn ideal für die Bereitstellung anspruchsvoller AI-Modelle auf dem Raspberry Pi 5 und eröffnet eine völlig neue Welt der Möglichkeiten für unsere Raspberry Pi-Setups.

Upton erklärte die Entscheidung zur Zusammenarbeit mit Hailo: „Was uns an Hailo begeisterte, war ihre hohe Leistung und Effizienz. Der Hailo-8L bietet 13 TOPS, deutlich mehr als frühere Lösungen. Dies, zusammen mit den hervorragenden Werkzeugen zur Modellkonvertierung, machte ihn zu einer natürlichen Wahl für unsere Edge AI Ambitionen.“

Entwicklung und Herausforderungen

Auf die Frage, ob er vorausgesehen habe, dass das M.2 HAT+ für AI-Beschleuniger neben NVMe-SSDs verwendet würde, sagte Upton: „Als wir den Raspberry Pi 5 auf den Markt brachten, dachten wir zunächst, dass die meisten Anwendungen für das M.2 HAT+ im Bereich der Speicherlösungen liegen würden. Wir erkannten jedoch schnell, dass ein erhebliches Interesse an AI-Beschleunigern, Netzwerkkarten und Grafiklösungen besteht.“

Zu den unvermeidlichen Hindernissen bei der Zusammenstellung einer solch anspruchsvollen Kombination bemerkte er: „Eine Herausforderung, der wir uns kurz vor dem Launch stellten, war die Optimierung der Thermik. Anfangs hatten wir kein Wärmeleitpad zwischen dem Beschleuniger und der Basisplatine, aber wir haben es in die endgültige Version aufgenommen, um die Wärmeableitung zu verbessern.“ Trotz dieser Hürden erwies sich die Zusammenarbeit zwischen Raspberry Pi und Hailo als fruchtbar und nutzte die Stärken beider Unternehmen, um ein robustes und effizientes Produkt zu liefern.

Upton erwähnte auch die Schwierigkeit, AI-Beschleunigung aufgrund der sich schnell ändernden Architekturmodelle anzuwenden: „Eine der Herausforderungen, die wir derzeit mit GenAI haben, ist, dass es tatsächlich sehr schwierig ist, eine Beschleunigung anzuwenden. Die Dinge müssen sich erst einpendeln, bevor man einen Beschleuniger entwickeln kann, der sinnvollerweise leistungsfähiger ist als eine CPU oder GPU, ohne dass die Flexibilität darunter leidet.“

Anwendungsfälle und ideale Anwendungen

Upton teilte seine Begeisterung über die Zukunft der AI auf der Raspberry Pi-Plattform: „Wir werden einige erstaunliche Anwendungen in der industriellen Robotik und bei intelligenten Heimgeräten sehen. Das Potenzial ist enorm, und dieses AI-Kit wird unseren Nutzern helfen, es zu entfalten.“ Er betonte auch die Beliebtheit von Kameras als Zubehör für den Raspberry Pi: „Kameras sind ein unglaublich beliebtes Zubehör für den Raspberry Pi, und mehr Intelligenz in diese Kameraanwendungen zu bringen, ist eine große Sache. Dieser AI-Beschleuniger ist perfekt für Aufgaben wie Objekterkennung und Bildklassifikation geeignet.“

Der Hailo-8L ist für visionbezogene Aufgaben optimiert und damit ideal für Anwendungen wie Überwachung, automatisierte Qualitätsinspektion in der Fertigung und medizinische Bildgebung. „Eine der Herausforderungen bei GenAI ist derzeit die sich schnell ändernden Architekturmodelle. Der Hailo-8L ist jedoch so konzipiert, dass er stabilere, visionbezogene Aufgaben effizient bewältigen kann.“

Die Partnerschaft zwischen Raspberry Pi und Hailo

Raspberry Pi ist darauf ausgerichtet, Hochleistungs-Computing zugänglich und erschwinglich zu machen. Hailo hingegen spezialisiert sich auf AI-Prozessoren, die Rechenzentrumsleistung an Edge-Geräte bringen. Diese Partnerschaft zeigt, was möglich ist, wenn man innovative Hardware-Innovationen mit AI-Beschleunigung kombiniert.

Upton reflektierte auch über die pädagogischen Auswirkungen ihrer Produkte: „Unser Ziel war es immer, programmierbare Hardware in die Hände von Kindern zu legen und zu sehen, was passiert. Es geht darum, Neugier zu wecken und die nächste Generation von Ingenieuren und Entwicklern zu fördern.“

Für all jene, die immer daran interessiert sind, die Grenzen der AI am Edge zu erweitern, ist das neue Raspberry Pi AI Kit ein Wendepunkt. Es eröffnet eine ganz neue Welt der Möglichkeiten für unsere Raspberry Pi-Setups.