Das Internet der Dinge hat sich von der bloßen Verbindung und Übertragung von Daten zwischen Geräten wie Sensoren, Kameras und Thermostaten zu intelligenteren Geräten mit Entscheidungsfunktionen entwickelt. Dank Technologien für maschinelles Lernen (ML) und künstliche Intelligenz (KI) können diese vernetzten Edge-Geräte schneller und intelligenter arbeiten.
Künstliche Intelligenz spielt eine wichtige Rolle, wenn es darum geht, den Nutzern bei der Analyse einer Vielzahl von Daten zu helfen, die von Sensoren generiert werden, und diese Daten so zu verarbeiten, dass sie für die Nutzer in verschiedener Hinsicht von Nutzen sind, z. B. bei der Umweltüberwachung, der Wetteranalyse, der Vorhersage von Geräteausfällen in der Industrie, der Vorhersage von Krankheiten usw. Maschinelles Lernen und neuronale Netze als Bestandteile der KI-Technologie helfen bei der Erkennung von Anomalien und Mustern in den von Sensoren und Geräten erzeugten Daten, was zu besseren Erkenntnissen für intelligente Entscheidungen führt. KI-fähige IoT-Edge-Geräte helfen Unternehmen auch dabei, die betriebliche Effizienz zu steigern und Ausfallzeiten zu reduzieren, was einen Wettbewerbsvorteil für die Unternehmensleistung bedeutet.
Wir wollen verstehen, wie KI intelligente und leistungsstarke Geräte am Netzwerkrand ermöglicht.
Wie AI am Rande funktioniert
Inferencing und Training sind die beiden Hauptaufgaben der auf neuronalen Netzen (ANN) basierenden KI. Deep-Learning oder neuronale Netze in der KI lernen Merkmale und Muster von Daten, die von Sensoren und Systemen mit einem computerintensiven Modell erzeugt werden. Dieser Prozess wird als Training bezeichnet. Sobald das System/Modell trainiert und eingesetzt ist, werden die eingehenden Daten von Geräten mit dem trainierten Modell verglichen, um intelligente Entscheidungen zu treffen.
Aufgrund der Fortschritte bei der Optimierung von Algorithmen und der verbesserten Rechenressourcen in der Hardware kann das Inferencing jetzt auf Geräten am Netzrand stattfinden, ohne dass eine Cloud erforderlich ist.
Inferencing am Netzwerkrand entlastet die Netzwerkbandbreite, ermöglicht schnellere Reaktionen und senkt die Kosten für Bandbreite und Speicherplatz im Vergleich zu Cloud-basierten Lösungen. Ein Beispiel hierfür wäre eine Objektverfolgungslösung, die effektiver reagieren kann, wenn sie einen Video-Feed von der Kamera lokal analysiert, anstatt den Feed vom Netzwerkrand zur Verarbeitung an die Cloud zu senden und auf die Ergebnisse zu warten. Inferencing am Netzwerkrand bietet auch mehr Sicherheit und Datenschutz, da die Daten auf das IoT-Gerät beschränkt bleiben und nicht über das Netzwerk übertragen werden.
Um KI auf Edge-Geräten zu ermöglichen, ist jedoch leistungsfähige Hardware mit geringem Stromverbrauch und optimaler Inferenzleistung erforderlich. Qualcomm Technologies und seine Kunden gehören zu den frühen Anwendern dieses Konzepts. Diese frühe Einführung und der Einsatz wurden durch die Schlüsselfunktionen der Snapdragon-Plattformen und die unterstützenden SDKs und Frameworks von Qualcomm ermöglicht.
Die Rolle der Qualcomm Snapdragon-Plattform bei der Ermöglichung von KI am Rande
Die neueste Qualcomm Snapdragon 845 Plattform wurde optimiert, um die Verarbeitungsgeschwindigkeit zu erhöhen, indem heterogenes Computing durch die neue Qualcomm Hexagon 685 Vector DSP Architektur genutzt wird. Die GPU- und CPU-Optimierungen sorgen für eine bis zu dreimal schnellere Verarbeitung neuronaler Netzwerke auf dem Gerät im Vergleich zu den SoCs der vorherigen Generation.
Neben der Hardware unterstützt die Snapdragon 845-Plattform auch das Snapdragon Neural Processing Engine (SNPE) SDK. Die Snapdragon NPE hilft Entwicklern mit Software-Tools, um tiefe neuronale Netzwerk-Workloads auf Edge-Geräten mit Snapdragon-Prozessoren zu beschleunigen. Entwickler können sich für den optimalen Snapdragon-Kern für das gewünschte Nutzererlebnis entscheiden - Qualcomm® Kryo™ CPU, Qualcomm® Adreno™ GPU oder Qualcomm® Hexagon™ DSP.
Die Kombination aus Qualcomm Snapdragon SoC und SNPE, die optimiertes heterogenes Computing für hohe Leistung nutzt, ermöglicht energieeffiziente KI auf IoT-Edge-Geräten für verschiedene Anwendungen wie Robotik, Smart Cities, Heim- oder Industrieautomation.
Die Eragon-Produkte von eInfochip, die auf Qualcomm Snapdragon-Prozessoren basieren, nutzen die oben genannten Hardware- und Softwarefunktionen, um die Entwicklung Ihrer intelligenten IoT-Lösungen der nächsten Generation in Gang zu bringen. Erfahren Sie, wie Eragon 845 die Qualcomm Snapdragon 845 Mobile Platform nutzt.