Immer mehr Computerverarbeitung erfolgt direkt vor Ort an der „Edge“. Dies steigert die Nachfrage nach bordeigenen Arbeits- und Massenspeicherbausteinen sowie Verarbeitungsfunktionen zur Unterstützung von fortschrittlicherer künstlicher Intelligenz und maschinellem Lernen lokal auf Bausteinebene.
Immer mehr Computerverarbeitung erfolgt direkt vor Ort an der „Edge“. Dies steigert die Nachfrage nach bordeigenen Arbeits- und Massenspeicherbausteinen sowie Verarbeitungsfunktionen zur Unterstützung von fortschrittlicherer künstlicher Intelligenz und maschinellem Lernen lokal auf Bausteinebene.
Edge-KI wurde in ihrer frühen Form nur für einfache Aufgaben wie etwa das Erfassen und Erkennen für Sicherheits- und Zugangszwecke genutzt. Dagegen nehmen IoT-Geräte mehr Auswertungen lokal vor – anstatt nur Daten zu sammeln und an eine zentrale Cloud zurückzusenden, die alle aufwendigen Berechnungen für KI/ML übernimmt. Stattdessen führen diese Geräte lokale ML-Aufgaben aus, die mit anderen Geräten ausgetaucht und an diese weiterverteilt werden können.
Komplexere KI und ML bedeuten, dass mehr Computerleistung benötigt wird, auch höhere Arbeitsspeicherleistung und mehr Datenspeicherkapazität.
Edge-Geräte treffen komplexere Entscheidungen
Bis vor Kurzem beschränkte sich Edge-KI darauf, dass Sensoren eine Störung erkannten – eine unbefugte Person war im Gebäude oder eine Maschine in der Produktionslinie überhitzte und drohte auszufallen. Die Intelligenz dieser Systeme war ausreichend, um Fehler zu erkennen und entsprechend Alarmierungen auszugeben.
Die heutige Edge-KI wird wesentlich intelligenter in dem Maß, wie Hardware mehr Möglichkeiten für IoT-Bausteine ermöglicht. Dies setzt wiederum die Erwartungen darüber höher, was an der Peripherie möglich ist, und facht dadurch die Nachfrage nach Hardware an. Dank der Fortschritte bei Prozessoren, Speicherbausteinen und Massenspeichermedien, kann Edge-KI komplexere Aufgaben für Auswertung/ML übernehmen – und das zunehmend ohne Notwendigkeit, Daten an eine zentrale Cloud zu senden und von dort wieder zu empfangen.
Jenseits der Evolution neuer und herkömmlicher Speicher (z. B. FLASH als Massenspeicher) gibt es mehrere weitere Fortschritte im Technologiebereich, die Aufgaben im Bereich KI/ML an der Edge ermöglichen. Hoch parallele GPUs wurden für die Ausführung neuronaler Netzwerke angepasst, die generalisiertes maschinelles Lernen direkt an der Edge ermöglichen. Gleichzeitig schafft die Verbreitung von IoT-Komponenten, etwa Sensoren, Kameras und sogar Robotern zum Sammeln von Daten ständig neue Chancen für Funktionen im Bereich KI/ML, die ein breites Spektrum von Geschäftszielen unterstützen. Insgesamt sind neuronale Netzwerke und ihre unterstützende KI-Infrastruktur ausgereift, einschließlich 5G-Konnektivität. Dies eliminiert die Latenz zur Unterstützung der lokalen Kommunikation zwischen Geräten und zurück in die Cloud.
Die hohe Verfügbarkeit heutiger Edge-Computinggeräte in Verbindung mit Offline-Funktionen und Dezentralisierung bedeutet, dass kein ständiger Internetzugang mehr zur Verarbeitung von Daten und zur Durchführung von Aufgaben im Bereich KI/ML mehr erforderlich ist. Anwendungen im Bereich Edge-KI sind jetzt leistungsfähiger und können Echtzeit-Erkenntnisse liefern, weil sie Daten lokal analysieren, diverse Eingaben (z. B. Text, Sprache, Video) verarbeiten und Schlussfolgerungen unabhängig ziehen können. Sie sind nicht nur auf die Beantwortung einer bestimmten Frage trainiert, sondern können auch neue Fragen beantworten, wenn sie einem bestimmten Typ angehören. Dies reduziert nicht nur die Notwendigkeit zur Kommunikation mit einer zentralen Cloud, sondern versetzt auch eine Gruppe von Edge-Komponenten in die Lage, lokale ML-Operationen auszuführen und deren Erkenntnisse zu teilen, damit sie weiter verbreitet werden können. Darüber hinaus werden KI-Modelle umso genauer, je mehr sie an der Edge trainiert werden.
Der zunehmende Reifegrad von Edge-KI ermöglicht komplexere Anwendungen in einer großen Bandbreite von Branchen. Prädiktive Wartung in Fertigungsumgebungen war eine frühe Anwendung von industriellem IoT und wird dank lokalen Funktionen für KI/ML noch robuster, weil Sensoren Probleme noch früher erkennen und Ausfälle genauer vorhersagen können, nicht allein nur aufgrund von Verschleißdaten, sondern auch aufgrund von Fehlkonfiguration oder Fehlbedienung.
Zugang und Management von Gebäuden können mit KI besser kontrolliert werden, nicht nur für Sicherheitszwecke. Intelligente Gebäude können die Temperatur und Beleuchtung an die Anzahl der darin befindlichen Personen anpassen sowie auch die Fernverwaltung von HLK-Systemen ermöglichen. Zu weiteren Energieanwendungen für KI zählen die Nutzung von Edge-Modellen zur effizienteren Erzeugung, Verteilung und Verwaltung anhand von Wettermustern, Infrastruktur- und Versorgungsnetzzustand und historischen Daten.
Auch andere Sektoren profitieren von fortschrittlichen Edge-KI-Möglichkeiten, etwa Gesundheit, Einzelhandel oder Landwirtschaft. Aber unabhängig vom Einsatzweck oder Einsatzort: Fortschrittlichere Funktionen für KI/ML stellen eine Belastung für die Computerhardware selbst dar, insbesondere Speicher, damit mehr Aufgaben lokal ausgeführt werden können.
Die Allgegenwart von KI begünstigt bewährte Speichertechnologien
In Edge-Komponenten zur Ausführung von Aufgaben im Bereich KI/ML werden viele verschiedene Speicherarten in Erwägung gezogen und eingesetzt – dies spiegelt die Vielfalt der Edge-KI-Anwendungen wider.
In den letzten Jahren gab es viele Diskussionen zu neuen Speicherarten wie etwa Resistive-RAM (ReRAM) und Magneto-Resistive RAM (MRAM) für IoT-Edge-Geräte, die eine Vielzahl neuer Anforderungen an den Speicher geschaffen haben. Allerdings wird immer deutlicher, dass den langlebigen, hergebrachten Speicherformen eine ebenso große Rolle zur Ermöglichung von KI-Geräten an der Edge zukommt.
Der Charme von MRAM für Edge-KI liegt in dem geringen Stromverbrauch. Denn er ermöglicht den Betrieb mit niedrigeren Spannungen in Anwendungen, bei denen keine hohe Genauigkeitsbedarf erforderlich ist, sondern es primär auf die dauerhafte Speicherung und Energieeffizienz ankommt. Da MRAM nicht volatil ist, wird keine Stromversorgung zur Datenspeicherung benötigt. Damit ist dieser Speichertyp ein geeigneter Ersatz sowohl für SRAM als auch Embedded-Flash, so dass er als gemeinsamer Speicher fungiert. Der Charme von ReRAM für Edge-KI leitet sich aus dem Potenzial ab, die Art des Lernens und der Informationsverarbeitung des menschlichen Gehirns auf neuronaler und synaptischer Ebene nachzubilden; ReRAM-Bausteine sind erheblich kleiner und energieeffizienter als DRAM und HBM, die in Rechenzentren für Aufgaben in den Bereichen KI/ML zum Einsatz kommen.
Zwar eignen sich MRAM und ReRAM mit ihren Merkmalen für viele KI-Edge-Anwendungen. Allerdings bedeutet die zunehmende Allgegenwärtigkeit von KI möglicherweise, dass altbewährte Speichertechnologien die Oberhand gewinnen werden, weil selbst grundlegende Schlussfolgerungsoperationen immer komplexer werden und dafür energieeffiziente DRAM-Speicher LPDDR am sinnvollsten ist. Selbst ältere Iterationen wie beispielsweise LPDDR3 können 4K, Full HD oder die Verarbeitung der von 3D-Sensoren gelieferten Videobilder in Echtzeit unterstützten. Dies erlaubt KI-Anwendungen wie Gesichtserkennung in Sicherheitskameras oder Gestensteuerung an öffentlichen Kiosksystemen ebenso wie die Verarbeitung gesprochener Sprache. Ebenso wird auch NOR-Flash weiter für einige Anwendungsfälle von Edge-KI ausgewählt werden, weil dieser Speichertyp nicht nur zuverlässig und langlebig ist, sondern sich auch für raue Umgebungen eignet, sowohl für Verarbeitungsaufgaben als auch Datenspeicherung.
Zu den weiteren Optionen für Datenspeicher im Bereich der Edge-KI zählen UFS (Universal Flash Storage) auch in der Form von Wechselkarten dank der hohen Zuverlässigkeit, des günstigen Stromverbrauchs und der Stabilität dieser Spezifikation. Eine USF-Speicherkarte ermöglicht zudem auch das gleichzeitige Hosting und Senden von Befehlen, sogar während der Übertragung von Daten zur Verarbeitung vorheriger Befehle. Dadurch kann eine Edge-KI-Anwendung ohne Leistungseinbußen gleichzeitig E/A-Operationen mit anderen Anwendungen ausführen.
Insgesamt erfüllen die gängigen Speichertypen in vielen Einsatzbedingungen die Anforderungen von Edge-KI. Schließlich findet man die Speichertypen der Supercomputer von gestern mittlerweile in Smartphones, die letztlich auch „Edge-Geräte“ sind. Frühere KI-Modelle, die noch Highend-Hardware benötigten, lassen sich jetzt mit mehr Mainstream-Speicher in IoT-Geräten ausführen. Dies ist nicht nur der Miniaturisierung zu verdanken, sondern auch der Tatsache, dass Halbleiterunternehmen die Kosten für Hardware weiter senken.
Zwar werden bestimmte Operationen im Bereich KI/ML immer auf Hochleistungscomputer angewiesen sein. Aber die an der Edge ausgeführten Schlussfolgerungs- und Rechenaufgaben sowie deren Gerätetyp bestimmen, welcher Speicher am besten geeignet ist, wobei thermische Eigenschaften und Stromverbrauchsbeschränkungen einen starken Einfluss haben. Letztlich wird eine endliche Anzahl von Speichertypen zur Unterstützung von Edge-KI benötigt werden, ob neu oder altbekannt.
