Embedded Machine Learning: Welche Rolle spielt die Cloud noch?

Anbieter zum Thema

Althen GmbH Mess- und Sensortechnik

aPriori Deutschland

UberCloud

Viele denken, für den Betrieb von ML-Anwendungen benötigt man unbedingt den Zugriff auf eine Cloud. Was Produktentwickler über diesen Mythos wissen sollten, zeigt dieser Bericht.

Embedded Machine Learning: In den letzten Jahren gab es unzählige Prognosen dazu, wie sich unser Leben durch künstliche Intelligenz (KI) und Machine Learning (ML) verändern wird. Das produzierende Gewerbe und der Industriesektor bilden da keine Ausnahme, und ML wird zu einem entscheidenden Faktor der industriellen digitalen Transformation.

Embedded Machine Learning in der Industrie

Das industrielle Internet der Dinge (IIoT) bedeutet, dass wir Sensoren an der Fertigungslinie haben, die immer größere Mengen an Daten erzeugen. KI und ML bieten die Möglichkeit, all diese Informationen zu nutzen, um Effizienz und Optimierung voranzutreiben sowie den Weg hin zu Industrie 4.0 zu unterstützen.

Klar sollte sein: KI ist weit gefasst und es gibt unterschiedliche Definitionen. Konsens besteht darüber, dass KI sich auf eine Reihe von Ansätzen bezieht, mit denen man Computer „zum Denken“ bringen kann. ML dagegen ist enger definiert als die Fähigkeit von Computern, automatisch aus Daten zu lernen. Demgegenüber steht klassische Software, die ein Mensch als Lösung zu einer definierten Aufgabe programmiert hat.

Wo wird ML heute eingesetzt?

Typische Anwendungsfälle sind:

• Bildverarbeitung – bei der Inspektion und Qualitätskontrolle kann ein ML-System darauf trainiert werden, Probleme zu erkennen. Das fängt bei einfachen Aufgaben an. Etwa: Festellen, ob ein Objekt auf einem Förderband fehlt.

• Entscheidungsfindung – aus Daten lassen sich automatisch und schnell die beste Reaktion in Echtzeit ableiten, die Effizienz verbessern und Risiken durch menschliche Fehler reduzieren.

• Vorausschauende Wartung – die Erkennung bevorstehender Probleme auf Basis von Daten kann Ausfallzeiten und -kosten minimieren.

• Verbesserung der Sicherheit – ML kann Ereignisse erkennen, die zu Risiken führen können. Auf dieser Basis lassen sich Maschinen etwa zur Vermeidung von Kollisionen zwischen Robotern, Fahrzeugen oder Menschen abschalten.

In der Praxis ist nicht jedes System für die Anwendung von ML geeignet. Es kann Einschränkungen geben, wenn es um die Frage geht, welche Daten gesammelt und wie sie verarbeitet werden können. Oder die Kosten für das Nachrüsten von Sensoren, Verarbeitungsfunktionen, Energie und Netzwerke könnten zu hoch sein. Latenz ist ein weiteres Problem, vor allem wenn Verzögerungen durch das Senden von Daten zu entfernten Rechenressourcen etwa in einer Cloud entstehen.

Herausforderungen: Wie Beckhoff ML in die Automatisierung integriert

Der Automatisierungsanbieter Beckhoff hat fünf wesentliche Anforderungen ermittelt, die alle erfüllt werden müssen, um ML erfolgreich in die Automatisierung zu integrieren. Diese Anforderungen bieten einen praktischen Einstiegspunkt:

• offene Schnittstellen, um Interoperabilität zu gewährleisten

• ML-Lösungen sollten einfach genug sein, um sie in bestehende Software zu integrieren. Zudem sollten sie ohne Expertenwissen nutzbar sein

• sie sollten zuverlässig und genau sein, um wertvolle Ergebnisse zu liefern

• die Trainingsmethoden sollten robust sein und mit verrauschten oder ungenauen Daten umgehen können

• ML-Systeme sollten eine gute Transparenz bieten und nachvollziehbar sein

KI- und ML-Projekte können in der Praxis eine Herausforderung darstellen, insbesondere für Unternehmen, die in diesem Bereich keine Erfahrung haben. Laut Gartner scheitern KI-Projekte häufig an Problemen mit der Wartungsfreundlichkeit, Skalierbarkeit und Governance.

Zwischen einem Proof of Concept und dem Rollout eines Systems in der Fertigung liegt ein großer Schritt. Projekte können leicht außer Kontrolle geraten, wenn unrealistische Erwartungen nicht mit der Leistung in Einklang gebracht werden kann.

Ein Mangel an Transparenz kann Probleme verdecken, so dass den Entscheidungsträgern Informationen fehlen. Auch ganz praktische Aspekte bei der Implementierung eines ML-Systems sind essentiell. Etwa: Wie viel Rechenleistung benötigt es? Leider ist dies nicht immer sofort ersichtlich – und bei jedem ML-System gibt es einen Unterschied zwischen dem Trainingsprozess und der täglichen Optimierung des Modells nach der Implementierung. Beim Training können riesige Datensätze und intensive Berechnungen erforderlich sein, für die leistungsstarke PCs oder Server benötigt werden. Nachdem das System eingeführt ist, beanspruchen die inkrementellen Verbesserungen (Anpassung des Modells auf Basis immer neuer Daten) deutlich weniger Leistung.

ML-Sensor: Wird die Cloud obsolet?

Die lokale Ausführung von ML-Modellen, entweder in einem Embedded System oder in einem PC in der „Edge“, hat Vorteile gegenüber dem Senden von Daten zur Verarbeitung an eine Cloud oder einen zentralen Server. Zunächst entstehen nur minimale Latenzen und zudem reduziert dieser Ansatz die Anforderungen an die Datenbandbreite. Auch Datensicherheit und Datenschutz könnten für diese Variante sprechen.

Gartner verwendet das Konzept der „Empowered Edge“ und beschreibt damit, wie Rechenressourcen und IoT-Sensoren organisiert werden können. Vereinfacht ausgedrückt bedeutet „Edge“, dass die Daten in der Nähe Verarbeitung entstehen. „Empowered“ umschreibt an dieser Stelle, dass dies so weit getrieben werden kann, dass Sensoren und Aktoren selbst mit ML-Funktionalität ausgestattet werden können.

Die vier ML-Ws für Produktentwickler: Warum, wo, wie, was?

Warum: ML und Embedded Machine Learning bietet Verbesserungen bei der Effizienz, Skalierbarkeit und Produktivität bei gleichzeitig geringeren Kosten. Es gibt einige Bedenken zu Ethik und Haftung, aber für Industrieunternehmen, die nicht direkt mit Konsumenten zu tun haben, dürften diese gut beherrschbar sein. Die Einschätzung des Beratungsunternehmens IDC dazu lautet: „Unternehmen werden KI einsetzen – nicht nur, weil sie es können, sondern weil sie es müssen“. Das erscheint in einer wettbewerbsintensiven Welt wie der Industrie nicht übertrieben.

Wie und wo? Bei der Frage, wie die Produktentwicklung ML implementiert und welche Komponenten sie dazu benötigt, ist zunächst nach dem „Wo?“ zu fragen: Ist es sinnvoll, ML lokal in einer Embedded-­Lösung oder dezentral in der Cloud auszuführen? Eine lokale Lösung ist oft am besten, aber man sollte die Möglichkeiten sorgfältig abwägen und dabei Kosten, Latenz, Stromverbrauch, Sicherheit und Platzbedarf der Rechenressourcen berücksichtigen.

Was: Konkrete Umsetzungen von Embedded Machine Learning am Markt

Wenn das „Wo“ in Richtung von Embedded Machine Learning-Systemen ausschlägt, dann liefern bereits viele Hersteller geeignete Prozessoren für industrielle Anwendungen. Der Max78000 von Maxim beispielsweise ist ein System on Chip (SoC), das für KI- und ML-Anwendungen entwickelt wurde. Es beinhaltet einen Arm Cortex-M4-Kern mit hardwarebasierten Beschleunigern und liefert eine hohe Rechenleistung bei geringem Stromverbrauch. Verfügbar ist ein Evaluierungskit und eine Anwendungsplattform, um Entwicklern zu helfen, sich schnell einzuarbeiten.

Ein weiteres Beispiel ist das ML-Ökosystem von Microchip mit den Evaluierungskits EV18H79A SAMD21 und EV45Y33A SAMD21. Diese beinhalten Sensoren von TDK und Bosch. Sie setzen auf den Arm Cortex-M0+-basierten 32-Bit-Mikrocontroller SAMD21G18 von Microchip auf.

Auch eine Option ist die Crossover-MCU i.MX RT1060 von NXP, die auf der Arm-Cortex-M7-MPCore-Plattform basiert. Diese wird von der Software und den Tools von NXP vollständig unterstützt und bietet eine hohe Leistung und eine breite Palette an Schnittstellen.

Der Autor Mark Patrick ist Supplier Marketing Manager bei Mouser Electronics.

Lesen Sie auch: KI in der Industrie – von der Theorie zur Praxis