System-on-a-Chip Siemens vereinfacht die Entwicklung von KI-Beschleunigern

Anbieter zum Thema

Siemens Digital Industries Software

Camtek GmbH

a.b.jödden gmbh

ESTECO Software GmbH

Siemens Digital Industries Software hat die Catapult AI NN-Software für die High-Level-Synthese (HLS) von neuronalen Netzwerkbeschleunigern auf anwendungsspezifischen integrierten Schaltkreisen (ASICs) und System-on-a-Chip (SoCs) vorgestellt. Die Software ist eine Komplettlösung, die mit einer Beschreibung eines neuronalen Netzwerks aus einem KI-Framework beginnt, diese in C++ umwandelt und in einen RTL-Beschleuniger in Verilog oder VHDL für die Implementierung in Silizium synthetisiert.

Catapult AI NN von Siemens Digital Industries Software vereint hls4ml, ein Open-Source-Paket für Hardware-Beschleunigung durch maschinelles Lernen, und die Siemens Catapult HLS-Software für High-Level-Synthese. Catapult AI NN wurde in enger Zusammenarbeit mit Fermilab, einem vom US-amerikanischen Department of Energy betriebenen Forschungszentrum, und anderen führenden Anbietern von hls4ml entwickelt. Die Software erfüllt die spezifischen Anforderungen an das Design von Beschleunigern für maschinelles Lernen in Bezug auf Stromverbrauch, Leistung und Fläche auf kundenspezifischen Chips.

Drei Betriebsmodi verfügbar

Diese Kontrastsensoren erkennen jeden Unterschied

„Der Übergabeprozess und die manuelle Konvertierung eines neuronalen Netzwerkmodells in eine Hardware-Implementierung sind sehr ineffizient, zeitaufwendig und fehleranfällig. Dies gilt insbesondere für die Erstellung und Verifikation von Varianten eines Hardware-Beschleunigers, die auf eine bestimmte Leistung, Stromverbrauch und Fläche zugeschnitten sind“, sagte Mo Movahed, Vice President und General Manager for High-Level Design, Verification and Power, Siemens Digital Industries Software. „Indem wir Wissenschaftler und KI-Experten in die Lage versetzen, branchenübliche KI-Frameworks wie das Design neuronaler Netzwerkmodelle zu nutzen und diese Modelle nahtlos in Hardware-Designs zu synthetisieren, die hinsichtlich Stromverbrauch, Leistung und Fläche (PPA) optimiert sind, eröffnen wir KI- und Machine-Learning-Software-Ingenieuren völlig neue Möglichkeiten. Unsere neue Softwarelösung erlaubt es Entwicklern, ihre neuronalen Netzwerkmodelle für optimale PPA parallel zum Softwareentwicklungsprozess zu automatisieren und zu implementieren, was eine neue Ära der Effizienz und Innovation in der KI-Entwicklung einläutet.“

C++ wird aus einem neuronalen Netzwerk erzeugt

Da Laufzeit-KI- und Machine-Learning-Aufgaben aus dem Rechenzentrum in alle Bereiche – von Verbrauchergeräten bis hin zu medizinischen Geräten – einfließen, besteht ein rasant wachsender Bedarf an „richtig dimensionierter“ KI-Hardware, um den Stromverbrauch zu minimieren, die Kosten zu senken und die Differenzierung des Endprodukts zu maximieren. Die meisten Experten für maschinelles Lernen arbeiten jedoch lieber mit Tools wie TensorFlow, PyTorch oder Keras als mit synthetisierbarem C++, Verilog oder VHDL. Bislang gab es für KI-Experten keinen einfachen Weg, ihre Machine-Learning-Anwendungen in einer richtig dimensionierten ASIC- oder SoC-Implementierung zu beschleunigen. Die hls4ml-Initiative soll dazu beitragen, diese Lücke zu schließen, indem sie C++ aus einem neuronalen Netzwerk erzeugt, das in KI-Frameworks wie TensorFlow, PyTorch oder Keras beschrieben wird. C++ kann dann für eine FPGA-, ASIC- oder SoC-Implementierung eingesetzt werden.

Catapult AI NN erweitert die Möglichkeiten von hls4ml auf ASIC- und SoC-Design. Die Software enthält eine eigene Bibliothek mit speziellen C++ Machine-Learning-Funktionen, die auf das ASIC-Design zugeschnitten sind. Mit diesen Funktionen können Designer PPA optimieren, indem sie Latenz- und Ressourcenkompromisse zwischen alternativen Implementierungen des C++ Codes treffen. Darüber hinaus können sie jetzt die Auswirkungen verschiedener neuronaler Netzdesigns bewerten, um die beste neuronale Netzwerkstruktur für die Hardware zu bestimmen.

Wissenschaftler und KI-Experten müssen keine ASIC-Designer werden

„Teilchendetektoranwendungen unterliegen extrem strengen KI-Beschränkungen“, sagt Panagiotis Spentzouris, Associate Lab Director for Emerging Technologies bei Fermilab. „Durch unsere Zusammenarbeit mit Siemens konnten wir Catapult AI NN entwickeln, ein Synthese-Framework, das die Expertise unserer Wissenschaftler und KI-Experten nutzt, ohne dass sie ASIC-Designer werden müssen. Darüber hinaus ist dieses leistungsstarke neue Framework auch ideal für erfahrene Hardware-Experten.”

Die Software ist ab sofort für Early Adopter verfügbar und wird im vierten Quartal 2024 für alle Nutzer erhältlich sein. Hier erfahren Sie mehr.