Lokale AI KI-Hardware im Umbruch: So geht es auch ohne Cloud

Anbieter zum Thema

TAROX AG

AMD Advanced Micro Devices GmbH

aPriori Deutschland

Künstliche Intelligenz ist sexy; nur nicht für Datenschützer. Eine Weisheit, die in naher Zukunft ausgedient haben könnte. Denn große Umbrüche in der Entwicklung von KI, aber auch im Bereich der Hardwareentwicklung bringen AI-Tools mit Hilfe von KI-Hardware bald auch in geschlossene IT-Systeme. Damit dies Wirklichkeit werden kann, sollten Unternehmen bei der Planung ihrer Hardware allerdings schon heute entscheidende Innovationen beachten.

Im November 2022 sorgte der Launch von ChatGPT für ein wahres Beben in der Öffentlichkeit. Künstliche Intelligenz mauserte sich endgültig vom ­Nischenthema zum Breitenprodukt. Zwei Jahre später sind KI-Anwendung zur neuen Normalität geworden. Smarte Textzusammenfassungen mit Microsofts Cortana oder verblüffende Bilderstellungen mit DALL-E 2 haben Einzug in den Berufsalltag gehalten. Unter KI-Nutzerinnen und -Nutzern besteht daher längst Einigkeit über das enorme Potenzial von KI. Allerdings erscheint dieses noch immer nur anfänglich gehoben.

Denn KI-Anwendungen stehen nach wie vor vor einem großen Manko: Sie bestehen aus solitären Anwendungen, ein orchestriertes Zusammenspiel fehlt. Grund dafür waren bislang vor allem datenschutzrechtliche Vorgaben. Doch die nächsten KI-Revolutionen ist bereits im vollen Gang.

Microsoft Copilot & Co: Ganzheitlich vereinfachte Arbeitsabläufe dank KI

Auf der Hannover Messe 2024 präsentierte Microsoft neue Einsatzfelder für sein KI-Tool „Copilot“, die ab 2025 die Optimierung von Prozessen in der industriellen Fertigung vereinfachen sollen. Dann können Mitarbeitende beispielsweise in natürlicher Sprache Maschinen konfigurieren, anstatt die notwendige Befehle mühsam einprogrammieren zu müssen. Auch Handbücher könnten bald der Vergangenheit angehören. Stattdessen können sich Mitarbeitende per Sprachdialog notwendige Informationen zum System erläutern lassen. Schließlich liefert die KI auch Anregungen, um Fertigungsprozesse effektiver zu gestalten und wertvolle Ressourcen einzusparen. Drei Beispiele, die die vielfältigen Einsatzmöglichkeiten von KI im Fertigungsbereich zeigen und dabei lediglich den Anfang einer rasanten Entwicklung andeuten, die unsere Arbeitswelt entscheidend verändern wird.

Stolperstein Datenschutz – auch bei KI-Hardware ein Risiko

Beim Einsatz von KI zur Vereinfachung von Arbeitsprozessen bestand bislang ein entscheidendes Hindernis: Aufgrund der ressourcenintensiven Rechenprozesse konnten KI-Anwendungen nicht lokal gehostet werden.

Daher mussten die notwendigen Daten via Internet an leistungsstarke Serverfarmen übertragen werden, die anschließend das fertige Rechenergebnis zurückübermittelten.

Für Unternehmen bringt das jedoch nach wie vor zwei elementare Herausforderungen mit sich:

• Gefahr des Vendor Lock-In: Die Nutzung fremder Rechenleistung birgt das Risiko der Abhängigkeit von externen Anbietern. Verändert diese ihre Konditionen, müssen Unternehmen mitziehen, wenn sie nicht auf den Einsatz von KI verzichten wollen.

• Unkontrollierter Datenabfluss: Die Übertragung von sensiblen Produkt- und Firmendaten an Serverfarmen in Ländern mit weniger strengen Datenschutzrichtlinien allein zum Zweck der Nutzung von Rechenleistungen ist mit Blick auf die hohen Datenschutzanforderungen europäischer Unternehmen hochproblematisch. Zudem möchten viele Unternehmen vermeiden, die Kontrolle über ihre Daten durch die Nutzung externer KI-Kapazitäten aus der Hand zu geben. Sie fürchten die Gefahr von Datendiebstählen und unkontrollierten Datenabflüssen, die ihre wirtschaftliche Existenz gefährden.

Lokale AI: Challenge accepted!

Eine Lösung, um AI vollumfänglich zur Prozessoptimierung nutzen zu können, ohne dabei Kompromisse beim Datenschutz in Kauf zu nehmen, sieht die Fachbranche im lokalen Hosting von KI. Standen hier bislang nur kleinere und experimentelle Anwendungen zur Verfügung, haben bekannte Anbieter wie Microsoft nun angekündigt, bald auch komplexere KI-Tools zum lokalen Hosting zur Verfügung stellen. Der ganzheitlichen Nutzung und Verzahnung von KI-Assistenzsoftware scheinen dann keine Grenzen mehr gesetzt. Ebenso können Unternehmen Weiter- und Eigenentwicklungen im Bereich KI leichter voranbringen.

Doch ein Nadelöhr bleibt: Alles steht und fällt mit der passenden Hardware, deren Bedeutung in Sachen KI viele Unternehmen bislang nahezu völlig außer Acht lassen.

Schlüsselfaktor Hardware: 40 Trillionen Operationen pro Sekunde

Selten waren die Entwicklungen im KI- und Hardwarebereich so rasant, wie aktuell. Grund dafür sind vor allem die deutlich gestiegenen Anforderungen an Systeme, die KI-Anwendungen verwalten sollen. Einfache Computer geraten hier schnell an ihre Grenzen. Stattdessen sind smarte Workstations notwendig, die eine deutlich höhere und zugleich flexiblere Performance aufweisen.

Dazu ein Vergleich und einige Informationen:

• Moderne High-End-Prozessoren (CPU) verfügen aktuell über maximal 96 Kerne für die Prozessverarbeitung.

• Professionelle Grafikkarten (GPU), wie sie beispielsweise für aufwendige Simulationen verwendet werden, besitzen rund 18.000 Kerne, sie können also wesentlich mehr Prozesse gleichzeitig bewältigen als CPUs.

• Damit die notwendigen Ressourcen für Machine-Learning-Aufgaben nicht die Systemleistung ausbremsen, arbeiten bekannte Unternehmen wie AMD oder Intel bereits an der Entwicklung eigener Neural Processing Units (NPU).

Dem smarten Zusammenspiel von CPU, GPU und NPU wird zukünftig eine immer größere Bedeutung zukommen. Dies verdeutlicht beispielsweise der Softwareriese Adobe, der für sein KI-Tool ­„FireFly“ derzeit an einer intelligenten Vernetzung von Prozessor und Grafikeinheit feilt. Mittelfristig wird sich die IT-Branche zudem auf neue Standards für die KI-Kompatibilität von Hardware einstellen müssen. Darauf deuten schon jetzt die Festlegungen von AMD, Intel und Microsoft hin, die 40 TOPs als neue Leistungsschwelle für KI-fähige Workstations definiert haben. Übersetzt bedeutet dies: Die Hardware muss in der Lange sein, die gigantische Summe von 40 Trillionen Operationen pro Sekunde zu erledigen – eine vier mit 13 Nullen. (Zum Vergleich: Der rund 9000 Dollar teure Macintosh SE aus dem Jahr 1990 konnte 750.000 Operationen pro Sekunde absolvieren.).

Der KI-Hardware-Umbruch hat begonnen: Umstieg mit Flexibilität und Expertise

Die imposanten Veränderungen im Hardwaresegment lassen einen klaren Rückschluss zu: Möchten Unternehmen das Potenzial zur KI-gestützten Vereinfachung von Prozessen datensicher und anbieterunabhängig nutzen, sollten sie bei der Auswahl ihrer Hardware schon jetzt auf leistungsstarke Systeme, eine hohe Adaptionsfähigkeit und einen professionellen Support setzen. Eine besondere Stärke beweisen dabei lokale Hardwareanbieter, die mit einem persönlichen, schnellen und bedarfsgerechten Support punkten können. Sie können KI-bereite IT-Systeme deutlich schneller und agiler fertigen als große Anbieter mit aufwendigen Entwicklungsverfahren. So plant der deutsche IT-Anbieter Tarox, die ersten Prozessoren, die dem 40-TOP-Standard von Microsoft entsprechen und im letzten Quartal des Jahres auf dem Markt erscheinen, noch vor Jahresende in seinen Midrange-Workstations auszuliefern.

Die Workstations wurden eigens für anspruchsvolle Rechenprozesse entwickelt und bieten daher ideale Vorrausetzung für den Betrieb von KI-Anwendung auf lokaler Ebene. 

Der Autor Jörg Potthoff ist Produktmanager Workstations & Industrie Systeme bei Tarox.