Interview „KI muss vertrauenswürdig sein“

Anbieter zum Thema

ISR Information Products AG

CENIT AG

CADFEM Germany GmbH

André Vogt von Cenit und René Weseler von ISR zeigen im Interview die Vorteile eines sinnvollen Einsatzes von KI im Unternehmen auf, nehmen Stellung zur KI-Regulierung und erläutern, was die Lösung "Buildsimple" so einzigartig macht.

Digital Engineering Magazin (DEM): Herr Weseler, Sie sind einer der Experten für künstliche Intelligenz beim Cenit-Tochterunternehmen ISR, beschäftigen sich mit diesem Thema seit 2013 und engagieren sich in KI-Gremien. Welche Erkenntnisse ziehen Sie aus der Gremien-Arbeit für das Business und Ihre Kunden? 

René Weseler: Im ‚Wirtschaftsrat in der Bundesfachkommission für künstliche Intelligenz und Wertschöpfung 4.0‘, einem der Gremien, in denen ich Mitglied bin, treffen wir uns viermal im Jahr, um die Auswirkungen von KI auf Gesellschaft, Politik und Gesetzgebung zu diskutieren. In diesen Sitzungen geht es darum, KI aus verschiedenen Perspektiven zu betrachten und Empfehlungen für die Gesetzgebung zu erarbeiten. Als ISR und Cenit erhalten wir damit eine großartige Gelegenheit, uns mit Politikern und Wissenschaftlern auszutauschen und Innovationen sowie strategische Rahmenlinien frühzeitig in unserem Handeln und unseren Lösungen zu implementieren.  Zu den aktuellen Themen unserer Gremienarbeit zählen auch die technologischen, ethischen und gesellschaftlichen Implikationen von KI. Im Wirtschaftrat versuchen wir gemeinsam einen Rahmen zu schaffen, der Innovation fördert, aber gleichzeitig sicherstellt, dass künstliche Intelligenz verantwortungsvoll zum Einsatz kommt.

DEM: KI und ihr weiterer Weg – ein seit längerem spannendes Feld. Herr Vogt, wie sehen Sie als Vorstand der ISR und Experte auf dem Feld Enterprise Information Management die aktuelle Entwicklung von KI in Deutschland?

André Vogt: Häufig stehen Effizienz und Kostenreduktion auf der Agenda von Unternehmen. Vor diesem Hintergrund sehe ich das höchste Potenzial bei klaren, fokussierten KI-Lösungen und Modellen mit konkretem Businessnutzen. Ein Beispiel dafür ist die Automatisierung mit KI.Speziell im Dokumentenmanagement stehen für mich die Felder Erkennung und das Input-Management im Fokus. Damit meine ich Fragestellungen, wie: ‚Was passiert mit dem von der KI ausgelesenen Ergebnis? Wie wird dieses Ergebnis weiterverarbeitet? Und welche Potenziale realisiert man, wenn man das Ergebnis mit anderen Informationen kombiniert?‘Ein Beispiel dafür ist der Business Case eines volldigitalen Versicherungsdienstleister. Wenn man bedenkt, welche Teilprozesse hier schon vollautomatisiert möglich sind, ist das beeindruckend. Das ist sicher eine der Zielrichtungen, in die sich zahlreiche Unternehmen entwickeln werden.

DEM: Die aktuellen Diskussionen in Wirtschaft und Gesellschaft drehen sich oft darum, wie wir in Europa und Deutschland im Bereich KI erfolgreich sein können – ohne uns von den aktuellen Vorreitern, wie den USA, abhängen zu lassen. Sind wir in Deutschland noch zu wenig innovativ, was KI angeht? 

René Weseler: Ich sehe das differenzierter. Es gibt im gesamten Bundesgebiet viele Initiativen und starke KI-Kompetenzzentren, die hervorragende Arbeit leisten. Beispiele sind große Einheiten wie das Deutsche Forschungszentrum für künstliche Intelligenz in Kaiserslautern oder das Munich Center for Machine Learning. Aber auch Kleinere, wie die Kompetenzplattform KI.NRW, die sich intensiv mit Machine Learning und Textanalyse beschäftigt. Diese Think Tanks sind oft eng mit Universitäten und Forschungseinrichtungen vernetzt und leisten einen wichtigen Beitrag zur Weiterentwicklung der KI-Technologie in Deutschland, und zwar in sämtlichen relevanten Wirtschaftszweigen.

DEM: Wenn man den Blick von den Forschungseinrichtungen hin zu KI-Unternehmen und Start-ups lenkt: Was sind die größten Herausforderungen, die eine noch zügigere Entwicklung der KI in Deutschland hemmen?

René Weseler: Eine der größten Herausforderungen ist die noch lahmende Förderkultur. In den USA finden Start-ups schnell Investoren, während man in Deutschland oft lange pitchen muss. Teilweise fehlt es an Erfolgsbeispielen, die Investoren ermutigen könnten. Wir müssen das Mindset ändern und mehr in Innovationen investieren. Zulegen könnten wir auch im Bereich Skalierungsförderung: Start-ups brauchen nach den ersten Erfolgen weitere Finanzierungsrunden, um wirklich groß zu werden. Hier fehlt es oft an der Unterstützung.  Zwar gibt es Förderprogramme, aber die Summen reichen oft nicht aus, um wirklich große Schritte zu erlauben. In den USA ist die Kultur eine andere: Dort wird viel mehr in die Breite investiert, auch wenn das Risiko hoch ist. Diese Risikobereitschaft fehlt oft in Deutschland.

DEM: Wie bewerten Sie den AI Act der EU, der im August 2024 in Kraft trat und das Thema künstliche Intelligenz für Unternehmen reguliert, aber auch komplexer macht?

René Weseler: Der AI Act zielt darauf ab, die Bevölkerung vor unkontrollierter KI zu schützen. Es geht nicht primär darum, Innovationen zu fördern, sondern sicherzustellen, dass KI-Systeme transparent und ethisch korrekt arbeiten und auch verantwortungsvoll zum Einsatz kommen. Das ist wichtig, um Vertrauen in KI zu schaffen und Missbrauch zu verhindern, insbesondere, wenn es um Hochrisikoanwendungen geht, die tief in das Leben der Menschen eingreifen.  Ein Beispiel dafür ist die Kreditvergabe: Wenn eine KI entscheidet, ob jemand einen Kredit bekommt, muss nachvollziehbar sein, auf welcher Grundlage diese Entscheidung getroffen wurde. Das ist oft schwierig, weil KI-Modelle komplex und nicht immer transparent sind. Der AI Act versucht, hier klare Regeln zu schaffen, damit solche Entscheidungen nachvollziehbar und fair sind.Ich halte es daher für sehr wahrscheinlich, dass es in den nächsten Jahren neben den großen allgemeinen KI-Lösungen und den großen Sprachmodellen auch viele kleine, spezialisierte Lösungen mit hohem Vertrauenswert geben wird. Das Schlüsselwort heißt an dieser Stelle Trusted AI. Aktuell befinden wir uns in der ersten Umsetzungsphase des AI Acts, und da gibt es noch viele Fragezeichen.

DEM: Herr Vogt, wie sehen Sie die Auswirkungen des AI Act auf Unternehmen?

André Vogt: Der AI Act wird Unternehmen nicht selten vor Herausforderungen stellen, da sie ihre KI-Systeme nun genau prüfen und kategorisieren müssen. Es gibt aber Experten, die Unternehmen dabei unterstützen, ihre Systeme zu bewerten und sicherzustellen, dass sie den Anforderungen entsprechen.  Wichtig ist, dass Unternehmen transparent arbeiten und die Herkunft ihrer Daten und die Funktionsweise ihrer KI-Modelle offenlegen. Dies bedeutet, Unternehmen müssen genau dokumentieren, welche Daten sie verwenden und wie ihre Modelle trainiert wurden. Das kann aufwändig sein, ist aber notwendig, um Vertrauen zu schaffen. Unternehmen sollten sich darauf einstellen, dass sie mehr Ressourcen in die Dokumentation und Überprüfung ihrer KI-Systeme investieren müssen. Das kann gerade für kleinere Unternehmen, die nicht über die gleichen Ressourcen wie große Konzerne verfügen, eine Herausforderung sein.Als Anbieter einer KI-Lösung haben wir bereits vor zwei Jahren damit begonnen, entsprechende Mechanismen vorzusehen. Natürlich sind wir noch nicht so weit, dass wir alle Entscheidungen des Systems zu einhundert Prozent begründen können. Aber wir können zumindest komplette Transparenz in die Trainingsaspekte geben – und das ist schon einmal die halbe Miete. Wenn man nachweisen kann, welcher Input ins System eingeflossen ist, kann man meist vorhersagen, warum bestimmte Ergebnisse entstehen.  

DEM: Herr Weseler, die gerade angesprochene, KI-Lösung der ISR ist ‚Buildsimple‘, eine Cloud-Plattform, die sich auf die intelligente Dokumentenverarbeitung spezialisiert hat. Sie nutzt künstliche Intelligenz und maschinelles Lernen, um unstrukturierte Informationen in strukturierte Daten umzuwandeln. Wie sehen Sie die Zukunft von Buildsimple vor dem Hintergrund der KI-Entwicklung in Deutschland?

René Weseler: Wir sind mit unserer Lösung im Jahr 2017 gestartet, mit Fokus auf die Finanzdienstleistungsbranche. Nun arbeiten wir daran, leistungsstarke Foundation-Modelle für verschiedene Branchen zu entwickeln und unser Leistungsportfolio kontinuierlich zu erweitern. Unser Ziel ist es, KI-Lösungen anzubieten, die effizient und vertrauenswürdig sind. Wir wollen uns dabei nicht nur auf die intelligente Dokumentenanalyse beschränken, sondern auch andere Handlungsfelder erschließen.  Die nächste Evolutionsstufe wird in Richtung Intelligent Content Processing gehen, wo wir nicht nur Dokumente, sondern auch andere Inhalte analysieren und verarbeiten. Aus der Analyse von Segmenten wollen wir Prolongationen in die Zukunft ableiten und prädiktiv Aussagen treffen.  Langfristig möchten wir mit Buildsimple eine Plattform schaffen, die es Unternehmen ermöglicht, ihre gesamten Dokumentenprozesse zu automatisieren und zu optimieren.

DEM: Kommen wir zu den Themen Effizienz, ROI und Nachhaltigkeit: Wie halten Sie es mit den Kosten für Ihre KI-Lösung?

René Weseler: Die Entwicklung und der Betrieb von KI-Modellen erfordert erhebliche Rechenleistung und kann teuer sein, besonders bei großen KI-Modellen. Wir haben Buildsimple von Anfang an so entwickelt, dass die Lösung skalierbar ist und die Kosten im Verhältnis zum Nutzen stehen. Wir setzen auf die Cloud-Infrastruktur von AWS, die es uns ermöglicht, flexibel auf die Bedürfnisse unserer Kunden zu reagieren. Wenn ein Kunde plötzlich mehrere Millionen von Dokumenten analysieren möchte, kann unser System diese problemlos verarbeiten und skaliert automatisch nach oben oder unten. Plakativ gesagt, profitiert ein kleines Unternehmen genauso von unserer Lösung wie ein Weltkonzern. 

DEM: Wie viele KI-Modelle verwalten Sie derzeit bei Buildsimple?

René Weseler: Aktuell verwalten wir mehr als 1.500 KI-Modelle. Diese Modelle sind hochspezialisiert und auf die Bedürfnisse unserer Kunden zugeschnitten.  Ein Aspekt, auf den wir – zugegeben – stolz sind: Unsere Modelle sind darauf ausgelegt, mit minimalem Trainingseinsatz maximale Ergebnisse zu liefern. Oft reichen schon wenige Beispiele aus, um hervorragende Ergebnisse zu erzielen. Das ist ein großer Vorteil, da es den Aufwand für unsere Kunden erheblich reduziert und die Implementierung von KI-Lösungen beschleunigt.Das Handlungsfeld rund um generative KI ermöglicht zudem neue Möglichkeiten.

DEM: Wie bewerten Sie die langfristige Perspektive für KI in der Dokumentenlogistik und darüber hinaus?

André Vogt: Wir erleben gerade, dass viele Large-Language-Modelle auf den Markt kommen. Dies liegt daran, dass es durch die sogenannten Transformer-Modelle einen Technologiesprung gab. Dadurch lassen sich auch große Modelle wirtschaftlich rechnen. Das war bis vor wenigen Jahren nicht möglich.Die langfristige Perspektive sehe ich in der Automatisierung und Effizienzsteigerung. Wir müssen uns darauf konzentrieren, Prozesse zu optimieren und den Menschen von repetitiven Aufgaben zu entlasten. Gleichzeitig müssen wir sicherstellen, dass KI-Systeme transparent und korrekt arbeiten. Deshalb ist es wichtig, die richtige Balance zu finden zwischen Innovation und Verantwortung. Ein weiterer wichtiger Aspekt ist die Integration von KI in bestehende Systeme. Künstliche Intelligenz ist ein Enabler, bedingt aber keine Entmenschlichung von Prozessen. Das ist etwas, was wir bei unserer Lösung im Blick haben – und woran ich allgemein appelliere.  

DEM: Herr Weseler, Herr Vogt, vielen Dank für das informative Gespräch.