Foto: Arek Socha auf Pixabay
Vor dem 'Future CIO Connections' Kongress in München haben wir uns mit Dries Ballerstedt, Lead Data & Analytics bei der Novatec, unterhalten – über KI, ihre Implementierung sowie die Entzauberung einiger Mythen.
Künstliche Intelligenz ist eines nicht: Neu. Seit Jahrzehnten beschäftigen sich Forschende, Technologieunternehmen und Anwender mit Sprachmodellen, trainieren Systeme und experimentieren mit unterschiedlichem Erfolg. Wirklich neu dagegen ist, dass mit multimodalen großen Sprachmodellen (LLMs) wie GPT aus dem Hause OpenAI, Google Gemini oder auch Luminous von Aleph Alpha generative künstliche Intelligenz ihren ‚iPhone-Moment‘ erlebt: das Ankommen der Technologie in der Consumerization.
Kein Produkt-Launch im B2B- und B2C-Bereich läuft ohne KI-Referenzen, kein Slide-Deck ohne Erwähnung von Lösungen mit Chat-Bots, generativen Algorithmen oder Mustererkennung. Für Anwender spannend ist da neben fachkundigem Überblick und Guidance vor allem die Frage: Was passiert jenseits der Oberfläche und dem ‚schönen Schein‘? Dafür haben wir uns mit Dries Ballerstedt vom unabhängigen IT-Spezialisten Novatec auf eine kleine, praxisorientierte Spurensuche begeben.
Lieber Herr Ballerstedt, erinnern Sie sich noch daran, wann und wie Ihr erster Kontakt mit künstlicher Intelligenz war?
Dries Ballerstedt: Das muss Anfang der 1990-er Jahre gewesen sein, kurz nachdem ich mit PCs in Kontakt gekommen bin. Da ist mir eine Version von ELIZA in die Finger gekommen, mit etwa 13 war das eine faszinierende Erfahrung.
Viele Menschen und auch Unternehmen erleben gerade ihre individuellen ‚Aha-Momente‘, wenn es um den Einsatz speziell generativer künstlicher Intelligenz geht. Was war aus Ihrer Sicht der Wendepunkt der Geschichte vom Experten-Thema zum potentiellen Gamechanger für Produktivität, Effizient und Service-Qualität?
Ballerstedt: Der Wendepunkt lässt sich hier aus meiner Sicht sehr klar auf einen einzigen Tag verorten, nämlich den 30.11.2022. Das war der Tag, an dem OpenAI ChatGPT gelauncht hat und damit erstmals KI – insbesondere generative KI – für einen großen Teil der Menschheit verfügbar wurde. Sie war nun für alle Menschen bedien- und benutzbar geworden. Und das war der Gamechanger.
Lassen Sie uns einen Blick auf den Markt werfen. Im Moment zeigt sich: Es gibt diejenigen Marktbegleiter, die selbst entwickelte und trainierte LLMs haben und einsetzen – beispielsweise OpenAI (und darüber Microsoft) oder Google mit Gemini. Dann gibt es Vendoren, die keine eigenen LLMs haben, dafür aber massiv ihre Produkte und Lösungen mit KI-Komponenten auf Lizenzbasis erweitern. Wie schaut ein unabhängiges, Hersteller-neutrales Haus wie die novatec auf diesen Markt? Speziell mit den eigenen Kunden im Blick?
Ballerstedt: Lassen sie uns die Rolle eines LLMs in einer Gesamtlösung erst einmal einsortieren, um die Antwort auf diese Frage zu strukturieren: Das LLM ist zwar ein wichtiger Teil der Lösung, aber eben nur einer von mehreren relevanten Bausteinen. Daher ist aus Sicht der Lösung auch nicht zentral, über welche Lizenzvereinbarung zwischen Vendor und LLM-Entwickler das multimodale große Sprachmodell zur Verfügung gestellt wird.
Viel entscheidender ist – auch aufgrund der rasanten Marktentwicklung –, dass die zur Lösung eines Business-Problems nötigen und optimalen LLMs zur Verfügung gestellt werden und zugleich eine Austauschbarkeit gewährleistet ist, um dann wieder an der Weiterentwicklung der Technologien und Modelle partizipieren zu können.
"Viele Methoden der KI sind bereits seit Jahren und Jahrzehnten bei unseren Kunden im Einsatz."
Spannend wir es ja dann, wenn wir auf die Praxis und damit auch hinter Kulissen schauen. Was geht denn im Moment an Use Cases und praktischen Implementierungen schon so gut, dass es Ihnen auch bei Ihren Kunden häufiger als ‚low hanging fruit‘ begegnet?
Ballerstedt: Hier müssen wir differenzieren zwischen „klassischer“ KI und generativer KI. Viele Methoden der KI sind bereits seit Jahren und Jahrzehnten bei unseren Kunden im Einsatz. Und von „low hanging fruits“ kann man mit Blick auf die Implementierung fast nicht sprechen, da diese durchaus ein sehr hohen Grad an Komplexität aufweisen können. Diese Verfahren stellen nach wie vor den Großteil der KI-Implementierungen dar und zeigen oftmals hervorragende Business Cases.
So machen wir zum Beispiel bei einem unserer Kunden eine Stammdatenbereinigung mit ganz klassischer KI (eine Kombination aus Clustering und Random Forest), weil diese klare Vorteile für den Use Case hat: sensible Daten bleiben bei uns (GenKI-Fallstrick Data Security umgangen), das fertig-trainierte Modell macht deterministische Vorhersagen (GenKI-Fallstrick Halluzination umgangen), und das Ganze ist so effizient, dass wir keine aufwändigen Ressourcen-Probleme für Training und Produktivbetrieb haben (was ein dritter beliebte GenKI-Fallstrick ist).
Wenn wir über generative KI nachdenken, so sind auch hier einige Use Cases inzwischen weit verbreitet: In erster Linie natürlich der interne Chatbot, also das unternehmensinterne „ChatGPT“, welches die Fähigkeiten des Chatbots mit unternehmensinternem Wissen anreichert. Auch Aufgaben wie die Zusammenfassung von Texten oder die Extraktion und Zusammenfassung von Inhalten von z.B. Webseiten funktionieren bereits sehr gut und mit Arbeitserleicherungen für die Nutzenden.
Wo liegen die Fallstricke bzw. Hürden? Gerne wollen Unternehmen ja auf solche ‚Hypes‘ aufspringen, ohne die Vorarbeiten – hier z.B. Qualität und Quantität von Trainignsdaten, Vermerkmalung von Daten, Aufbau eigenen Know-hows usw. – dafür angestoßen zu haben.
Ballerstedt: Leider sind die erwähnten Vorteile nicht ganz ohne Hindernisse zu erreichen. Dies beginnt bereits damit, dass derzeit im natürlich vorhandenen Hype der neuen Möglichkeiten nicht immer eine Evaluation des Business Cases durchgeführt wird. Da gehört es natürlich auch dazu, die Kosten für den Einsatz insbesondere generativer KI im Blick zu haben. Hier müssen manche Unternehmen derzeit lernen, dass der richtige Einsatz wohl gewählter Methoden und Modelle – sei es klassische oder generative KI – durchaus Abwägungen erfordert und der Ansatz „viel hilft viel“ nicht unbedingt zielführend ist.
Auch ist insbesondere beim Einsatz großer Sprachmodelle die Korrektheit der Ergebnisse nicht immer gegeben – auch wenn diese plausibel erscheinen. Hier ist einige Arbeit im Change Management zu leisten, damit die Nutzenden den optimalen Mehrwert für das Unternehmen auch erreichen und inkorrekte Ergebnisse nicht zu einem Reputations- oder anderem Schaden führen. Ein Beispiel hierfür ist der Einsatz von generativer KI in der Datenanalyse: Je nach verwendetem Sprachmodell wird durchaus eine Datenvisualisierung korrekt aus den Eingangsdaten erstellt, jedoch passen die textuelle Erklärung und Interpretation nicht zwingend zur Darstellung.
Und ein letzter und wichtiger Fallstrick ist natürlich, dass die KI auch nur so gut sein kann, wie die Daten, die sie bekommt – sowohl zum Lernen, als auch zur Interpretation und für die Umsetzung ihrer Aufgaben. Auf die Wichtigkeit dieses Themas uns seine Konsequenzen werden wir im Vortrag bei ‚Future CIO Connections‘ tiefer eingehen.
"Die Etablierung einer Daten- und KI-Kultur im Unternehmen hat sich in der Praxis als kritischer Erfolgsfaktor herausgestellt und natürlich brauchen Veränderungen der Kultur deutlich länger als den Zeitraum zwischen dem Erscheinen von ChatGPT und heute."
Wie sieht es mit den Vorteilen aus? ‚Klassische Cases‘ zeichnen sich ja oft durch Effizienzsteigerung und ein Plus an Nachhaltigkeit aus, da Mitarbeitende und deren Fähigkeiten frei werden können von repetitiven Aufgaben und frustrierenden Zeitfressern. Was sehen Sie da an praktischen Erkenntnissen im Markt?
Ballerstedt: Die Entlastung von Mitarbeitenden von unangenehmen oder repetitiven Aufgaben steht natürlich im Mittelpunkt der im Markt umgesetzten Use Cases. Diese zeigen auch durchaus große Erfolge, jedoch zeigt sich auch, dass dem Change Management eine zentrale Rolle in KI-Projekten zufällt. Die Etablierung einer Daten- und KI-Kultur im Unternehmen hat sich in der Praxis als kritischer Erfolgsfaktor herausgestellt und natürlich brauchen Veränderungen der Kultur deutlich länger als den Zeitraum zwischen dem Erscheinen von ChatGPT und heute.
Bei ‚Future CIO Connections’ ist die Novatec als Premium Partner mit dabei und steuert gleich zwei Programmpunkte – einen Impulsvortrag und einen Workshop – zum Programm am 6. Juni in München bei. Was können die Gäste vor Ort in Ihren Sessions erwarten?
Ballerstedt: Die Gäste erwartet bei unserem Workshop Impulse und Methoden zur Optimierung des Software-Entwicklungsprozesses fernab von reiner Technologie, um die Herausforderungen von Digitalisierung und sich schnell änderndem Marktumfeld in Zukunft meistern zu können. Sie gewinnen Einblicke in Methodik, Prozesse und vor allem auch in das erforderliche Mindset, das aus Sicht der Referenten die Grundlage des Erfolgs darstellt. In unserem Impulsvortrag können sich Zuhörende darauf freuen, dass wir einsortieren werden, wie (Gen) KI-Projekte trotz der riesigen Sprünge der Technologie einen nachhaltigen und langfristigen Wertbeitrag sichern können.
Abschließend noch eine wichtige Frage und ‚Hand aufs Herz‘: Welche generative KI nutzen Sie für die Vorbereitung Ihrer Präsentationsslides?
Ballerstedt: Die Storyline kommt natürlich von uns, dafür sind die Trainingsdaten der üblichen KI’s noch nicht aktuell genug und wir wollen auch niemanden mit Information auf dem Stand von 2021 langweilen. Aber am Bildmaterial haben GPT4o und DALL-E durchaus mitgewirkt.
Vielen Dank für das Gespräch!
Future CIO Connections
6. Juni 2024
smartVillage München Bogenhausen
Novatec ist Platinum Partner des Events und steuert folgende Sessions bei:
Impulsvortrag: Wettbewerbsvorteile mit Gen AI: Nachhaltig investieren trotz der rasanten Veränderungen der Technologie
Sprecher:innen: Volker Ossendoth, Interim Manager & Advisor und Dries Ballerstedt, Lead Data & Analytics, Novatec
Uhrzeit: 09:50 - 10:10 Uhr
Workshop: Modernisierung des Software-Entwicklungsprozess: Wie kann mein Unternehmen durch einen moderne Entwicklungsprozess effizienter und innovativer werden?
Sprecher:innen: Carlos Barragan, Chief Technologist, Novatec und Andreas Fendl, Director Methods, Processes and Organizations, Novatec
Uhrzeit: 11:10 - 11:55 Uhr