IBM Data & AI-Experte Timo Pfister verrät, wie IT-Händler den Mittelstand beim KI-Einstieg unterstützen können und welche Tools für kleinere Unternehmen geeignet sind.
Wo liegen beim Thema KI die größten Herausforderungen für den Mittelstand?
Pfister: Seit der Ankündigung von GPT setzen sich die meisten Unternehmen mit dieser Technologie auseinander. Jeder hat den Wunsch, KI wertstiftend im eigenen Umfeld einzusetzen. Dabei stehen zwei Herausforderungen im Vordergrund: Kleinere Firmen, die begrenzte IT-Ressourcen haben, wissen häufig nicht, wie sie den ersten Schritt machen sollen. Es gibt so viele unterschiedliche Fachbegriffe und Angebote. Was ist ein Large Language Model, was ein Foundation Model? Welches ist das richtige für mein Unternehmen, und was kann ich damit tun? Wenn wir dann gemeinsam mit unseren Partnern aufzeigen, was mit KI erreicht werden kann, wird schnell klar, wo die Technologie auch im Mittelstand hilfreich ist. Denn Themen wie der Fachkräftemangel, die Automatisierung von Geschäftsabläufen oder die Analyse von größeren Datenmengen beschäftigen alle Unternehmen, unabhängig von der Größe.
Welche Fehler machen Unternehmen beim Einstieg am häufigsten?
Pfister: Wir beobachten vielerorts eine überhöhte Erwartungshaltung an KI. Man probiert etwas auf die Schnelle, möchte aber keine Ressourcen einsetzen. Damit meine ich keineswegs nur Geld. Vor allem kleinere Firmen haben meistens kein dediziertes Projektteam, das sich um die KI kümmert, sondern es ist eine Zusatzaufgabe, die jemand übernimmt, den das Thema interessiert, der aber im Zweifelsfall wenig Rückhalt aus der Organisation oder Geschäftsführung hat. Bei dieser Herangehensweise sind viele KI-Projekte zum Scheitern verurteilt. Deshalb müssen wir mit unseren Partnern und Kunden intensiv zusammenarbeiten, um den Erfolg sicherzustellen.
Was sagen Sie IT-Entscheidern, die KI-Tools aus ethischen Gründen in Frage stellen?
Pfister: Vertrauenswürdige KI ist definitiv ein wichtiges Thema. Ethik und KI stehen jedoch nicht im Gegensatz zueinander. IBM bietet die Möglichkeit, KI-Anwendungen im Rechenzentrum des Kunden zu betreiben – die entsprechende Hardware vorausgesetzt. Aber auch Themen wie der Schutz personenbezogener Daten oder der Schutz des geistigen Eigentums sind für uns elementar. Unsere Granite-Modellfamilie bietet hier eine vertraglich verlässliche Basis für unsere Kunden. Wir haben sehr transparent offengelegt, auf welcher Datenbasis unsere Modelle trainiert werden und stellen so sicher, dass die Outputs keinerlei IP-Verletzungen enthalten. Unser Cloud-Rechenzentrum steht in Frankfurt am Main. Natürlich bieten wir die Möglichkeit, die Datenspeicherung auf den GDPR-regulierten EU-Raum zu beschränken. Das ist vielen mittelständischen Unternehmen wichtig.
Unsere Partner können einen wesentlichen Beitrag leisten und ihre eigene oder KI-Applikationen der Kunden als Managed Service Provider anbieten. Dies macht in vielerlei Hinsicht Sinn, weil der Kunde dann genau weiß, wo die Daten liegen und verarbeitet werden.
Viele große Unternehmen wünschen sich KI-Server im eigenen Rechenzentrum. IBM ist auch eine große Unterstützerin von „Souveräner KI“ im Öffentlichen Sektor: souverän im Hinblick auf den Ort, wo die KI-Systeme betrieben werden, aber auch mit Lösungen wie watsonx.governance. Mit diesem Werkzeug ermöglichen wir es eine Nachvollziehbarkeit zu schaffen, welches KI-Modell in welche Anwendung integriert wurde, welche Parameter bei der Modellerstellung in Betracht gezogen wurden und welches Modell mit welchen System-Prompts oder Einstellungen genutzt wurde. Dazu kommt die automatisierte Überwachung, wie sich die KI im Betrieb verhält – nicht nur von der technischen Seite, was die Latenzen betrifft, sondern auch inhaltlich, um beispielsweise Hate Speech zu verhindern. In puncto souveräne KI und KI-Governance ist IBM eines der weltweit führenden Unternehmen.
Wie können die Partner ihre Kunden bei der Suche nach passenden Use Cases unterstützen?
Pfister: Mehr als 90 Prozent aller Unternehmen beschäftigen sich aktuell mit den Einsatzmöglichkeiten von KI. Im aktiven Betrieb sprechen wir wahrscheinlich von 10 bis 20 Prozent. Nach meiner Einschätzung spielen die Systemhäuser eine zentrale Rolle bei der Adaption, vor allem im Mittelstand. Zum einen, weil unsere Partner ihre Geschäftsbeziehungen oft über eine sehr lange Zeit pflegen und die Sprache des Kunden sprechen. Sie verstehen, was die Unternehmen in den jeweiligen Branchen umtreibt. Sie kennen die konkreten Abläufe und wissen, wo ein großer Optimierungsbedarf besteht. Außerdem können die Fachhändler Empfehlungen geben, welche Daten in welcher Qualität vorliegen müssen, um mit der passenden Lösung aus dem KI-Werkzeugkasten zum gewünschten Ergebnis zu kommen.
Unsere Business Partner können dem Kunden aufzeigen, welche Prozesse mit KI-Software beschleunigt oder automatisiert werden können – etwa bei ständig wiederkehrenden Fragestellungen, im Marketing bei der Erstellung von Produktbeschreibungen oder bei der Fallabwicklung in der Versicherungsbranche, wo mit generativer KI-Schadensberichte zusammengefasst und klassifiziert werden können. All diese Beispiele sind Möglichkeiten für unsere Partner KI-Lösungen zu positionieren.
Welche Rolle spielen momentan die lange gehypten Chatbots?
Pfister: Generative Sprachmodelle heben die künstliche Intelligenz auf ein ganz neues Level. Deshalb sprechen wir mittlerweile eher von digitalen Assistenten als von Chatbots. Bei Chatbots mussten sämtliche Konversationsabläufe im Vorfeld definiert werden. Das waren oft Entscheidungsbäume, mit denen man komplette Wände tapezieren konnte. Ein digitaler Assistent, angebunden an ein Sprachmodell, kann wesentlich mehr. Jedes Unternehmen kann auf Anhieb Abläufe oder Aufgaben nennen, die verbessert, automatisiert und effizienter gestaltet werden sollen.
Ein konkretes Beispiel: Ein mittelständisches Unternehmen möchte die Auswertung der Produktionsdaten aus dem ERP verbessern. Heute werden die Daten aus dem ERP exportiert, mittels klassischer Datenanalyse ausgewertet, und die Ergebnisse anschließend in eine präsentable Form gebracht. Typischerweise dauert es mindestens 10 Minuten, um komplexe Fragestellungen zu beantworten. Ein digitaler Assistent, angebunden an die ERP- Daten und auf deren Spezifika trainiert, wird in Zukunft die Beantwortung dieser Fragen in einem Bruchteil der Zeit übernehmen können.
Die Datenqualität ist jedoch ein entscheidendes Kriterium. Hier ebenfalls ein Beispiel aus der Praxis: Im Projekt mit besagtem Kunden stellten wir fest, dass die Umlaute in Statusmeldungen wie „geprüft“ oder „gelöscht“ mit einem Prozentzeichen ersetzt und dem digitalen Assistenten übergeben wurden. Dies beeinträchtigt die Qualität der Antworten und Ergebnisse. Nun fragt der Kunde: Können wir der KI-Software nicht beibringen, dass sie die richtigen Umlaute selbstständig setzt?
Viele Entscheider glauben, dass mit künstlicher Intelligenz alles auf einmal geht, aber die Realität ist eine andere. Sie stehen ja morgen auch nicht auf und laufen ohne Training einen Marathon, sondern es ist ein iterativer Prozess von mehreren Schritten in einer bestimmten Reihenfolge erforderlich, um zum Erfolg zu kommen.
Wie sieht es KI-technisch bei Produkten wie Cognos Analytics oder SPSS aus?
Pfister: Die bewährten Planungs- und Reporting-Lösungen werden Zug um Zug um KI-Funktionalitäten erweitert. KI soll ja nicht alles ersetzen, sondern vorhandene Dinge besser, schneller und effizienter machen. Unser „Planning und BI Assistant“ sorgt dafür, dass Sie im Unternehmen mit ihren eigenen Planungsdaten sprechen können, wie Sie es zuvor mit Ihrem Controller getan haben. Außerdem kann der BI Assistant eigenständig Reports erstellen, Trendlinien erkennen und Vorschläge machen. Diese Dinge werden sukzessive ausgerollt. Auch die Werkzeuge für Anwendungsentwicklung, unser Hardware-Portfolio sowie unsere RedHat Plattform werden um KI-Funktionalitäten erweitert.
Mit dem Granite Code Model, trainiert auf über 160 Programmiersprachen und Millionen Zeilen Code, können unsere Kunden die Produktivität Ihrer Entwickler um 60 Prozent steigern.
Mit dem watsonx Assistant for Z können unsere Kunden die Interaktion mit ihrem Mainframe vereinfachen, um Aufgaben zu automatisieren, Fehlermeldungen zu analysieren, Systemwartung durchzuführen und vieles mehr. Anstatt lange Logs und Reports auswerten zu müssen, haben wir ein Large Language Model mit Jahrzenten an Wissen über den Mainframe trainiert, welches eine ganz neue Nutzererfahrung schafft.
Auch unser Server-Betriebssystem Red Hat Enterprise Linux AI oder die Containermanagement Lösung Red Hat OpenShift AI sind für den Betrieb von KI-Anwendungen optimiert. Mit InstructLab bieten wir eine Plattform für effizientes und ressourcenschonende Training von spezifischen KI-Modellen.
Welche KI-Lösungen im IBM Portfolio eignen sich besonders für kleinere Firmen?
Pfister: Für KMU bieten sich KI-Lösungen von IBM an, die mit einem sehr nutzerfreundlichen Low-Code/No-Code-Interface ausgestattet sind. Zum einen ist dies watsonx.ai mit seinem einfachen Prompt-Interface, das die Verwendung von IBM Granite-Modelle ermöglicht. IBM verfolgt einen offenen Plattform Ansatz. So sind auch Modelle von Google, Meta oder des französischen Start-ups Mistral AI in watsonx.ai verfügbar. Die Kunden können aber auch ihre eigenen Modelle in die Plattform einbinden. Eine weitere interessante KI-Lösung für KMU heißt watsonx Orchestrate. Diese Plattform ermöglicht es, unterschiedliche Applikationen intelligent miteinander zu verbinden, um die darin abgebildeten Geschäftsabläufe zu automatisieren.
Mittelständische Unternehmen können so beispielsweise mittels eingebauter Schnittstellen, Datentransfers zwischen Personal-, ERP-, CRM-Systemen automatisieren oder Incident Reports aus dem IT-Monitoring System auswerten und als Report an den IT-Betrieb verschicken. Diese Tasks und Skills können individuell erstellt und in automatisierte Workflows eingebunden werden. Das Potenzial für den Einsatz künstlichen Intelligenz für Unternehmen ist grenzenlos!