Für viele Unternehmen birgt KI sowohl Chancen als auch Risiken. Es ist daher von entscheidender Bedeutung, Chancen zu wahren und gleichzeitig eine verantwortungsvolle Regulierung zu gewährleisten, die Diskriminierung, Datenschutzverletzungen sowie soziale und wirtschaftliche Ungleichheiten verhindert.

Um das geht’s beim EU AI Act

Der EU AI Act gibt eine klare Struktur für die Regulierung von KI-Systemen vor und unterscheidet dabei zwischen verschiedenen Risikoklassen. Grob gesagt findet hier eine Unterscheidung zwischen KI-Systemen mit hohem und niedrigem Risiko statt. Hochrisiko-KI-Systeme gelten als Systeme, die potenziell schwerwiegende Auswirkungen auf die Gesundheit, die Sicherheit oder die Grundrechte von Menschen haben können. Ein Beispiel ist die KI-basierte Entscheidungsunterstützung in der Chirurgie. Hier besteht die Gefahr, dass Fehlentscheidungen das Leben von Patienten gefährden. Um diese Risiken zu minimieren, sind strenge Sicherheitsvorkehrungen und Risikoanalysen erforderlich.

Im Gegensatz dazu unterliegen niedrigere Risikoklassen von KI-Systemen deutlich geringeren regulatorischen Anforderungen. Diese Systeme (beispielsweise KI-gestützte Chatbots oder personalisierte Marketing-Tools), die keine unmittelbaren Auswirkungen auf die grundlegenden Rechte oder die Sicherheit haben, müssen hauptsächlich elementare Transparenzanforderungen erfüllen. Als Beispiel dient die dynamische Preisgestaltung im Handel. Ein System, das die Preise für Online-Produkte auf Grundlage von Nachfrage und Angebot anpasst, gehört zu den niedrigeren Risikoklassen. Hier bestehen keine unmittelbaren physischen oder ethischen Risiken. Allerdings sollten Transparenz und Fairness in der Preisbildung gewährleistet sein, um Konsumentenvertrauen zu erhalten.

Darauf müssen Unternehmen achten

Kosten-Nutzen-Analysen und die Anpassung von Geschäftsmodellen stehen im Mittelpunkt, wenn Unternehmen die Vorgaben des EU AI Acts umsetzen. Sie müssen sicherstellen, dass der Einsatz von KI wirtschaftlich bleibt, gleichzeitig aber die regulatorischen Anforderungen erfüllen. Außerdem müssen interne Prozesse angepasst und ausreichend Ressourcen für Compliance bereitgestellt werden. Das erfordert Investitionen in Mitarbeiterschulungen, um das notwendige Wissen aufzubauen.

Im Rahmen des EU AI Acts sind fünf zentrale Aspekte der IT-Infrastruktur zu berücksichtigen. Erstens spielen Datenmanagement und Governance entscheidende Rollen, um Transparenz, Erklärbarkeit und Fairness zu gewährleisten. Zweitens ist die transparente Entscheidungsfindung durch den Einsatz von erklärbarer KI (Explainable AI, XAI) von Bedeutung. Drittens erfordert ein robustes Sicherheits- und Risikomanagement regelmäßige Tests (etwa Penetrationstests), um potenzielle Bedrohungen zu minimieren. Viertens muss kontinuierliches Auditing und Compliance-Monitoring die Einhaltung von regulatorischen Anforderungen garantieren. Fünftens benötigen Firmen eine skalierbare und flexible IT-Infrastruktur, damit sich KI-Systeme an neue Anforderungen anpassen lassen, etwa durch den Einsatz von Cloud-Lösungen.

Eine entscheidende Rolle spielt dabei die Wahl einer passenden End-to-End-KI-Plattform eines renommierten Technologieanbieters, um sowohl wirtschaftliche als auch technische Anforderungen zu erfüllen.

Wie IBM Unternehmen bereits jetzt unterstützt

IBM gilt als Vorreiter im Bereich verantwortungsvoller künstlicher Intelligenz und hat frühzeitig ethische Richtlinien wie die Prinzipien für Vertrauen und Transparenz eingeführt. Diese Vorreiterrolle stützt sich auf IBMs jahrzehntelange Erfahrung in der KI-Forschung, die in den 1950er-Jahren begann und in wegweisenden Innovationen wie Watson und der Weiterentwicklung watsonx mündete. Die moderne KI-Plattform unterstützt kognitive Systeme.

Zentral für die Einhaltung von Vorschriften sind die Werkzeuge Watson OpenScale und AI FactSheets. OpenScale überwacht kontinuierlich KI-Modelle und gewährleistet, dass kritische Parameter wie Fairness, Erklärbarkeit und Genauigkeit eingehalten werden. Dies ist unerlässlich, um ethische und regulatorische Anforderungen in der Entscheidungsfindung von KI-Systemen zu erfüllen. AI FactSheets geht noch einen Schritt weiter und liefert eine standardisierte und umfassende Dokumentation der KI-Modelle – von den verwendeten Daten bis hin zu den Entwicklungsprozessen und den spezifischen Modelleigenschaften. Diese Transparenz hilft, Compliance-Vorgaben lückenlos nachzuweisen und sorgt dafür, dass KI-Lösungen den gesetzlichen Anforderungen entsprechen.

Gemeinsam bilden Watson OpenScale und AI FactSheets das Rückgrat der Governance-Funktionen von watsonx.governance. Sie garantieren, dass Unternehmen die Transparenz- und Compliance-Vorgaben des EU AI Acts erfüllen und gleichzeitig ihre Verantwortung gegenüber den eingesetzten KI-Systemen wahren. Besonders für Hochrisiko-KI-Systeme ermöglichen diese Werkzeuge eine durchgängige Echtzeit-Überwachung und die Erkennung potenzieller Verzerrungen, begleitet von einer lückenlosen Dokumentation.

IBMs strategischer Vorteil liegt in der Kombination aus jahrzehntelanger Expertise, fortschrittlicher Technologie und einer klaren Plattformstrategie. Die watsonx-Plattform bietet nicht nur leistungsstarke technische Lösungen, sondern kümmert sich auch gezielt um die Herausforderungen in den Bereichen KI-Governance, Compliance und Ethik. Mit watsonx.governance stellt IBM sicher, dass Unternehmen über transparente, überprüfbare und gesetzeskonforme KI-Systeme verfügen.

Fazit

Mit watsonx.governance hat IBM nicht nur ein Tool geschaffen, die die Einhaltung des EU AI Acts sicherstellt, sondern auch einen Weg, wie Firmen KI verantwortungsvoll einsetzen können. Damit nimmt IBM eine führende Position im Wettbewerb um EU-konforme KI-Lösungen ein. Während viele Anbieter noch damit kämpfen, ihre KI-Modelle an die neuen Anforderungen anzupassen, bietet IBM bereits eine praxistaugliche Lösung.