Künstliche Intelligenz ist in vielen Unternehmen längst Teil des Arbeitsalltags. Doch ihr Einsatz wirft auch Fragen hinsichtlich der Verantwortlichkeiten, der Risikobewertung und der Aufsicht auf. Dieser Beitrag zeigt, wie Unternehmen KI-Compliance pragmatisch in ihre bestehenden Strukturen integrieren können.
Viele Unternehmen beschäftigen sich bereits mit dem Einsatz Künstlicher Intelligenz. Gleichzeitig bestehen beim AI Act noch deutliche Unsicherheiten:
Der AI Act macht den Einsatz von KI nicht nur zu einem technischen Thema, sondern zu einer unternehmensweiten Governance-Aufgabe. Entscheidend ist, Verantwortlichkeiten, Risikobewertung und bestehende Prozesse sinnvoll miteinander zu verbinden.
Der erste Schritt besteht darin, sich einen zuverlässigen Überblick zu verschaffen. Schließlich wird KI in einem Unternehmen nicht mehr ausschließlich als eigenständiges Projekt eingeführt. Oft wird sie als neue Funktion in bereits genutzte Standardsoftware integriert. Dadurch kann sich der Einsatz von KI ändern, ohne dass automatisch eine neue Bewertung ausgelöst wird.
Unternehmen sollten daher systematisch dokumentieren, welche KI-Anwendungen und KI-Funktionen genutzt werden, welchem Zweck sie dienen und in welchen Geschäftsprozessen sie eingesetzt werden. Dazu gehört auch, festzustellen, welche Daten verarbeitet werden und wer für den jeweiligen Anwendungsfall verantwortlich ist.
Diese Transparenz bildet die Grundlage dafür, Risiken einzuordnen und angemessene Maßnahmen für den jeweiligen Anwendungsfall abzuleiten.
Digitale Souveränität bedeutet daher nicht, jede technologische Abhängigkeit zu vermeiden. Entscheidend ist, Abhängigkeiten bewusst einzugehen, ihre Risiken zu kennen und für kritische Systeme realistische Wechsel- oder Ausweichmöglichkeiten vorzubereiten. Kritisch wird eine Abhängigkeit, wenn keine tragfähige Alternative mehr besteht.
Der Kauf einer KI-Lösung bedeutet nicht, dass die Governance ausschließlich in der Verantwortung des Anbieters liegt. Für Unternehmen bleibt es entscheidend, wie eine Anwendung in ihrem eigenen Kontext genutzt wird.
Je nach Rolle, Anwendungsfall und Risikoeinstufung kann dazu gehören, Informationen und Unterlagen beim Anbieter einzuholen, zulässige Anwendungsfälle festzulegen und zu definieren, wo menschliche Aufsicht erforderlich ist. Auch Änderungen sollten berücksichtigt werden: Neue Funktionen, Modell-Updates, Datenquellen oder Integrationen können das ursprüngliche Risikoprofil verändern. Gerade beim Lieferantenmanagement zeigt sich noch Handlungsbedarf:
Das Lieferantenmanagement ist deshalb ein wichtiger Bestandteil einer strukturierten KI-Governance. Entscheidend ist, dass Unternehmen nachvollziehen können, welche Lösung sie einsetzen, unter welchen Bedingungen sie genutzt wird und welche Informationen für eine angemessene Bewertung vorliegen.
Die gute Nachricht für viele Unternehmen ist, dass sie nicht bei Null anfangen müssen. Sie können auf bestehende Strukturen aus Informationssicherheitsmanagement, Datenschutz, Governance und Risikomanagement aufbauen und diese gezielt um KI-spezifische Anforderungen ergänzen.
Dazu gehören beispielsweise Risikobewertungen, Lieferantenmanagement, Freigabeprozesse, Änderungsmanagement, Vorfallmanagement und regelmäßige Überprüfungen. Diese sollten je nach eingesetztem KI-System und Risikokontext um KI-spezifische Aspekte wie Verwendungszweck, Risikoeinordnung, Transparenz, menschliche Aufsicht und erforderliche Nachweise ergänzt werden.
Eine klare Rollenverteilung ist hierbei unerlässlich: Typischerweise bringen die Fachbereiche den Anwendungsfall ein, die IT gestaltet den sicheren technischen Rahmen mit und das Management definiert Leitplanken und Verantwortlichkeiten.
Entscheidend sind Transparenz, klare Verantwortlichkeiten und ein risikogerechter Umgang mit den eingesetzten Systemen. Wer bestehende Governance-Strukturen gezielt um KI-spezifische Anforderungen erweitert und Maßnahmen am jeweiligen Anwendungsfall ausrichtet, schafft eine belastbare Grundlage für einen verantwortungsvollen und professionellen KI-Einsatz.
Erfahren Sie mehr zu diesem Thema im Podcast: In der Folge „AI Act verstehen – Was Unternehmen jetzt bei KI-Compliance beachten müssen“ von „Unboxing IT“ geht es um KI-Governance, Risikomanagement und typische Herausforderungen bei der praktischen Umsetzung.
In der Folge „AI Act verstehen – Was Unternehmen jetzt bei KI-Compliance beachten müssen“ von „Unboxing IT“ geht es um KI-Governance, Risikomanagement und typische Herausforderungen bei der praktischen Umsetzung.
Dieser Beitrag basiert auf dem Expertenwissen von Thomas Fischer aus unserem Podcastgespräch und wurde redaktionell aufbereitet.