Skip to content
Zwei Personen sitzen an einem weißen Tisch, arbeiten gemeinsam an Dokumenten und besprechen Inhalte.
November 16, 20263 Min Lesezeit

EU AI Act: Wie Unternehmen KI-Compliance in bestehende Prozesse integrieren

avatar
Beste Eginc
Content-Redakteurin

Künstliche Intelligenz ist in vielen Unternehmen längst Teil des Arbeitsalltags. Doch ihr Einsatz wirft auch Fragen hinsichtlich der Verantwortlichkeiten, der Risikobewertung und der Aufsicht auf. Dieser Beitrag zeigt, wie Unternehmen KI-Compliance pragmatisch in ihre bestehenden Strukturen integrieren können.

Das Wichtigste auf einen Blick
  • Belastbare KI-Compliance beginnt mit Transparenz darüber, welche KI-Systeme und KI-Funktionen in welchen Prozessen eingesetzt werden.
  • Auch bei eingekauften KI-Lösungen sollten Unternehmen den Verwendungszweck, die Zuständigkeiten, Lieferanteninformationen und die erforderlichen Kontrollmaßnahmen im Blick behalten.
  • Bestehende Strukturen aus Informationssicherheitsmanagement, Datenschutz, Governance und Risikomanagement können die Grundlage für die KI-Governance bilden.

 

AI Governance braucht klare Strukturen im Unternehmen

Viele Unternehmen beschäftigen sich bereits mit dem Einsatz Künstlicher Intelligenz. Gleichzeitig bestehen beim AI Act noch deutliche Unsicherheiten: 

Laut der  KI-Sicherheitsstudie 2026 des Bundesamtes für Sicherheit in der Informationstechnik (BSI) und des TÜV-Verbandes fühlen sich 71 Prozent der befragten Unternehmen schlecht über die Anforderungen des AI Acts informiert. 

Der AI Act macht den Einsatz von KI nicht nur zu einem technischen Thema, sondern zu einer unternehmensweiten Governance-Aufgabe. Entscheidend ist, Verantwortlichkeiten, Risikobewertung und bestehende Prozesse sinnvoll miteinander zu verbinden.

 

Transparenz über eingesetzte KI als Grundlage für den EU AI Act

Der erste Schritt besteht darin, sich einen zuverlässigen Überblick zu verschaffen. Schließlich wird KI in einem Unternehmen nicht mehr ausschließlich als eigenständiges Projekt eingeführt. Oft wird sie als neue Funktion in bereits genutzte Standardsoftware integriert. Dadurch kann sich der Einsatz von KI ändern, ohne dass automatisch eine neue Bewertung ausgelöst wird.

Unternehmen sollten daher systematisch dokumentieren, welche KI-Anwendungen und KI-Funktionen genutzt werden, welchem Zweck sie dienen und in welchen Geschäftsprozessen sie eingesetzt werden. Dazu gehört auch, festzustellen, welche Daten verarbeitet werden und wer für den jeweiligen Anwendungsfall verantwortlich ist.

Diese Transparenz bildet die Grundlage dafür, Risiken einzuordnen und angemessene Maßnahmen für den jeweiligen Anwendungsfall abzuleiten.

Digitale Souveränität bedeutet daher nicht, jede technologische Abhängigkeit zu vermeiden. Entscheidend ist, Abhängigkeiten bewusst einzugehen, ihre Risiken zu kennen und für kritische Systeme realistische Wechsel- oder Ausweichmöglichkeiten vorzubereiten. Kritisch wird eine Abhängigkeit, wenn keine tragfähige Alternative mehr besteht.

 

KI-Compliance bleibt auch bei eingekauften Lösungen relevant

Der Kauf einer KI-Lösung bedeutet nicht, dass die Governance ausschließlich in der Verantwortung des Anbieters liegt. Für Unternehmen bleibt es entscheidend, wie eine Anwendung in ihrem eigenen Kontext genutzt wird.

Je nach Rolle, Anwendungsfall und Risikoeinstufung kann dazu gehören, Informationen und Unterlagen beim Anbieter einzuholen, zulässige Anwendungsfälle festzulegen und zu definieren, wo menschliche Aufsicht erforderlich ist. Auch Änderungen sollten berücksichtigt werden: Neue Funktionen, Modell-Updates, Datenquellen oder Integrationen können das ursprüngliche Risikoprofil verändern. Gerade beim Lieferantenmanagement zeigt sich noch Handlungsbedarf:

Laut der BSI/TÜV-Studie prüfen lediglich 22 Prozent der Unternehmen ihre Lieferanten hinsichtlich der Anforderungen des AI Acts.

Das Lieferantenmanagement ist deshalb ein wichtiger Bestandteil einer strukturierten KI-Governance. Entscheidend ist, dass Unternehmen nachvollziehen können, welche Lösung sie einsetzen, unter welchen Bedingungen sie genutzt wird und welche Informationen für eine angemessene Bewertung vorliegen.


AI Governance lässt sich in bestehende Prozesse integrieren

Die gute Nachricht für viele Unternehmen ist, dass sie nicht bei Null anfangen müssen. Sie können auf bestehende Strukturen aus Informationssicherheitsmanagement, Datenschutz, Governance und Risikomanagement aufbauen und diese gezielt um KI-spezifische Anforderungen ergänzen.

Dazu gehören beispielsweise Risikobewertungen, Lieferantenmanagement, Freigabeprozesse, Änderungsmanagement, Vorfallmanagement und regelmäßige Überprüfungen. Diese sollten je nach eingesetztem KI-System und Risikokontext um KI-spezifische Aspekte wie Verwendungszweck, Risikoeinordnung, Transparenz, menschliche Aufsicht und erforderliche Nachweise ergänzt werden.

Eine klare Rollenverteilung ist hierbei unerlässlich: Typischerweise bringen die Fachbereiche den Anwendungsfall ein, die IT gestaltet den sicheren technischen Rahmen mit und das Management definiert Leitplanken und Verantwortlichkeiten.

 

Vier Fragen für den Einstieg in die KI-Governance

  1. Welche KI-Systeme und KI-Funktionen nutzen wir bereits?
  2. Für welchen Zweck und in welchen Prozessen werden sie eingesetzt?
  3. Wer bewertet Risiken, prüft Anbieter und trägt die Verantwortung?
  4. Welche bestehenden Governance- und Compliance-Prozesse können wir dafür erweitern?

 

Fazit: Der AI Act muss den Einsatz von KI in Unternehmen nicht ausbremsen

Entscheidend sind Transparenz, klare Verantwortlichkeiten und ein risikogerechter Umgang mit den eingesetzten Systemen. Wer bestehende Governance-Strukturen gezielt um KI-spezifische Anforderungen erweitert und Maßnahmen am jeweiligen Anwendungsfall ausrichtet, schafft eine belastbare Grundlage für einen verantwortungsvollen und professionellen KI-Einsatz.

Erfahren Sie mehr zu diesem Thema im Podcast: In der Folge „AI Act verstehen – Was Unternehmen jetzt bei KI-Compliance beachten müssen“ von „Unboxing IT“ geht es um KI-Governance, Risikomanagement und typische Herausforderungen bei der praktischen Umsetzung.

 

Sie möchten das Thema vertiefen?

In der Folge „AI Act verstehen – Was Unternehmen jetzt bei KI-Compliance beachten müssen“ von „Unboxing IT“ geht es um KI-Governance, Risikomanagement und typische Herausforderungen bei der praktischen Umsetzung.

AI Act verstehen: Was Unternehmen jetzt bei KI-Compliance beachten müssen - mit Thomas Fischer
  • 21 Min.
AI Act verstehen: Was Unternehmen jetzt bei KI-Compliance beachten müssen - mit Thomas Fischer
Unboxing IT – ein Podcast von DATAGROUP
Abspielen

Dieser Beitrag basiert auf dem Expertenwissen von Thomas Fischer aus unserem Podcastgespräch und wurde redaktionell aufbereitet.