KI-Governance scheitert am Betriebsmodell

Viele Unternehmen besitzen inzwischen KI-Grundsätze, Freigabegremien und erste Modellinventare. Trotzdem bleibt im Alltag häufig offen, wer eine Anwendung freigibt, welche Evidenz dafür genügt und wer eingreift, wenn sich Daten, Modell oder Nutzungskontext verändern. Das Problem ist nicht der Mangel an Regeln. Es ist ihre fehlende Übersetzung in ein Betriebsmodell.

Diese Lücke wird dringlicher. Die KI-Nutzung europäischer Unternehmen ist 2025 deutlich gestiegen; Eurostat weist 20 Prozent gegenüber 13,5 Prozent im Vorjahr aus. ^[6] Gleichzeitig treten weitere Teile des AI Act in die operative Anwendung. Governance muss deshalb vom Grundsatzpapier in Produktaufnahme, Architektur, Lieferprozess und Betrieb wandern.

Governance beginnt mit einer Landkarte realer Entscheidungen

Eine tragfähige Governance startet nicht mit einem zusätzlichen Gremium, sondern mit sechs präzisen Entscheidungen:

1. Welchen Handlungsspielraum erhält das System?
2. Welche Folgen können aus seiner Nutzung entstehen?
3. Welche Person trägt das Ergebnis im Geschäft?
4. Welche Evidenz ist vor einer Freigabe erforderlich?
5. Welche Abweichung löst eine Intervention aus?
6. Wer darf Nutzung, Modell oder Datenquelle einschränken?

„Human in the loop“ ist keine belastbare Antwort, solange Rolle, Zeitpunkt, Informationsgrundlage und Eingriffsrecht dieses Menschen offenbleiben. Eine Kontrolle, die unter Zeitdruck regelmäßig übersprungen wird, existiert nur nominell.

Regulatorischer Kalender ist nicht gleich Risikokalender

Der AI Act gilt stufenweise. Verbote bestimmter Praktiken und Anforderungen an KI-Kompetenz greifen seit Februar 2025; Governance- und GPAI-Regeln seit August 2025. Weitere Transparenzpflichten greifen ab 2. August 2026, während sich die Zeitplanung für bestimmte Hochrisikoanforderungen verändert hat. ^[1]

Für Unternehmen ist entscheidend, Rechtskalender und Risikokalender zu trennen. Eine Anwendung kann heute bereits ein erhebliches Geschäfts-, Sicherheits- oder Reputationsrisiko besitzen, auch wenn eine spezielle Pflicht erst später greift. Umgekehrt kann ein formal erfasster Anwendungsfall bei engem Mandat und niedriger Wirkung einen schlanken Kontrollweg verdienen.

Ein gutes Modell führt deshalb zwei Klassifikationen:

• rechtlicher Status: Welche Rolle hat das Unternehmen, welche Norm gilt, welche Pflicht folgt?
• operative Wirkung: Wie autonom handelt das System, wie reversibel sind Folgen, wie schnell werden Fehler sichtbar?

Vier Wirkungsklassen statt eines Einheitsprozesses

Eine praktikable interne Ordnung kann KI-Anwendungen nach tatsächlicher Eingriffstiefe unterscheiden:

Assistenz

Das System bereitet Informationen auf. Ein Mensch prüft und entscheidet vollständig. Kontrollen fokussieren Datenzugang, Vertraulichkeit, Qualitätsgrenzen und Kennzeichnung.

Empfehlung

Das System gewichtet Optionen und prägt wiederkehrend Entscheidungen. Zusätzlich braucht es Vergleichstests, Bias-Analysen, Protokollierung und eine Beobachtung menschlicher Übernahmeeffekte.

Delegation

Das System handelt innerhalb eines definierten Mandats. Notwendig sind harte Aktionsgrenzen, Freigabeschwellen, Fallbacks, Transaktionsprotokolle und unmittelbare Eingriffsrechte.

Kritische Autonomie

Fehler können erhebliche rechtliche, finanzielle oder gesellschaftliche Folgen auslösen. Hier sind unabhängige Prüfung, Red-Teaming, Stresstests, Krisenabläufe und Vorstandstransparenz angemessen.

Die Klasse bestimmt nicht nur die Prüftiefe. Sie bestimmt, welches Team beteiligt sein muss und wie viel Unsicherheit akzeptiert werden darf.

Transparenz wird zum Produktmerkmal

Die Kommission veröffentlichte am 20. Juli 2026 Leitlinien zu den Transparenzpflichten des Artikels 50; diese Pflichten gelten ab 2. August 2026. ^[2] Betroffen sind unter anderem Systeme, die direkt mit Menschen interagieren, sowie die maschinenlesbare Markierung bestimmter generierter Inhalte. Für Deepfakes und KI-generierte oder manipulierte Texte zu Themen von öffentlichem Interesse bestehen zusätzliche Offenlegungspflichten. ^[3]

Das lässt sich nicht am Ende durch einen pauschalen Hinweis lösen. Transparenz muss in vier Schichten gestaltet werden:

• Interaktion: Erkennt ein Mensch, dass er mit einem KI-System kommuniziert?
• Herkunft: Kann ein Inhalt technisch und sichtbar als generiert oder verändert erkannt werden?
• Verantwortung: Ist verständlich, wer das System betreibt und Beschwerden bearbeitet?
• Grenzen: Werden relevante Unsicherheiten und ungeeignete Nutzungen erklärt?

GPAI verändert die Lieferantenbeziehung

Für Anbieter allgemeiner KI-Modelle gelten seit August 2025 Dokumentations-, Copyright- und Transparenzpflichten; Anbieter systemisch riskanter Modelle müssen zusätzliche Risiko-, Sicherheits- und Meldeanforderungen erfüllen. ^[4] Der GPAI Code of Practice dient als freiwilliges Instrument zur Konkretisierung dieser Anforderungen. ^[5]

Downstream-Unternehmen sollten daraus eine neue Beschaffungsdisziplin ableiten. Ein Modellvertrag genügt nicht. Sie brauchen Antworten auf:

• Welche Modellversion ist produktiv und wie werden Änderungen angekündigt?
• Welche Informationen zu Fähigkeiten und Grenzen sind verfügbar?
• Welche Daten verlassen die eigene Kontrollsphäre?
• Welche Protokolle, Evaluierungen und Sicherheitszusagen können geprüft werden?
• Welche Exit- und Migrationswege existieren?

Anbietergouvernance ist damit kein Einkaufsthema allein. Sie verbindet Architektur, Recht, Sicherheit, Produkt und Betrieb.

Kontrolle in den Lieferprozess einbauen

Governance muss dort stattfinden, wo Produktentscheidungen ohnehin getroffen werden:

1. Aufnahme: Mandat, Wirkungsklasse und rechtlicher Status werden vor Entwicklung geklärt.
2. Datenfreigabe: Herkunft, Berechtigung, Repräsentativität und Löschlogik werden dokumentiert.
3. Evaluation: Tests decken Normalfälle, Randfälle, Missbrauch, Drift und menschliche Interaktion ab.
4. Release: Freigabe basiert auf Evidenz und benennt Restrisiken, Gültigkeitsdauer und Eingriffsrechte.
5. Betrieb: Qualität, Kosten, Sicherheitsereignisse und Nutzungsmuster werden laufend beobachtet.
6. Änderung: Modell-, Prompt-, Daten- oder Prozessänderungen lösen eine angemessene Neubewertung aus.
7. Rückbau: Deaktivierung, Datenaufbewahrung und Ersatzprozess sind vorbereitet.

Gute KI-Governance produziert nicht mehr Dokumente. Sie erhöht die Qualität, Nachvollziehbarkeit und Reversibilität konkreter Entscheidungen.

Verantwortlichkeit ohne Kontrollzentralismus

Ein zentrales KI-Board kann Standards setzen und kritische Fälle entscheiden. Es kann jedoch nicht jede fachliche Veränderung verstehen. Wirksamer ist ein föderiertes Modell:

• gemeinsame Taxonomie und Mindestkontrollen,
• dezentrale Produktverantwortung,
• qualifizierte Risk Champions in den Domänen,
• zentrale Eskalation für hohe Wirkung oder große Unsicherheit,
• unabhängige Prüfung ausgewählter kritischer Systeme.

Die Unternehmensleitung darf drei Dinge nicht delegieren: die akzeptierte Risikobereitschaft, die Verteilung der Entscheidungsrechte und die Ausstattung der Kontrollfähigkeiten.

Das KI-Risikocockpit für den Vorstand

Ein aussagekräftiges Cockpit zählt nicht nur Anwendungen. Es zeigt:

• Anteil inventarisierter Systeme mit benanntem Owner,
• Anwendungen je Wirkungsklasse,
• überfällige Re-Evaluierungen,
• ungeklärte Modell- oder Datenabhängigkeiten,
• Qualitäts- und Sicherheitsabweichungen,
• Zeit bis zur Intervention,
• sowie Systeme ohne getesteten Fallback.

Damit wird Governance zu einer sichtbaren Führungsfähigkeit. Ihr Reifegrad zeigt sich nicht im Umfang des Regelwerks, sondern darin, ob die Organisation unter Zeitdruck gute Entscheidungen trifft und Systeme kontrolliert verändern oder stoppen kann.