AI Act Audit – So bereiten Sie sich auf die erste Prüfung vor

Ab dem 2. Dezember 2027 gelten die Pflichten für Hochrisiko-KI nach Annex III – erst ab dann können Behörden Risikomanagement, technische Dokumentation oder Betreiberpflichten prüfen. Für KI in regulierten Produkten nach Anhang I ist es der 2. August 2028. Und die meisten Unternehmen im DACH-Raum wissen noch nicht, was ein AI Act Audit konkret bedeutet. Die gute Nachricht: Wer heute mit der Vorbereitung beginnt, hat noch ausreichend Zeit, um die Prüfung souverän zu bestehen. Die schlechte Nachricht: „Wir nutzen KI nur intern“ schützt vor der Prüfpflicht nicht.

Update Juli 2026 – Digital Omnibus in Kraft: Mit der VO (EU) 2026/1744 (in Kraft seit 27.07.2026) wurden die Hochrisiko-Termine auf feste Daten verschoben: 2. Dezember 2027 (Annex III) und 2. August 2028 (Anhang I). Schon seit dem 2. August 2026 durchsetzbar sind dagegen die Verbote (Art. 5), die Transparenzpflichten (Art. 50), die Pflicht zur Förderung der KI-Kompetenz (Art. 4) und die GPAI-Pflichten – das kann eine Behörde heute bereits prüfen.

Dieser Artikel erklärt, wie ein AI Act Audit abläuft, welche fünf Bereiche Prüfer besonders unter die Lupe nehmen – und wie Sie Ihr Unternehmen Schritt für Schritt prüfungsreif machen.

Was „AI Act Audit“ überhaupt bedeutet

Der Begriff Audit ist im AI Act selbst nicht einheitlich definiert. In der Praxis meinen Unternehmen damit zwei verschiedene Szenarien:

Konformitätsbewertung (Conformity Assessment): Das ist das formale Verfahren nach AI Act, mit dem ein Anbieter nachweist, dass sein Hochrisiko-KI-System die gesetzlichen Anforderungen erfüllt. Je nach System erfolgt das als Selbstbewertung oder durch eine externe, notifizierte Stelle.
Marktüberwachungsprüfung: Nationale Marktüberwachungsbehörden (in Deutschland nach dem seit 29. Juli 2026 geltenden KI-MIG grundsätzlich die Bundesnetzagentur, im regulierten Finanzsektor die BaFin) können anlasslos oder auf Beschwerde hin prüfen, ob Anbieter und Betreiber ihre Pflichten einhalten.

Für KMUs, die KI-Systeme einsetzen, aber nicht selbst entwickeln, steht vor allem das zweite Szenario im Vordergrund: Sind die Betreiberpflichten dokumentiert und umgesetzt? Für Hochrisiko-Systeme ist das ab dem 2. Dezember 2027 relevant; bis dahin beschränkt sich eine Prüfung auf Verbote, Transparenz, KI-Kompetenz und GPAI. Dieser Artikel fokussiert auf die Vorbereitung aus genau dieser Praxis-Perspektive.

Wichtiger Hinweis vorab: Welche Pflichten Sie konkret treffen, hängt davon ab, ob Sie Anbieter (entwickelt, vertreibt) oder Betreiber (setzt ein) eines KI-Systems sind – und in welche Risikoklasse Ihr System fällt.

Die zwei Wege zur Konformität bei Hochrisiko-KI

Selbstbewertung durch den Anbieter

Für die Mehrheit der Hochrisiko-KI-Systeme nach Annex III ist eine interne Konformitätsbewertung zulässig. Der Anbieter prüft eigenverantwortlich, ob sein System alle Anforderungen der Artikel 9–15 des AI Act erfüllt, erstellt die technische Dokumentation und stellt eine EU-Konformitätserklärung aus.

Das klingt einfacher als es ist: Die Dokumentationsanforderungen sind umfangreich, und im Fall einer Behördenprüfung müssen alle Unterlagen auf Abruf vorliegen.

Externe Prüfung durch notifizierte Stellen

Für bestimmte Hochrisiko-Systeme schreibt der AI Act die Einschaltung einer unabhängigen, notifizierten Prüfstelle vor: bei biometrischen Systemen (Annex III Nr. 1), wenn der Anbieter harmonisierte Normen oder gemeinsame Spezifikationen nicht vollständig anwendet, und bei KI in regulierten Produkten nach Anhang I, soweit das jeweilige Produktrecht eine Drittprüfung verlangt. Für die übrigen Annex-III-Bereiche – etwa kritische Infrastruktur – gilt die interne Kontrolle. Diese Stellen (vergleichbar mit TÜV-Organisationen im Produktsicherheitsrecht) führen dann die eigentliche Konformitätsprüfung durch.

Für die meisten KMUs im DACH-Raum ist dieser Weg zunächst nicht relevant – entscheidend ist die saubere Selbstbewertung plus Dokumentation.

Die fünf Prüfbereiche, die Prüfer zuerst anschauen

Ein AI Act Audit ist im Kern eine Dokumenten- und Systemnachweispflicht. Prüfer folgen dabei einer klaren Logik: Gibt es ein Risikomanagementsystem? Ist es gelebt? Lässt sich das nachweisen?

1. Risikomanagementsystem (Art. 9)

Das Herzstück jedes Compliance-Nachweises. Art. 9 verlangt ein iteratives Risikomanagementsystem über den gesamten Lebenszyklus eines Hochrisiko-KI-Systems. Geprüft wird:

Existiert ein dokumentierter Risikomanagementprozess?
Wurden Risiken identifiziert, bewertet und gemindert?
Wird das System nach Updates oder Änderungen neu bewertet?
Gibt es Restrisiken, die bewusst akzeptiert wurden – und ist das begründet?

Typischer Fehler: Ein einmaliges Risikoassessment beim Systemkauf, das nie aktualisiert wurde. Prüfer schauen auf Datumsangaben und Versionshistorien.

2. Technische Dokumentation (Art. 11)

Art. 11 in Verbindung mit Anhang IV definiert, was die technische Dokumentation enthalten muss – erstellen muss sie der Anbieter. Für Betreiber, die keine eigene KI entwickeln, gilt: Sie sollten die Gebrauchsanweisung und die für Ihre eigenen Pflichten nötigen Informationen des Anbieters vorliegen haben und vorlegen können.

Checkliste für die Prüfung:

Beschreibung des Systems und seiner Zweckbestimmung
Leistungskennzahlen und Genauigkeitswerte
Datenherkunft und -qualität
Änderungshistorie und Versionsstand
Konformitätserklärung des Anbieters

Praxistipp: Legen Sie diese Dokumente nicht im E-Mail-Postfach ab. Ein strukturiertes KI-Register – wie in unserem Leitfaden zum KI-Inventar beschrieben – macht die Dokumentation auf Knopfdruck abrufbar.

3. Datenverwaltung und Datenqualität (Art. 10)

Art. 10 ist einer der technisch anspruchsvollsten Artikel des AI Act. Er verlangt, dass Trainingsdaten, Validierungsdaten und Testdaten bestimmte Qualitätskriterien erfüllen – frei von Fehlern, repräsentativ, nicht diskriminierend.

Art. 10 richtet sich an Anbieter. Für Betreiber gilt Art. 26 Abs. 4: Soweit Sie die Eingabedaten kontrollieren, müssen diese der Zweckbestimmung entsprechen und ausreichend repräsentativ sein. Praktisch heißt das: beim Anbieter nach der Datenbasis fragen und dokumentieren, dass Ihre Eingabedaten zum Einsatzkontext passen.

Prüfer fragen hier auch nach der Schnittstelle zum Datenschutz: Wenn personenbezogene Daten im Spiel sind, gehört eine Datenschutz-Folgenabschätzung (DSFA) zur Pflichtdokumentation.

4. Transparenz und Nutzerinformation (Art. 13)

Art. 13 fordert, dass Hochrisiko-KI-Systeme so transparent gestaltet sind, dass Betreiber ihre Ausgaben verstehen und richtig interpretieren können. In der Prüfung bedeutet das:

Gibt es eine verständliche Gebrauchsanweisung (Instructions for Use)?
Werden Betreiber über Einschränkungen, Versagensfälle und Unsicherheiten informiert?
Ist dokumentiert, für welche Zwecke das System nicht geeignet ist?

Ein typisches Risiko: Die Gebrauchsanweisung liegt nur auf Englisch vor, wird aber von Mitarbeitern ohne ausreichende Sprachkenntnisse genutzt. Der AI Act verlangt, dass die Informationen für Betreiber verständlich und zugänglich sind.

5. Menschliche Aufsicht (Art. 14)

Art. 14 ist das Prinzip, das viele KI-Projekte in der Praxis am stärksten verändert. Jedes Hochrisiko-KI-System muss so konzipiert sein, dass Menschen die Ausgaben effektiv überwachen, eingreifen und das System notfalls abschalten können.

Was Prüfer sehen wollen:

Gibt es benannte Personen mit klarer Aufsichtsfunktion?
Werden diese Personen regelmäßig geschult? (Verbindung zur KI-Kompetenz nach AI Act)
Gibt es einen dokumentierten Eskalationsprozess?
Kann das System bei kritischen Fehlern innerhalb definierter Zeit gestoppt werden?

Typische Audit-Findings: Was wirklich schiefgeht

Eine Prüfpraxis zum AI Act gibt es für Hochrisiko-KI noch nicht – Behörden prüfen diese Pflichten nicht vor dem 2. Dezember 2027. Aus Konformitätsbewertungen in anderen regulierten Bereichen (Medizinprodukte, Finanzaufsicht) lassen sich aber erwartbare Muster ableiten:

Finding	Erfahrungswert (andere Bereiche)	Konsequenz
Fehlende oder veraltete technische Dokumentation	Sehr häufig	Nicht-Konformität, Nachdokumentationspflicht
Kein nachweisbares Risikomanagementsystem	Häufig	Schwerwiegendes Finding, Fristsetzung
Menschliche Aufsicht auf dem Papier, nicht in der Praxis	Häufig	Prozessanpassung erforderlich
KI-Schulung nicht nachweisbar	Mittel	Fristsetzung für Nachschulung
DSFA fehlt trotz personenbezogener Daten	Mittel	Koordination mit Datenschutzbehörde
Anbieterdokumentation nicht eingeholt	Mittel	Nachhol-Pflicht, ggf. Vertragsanpassung

Was ein Audit nicht ist: Eine einmalige Momentaufnahme, nach der man sich zurücklehnen kann. Compliance ist ein laufender Prozess – Prüfer schauen explizit auf Revisionszyklen und Update-Protokolle.

Ihr 12-Wochen-Fahrplan zur Audit-Bereitschaft

Als Betreiber eingekaufter Systeme können Sie in drei Monaten prüfungsbereit sein. Als Anbieter, der Risikomanagement, technische Dokumentation und Qualitätsmanagement selbst aufbauen muss, sollten Sie eher 12 bis 18 Monate einplanen – bis Dezember 2027 bleibt dafür nicht viel Puffer. Der Weg gliedert sich in vier Phasen:

Phase 1: Inventar (Wochen 1–2)

Bevor Sie dokumentieren, müssen Sie wissen, was Sie dokumentieren. Erstellen Sie ein vollständiges KI-Inventar aller Systeme im Unternehmen. Fragen Sie pro System:

Wer ist Anbieter, wer Betreiber?
Für welchen Zweck wird das System eingesetzt?
Fällt es unter eine der Hochrisiko-Kategorien nach Annex III?
Werden personenbezogene Daten verarbeitet?

Unser Leitfaden zum KI-Inventar gibt Ihnen eine fertige Struktur dafür.

Phase 2: Lückenanalyse (Wochen 3–5)

Gleichen Sie Ihren Ist-Stand mit den gesetzlichen Anforderungen ab. Prüfen Sie für jedes Hochrisiko-System:

Liegt die technische Dokumentation des Anbieters vor?
Gibt es ein dokumentiertes Risikoassessment?
Sind Aufsichtspersonen benannt und geschult?
Ist eine DSFA erstellt (falls relevant)?

Dieser Schritt macht die eigentliche Arbeit sichtbar – und erlaubt eine realistische Priorisierung.

Phase 3: Dokumentation und Prozesse (Wochen 6–9)

Schließen Sie die identifizierten Lücken. Das bedeutet konkret:

Risikomanagementprozess aufsetzen oder formalisieren, Verantwortliche benennen
Technische Dokumentation vom Anbieter einfordern, fehlende Teile nachverhandeln
Schulungsnachweis für alle Personen mit KI-Aufsichtsfunktion dokumentieren
Betriebshandbücher und Eskalationsprozesse schriftlich fixieren

Für Unternehmen, die mehrere KI-Tools einsetzen: Priorisieren Sie nach Risiko. Beginnen Sie mit den Systemen, die Entscheidungen mit rechtlichen oder erheblich wirtschaftlichen Wirkungen unterstützen.

Phase 4: Interne Testprüfung (Wochen 10–12)

Führen Sie einen internen Mock-Audit durch: Eine Person, die nicht täglich mit dem Thema befasst ist, geht durch die Dokumentation und prüft, ob sie die regulatorischen Fragen beantworten kann – ohne telefonieren zu müssen.

Klassische Prüffragen für den Mock-Audit:

„Zeigen Sie mir das aktuelle Risikoassessment für System X.“
„Wer ist verantwortlich für die Aufsicht über dieses System?“
„Wann wurde diese Person zuletzt geschult? Wo ist das belegt?“
„Was passiert, wenn das System eine fehlerhafte Ausgabe produziert?“

Können diese Fragen innerhalb von 15 Minuten mit Belegen beantwortet werden? Dann sind Sie prüfungsbereit.

Diese 15 Minuten sind der eigentliche Prüfstein. Wer Inventar, Risikoassessments und Schulungsnachweise in getrennten Dateien führt, findet sie unter Zeitdruck nicht. Was ein Werkzeug leisten muss, damit die Belege im Prüfungsfall zusammenliegen, steht unter was eine AI-Act-Software leisten muss.

Was mit den Bußgeldern passiert, wenn Sie nicht prüfungsbereit sind

Der AI Act sieht bei Verstößen gegen die Anforderungen für Hochrisiko-KI-Systeme Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes vor (es gilt der höhere Betrag). Für KMUs gibt es Verhältnismäßigkeitsregeln – aber das bedeutet nicht, dass die Pflichten entfallen.

Eine detaillierte Übersicht der Bußgeldtatbestände finden Sie in unserem Artikel AI Act Bußgelder – Was Unternehmen wirklich droht.

Wichtig: Sanktionen setzen nicht erst bei einem Audit an. Schon das Fehlen der erforderlichen Dokumentation zum gesetzlichen Stichtag – für Annex-III-Systeme dem 2. Dezember 2027 – kann einen sanktionierbaren Verstoß darstellen.

Audit und DSGVO: Zwei Pflichten, eine Dokumentation

Viele Unternehmen stellen fest, dass sich AI Act Compliance und DSGVO-Dokumentation erheblich überschneiden. Wer bereits eine DSFA erstellt hat, hat wesentliche Teile der technischen Dokumentation schon erarbeitet. Wer ein Verarbeitungsverzeichnis führt, kennt seine KI-Systeme bereits.

Die kluge Strategie: Nicht zwei parallele Compliance-Silos aufbauen, sondern eine integrierte Dokumentation. Unser Artikel zu den Unterschieden zwischen AI Act und DSGVO zeigt, wo die Strukturen ineinandergreifen.

Fazit: Wer sich jetzt vorbereitet, hat den Vorteil

Ein AI Act Audit ist kein Zufallsereignis. Verbote, Transparenzpflichten und KI-Kompetenz sind schon seit August 2026 durchsetzbar; Hochrisiko-Pflichten können Behörden ab dem 2. Dezember 2027 prüfen. Die Frage ist nicht ob, sondern wann Ihr Unternehmen in den Fokus gerät. Und: Mit welchem Stand werden Sie dann angetroffen?

Die Vorbereitung ist machbar. Sie erfordert kein juristisches Sonderteam, aber sie erfordert Struktur, Zuständigkeiten und Konsequenz. Wer heute ein KI-Inventar hat, ein Risikomanagementsystem führt und Schulungsnachweise dokumentiert, ist in einer Position, die anderen fehlen wird.

Der wichtigste erste Schritt: Wissen, welche Ihrer KI-Systeme überhaupt unter die verschärften Pflichten fallen.