Konformitätsbewertung für Hochrisiko-KI – Was Sie wissen müssen

Viele KMU-Geschäftsführer wissen nicht, dass sie für bestimmte KI-Systeme eine formale Konformitätsbewertung durchführen müssen – bevor das System überhaupt in Betrieb geht. Kein nachträgliches Reparieren, kein „wir dokumentieren das später“. Wer eine Hochrisiko-KI auf den Markt bringt oder in Betrieb nimmt, ohne diesen Prozess abgeschlossen zu haben, riskiert Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes.

Die Konformitätsbewertung ist das Herzstück der AI Act Compliance für Hochrisiko-KI. Sie ist kein bürokratisches Formular – sondern ein strukturierter Nachweis, dass Ihr System die Anforderungen des EU AI Act erfüllt. Dieser Artikel erklärt, was die Bewertung umfasst, welche zwei Verfahrenswege es gibt und wie Sie als Unternehmen konkret vorgehen.

Was ist eine Konformitätsbewertung überhaupt?

Die Konformitätsbewertung (englisch: conformity assessment) ist das formale Verfahren, mit dem nachgewiesen wird, dass ein KI-System alle rechtlich vorgeschriebenen Anforderungen erfüllt. Das Konzept ist nicht neu – aus dem Produktrecht kennen es viele als CE-Kennzeichnung für Maschinen, Elektrogeräte oder Medizinprodukte.

Der AI Act überträgt dieses Prinzip auf KI-Systeme mit hohem Risikopotenzial. Das Ergebnis einer erfolgreichen Konformitätsbewertung ist:

eine EU-Konformitätserklärung (Art. 47 AI Act)
die CE-Kennzeichnung des Systems (Art. 48 AI Act)
der Eintrag in die EU-Datenbank für Hochrisiko-KI (Art. 49 AI Act)

Erst dann darf das System in der EU in Verkehr gebracht oder in Betrieb genommen werden.

Wer ist betroffen? Ein Blick auf Hochrisiko-KI

Die Konformitätsbewertungspflicht trifft in erster Linie Anbieter (Providers) – also Unternehmen, die Hochrisiko-KI-Systeme entwickeln, in Verkehr bringen oder unter eigenem Namen vertreiben. Wer ein solches System selbst entwickelt oder entwickeln lässt und unter eigenem Namen in Betrieb nimmt – auch nur für den internen Gebrauch –, gilt ebenfalls als Anbieter.

Welche Systeme als Hochrisiko eingestuft sind, definiert Anhang III des AI Act. Dazu gehören unter anderem:

Bereich	Beispiele
Biometrische Identifizierung	Gesichtserkennung, Emotionsanalyse
Kritische Infrastruktur	KI in Energieversorgung, Wasser, Verkehr
Bildung	Systeme zur Bewertung oder Prüfungsaufsicht
Beschäftigung und HR	Bewerber-Screening, Mitarbeiterbeurteilung
Wesentliche Dienstleistungen	Kredit-Scoring, Versicherungseinstufung
Strafverfolgung	Risikobewertung, Beweisanalyse
Migration	Grenzkontrollen, Asylentscheidungen
Rechtspflege	Entscheidungsunterstützung für Gerichte

Wenn Sie unsicher sind, ob Ihr KI-System unter Anhang III fällt, empfiehlt sich zunächst eine systematische Bestandsaufnahme. Lesen Sie dazu unseren Artikel KI-Risikoklassen im Vergleich und die detaillierte Erklärung in Hochrisiko-KI nach Annex III erklärt.

Die zwei Verfahrenswege

Der AI Act sieht grundsätzlich zwei Wege für die Konformitätsbewertung vor. Welcher Weg gilt, hängt davon ab, in welchem Bereich das System eingesetzt wird.

Weg 1: Interne Kontrolle (Anhang VI)

Die große Mehrheit der Hochrisiko-KI-Systeme kann die Konformitätsbewertung intern durchführen – also ohne eine externe Prüfstelle einzuschalten. Das Verfahren ist in Anhang VI des AI Act geregelt.

Das Unternehmen prüft dabei selbst:

ob alle in Kapitel III, Abschnitt 2 des AI Act genannten Anforderungen erfüllt sind
ob die technische Dokumentation vollständig ist
ob ein QM-System nach Art. 17 eingerichtet wurde

Das Ergebnis: Die verantwortliche Person unterschreibt die EU-Konformitätserklärung. Keine externe Zertifizierung erforderlich.

Wann gilt dieser Weg? Für alle Hochrisiko-Systeme aus Anhang III Nr. 2 bis 8 ist er zwingend vorgeschrieben (Art. 43 Abs. 2). Bei biometrischen Systemen (Anhang III Nr. 1) steht er nur offen, wenn harmonisierte Normen bzw. gemeinsame Spezifikationen vollständig angewendet wurden.

Weg 2: Prüfung durch Benannte Stelle (Anhang VII)

In bestimmten Fällen muss eine Benannte Stelle (Notified Body) eingeschaltet werden. Das betrifft biometrische Systeme nach Anhang III Nr. 1, wenn der Anbieter keine harmonisierten Normen oder gemeinsamen Spezifikationen bzw. diese nur teilweise angewendet hat (Art. 43 Abs. 1). Sollen solche Systeme von Strafverfolgungs-, Einwanderungs- oder Asylbehörden eingesetzt werden, übernimmt die Marktüberwachungsbehörde die Rolle der Benannten Stelle. Für Hochrisiko-KI in Produkten nach Anhang I Abschnitt A (z. B. Medizinprodukte) richtet sich das Verfahren nach dem jeweiligen Produktrecht (Art. 43 Abs. 3).

Benannte Stellen sind staatlich akkreditierte Prüforganisationen – ähnlich dem TÜV im Maschinenbereich. Die Bewertung durch eine Benannte Stelle umfasst:

Bewertung des Qualitätsmanagementsystems durch die Stelle
Bewertung der technischen Dokumentation
Ausstellung eines Zertifikats durch die Stelle (Laufzeit: max. 4 Jahre bei Anhang-III-Systemen, max. 5 Jahre bei Anhang-I-Systemen, Art. 44)
Regelmäßige Überwachung nach Inverkehrbringen

Dieser Weg ist aufwendiger und kostspieliger – rechnen Sie mit mehreren Monaten Vorlaufzeit und je nach Komplexität mit fünfstelligen Kosten für die externe Prüfung.

Die Anforderungen, die bewertet werden

Egal welcher Weg gilt: Die inhaltlichen Anforderungen sind identisch. Ein Hochrisiko-KI-System muss folgende Kapitel-III-Anforderungen des AI Act nachweislich erfüllen:

1. Risikomanagementsystem (Art. 9)

Ein iterativer Risikomanagementprozess muss über den gesamten Lebenszyklus des Systems dokumentiert sein. Das umfasst: Identifikation bekannter und vorhersehbarer Risiken, Risikobewertung, Risikominderungsmaßnahmen und Restrisiken.

Praxis-Tipp: Dieser Prozess ist kein einmaliges Dokument. Er muss bei jeder wesentlichen Änderung am System aktualisiert werden.

2. Technische Dokumentation (Art. 11, Anhang IV)

Die technische Dokumentation ist das Rückgrat der Konformitätsbewertung. Sie muss mindestens enthalten:

Allgemeine Beschreibung des Systems und seines Zwecks
Beschreibung der Hardware und des Softwareumfelds
Beschreibung der verwendeten Trainingsdaten und -methoden
Leistungskennzahlen und Testverfahren
Übersicht der Risikomanaßnahmen
Informationen für Betreiber (Anweisungen zur Nutzung)

Für KMUs ist dieser Punkt häufig der aufwendigste. Wer die Dokumentation von Anfang an strukturiert anlegt, spart später erheblich Zeit.

3. Transparenz und Nutzerinformation (Art. 13)

Das System muss so gestaltet sein, dass Betreiber es verstehen und sachgemäß einsetzen können. Die Anweisungen zur Nutzung müssen unter anderem enthalten: Zweck, bekannte Einschränkungen, Leistungsniveau, Wartungsanforderungen.

4. Menschliche Aufsicht (Art. 14)

Das System muss so gestaltet sein, dass natürliche Personen die Ausgaben überwachen, verstehen und gegebenenfalls außer Kraft setzen können. Das ist besonders relevant für Systeme, die Entscheidungen vorbereiten – nicht nur ausführen.

5. Genauigkeit, Robustheit und Cybersicherheit (Art. 15)

Hochrisiko-KI muss gegen Fehler, Störungen und feindliche Eingriffe widerstandsfähig sein. Gefordert ist ein definiertes und dokumentiertes Leistungsniveau, das während des gesamten Lebenszyklus aufrechterhalten wird.

6. Qualitätsmanagementsystem (Art. 17)

Anbieter müssen ein QM-System einrichten, das den gesamten Lebenszyklus des KI-Systems abdeckt – von der Konzeption über Entwicklung und Test bis zum After-Market-Monitoring.

Schritt-für-Schritt: So gehen Sie vor

Hier ein praxisorientierter Ablauf für die Konformitätsbewertung nach dem internen Verfahren (Anhang VI):

Schritt 1: Klassifizierung bestätigen Prüfen Sie anhand von Anhang III, ob Ihr System wirklich Hochrisiko ist. Prüfen Sie zudem, ob eine Ausnahme greift (z. B. eng umgrenzte Nutzung, keine wesentliche Entscheidung).

Schritt 2: Gap-Analyse Gleichen Sie Ihren aktuellen Stand mit den sieben Anforderungskapiteln ab. Wo fehlt Dokumentation? Wo fehlen technische Maßnahmen?

Schritt 3: Anforderungen umsetzen Schließen Sie die identifizierten Lücken. Typische To-dos: Risikomanagementsystem aufbauen, technische Dokumentation erstellen, Nutzungsanweisungen verfassen, menschliche Aufsichtsmaßnahmen implementieren.

Schritt 4: Interne Prüfung Eine verantwortliche Person (typischerweise Geschäftsleitung oder AI Compliance Officer) prüft, ob alle Anforderungen erfüllt sind. Dies sollte dokumentiert werden.

Schritt 5: EU-Konformitätserklärung unterzeichnen Die Erklärung nach Art. 47 enthält: Name und Adresse des Anbieters, Name und Version des Systems, Erklärung der Konformität, Verweis auf die technische Dokumentation, Datum und Unterschrift.

Schritt 6: CE-Kennzeichnung und Datenbankregistrierung Das System erhält die CE-Kennzeichnung. Anbieter müssen das System vor Inverkehrbringen in der EU-Datenbank nach Art. 71 registrieren.

Der Aufwand liegt weniger in der Bewertung selbst als in den Unterlagen, die sie voraussetzt. Was ein Werkzeug dafür können muss, steht unter was eine AI-Act-Software leisten muss.

Laufende Pflichten nach der Bewertung

Die Konformitätsbewertung ist kein einmaliger Akt. Nach dem Inverkehrbringen gelten weitere Pflichten, die den Konformitätsstatus erhalten:

Post-Market-Monitoring (Art. 72): Systematische Überwachung der Leistung im Realbetrieb
Meldepflicht bei schwerwiegenden Vorfällen (Art. 73): Behörden müssen bei ernsthaften Vorfällen oder Fehlfunktionen informiert werden
Dokumentationspflicht bei wesentlichen Änderungen: Jede substanzielle Änderung am System erfordert eine neue Bewertung

Außerdem: Die gesamte technische Dokumentation und die EU-Konformitätserklärung müssen 10 Jahre nach Inverkehrbringen aufbewahrt werden (Art. 18).

Was kostet eine Konformitätsbewertung?

Interne Kosten variieren stark je nach Komplexität des Systems und dem Ausgangszustand der Dokumentation. Als grobe Orientierung:

Aufwand	Internes Verfahren	Mit Benannter Stelle
Erstmalige Umsetzung	80–200 Stunden intern	+ 20.000–80.000 € extern
Jährliche Pflege	20–40 Stunden	Überwachungsgebühren
Externe Beratung	5.000–20.000 €	Im externen Preis enthalten

Für KMUs mit begrenzten Ressourcen empfiehlt sich ein strukturierter Einstieg: Erst das System klassifizieren, dann priorisieren, dann schrittweise dokumentieren. Ein vollständiger Compliance-Sprint in einem Zug ist selten notwendig – und selten sinnvoll.

Zum Vergleich: Die Bußgelder für das Inverkehrbringen ohne Konformitätsbewertung können ein Vielfaches dieser Kosten erreichen. Lesen Sie dazu AI Act Bußgelder – Was Unternehmen wirklich droht.

Diese Beträge betreffen die externe Prüfung selbst. Die laufende Dokumentation daneben schlägt weit geringer zu Buche, wie Preise und Leistungsumfang zeigen.

Fristen: Wann gilt die Pflicht?

Für Hochrisiko-KI nach Anhang III gilt die Konformitätsbewertungspflicht ab dem 2. Dezember 2027, für Hochrisiko-KI in Produkten nach Anhang I ab dem 2. August 2028. Beide Termine hat der Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) als feste Daten gesetzt. Systeme, die bereits vor diesen Terminen in Verkehr gebracht oder in Betrieb genommen wurden, fallen nur dann unter die Hochrisiko-Pflichten, wenn sie danach wesentlich geändert werden (Art. 111 Abs. 2). Ausnahme: Hochrisiko-Systeme, die von Behörden genutzt werden sollen, müssen spätestens bis 2. August 2030 konform sein.

Das klingt noch weit weg. In der Praxis zeigt sich: Wer im Dezember 2027 compliant sein will, sollte jetzt beginnen. Die technische Dokumentation allein braucht in komplexen Projekten drei bis sechs Monate – und dann ist ein QM-System noch nicht aufgebaut.

Den vollständigen Zeitplan finden Sie in unserem Artikel AI Act Zeitplan und Fristen 2025-2027.

Fazit

Die Konformitätsbewertung für Hochrisiko-KI ist kein bürokratischer Luxus – sie ist die rechtlich vorgeschriebene Eintrittskarte für den europäischen Markt. Wer ein Hochrisiko-KI-System anbietet, kommt um diesen Prozess nicht herum. Wer es nur betreibt, sollte sich den Nachweis vom Anbieter vorlegen lassen.

Die gute Nachricht: Die meisten Systeme können das interne Verfahren nutzen – ohne teure externe Prüfstelle. Der Aufwand ist real, aber planbar. Wer jetzt strukturiert beginnt, ist rechtzeitig fertig und vermeidet die klassischen Compliance-Fehler: lückenhafte Dokumentation, fehlende Risikobewertung, keine Nutzungsanweisungen.

Der erste Schritt ist immer derselbe: Wissen, was man hat. Ein vollständiges KI-Inventar schafft die notwendige Grundlage – wie Sie das anlegen, erklärt KI-Inventar erstellen – Anleitung.

Wo steht Ihr Unternehmen bei der Konformitätsbewertung?