Konformitätsbewertung für Hochrisiko-KI – Was Sie wissen müssen
Konformitätsbewertung für Hochrisiko-KI ist Pflicht vor Inbetriebnahme. 9 von 10 KMU wissen es nicht. Risiko: bis 15 Mio. € Bußgeld.
9 von 10 KMU-Geschäftsführern wissen nicht, dass sie für bestimmte KI-Systeme eine formale Konformitätsbewertung durchführen müssen – bevor das System überhaupt in Betrieb geht. Kein nachträgliches Reparieren, kein “wir dokumentieren das später”. Wer eine Hochrisiko-KI auf den Markt bringt oder in Betrieb nimmt, ohne diesen Prozess abgeschlossen zu haben, riskiert Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes.
Die Konformitätsbewertung ist das Herzstück der AI Act Compliance für Hochrisiko-KI. Sie ist kein bürokratisches Formular – sondern ein strukturierter Nachweis, dass Ihr System die Anforderungen des EU AI Act erfüllt. Dieser Artikel erklärt, was die Bewertung umfasst, welche zwei Verfahrenswege es gibt und wie Sie als Unternehmen konkret vorgehen.
Was ist eine Konformitätsbewertung überhaupt?
Die Konformitätsbewertung (englisch: conformity assessment) ist das formale Verfahren, mit dem nachgewiesen wird, dass ein KI-System alle rechtlich vorgeschriebenen Anforderungen erfüllt. Das Konzept ist nicht neu – aus dem Produktrecht kennen es viele als CE-Kennzeichnung für Maschinen, Elektrogeräte oder Medizinprodukte.
Der AI Act überträgt dieses Prinzip auf KI-Systeme mit hohem Risikopotenzial. Das Ergebnis einer erfolgreichen Konformitätsbewertung ist:
- eine EU-Konformitätserklärung (Art. 47 AI Act)
- die CE-Kennzeichnung des Systems (Art. 48 AI Act)
- der Eintrag in die EU-Datenbank für Hochrisiko-KI (Art. 49 AI Act)
Erst dann darf das System in der EU in Verkehr gebracht oder in Betrieb genommen werden.
Wer ist betroffen? Ein Blick auf Hochrisiko-KI
Die Konformitätsbewertungspflicht trifft in erster Linie Anbieter (Providers) – also Unternehmen, die Hochrisiko-KI-Systeme entwickeln, in Verkehr bringen oder unter eigenem Namen vertreiben. Wer ein solches System einführt und intern als eigenständiges System nutzt, gilt ebenfalls als Anbieter.
Welche Systeme als Hochrisiko eingestuft sind, definiert Anhang III des AI Act. Dazu gehören unter anderem:
| Bereich | Beispiele |
|---|---|
| Biometrische Identifizierung | Gesichtserkennung, Emotionsanalyse |
| Kritische Infrastruktur | KI in Energieversorgung, Wasser, Verkehr |
| Bildung | Systeme zur Bewertung oder Prüfungsaufsicht |
| Beschäftigung und HR | Bewerber-Screening, Mitarbeiterbeurteilung |
| Wesentliche Dienstleistungen | Kredit-Scoring, Versicherungseinstufung |
| Strafverfolgung | Risikobewertung, Beweisanalyse |
| Migration | Grenzkontrollen, Asylentscheidungen |
| Rechtspflege | Entscheidungsunterstützung für Gerichte |
Wenn Sie unsicher sind, ob Ihr KI-System unter Anhang III fällt, empfiehlt sich zunächst eine systematische Bestandsaufnahme. Lesen Sie dazu unseren Artikel KI-Risikoklassen im Vergleich und die detaillierte Erklärung in Hochrisiko-KI nach Annex III erklärt.
Die zwei Verfahrenswege
Der AI Act sieht grundsätzlich zwei Wege für die Konformitätsbewertung vor. Welcher Weg gilt, hängt davon ab, in welchem Bereich das System eingesetzt wird.
Weg 1: Interne Kontrolle (Anhang VI)
Die große Mehrheit der Hochrisiko-KI-Systeme kann die Konformitätsbewertung intern durchführen – also ohne eine externe Prüfstelle einzuschalten. Das Verfahren ist in Anhang VI des AI Act geregelt.
Das Unternehmen prüft dabei selbst:
- ob alle in Kapitel III, Abschnitt 2 des AI Act genannten Anforderungen erfüllt sind
- ob die technische Dokumentation vollständig ist
- ob ein QM-System nach Art. 17 eingerichtet wurde
Das Ergebnis: Die verantwortliche Person unterschreibt die EU-Konformitätserklärung. Keine externe Zertifizierung erforderlich.
Wann gilt dieser Weg? Für alle Hochrisiko-Systeme aus Anhang III, die nicht in einem der Bereiche eingesetzt werden, für die zwingend eine Benannte Stelle (Notified Body) vorgeschrieben ist.
Weg 2: Prüfung durch Benannte Stelle (Anhang VII)
Für bestimmte besonders sensible Bereiche schreibt der AI Act vor, dass eine Benannte Stelle (Notified Body) eingeschaltet werden muss. Das betrifft insbesondere biometrische Systeme zur Fernidentifizierung von Personen, sofern sie nicht in den Strafverfolgungsbereich fallen und bestimmte Voraussetzungen erfüllt sind (Art. 43 Abs. 1).
Benannte Stellen sind staatlich akkreditierte Prüforganisationen – ähnlich dem TÜV im Maschinenbereich. Die Bewertung durch eine Benannte Stelle umfasst:
- Prüfung der Dokumentation durch die Stelle
- Musterprüfung des KI-Systems
- Ausstellung eines Zertifikats durch die Stelle (Laufzeit: max. 5 Jahre)
- Regelmäßige Überwachung nach Inverkehrbringen
Dieser Weg ist aufwendiger und kostspieliger – rechnen Sie mit mehreren Monaten Vorlaufzeit und je nach Komplexität mit fünfstelligen Kosten für die externe Prüfung.
Die Anforderungen, die bewertet werden
Egal welcher Weg gilt: Die inhaltlichen Anforderungen sind identisch. Ein Hochrisiko-KI-System muss folgende Kapitel-III-Anforderungen des AI Act nachweislich erfüllen:
1. Risikomanagementsystem (Art. 9)
Ein iterativer Risikomanagementprozess muss über den gesamten Lebenszyklus des Systems dokumentiert sein. Das umfasst: Identifikation bekannter und vorhersehbarer Risiken, Risikobewertung, Risikominderungsmaßnahmen und Restrisiken.
Praxis-Tipp: Dieser Prozess ist kein einmaliges Dokument. Er muss bei jeder wesentlichen Änderung am System aktualisiert werden.
2. Technische Dokumentation (Art. 11, Anhang IV)
Die technische Dokumentation ist das Rückgrat der Konformitätsbewertung. Sie muss mindestens enthalten:
- Allgemeine Beschreibung des Systems und seines Zwecks
- Beschreibung der Hardware und des Softwareumfelds
- Beschreibung der verwendeten Trainingsdaten und -methoden
- Leistungskennzahlen und Testverfahren
- Übersicht der Risikomanaßnahmen
- Informationen für Betreiber (Anweisungen zur Nutzung)
Für KMUs ist dieser Punkt häufig der aufwendigste. Wer die Dokumentation von Anfang an strukturiert anlegt, spart später erheblich Zeit.
3. Transparenz und Nutzerinformation (Art. 13)
Das System muss so gestaltet sein, dass Betreiber es verstehen und sachgemäß einsetzen können. Die Anweisungen zur Nutzung müssen unter anderem enthalten: Zweck, bekannte Einschränkungen, Leistungsniveau, Wartungsanforderungen.
4. Menschliche Aufsicht (Art. 14)
Das System muss so gestaltet sein, dass natürliche Personen die Ausgaben überwachen, verstehen und gegebenenfalls außer Kraft setzen können. Das ist besonders relevant für Systeme, die Entscheidungen vorbereiten – nicht nur ausführen.
5. Genauigkeit, Robustheit und Cybersicherheit (Art. 15)
Hochrisiko-KI muss gegen Fehler, Störungen und feindliche Eingriffe widerstandsfähig sein. Gefordert ist ein definiertes und dokumentiertes Leistungsniveau, das während des gesamten Lebenszyklus aufrechterhalten wird.
6. Qualitätsmanagementsystem (Art. 17)
Anbieter müssen ein QM-System einrichten, das den gesamten Lebenszyklus des KI-Systems abdeckt – von der Konzeption über Entwicklung und Test bis zum After-Market-Monitoring.
Schritt-für-Schritt: So gehen Sie vor
Hier ein praxisorientierter Ablauf für die Konformitätsbewertung nach dem internen Verfahren (Anhang VI):
Schritt 1: Klassifizierung bestätigen Prüfen Sie anhand von Anhang III, ob Ihr System wirklich Hochrisiko ist. Prüfen Sie zudem, ob eine Ausnahme greift (z. B. eng umgrenzte Nutzung, keine wesentliche Entscheidung).
Schritt 2: Gap-Analyse Gleichen Sie Ihren aktuellen Stand mit den sieben Anforderungskapiteln ab. Wo fehlt Dokumentation? Wo fehlen technische Maßnahmen?
Schritt 3: Anforderungen umsetzen Schließen Sie die identifizierten Lücken. Typische To-dos: Risikomanagementsystem aufbauen, technische Dokumentation erstellen, Nutzungsanweisungen verfassen, menschliche Aufsichtsmaßnahmen implementieren.
Schritt 4: Interne Prüfung Eine verantwortliche Person (typischerweise Geschäftsleitung oder AI Compliance Officer) prüft, ob alle Anforderungen erfüllt sind. Dies sollte dokumentiert werden.
Schritt 5: EU-Konformitätserklärung unterzeichnen Die Erklärung nach Art. 47 enthält: Name und Adresse des Anbieters, Name und Version des Systems, Erklärung der Konformität, Verweis auf die technische Dokumentation, Datum und Unterschrift.
Schritt 6: CE-Kennzeichnung und Datenbankregistrierung Das System erhält die CE-Kennzeichnung. Anbieter müssen das System vor Inverkehrbringen in der EU-Datenbank nach Art. 71 registrieren.
Laufende Pflichten nach der Bewertung
Die Konformitätsbewertung ist kein einmaliger Akt. Nach dem Inverkehrbringen gelten weitere Pflichten, die den Konformitätsstatus erhalten:
- Post-Market-Monitoring (Art. 72): Systematische Überwachung der Leistung im Realbetrieb
- Meldepflicht bei schwerwiegenden Vorfällen (Art. 73): Behörden müssen bei ernsthaften Vorfällen oder Fehlfunktionen informiert werden
- Dokumentationspflicht bei wesentlichen Änderungen: Jede substanzielle Änderung am System erfordert eine neue Bewertung
Außerdem: Die gesamte technische Dokumentation und die EU-Konformitätserklärung müssen 10 Jahre nach Inverkehrbringen aufbewahrt werden (Art. 18).
Was kostet eine Konformitätsbewertung?
Interne Kosten variieren stark je nach Komplexität des Systems und dem Ausgangszustand der Dokumentation. Als grobe Orientierung:
| Aufwand | Internes Verfahren | Mit Benannter Stelle |
|---|---|---|
| Erstmalige Umsetzung | 80–200 Stunden intern | + 20.000–80.000 € extern |
| Jährliche Pflege | 20–40 Stunden | Überwachungsgebühren |
| Externe Beratung | 5.000–20.000 € | Im externen Preis enthalten |
Für KMUs mit begrenzten Ressourcen empfiehlt sich ein strukturierter Einstieg: Erst das System klassifizieren, dann priorisieren, dann schrittweise dokumentieren. Ein vollständiger Compliance-Sprint in einem Zug ist selten notwendig – und selten sinnvoll.
Zum Vergleich: Die Bußgelder für das Inverkehrbringen ohne Konformitätsbewertung können ein Vielfaches dieser Kosten erreichen. Lesen Sie dazu AI Act Bußgelder – Was Unternehmen wirklich droht.
Fristen: Wann gilt die Pflicht?
Für Hochrisiko-KI nach Anhang III gilt die Konformitätsbewertungspflicht ab 2. Dezember 2027 (verschoben durch den Digital Omnibus) – dieser Termin gilt für alle neuen Systeme, die danach auf den Markt kommen. Systeme, die bereits vorher in Betrieb waren, profitieren je nach Kategorie von Übergangsfristen bis 2028.
Das klingt noch weit weg. In der Praxis zeigt sich: Wer im Sommer 2026 compliant sein will, muss spätestens jetzt beginnen. Die technische Dokumentation allein braucht in komplexen Projekten drei bis sechs Monate – und dann ist ein QM-System noch nicht aufgebaut.
Den vollständigen Zeitplan finden Sie in unserem Artikel AI Act Zeitplan und Fristen 2025-2027.
Fazit
Die Konformitätsbewertung für Hochrisiko-KI ist kein bürokratischer Luxus – sie ist die rechtlich vorgeschriebene Eintrittskarte für den europäischen Markt. Wer ein Hochrisiko-KI-System anbietet oder betreibt, kommt um diesen Prozess nicht herum.
Die gute Nachricht: Die meisten Systeme können das interne Verfahren nutzen – ohne teure externe Prüfstelle. Der Aufwand ist real, aber planbar. Wer jetzt strukturiert beginnt, ist rechtzeitig fertig und vermeidet die klassischen Compliance-Fehler: lückenhafte Dokumentation, fehlende Risikobewertung, keine Nutzungsanweisungen.
Der erste Schritt ist immer derselbe: Wissen, was man hat. Ein vollständiges KI-Inventar schafft die notwendige Grundlage – wie Sie das anlegen, erklärt KI-Inventar erstellen – Anleitung.
Wo steht Ihr Unternehmen bei der Konformitätsbewertung?
Der eu-konform.ai Risiko-Check analysiert Ihre KI-Systeme in unter 10 Minuten: Risikoklasse, Konformitätspflichten und konkreter Handlungsbedarf – strukturiert, verständlich, direkt umsetzbar.
Ist Ihr KI-Einsatz konform?
Kostenloser Risiko-Check in 5 Minuten – ohne Registrierung.
Jetzt prüfen