Hochrisiko-KI erkennen – Annex III des AI Acts einfach erklärt

Update Juli 2026 – Digital Omnibus in Kraft: Mit der Verordnung (EU) 2026/1744 (in Kraft seit 27. Juli 2026) gelten die Pflichten für Hochrisiko-KI nach Annex III ab dem 2. Dezember 2027 statt wie ursprünglich geplant ab August 2026, für Hochrisiko-KI nach Annex I ab dem 2. August 2028 – feste Termine. KI-Systeme, die per Art. 6(3) als nicht hochriskant eingestuft werden, müssen weiterhin registriert werden, allerdings mit vereinfachten Angaben.

Die wichtigste Frage bei der AI-Act-Compliance lautet: Ist mein KI-System Hochrisiko – oder nicht?

Davon hängt alles ab. Minimales oder begrenztes Risiko? Überschaubare Pflichten, hauptsächlich Transparenz (seit August 2026). Hochrisiko? Dann wird es ernst – ab Dezember 2027: Risikomanagement, technische Dokumentation, menschliche Aufsicht, Qualitätsmanagement, Registrierung in einer EU-Datenbank, und möglicherweise eine Konformitätsbewertung.

Die Antwort steht im Annex III des AI Acts – einer Liste von acht Bereichen, in denen KI-Systeme automatisch als Hochrisiko gelten. Klingt einfach. Ist es aber nicht, denn die Liste ist allgemein formuliert und lässt viel Interpretationsspielraum.

Dieser Artikel macht Annex III verständlich.

Wann ist ein KI-System Hochrisiko?

Der AI Act kennt zwei Wege zur Hochrisiko-Einstufung:

Weg 1: Annex III – Das KI-System wird in einem der acht gelisteten Bereiche eingesetzt UND trifft Entscheidungen oder beeinflusst Entscheidungen, die erhebliche Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte haben.

Weg 2: Produktsicherheit (Annex I) – Das KI-System ist ein Sicherheitsbauteil eines Produkts (oder selbst ein Produkt), das unter bestehende EU-Harmonisierungsrechtsvorschriften fällt (z. B. Medizinprodukte, Spielzeug, Aufzüge) und eine Konformitätsbewertung durch Dritte durchlaufen muss. Hier gelten die Hochrisiko-Pflichten ab dem 2. August 2028. Seit dem Digital Omnibus ist der Begriff des Sicherheitsbauteils enger: KI, die nur der Nutzerunterstützung, Leistungs- oder Effizienzoptimierung dient, zählt nicht dazu. Maschinen wurden in Annex I Abschnitt B verschoben – für KI in Maschinen gelten die Anforderungen künftig über die Maschinenverordnung, nicht direkt über den AI Act.

Für die meisten Unternehmen ist Weg 1 (Annex III) der relevante. Schauen wir uns die acht Bereiche an.

Die 8 Hochrisiko-Bereiche des Annex III

1. Biometrie

Was ist gemeint: KI-Systeme zur biometrischen Identifizierung oder Kategorisierung von Personen.

Konkret:

• Gesichtserkennung zur Identifizierung (nicht nur Entsperrung des eigenen Handys)
• Emotionserkennung (am Arbeitsplatz und in Bildungseinrichtungen ist sie sogar verboten, siehe unten)
• Biometrische Kategorisierung nach sensiblen oder geschützten Merkmalen (Rückschlüsse auf Rasse, politische Überzeugung, Gewerkschaftszugehörigkeit, Religion oder sexuelle Orientierung sind nach Art. 5 verboten)

Praxis-Beispiele:

• ✅ Hochrisiko: Kamerasystem im Einzelhandel, das Kunden per Gesichtserkennung identifiziert
• ⛔ Verboten (Art. 5): Software, die Emotionen von Bewerbern im Videointerview analysiert
• ❌ Nicht Hochrisiko: Face-ID auf dem Firmenhandy (persönliche Gerätenutzung)
• ❌ Nicht Hochrisiko: Altersverifikation zur Zugangskontrolle (Schutzfunktion, nicht Kategorisierung)

Achtung: Einige biometrische Anwendungen sind nicht nur Hochrisiko, sondern nach Art. 5 komplett verboten – z. B. biometrische Echtzeit-Fernidentifizierung in öffentlichen Räumen zu Strafverfolgungszwecken (mit engen Ausnahmen) oder Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen.

2. Kritische Infrastruktur

Was ist gemeint: KI-Systeme als Sicherheitsbauteile bei der Verwaltung und dem Betrieb kritischer Infrastruktur.

Konkret:

• Straßenverkehr, Wasser-, Gas-, Strom- und Wärmeversorgung
• Digitale Infrastruktur (Telekommunikationsnetze)

Praxis-Beispiele:

• ✅ Hochrisiko: KI-System, das den Stromfluss in einem Verteilernetz steuert
• ✅ Hochrisiko: Autonomes Verkehrsleitsystem für eine Stadtautobahn
• ❌ Nicht Hochrisiko: Google Maps Routenplanung (kein Sicherheitsbauteil)
• ❌ Nicht Hochrisiko: Smart-Home-Heizungssteuerung (keine kritische Infrastruktur)

Für KMUs: Dieser Bereich betrifft hauptsächlich Versorger, Netzbetreiber und Infrastruktur-Dienstleister. Wenn Sie nicht in dieser Branche sind, ist er für Sie irrelevant.

3. Bildung und Berufsausbildung

Was ist gemeint: KI-Systeme, die über den Zugang zu Bildung, Bewertung von Lernleistungen oder das Bildungsniveau von Personen entscheiden oder diese wesentlich beeinflussen.

Konkret:

• Automatische Bewertung von Prüfungen (wenn die Note Konsequenzen hat)
• KI-gestützte Zulassungsentscheidungen (Uni, Schule, Ausbildung)
• Systeme, die den Bildungsweg einer Person steuern
• Proctoring-Software (KI-überwachte Online-Prüfungen)

Praxis-Beispiele:

• ✅ Hochrisiko: KI-System einer Uni, das Studienbewerber vorfiltert
• ✅ Hochrisiko: Automatische Benotung schriftlicher Prüfungen
• ✅ Hochrisiko: Proctoring-Tool, das Betrugsversuche in Prüfungen erkennt
• ❌ Nicht Hochrisiko: E-Learning-Plattform mit personalisierten Empfehlungen (keine Bewertungsentscheidung)
• ❌ Nicht Hochrisiko: KI-Tutor, der Übungsaufgaben erstellt (unterstützend, nicht bewertend)

4. Beschäftigung und Personalwesen

Was ist gemeint: KI-Systeme für Personalentscheidungen – Einstellung, Beförderung, Kündigung, Aufgabenverteilung, Leistungsbewertung.

Das ist für viele KMUs der relevanteste Bereich. Sobald KI Einfluss auf Personalentscheidungen nimmt, sind Sie im Hochrisiko-Bereich.

Konkret:

• Automatisiertes Bewerber-Screening und CV-Parsing
• KI-gestützte Vorauswahl von Kandidaten
• Leistungsbewertung von Mitarbeitern durch KI
• Entscheidungen über Beförderung oder Kündigung
• Aufgabenverteilung basierend auf KI-Analyse
• Überwachung von Mitarbeiterverhalten und -leistung

Praxis-Beispiele:

• ✅ Hochrisiko: Recruiting-Tool, das Bewerbungen automatisch vorsortiert
• ✅ Hochrisiko: KI, die Mitarbeiter-Performance-Scores berechnet
• ✅ Hochrisiko: System, das Schichtpläne basierend auf KI-Bewertung erstellt
• ❌ Nicht Hochrisiko: LinkedIn Recruiter als Suchtool (Mensch entscheidet komplett)
• ❌ Nicht Hochrisiko: KI-generierte Stellenanzeigen (Texterstellung, keine Personalentscheidung)

Wichtig: Auch wenn Sie nur ein KI-Tool eines Drittanbieters nutzen (z. B. Personio mit KI-Features, SAP SuccessFactors) – als Betreiber haben Sie eigene Pflichten. Der Anbieter muss das System konform bauen, aber Sie müssen es konform nutzen.

5. Zugang zu wesentlichen Dienstleistungen

Was ist gemeint: KI-Systeme, die den Zugang zu oder die Inanspruchnahme wesentlicher öffentlicher und privater Dienstleistungen beeinflussen.

Konkret:

• Kreditwürdigkeit: KI-basiertes Kredit-Scoring natürlicher Personen
• Versicherung: KI-gestützte Risikobewertung und Prämienberechnung bei Lebens- und Krankenversicherungen
• Notdienste: KI-Systeme, die Notrufe priorisieren oder weiterleiten
• Sozialleistungen: KI-Systeme, die über Leistungsansprüche entscheiden

Praxis-Beispiele:

• ✅ Hochrisiko: Bank-KI, die Kreditanträge bewertet oder vorselektiert
• ✅ Hochrisiko: Versicherungs-KI, die Prämien individuell berechnet
• ✅ Hochrisiko: Algorithmus, der Sozialleistungsanträge vorsortiert
• ❌ Nicht Hochrisiko: KI-basierte Produktempfehlung in einem Online-Shop (keine wesentliche Dienstleistung)
• ❌ Nicht Hochrisiko: Chatbot einer Bank für FAQs (keine Kreditentscheidung)

6. Strafverfolgung

Was ist gemeint: KI-Systeme, die von Strafverfolgungsbehörden eingesetzt werden.

Konkret: Lügendetektoren, Beweisbewertung, Rückfallprognosen, Profiling, Tatortanalyse.

Für KMUs: In der Regel nicht relevant – es sei denn, Sie entwickeln Software für Polizei oder Justiz.

7. Migration, Asyl und Grenzkontrolle

Was ist gemeint: KI-Systeme bei der Verwaltung von Migration und Grenzkontrolle.

Konkret: Risikobewertung bei Einreise, automatisierte Prüfung von Visumanträgen, Dokumentenerkennung.

Für KMUs: Nur relevant, wenn Sie Behörden-Software in diesem Bereich entwickeln.

8. Rechtspflege und demokratische Prozesse

Was ist gemeint: KI-Systeme, die Gerichte oder Behörden bei der Auslegung von Gesetzen oder der Anwendung auf Sachverhalte unterstützen.

Konkret: KI-gestützte Urteilsvorschläge, automatische Rechtsrecherche mit Entscheidungseinfluss, KI-Systeme die Wahlprozesse beeinflussen.

Für KMUs: Hauptsächlich relevant für Legal-Tech-Anbieter, die Systeme für Gerichte, Justizbehörden oder die alternative Streitbeilegung bauen. Eine Rechtsberatungs-App für Verbraucher fällt in der Regel nicht darunter – entscheidend ist der Einsatz durch oder im Auftrag der Justiz.

Die Ausnahme: Art. 6 Abs. 3

Wichtiger Schlüssel: Nicht jedes KI-System in einem Annex-III-Bereich ist automatisch Hochrisiko. Art. 6 Abs. 3 sieht eine Ausnahme vor: Ein KI-System gilt trotz Annex-III-Zugehörigkeit nicht als Hochrisiko, wenn es:

1. Eine eng begrenzte verfahrenstechnische Aufgabe ausführt (z. B. Dokumentenformatierung)
2. Das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit nur verbessert (z. B. Rechtschreibkorrektur in einem Bericht)
3. Nur Entscheidungsmuster oder Abweichungen von früheren Mustern erkennt und die zuvor abgeschlossene menschliche Bewertung nicht ohne angemessene menschliche Überprüfung ersetzen oder beeinflussen soll
4. Nur eine vorbereitende Aufgabe für eine Bewertung ausführt, die in einem Annex-III-Bereich relevant ist

Aber: Führt das System ein Profiling natürlicher Personen durch, gilt es immer als Hochrisiko – die Ausnahme greift dann nicht.

Beispiel: Eine KI, die in einer Personalabteilung nur Lebensläufe nach Format sortiert (nicht bewertet!) könnte unter diese Ausnahme fallen. Aber Vorsicht: Die Ausnahme ist eng auszulegen. Der Anbieter muss vor dem Inverkehrbringen dokumentieren, warum sie greift, und das System trotzdem – mit vereinfachten Angaben – in der EU-Datenbank registrieren. Behörden können die Dokumentation anfordern.

Pflichten für Hochrisiko-KI im Überblick

Wenn Ihr KI-System als Hochrisiko eingestuft ist, gelten folgende Pflichten (Annex III ab 2. Dezember 2027, Annex I ab 2. August 2028):

Für Anbieter (Entwickler):

• Risikomanagementsystem (Art. 9)
• Daten-Governance & Trainings-Datenqualität (Art. 10)
• Technische Dokumentation (Art. 11)
• Automatische Protokollierung (Art. 12)
• Transparenz & Gebrauchsanweisung (Art. 13)
• Menschliche Aufsicht ermöglichen (Art. 14)
• Genauigkeit, Robustheit, Cybersicherheit (Art. 15)
• Qualitätsmanagementsystem (Art. 17)
• Konformitätsbewertung (Art. 43)
• CE-Kennzeichnung (Art. 48)
• EU-Datenbank-Registrierung (Art. 49, nur Annex III)

Für Betreiber (Nutzer in Unternehmen):

• System gemäß Gebrauchsanweisung nutzen (Art. 26)
• Menschliche Aufsicht durch kompetentes Personal sicherstellen (Art. 26)
• Eingabedaten überwachen (Art. 26)
• Logs aufbewahren (Art. 26)
• Grundrechte-Folgenabschätzung (Art. 27) – für bestimmte Betreiber
• Schwerwiegende Vorfälle melden (Art. 26)

Graubereiche und Praxis-Tipps

Graubereich 1: KI-Feature in größerer Software SAP, Salesforce, Microsoft 365 – alle bauen KI-Features ein. Ist das ganze System Hochrisiko, oder nur das KI-Feature? Antwort: Nur das KI-Feature, wenn es sich klar abgrenzen lässt. Aber als Betreiber sollten Sie wissen, welche KI-Features aktiviert sind.

Graubereich 2: Unterstützend vs. entscheidend Ein KI-System, das nur Vorschläge macht, ist nicht automatisch Hochrisiko. Entscheidend ist, ob ein Mensch die Vorschläge faktisch immer übernimmt (de facto automatisierte Entscheidung) oder tatsächlich unabhängig entscheidet.

Graubereich 3: Intern vs. extern KI-System nur für interne Analyse ohne Auswirkung auf natürliche Personen? Wahrscheinlich nicht Hochrisiko. Sobald die Analyse Entscheidungen über Menschen beeinflusst (Kunden, Bewerber, Mitarbeiter), kann sich das ändern.

Praxis-Tipp: Im Zweifelsfall konservativ einordnen. Lieber ein System als Hochrisiko behandeln, das keines ist, als umgekehrt. Die Bußgelder für falsche Risikoklassifizierung liegen bei bis zu 15 Mio. € oder 3 % des Jahresumsatzes.

In den Graubereichen hilft keine Faustregel, sondern nur die Einzelfallprüfung je System. Inventar und Risikoklasse an einer Stelle führt Sie durch diese Prüfung, ohne dass Sie eine eigene Systematik entwerfen müssen.

Fazit

Annex III ist das Herzstück der Hochrisiko-Einstufung im AI Act. Für die meisten KMUs sind die Bereiche 3 (Bildung), 4 (Personal) und 5 (Kreditwürdigkeit/Versicherung) am relevantesten. Die Bereiche 6-8 (Strafverfolgung, Migration, Rechtspflege) betreffen hauptsächlich Behörden und deren Zulieferer.

Die entscheidende Frage ist immer: Trifft oder beeinflusst Ihr KI-System Entscheidungen, die erhebliche Auswirkungen auf Menschen haben? Wenn ja, sind Sie wahrscheinlich im Hochrisiko-Bereich.