Risikomanagement-System nach AI Act – Schritt-für-Schritt-Anleitung

Update Mai 2026 – Digital Omnibus on AI: Durch den Digital Omnibus wurde die Frist für Hochrisiko-KI-Pflichten auf den 2. Dezember 2027 verschoben. Das Risikomanagement-System ist weiterhin Pflicht, aber Sie haben mehr Zeit für die Umsetzung.

73 Prozent der KMUs, die Hochrisiko-KI einsetzen, haben noch kein dokumentiertes Risikomanagement-System. Ab dem 2. Dezember 2027 ist das Pflicht – und das Fehlen kann Bußgelder von bis zu 3 Prozent des weltweiten Jahresumsatzes nach sich ziehen.

Das Risikomanagement-System nach Artikel 9 AI Act ist keine bürokratische Übung. Es ist das Herzstück der AI-Act-Compliance für alle Anbieter und Betreiber von Hochrisiko-KI-Systemen. Und es ist komplexer als eine einfache Risikoliste – aber auch kein unlösbares Puzzle, wenn man weiß, wie man vorgeht.

Diese Schritt-für-Schritt-Anleitung zeigt Ihnen, wie ein rechtskonformes Risikomanagement-System aussieht, was der AI Act konkret fordert und wie Sie es in Ihrem Unternehmen umsetzen.

Was ist das Risikomanagement-System nach AI Act überhaupt?

Bevor wir in die Praxis gehen: Das Risikomanagement-System nach Artikel 9 AI Act ist kein einmaliges Dokument, das Sie einmal erstellen und dann in der Schublade verschwinden lassen. Der AI Act fordert ausdrücklich einen kontinuierlichen, iterativen Prozess, der den gesamten Lebenszyklus eines KI-Systems begleitet – von der Entwicklung über den Betrieb bis zur Außerbetriebnahme.

Das bedeutet: Risikoidentifikation, -bewertung, -kontrolle und -monitoring müssen systematisch und laufend stattfinden.

Für wen gilt die Pflicht?

Das Risikomanagement-System nach Artikel 9 gilt für Anbieter von Hochrisiko-KI-Systemen – also Unternehmen, die solche Systeme entwickeln oder in Verkehr bringen. Betreiber (Deployer) trifft die Pflicht nur in bestimmten Konstellationen, insbesondere wenn sie das KI-System wesentlich verändern.

Ob Ihr KI-System überhaupt als Hochrisiko eingestuft ist, erklärt unser Artikel Hochrisiko-KI nach Annex III erklärt. Und einen Überblick über alle Risikoklassen bietet KI-Risikoklassen im Vergleich.

Die 4 Kernelemente des Risikomanagement-Systems

Artikel 9 AI Act definiert vier Pflichtbestandteile, die jedes Risikomanagement-System abdecken muss:

Pflichtelement	Beschreibung
Risikoidentifikation	Bekannte und vernünftigerweise vorhersehbare Risiken ermitteln
Risikoabschätzung	Auftrittswahrscheinlichkeit und Schwere der Risiken bewerten
Risikokontrolle	Geeignete Maßnahmen zur Risikominimierung ergreifen
Restrisiko-Evaluation	Nach Maßnahmen verbleibende Risiken neu bewerten und dokumentieren

Hinzu kommt die Pflicht zur Systemtestung – das KI-System muss getestet werden, um sicherzustellen, dass es seinen vorgesehenen Zweck erfüllt und die identifizierten Risiken tatsächlich kontrolliert werden.

Schritt-für-Schritt-Anleitung: So bauen Sie Ihr Risikomanagement-System

Schritt 1: Geltungsbereich und Verantwortlichkeiten klären

Bevor Sie mit der eigentlichen Risikoarbeit beginnen, brauchen Sie Klarheit über:

Welches KI-System ist Gegenstand des Risikomanagements? (Ein System, eine Produktfamilie, ein Modul?)
Wer ist verantwortlich? Benennen Sie eine verantwortliche Person oder Stelle – in KMUs oft der Geschäftsführer oder ein benannter KI-Beauftragter.
Welcher Lebenszyklus-Abschnitt wird betrachtet? (Entwicklung, Markteinführung, laufender Betrieb?)

Dokumentieren Sie diese Grundlagen in einem Scope-Dokument – es ist der Anker Ihres gesamten Risikomanagement-Systems und der erste Prüfpunkt bei einer behördlichen Kontrolle.

Schritt 2: Risikoidentifikation durchführen

Jetzt geht es ans Eingemachte: Sie müssen alle bekannten und vernünftigerweise vorhersehbaren Risiken identifizieren, die aus der Nutzung Ihres KI-Systems entstehen können. Der AI Act nennt dabei zwei Hauptkategorien:

Risiken für Gesundheit, Sicherheit und Grundrechte – das sind die klassischen Schutzziele des AI Act. Denken Sie dabei an:

Fehlerhafte Entscheidungen durch das KI-System (z.B. fehlerhafter Kredit-Score, falsche Diagnose)
Diskriminierung durch fehlerhafte oder verzerrte Daten
Verletzung der Privatsphäre durch unkontrollierte Datenweitergabe
Schäden durch autonomes Handeln ohne ausreichende menschliche Kontrolle

Risiken aus missbräuchlicher Nutzung – der AI Act verlangt ausdrücklich, auch vernünftigerweise vorhersehbaren Missbrauch zu berücksichtigen. Ein Praxisbeispiel: Ein Bewerbermanagement-Tool könnte absichtlich so eingesetzt werden, dass bestimmte Bevölkerungsgruppen systematisch ausgesiebt werden.

Werkzeug: Nutzen Sie strukturierte Risiko-Workshops mit allen Beteiligten (Entwicklung, Datenschutz, Recht, Betrieb). Eine bewährte Methode ist FMEA (Fehlermöglichkeits- und Einflussanalyse), adaptiert auf KI-Systeme.

Ergebnis dieses Schritts: eine vollständige Risikoliste mit Beschreibung jedes identifizierten Risikos, seiner Quelle und seiner potenziellen Auswirkung.

Schritt 3: Risiken abschätzen und priorisieren

Für jedes identifizierte Risiko brauchen Sie eine Bewertung entlang zweier Achsen:

Wahrscheinlichkeit des Auftretens (z.B. auf einer Skala von 1–5)
Schwere der möglichen Schäden (ebenfalls skaliert, unter Berücksichtigung von Reversibilität und Reichweite)

Das ergibt eine klassische Risikomatrix. Risiken mit hoher Wahrscheinlichkeit und großer Schadenstiefe haben Priorität.

Besonders wichtig: Der AI Act verlangt, bei der Schwereabschätzung zu berücksichtigen, ob der Schaden reversibel oder irreversibel ist und wie viele Personen betroffen sein könnten. Ein KI-System, das im Personalbereich eingesetzt wird und potenziell Tausende Bewerbungen diskriminierend filtert, hat eine andere Schadens-Dimension als ein System, das einzelne interne Reports erstellt.

Ergebnis: eine priorisierte Risikobewertung – dokumentiert, datiert und versioniert.

Schritt 4: Risikokontrollmaßnahmen definieren und implementieren

Für jedes Risiko – insbesondere für alle mit hoher Priorität – müssen Sie konkrete Kontrollmaßnahmen festlegen. Der AI Act unterscheidet dabei zwischen inhärenten Designmaßnahmen und ergänzenden Schutzmaßnahmen.

Designmaßnahmen (vorzuziehen):

Robustere Modellarchitektur
Bessere Trainingsdaten (repräsentativer, weniger verzerrt)
Eingeschränkte Systemfunktionen für risikoreiche Anwendungsfälle
Technische Begrenzung des Outputs (z.B. nur Empfehlung statt Entscheidung)

Ergänzende Schutzmaßnahmen:

Menschliche Überprüfung vor kritischen Entscheidungen (Human Oversight – siehe auch KI-Kompetenz nach AI Act)
Logging und Monitoring des Systemverhaltens
Nutzerschulungen
Verfahrensseitige Kontrollen (z.B. Vier-Augen-Prinzip)

Informationspflichten:

Nutzerhinweise auf Einschränkungen des Systems
Transparenz über Funktionsweise (relevant auch für KI-Transparenzpflicht und Kennzeichnung)

Ergebnis: ein Maßnahmenplan mit klarer Zuweisung von Verantwortlichkeiten und Umsetzungsfristen.

Schritt 5: Restrisiken bewerten

Nach Implementierung der Maßnahmen sind nicht alle Risiken verschwunden – es bleiben Restrisiken. Diese müssen Sie explizit bewerten:

Sind die verbleibenden Restrisiken akzeptabel im Verhältnis zum Nutzen des Systems?
Überwiegen die gesellschaftlichen oder wirtschaftlichen Vorteile die verbleibenden Risiken?

Dieser Abwägungsschritt ist kein Freifahrtschein für Fahrlässigkeit – er erfordert echte Auseinandersetzung und dokumentierte Begründung. Wenn Restrisiken zu hoch sind, müssen weitere Maßnahmen folgen oder das System darf in seiner geplanten Form nicht in Verkehr gebracht werden.

Schritt 6: Testen, testen, testen

Artikel 9 AI Act verpflichtet explizit zur Systemtestung – und zwar so, dass die Tests aussagekräftig für reale Einsatzbedingungen sind. Das bedeutet:

Tests müssen vor dem Inverkehrbringen stattfinden
Sie müssen die tatsächliche Zweckbestimmung abdecken
Sie sollen auch vernünftigerweise vorhersehbare Fehlanwendungen einschließen
Ergebnisse müssen dokumentiert werden

Für KMUs ohne eigene QA-Abteilung kann das herausfordernd sein. Pragmatischer Ansatz: Definieren Sie klare Testszenarien (mindestens 10–20 repräsentative Fälle je Risikoszenario), führen Sie die Tests durch, dokumentieren Sie Ergebnisse und Abweichungen – und wiederholen Sie die Tests nach wesentlichen Änderungen.

Schritt 7: Monitoring und kontinuierliche Überprüfung

Das Risikomanagement-System ist kein Einmalprojekt. Artikel 9 fordert, dass es kontinuierlich betrieben wird. In der Praxis bedeutet das:

Regelmäßige Reviews (mindestens jährlich, bei wesentlichen Änderungen sofort)
Post-Market-Monitoring: Beobachtung des Systemverhaltens im realen Betrieb, Auswertung von Nutzer-Feedback und aufgetretenen Problemen
Vorfallsmanagement: Prozess für den Fall, dass ein schwerwiegender Vorfall auftritt (Meldepflichten nach Artikel 73 AI Act beachten)
Aktualisierung der Risikoliste bei neuen Erkenntnissen

Praxisbeispiel: KMU mit KI-gestützter Kreditbewertung

Ein Fintech-Unternehmen mit 45 Mitarbeitern setzt ein KI-Modell ein, das Kreditanfragen von Kleinunternehmen bewertet. Das System fällt unter Annex III, ist also Hochrisiko.

Identifiziertes Risiko: Das Modell könnte Unternehmen aus strukturschwachen Regionen systematisch schlechter bewerten, weil historische Kreditdaten dort schlechter sind – obwohl die Unternehmen selbst kreditwürdig wären.

Bewertung: Wahrscheinlichkeit mittel (3/5), Schwere hoch (4/5) – wegen potenzieller Diskriminierung und wirtschaftlicher Schäden für die Betroffenen.

Maßnahmen:

Regelmäßiges Bias-Auditing des Modells (quartalsweise)
Keine vollautomatische Ablehnung – jede Ablehnung geht zur menschlichen Nachprüfung
Erweiterung der Trainingsdaten um alternative Bonitätsindikatoren

Restrisiko: Gering – durch menschliche Überprüfung können Fehler des Modells abgefangen werden.

Testung: 500 historische Fälle aus allen Regionen mit bekanntem Ausgang – Modell wird auf Diskriminierungsmuster getestet.

Dieses Beispiel zeigt: Risikomanagement nach AI Act muss nicht komplex sein, wenn es strukturiert angegangen wird.

Die häufigsten Fehler beim Aufbau des Risikomanagement-Systems

Fehler 1: Risikoidentifikation nur intern durchführen

Viele Unternehmen befragen nur ihr Entwicklungsteam. Dabei kennen Vertrieb, Support und vor allem die Nutzer des Systems die realen Einsatzbedingungen – und damit die tatsächlichen Risiken – oft viel besser.

Fehler 2: Einmaliges Dokument statt lebendem System

Ein PDF mit “Risikoanalyse, Stand: Januar 2026” genügt nicht. Der AI Act fordert ein System, das sich mit dem KI-System weiterentwickelt.

Fehler 3: Restrisiken nicht explizit dokumentieren

Viele Compliance-Teams dokumentieren, was sie getan haben, aber nicht, welche Risiken trotz aller Maßnahmen verbleiben. Genau das interessiert Behörden aber besonders.

Fehler 4: Risikomanagement vom Datenschutz trennen

DSFA und KI-Risikomanagement überlappen sich erheblich. Wer beide Prozesse getrennt führt, verdoppelt Aufwand und riskiert Widersprüche. Mehr dazu in DSFA Datenschutz-Folgenabschätzung für KI.

Was gehört in die Dokumentation?

Der AI Act ist eindeutig: Das Risikomanagement-System muss vollständig dokumentiert sein. Die technische Dokumentation nach Artikel 11 (Anhang IV) umfasst unter anderem:

Beschreibung des Risikomanagement-Systems
Ergebnisse der Risikoidentifikation und -bewertung
Beschreibung aller ergriffenen Maßnahmen
Testergebnisse
Restrisikobewertung
Beschreibung des Monitoring-Prozesses

Diese Dokumentation muss für nationale Behörden auf Anfrage zugänglich sein und – je nach Anforderung – an eine benannte Stelle (Notified Body) für die Konformitätsbewertung übermittelt werden.

Fazit: Risikomanagement ist Dauerbetrieb, kein Projekt

Das Risikomanagement-System nach Artikel 9 AI Act ist anspruchsvoll, aber bewältigbar – wenn es von Anfang an als kontinuierlicher Prozess und nicht als einmaliges Compliance-Projekt verstanden wird.

Die sieben Schritte dieser Anleitung geben Ihnen eine klare Struktur. Entscheidend ist, dass Sie:

Verantwortlichkeiten klar verteilen
Risiken strukturiert und breit identifizieren – auch Missbrauchsszenarien
Maßnahmen implementieren, nicht nur beschreiben
Das System aktuell halten – nach Änderungen, nach Vorfällen, regelmäßig

Wer bis zum 2. Dezember 2027 kein dokumentiertes Risikomanagement-System vorweisen kann, riskiert nicht nur Bußgelder, sondern auch Marktrücknahmen und Reputationsschäden. Durch den Digital Omnibus haben Sie mehr Zeit – nutzen Sie sie für eine gründliche Umsetzung. Die AI Act Pflichten KMU Checkliste gibt Ihnen einen vollständigen Überblick aller Parallelanforderungen.

Wissen Sie, ob Ihr KI-System wirklich als Hochrisiko eingestuft ist – und ob Ihr Risikomanagement den Anforderungen des AI Act standhält?

Der eu-konform.ai Risiko-Check analysiert Ihr KI-System in unter 10 Minuten: Risikoklasse, konkrete Pflichten, priorisierte Handlungsschritte. Kostenlos und ohne Registrierung – damit Sie wissen, wo Sie stehen, bevor die Fristen ablaufen.