Nutzungsanweisungen nach Art. 13 AI Act – Welche Betriebsanleitung Ihre KI mitliefern muss

Stellen Sie sich vor, Ihr Unternehmen kauft ein KI-System zur Bewertung von Kreditanträgen ein – und die einzige Dokumentation, die Sie erhalten, ist ein zweiseitiges Marketing-PDF. Keine Angabe zur Fehlerquote, kein Hinweis, wann ein Mensch eingreifen muss, keine Information über bekannte Grenzen. Nach dem EU AI Act ist genau das ein Rechtsverstoß – für Hochrisiko-Systeme nach Annex III ab dem 2. Dezember 2027, für Hochrisiko-KI in Produkten nach Annex I ab dem 2. August 2028 (feste Termine, gesetzt durch den Digital Omnibus, Verordnung (EU) 2026/1744). Denn Art. 13 verpflichtet Anbieter von Hochrisiko-KI, eine vollständige Betriebsanleitung mitzuliefern. Die Nutzungsanweisungen nach AI Act Art. 13 sind damit Pflicht, nicht Kür – und zwar bevor das System überhaupt in Betrieb genommen werden darf.

Dieser Artikel führt Sie Pflichtangabe für Pflichtangabe durch Art. 13. Sie erfahren, was in die Nutzungsanweisung gehört, wie sie sich von der technischen Dokumentation unterscheidet und wie Sie eine rechtskonforme Anleitung strukturiert erstellen.

Was Art. 13 AI Act verlangt – Transparenz und Nutzungsanweisungen

Art. 13 trägt die Überschrift „Transparenz und Bereitstellung von Informationen für die Betreiber“. Der Kerngedanke ist einfach: Wer ein Hochrisiko-KI-System einsetzt, muss verstehen können, was das System tut, wie zuverlässig es arbeitet und wo seine Grenzen liegen. Nur so kann der Betreiber – also die Organisation, die das System tatsächlich nutzt – den Output angemessen interpretieren und verantwortungsvoll einsetzen.

Art. 13 Abs. 1 formuliert das Ziel klar: Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass ihr Betrieb hinreichend transparent ist, damit Betreiber die Ergebnisse angemessen interpretieren und verwenden können. Die konkrete Umsetzung dieses Transparenzgebots erfolgt über die Betriebsanleitung (im Englischen „instructions for use“).

Wer betroffen ist

Die Pflicht trifft ausschließlich Anbieter von Hochrisiko-KI-Systemen. Das ist eine wichtige Einschränkung: Art. 13 gilt nicht für jede KI. Ob ein System als hochriskant eingestuft wird, richtet sich nach den Kriterien des AI Act – insbesondere nach Annex III und den dort gelisteten Anwendungsbereichen wie Kreditwürdigkeitsprüfung, Personalauswahl, kritischer Infrastruktur oder biometrischer Identifizierung.

Verantwortlich für die Erstellung ist der Anbieter, nicht der Betreiber. Die Unterscheidung dieser beiden Rollen ist zentral für das gesamte Pflichtengefüge des AI Act – wer welche Rolle einnimmt und was daraus folgt, klären wir gesondert unter Anbieter- und Betreiberpflichten. Für Art. 13 gilt: Der Anbieter liefert, der Betreiber empfängt und arbeitet mit der Anleitung.

Nutzungsanweisung als Voraussetzung für die Inbetriebnahme

Die Betriebsanleitung ist kein optionales Beiwerk. Sie muss dem System beiliegen, wenn es in Verkehr gebracht oder in Betrieb genommen wird. Ohne vollständige Nutzungsanweisung fehlt eine formale Voraussetzung für das rechtmäßige Inverkehrbringen – vergleichbar mit der Betriebsanleitung, die einem Medizinprodukt oder einer Maschine beiliegen muss. Fehlt sie oder ist sie unvollständig, ist das System nicht konform.

Pflichtinhalte der Betriebsanleitung im Detail

Art. 13 Abs. 3 listet auf, welche Informationen die Betriebsanleitung mindestens enthalten muss. Diese Liste ist Ihr Pflichtenheft. Gehen wir sie durch.

Identität und Kontakt des Anbieters

Die Anleitung muss Namen und Kontaktdaten des Anbieters enthalten, gegebenenfalls auch die seines Bevollmächtigten. Das klingt trivial, ist aber die Grundlage dafür, dass Betreiber und Behörden im Problemfall wissen, an wen sie sich wenden.

Zweckbestimmung und vorhersehbare Fehlanwendungen

Hier liegt das Herzstück. Die Anleitung muss die Zweckbestimmung des Systems beschreiben – also wofür es entwickelt wurde und in welchem Kontext es eingesetzt werden soll. Ebenso wichtig: die vernünftigerweise vorhersehbare Fehlanwendung. Ein Beispiel: Ein KI-System zur Sichtung von Bewerbungen darf laut Zweckbestimmung Kandidaten vorsortieren, aber die vorhersehbare Fehlanwendung wäre, es als alleinige Entscheidungsinstanz ohne menschliche Prüfung einzusetzen. Genau davor muss die Anleitung warnen.

Leistungsmerkmale, Genauigkeit, Robustheit und bekannte Grenzen

Die Anleitung muss die Leistungsmerkmale des Systems offenlegen, darunter:

den Grad der Genauigkeit (Accuracy), inklusive der verwendeten Metriken
die Robustheit und Cybersicherheit
bekannte oder vorhersehbare Umstände, die die Leistung beeinträchtigen können
die bekannten Grenzen des Systems

Diese Angaben knüpfen unmittelbar an die Anforderungen zu Genauigkeit, Robustheit und Cybersicherheit nach Art. 15 an. Was Art. 15 als technische Eigenschaft verlangt, muss Art. 13 dem Betreiber verständlich mitteilen. Wenn Ihr System etwa eine Genauigkeit von 92 Prozent auf einem Testdatensatz erreicht, gehört diese Zahl inklusive der Bedingungen ihrer Ermittlung in die Anleitung – nicht als Marketingversprechen, sondern als nachvollziehbare Leistungsangabe.

Ebenso müssen Sie auf Datenaspekte hinweisen: Für welche Datentypen und Eingaben ist das System ausgelegt? Ein Diagnose-System, das nur auf Daten einer bestimmten Altersgruppe trainiert wurde, muss diese Einschränkung offenlegen, damit der Betreiber keine falschen Schlüsse aus Ergebnissen bei anderen Patientengruppen zieht.

Anforderungen an menschliche Aufsicht und technische Maßnahmen

Die Anleitung muss beschreiben, welche Maßnahmen zur menschlichen Aufsicht vorgesehen sind – einschließlich der technischen Vorkehrungen, die den Betreibern das Interpretieren des Outputs erleichtern. Damit verzahnt sich Art. 13 direkt mit den Anforderungen an die menschliche Aufsicht nach Art. 14. Der Anbieter definiert die Aufsichtsmaßnahmen technisch; die Anleitung übersetzt sie in konkrete Handlungsanweisungen für den Betreiber. Beispiel: „Ergebnisse mit einem Konfidenzwert unter 0,7 sind zwingend durch eine Fachkraft zu prüfen.“

Erwartete Lebensdauer, Wartung und Pflege

Schließlich muss die Anleitung Angaben zur erwarteten Lebensdauer des Systems machen sowie zu notwendigen Wartungs- und Pflegemaßnahmen, einschließlich Software-Updates. Auch die zur ordnungsgemäßen Wartung nötigen Rechenressourcen und Hardware-Anforderungen gehören dazu. Ein Modell, das ohne regelmäßiges Retraining an Genauigkeit verliert (Modelldrift), muss diesen Wartungsbedarf klar benennen.

Form und Sprache der Nutzungshinweise für KI-Systeme

Der beste Inhalt nützt nichts, wenn er nicht ankommt. Deshalb stellt Art. 13 Abs. 2 auch Anforderungen an Form und Sprache.

Verständlich, prägnant und in einer Sprache, die der Betreiber versteht

Die Informationen müssen prägnant, vollständig, korrekt und klar sein und für Betreiber relevant, zugänglich und verständlich. Eine bestimmte Sprache schreibt Art. 13 selbst nicht vor. Verständlich ist eine Anleitung aber nur in einer Sprache, die der Betreiber sicher beherrscht – in der Praxis meist die Landessprache. Eine rein englischsprachige Anleitung ist für einen Betreiber in Deutschland oder Österreich deshalb riskant; regeln Sie die Sprache am besten vertraglich.

Digitale oder physische Bereitstellung

Der AI Act schreibt kein bestimmtes Medium vor. Die Anleitung kann digital (etwa als PDF, in einer Online-Dokumentation oder in der Softwareoberfläche) oder physisch bereitgestellt werden. Wichtig ist nur, dass sie zugänglich und dauerhaft verfügbar ist.

Aktualisierung bei Änderungen am System

Eine Betriebsanleitung ist kein statisches Dokument. Ändern sich Leistungsmerkmale, Zweckbestimmung oder Aufsichtsanforderungen – etwa nach einem Update oder Retraining –, muss die Anleitung entsprechend aktualisiert werden. Versionierung ist hier nicht nur guter Stil, sondern Compliance-Notwendigkeit.

Abgrenzung: Art. 13 vs. technische Dokumentation und Transparenzpflichten

Ein häufiges Missverständnis: Betriebsanleitung und technische Dokumentation seien dasselbe. Sie sind es nicht.

Betriebsanleitung für den Betreiber vs. technische Doku für Behörden

Die Betriebsanleitung nach Art. 13 richtet sich an den Betreiber. Sie ist praxisorientiert und beantwortet die Frage: „Wie setze ich dieses System richtig ein?“

Die technische Dokumentation nach Art. 11 dagegen richtet sich an Behörden und benannte Stellen. Sie ist deutlich umfangreicher und detaillierter, dokumentiert Entwicklung, Trainingsdaten, Architektur, Testverfahren und Risikomanagement – und dient dem Konformitätsnachweis. Wie diese umfassende Dokumentation aufgebaut ist, lesen Sie in unserem Beitrag zur technischen Dokumentation nach Art. 11.

Kriterium	Betriebsanleitung (Art. 13)	Technische Dokumentation (Art. 11)
Adressat	Betreiber	Behörden, benannte Stellen
Zweck	Sichere, sachgerechte Nutzung	Konformitätsnachweis
Umfang	Prägnant, anwendungsorientiert	Umfassend, tiefgehend
Sichtbarkeit	Für Betreiber zugänglich	Grundsätzlich intern/behördlich
Sprache	Für den Betreiber verständlich (meist Landessprache)	Für Behörden verständlich

Zusammenspiel mit Kennzeichnungspflichten nach Art. 50

Von beiden zu unterscheiden sind die Transparenzpflichten nach Art. 50. Diese betreffen die Kennzeichnung gegenüber natürlichen Personen – etwa den Hinweis, dass man mit einem Chatbot spricht oder dass ein Inhalt KI-generiert ist (Deepfakes). Details dazu finden Sie unter KI-Transparenzpflicht und Kennzeichnung. Während Art. 13 also die Information an den professionellen Betreiber regelt, adressiert Art. 50 den Schutz der Endnutzer und Betroffenen.

Was für den Betreiber sichtbar wird, was intern bleibt

Merken Sie sich die Faustregel: Die Betriebsanleitung ist der sichtbare Teil – das, was der Betreiber in die Hand bekommt. Die technische Dokumentation bleibt weitgehend intern und wird nur auf Anfrage den Behörden vorgelegt. Beide speisen sich aus denselben Erkenntnissen, verfolgen aber unterschiedliche Zwecke und Detailtiefen.

Schritt für Schritt zu Nutzungsanweisungen nach AI Act Art. 13

Vorlage-Struktur entlang der Pflichtangaben

Bauen Sie Ihre Anleitung direkt entlang der Pflichtangaben aus Art. 13 Abs. 3 auf. Eine bewährte Gliederung:

Anbieterangaben – Name, Adresse, Kontakt, ggf. Bevollmächtigter
Zweckbestimmung – vorgesehener Einsatzkontext
Nicht bestimmungsgemäße Verwendung – vorhersehbare Fehlanwendungen und Warnhinweise
Leistung und Genauigkeit – Metriken, Testbedingungen, Konfidenzangaben
Grenzen und Risiken – bekannte Einschränkungen, kritische Datenkonstellationen
Menschliche Aufsicht – konkrete Handlungsanweisungen, Eingriffsschwellen
Technische Anforderungen – Hardware, Rechenressourcen, Integration
Wartung und Lebensdauer – Update-Zyklen, Retraining, erwartete Nutzungsdauer
Versionsstand und Änderungshistorie

Typische Fehler und Lücken vermeiden

Die häufigsten Schwachstellen:

Marketing statt Fakten: Leistungsangaben ohne Metrik und Testbedingung sind wertlos.
Fehlende Fehlanwendungen: Viele Anbieter beschreiben nur den Idealfall und ignorieren die vorhersehbare Fehlnutzung.
Vage Aufsichtsanweisungen: „Ergebnisse sollten geprüft werden“ genügt nicht – nennen Sie Schwellen und Zuständigkeiten.
Sprachversäumnisse: Keine Fassung in einer Sprache, die der Betreiber sicher versteht.
Veraltete Stände: Nach einem Update wird die Anleitung nicht nachgezogen.

Spätestens wenn Sie diese Angaben nicht einmalig, sondern dauerhaft strukturiert erstellen, versionieren und bei jedem Update konsistent aktualisieren müssen, stellt sich die Frage nach dem passenden Werkzeug – hier helfen spezialisierte Werkzeuge für die technische Dokumentation, die Pflichtangaben aus Art. 13 und Art. 11 verknüpft an einer Stelle vorhalten und Änderungen nachvollziehbar dokumentieren.

Verzahnung mit Risikomanagement und Logging

Ihre Anleitung entsteht nicht im luftleeren Raum. Die Angaben zu Grenzen und Risiken speisen sich aus dem Risikomanagementsystem (Art. 9), die Leistungsangaben aus den Tests zu Art. 15, die Aufsichtsanweisungen aus Art. 14. Auch die Protokollierungsfunktionen (Logging, Art. 12) sind relevant: Die Anleitung sollte erklären, welche Logs entstehen und wie der Betreiber sie für seine eigene Aufsichtspflicht nutzen kann. So wird die Betriebsanleitung zum Bindeglied zwischen technischer Compliance und praktischem Einsatz.

Was bei Verstößen droht

Bußgeldrisiko bei fehlender oder unvollständiger Anleitung

Verstöße gegen die Pflichten für Hochrisiko-KI-Systeme – zu denen Art. 13 gehört – sind bußgeldbewehrt. Der AI Act sieht für Verstöße gegen die Anbieterpflichten Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Ein Rechenbeispiel: Bei einem Konzern mit 800 Millionen Euro Jahresumsatz läge die Obergrenze bei 24 Millionen Euro – deutlich über dem festen Betrag. Für ein Unternehmen mit 200 Millionen Euro Umsatz wäre der feste Betrag von 15 Millionen Euro der maßgebliche Deckel. Für KMU und Start-ups gilt dagegen jeweils der niedrigere der beiden Beträge.

Folgen für Marktzugang und CE-Kennzeichnung

Noch gravierender als das Bußgeld kann der Marktausschluss sein. Die Betriebsanleitung ist Teil der Konformitätsanforderungen. Fehlt sie oder ist sie unvollständig, ist die CE-Kennzeichnung nicht rechtmäßig – und ohne konforme CE-Kennzeichnung darf das Hochrisiko-KI-System nicht auf dem EU-Markt bereitgestellt werden. Marktüberwachungsbehörden können die Rücknahme vom Markt anordnen. Eine unvollständige Anleitung ist damit kein Formfehler, sondern ein potenzielles Vertriebshindernis.

Fazit

Art. 13 AI Act macht die Betriebsanleitung zur Pflicht für jeden Anbieter eines Hochrisiko-KI-Systems. Sie ist mehr als ein Beipackzettel: Sie übersetzt die technischen Eigenschaften des Systems – Genauigkeit nach Art. 15, Aufsichtsmaßnahmen nach Art. 14, Risikoerkenntnisse nach Art. 9 – in verständliche Anweisungen für den Betreiber. Art. 13 Abs. 3 gibt dabei einen Mindestkatalog vor: von den Anbieterangaben über Zweckbestimmung, vorhersehbare Fehlanwendungen, Leistungsmerkmale und Grenzen bis hin zu menschlicher Aufsicht, Wartung und erwarteter Lebensdauer.

Entscheidend ist die saubere Abgrenzung: Die Betriebsanleitung richtet sich an den Betreiber und ist prägnant und praxisnah, während die technische Dokumentation nach Art. 11 für Behörden bestimmt und deutlich umfangreicher ist. Die Kennzeichnungspflichten nach Art. 50 wiederum schützen die betroffenen natürlichen Personen. Wer die Anleitung entlang der Pflichtangaben strukturiert, sie in einer für den Betreiber verständlichen Sprache bereitstellt und bei jeder Systemänderung aktualisiert, erfüllt nicht nur eine formale Anforderung – er schafft die Grundlage dafür, dass sein System überhaupt rechtmäßig auf den EU-Markt gelangt und dort bleibt. Die Kosten einer fehlenden Anleitung reichen von empfindlichen Bußgeldern bis zum Verlust der CE-Kennzeichnung und damit des Marktzugangs.