KI-Klauseln in Lieferantenverträgen – So sichern Sie Compliance beim Einkauf ab

Ein mittelständisches Unternehmen kauft eine KI-gestützte Bewerbervorauswahl ein, bindet sie in seinen Recruiting-Prozess ein – und wird damit zum Betreiber eines Hochrisiko-KI-Systems im Sinne des EU AI Act (Anhang III, Beschäftigung). Ab dem 2. Dezember 2027 gelten dafür die Hochrisiko-Pflichten. Das Problem: Die Nachweise, die er dann erbringen muss, liegen sämtlich beim Anbieter. Ohne die richtigen KI-Klauseln in Lieferantenverträgen steht er mit leeren Händen vor der Marktüberwachungsbehörde. Weil Verträge über mehrere Jahre laufen, gehören diese Klauseln schon heute in jede Beschaffung. Wer KI einkauft, ohne Compliance-Klauseln zu verhandeln, kauft eine Haftungslücke gleich mit.

Warum der Einkauf zur AI-Act-Schwachstelle wird

Der EU AI Act adressiert nicht nur diejenigen, die KI-Systeme entwickeln. Er nimmt ausdrücklich auch die in die Pflicht, die KI-Systeme in Betrieb nehmen und nutzen – die Betreiber (im Verordnungstext: „Deployer”). Genau in diese Rolle rutscht Ihr Einkauf, sobald ein zugekauftes System produktiv genutzt wird.

Zugekaufte KI macht Sie zum Betreiber mit eigenen Pflichten

Nach Art. 26 AI Act treffen den Betreiber eines Hochrisiko-KI-Systems eigenständige Pflichten: Sie müssen das System gemäß den Nutzungsanweisungen betreiben, eine menschliche Aufsicht sicherstellen, die Eingabedaten auf Eignung überwachen, Protokolle (Logs) aufbewahren und betroffene Personen bzw. Beschäftigte informieren. Bei bestimmten Anwendungen kommt eine Grundrechte-Folgenabschätzung nach Art. 27 hinzu.

Das Entscheidende: Diese Pflichten treffen Sie unabhängig davon, ob Sie das System selbst gebaut haben. Der Umstand, dass Sie „nur eingekauft” haben, entlastet Sie nicht. Sie tragen die Betreiberverantwortung – aber die dafür nötigen Informationen produziert der Anbieter.

Fehlende Informationen vom Anbieter blockieren Ihre eigene Compliance

Ohne belastbare Nutzungsanweisungen können Sie die Betriebsvorgaben nicht einhalten. Ohne technische Angaben zur vorgesehenen Zweckbestimmung wissen Sie nicht, wann Sie das System zweckwidrig – und damit rechtswidrig – einsetzen. Ohne Protokollierungsschnittstellen können Sie Ihre Aufbewahrungspflicht nicht erfüllen. Ihre Compliance hängt an fremden Zulieferungen. Fehlen sie, entsteht keine Lücke beim Anbieter, sondern bei Ihnen.

Haftungslücken zwischen Anbieter und Betreiber

Wird ein System als konform vermarktet, ist es das aber nicht, haften beide Seiten in ihrer jeweiligen Rolle. Fehlt eine vertragliche Regelung, tragen Sie das Risiko der Behörde gegenüber selbst – und müssen versuchen, sich zivilrechtlich beim Anbieter zu regressieren. Ohne ausdrückliche Freistellungsklausel ist dieser Regress unsicher, langwierig und im Zweifel wertlos, wenn der Anbieter außerhalb der EU sitzt.

Betreiber oder Anbieter? Rollenklärung vor der Vertragsgestaltung

Jede Klausel steht und fällt mit der Rollenzuordnung. Bevor Sie formulieren, muss feststehen, wer im konkreten Beschaffungsfall welche Rolle einnimmt.

Wer trägt welche Pflichten nach AI Act

Der Anbieter (Art. 16) verantwortet die grundlegende Konformität: Risikomanagement (Art. 9), Datenqualität (Art. 10), technische Dokumentation (Art. 11), Protokollierung (Art. 12), Transparenz und Nutzungsanweisungen (Art. 13), menschliche Aufsicht (Art. 14), Genauigkeit und Cybersicherheit (Art. 15). Er erstellt die EU-Konformitätserklärung (Art. 47) und bringt die CE-Kennzeichnung (Art. 48) an.

Der Betreiber (Art. 26) nutzt das System pflichtgemäß im Rahmen dieser Vorgaben. Die klare Trennung – wer liefert Konformität, wer wendet sie an – vertiefen wir in unserem Beitrag zur Abgrenzung von Anbieter- und Betreiberpflichten.

Wie Anpassungen aus dem Betreiber einen Anbieter machen

Hier lauert die Falle. Art. 25 AI Act regelt, dass ein Betreiber unter bestimmten Umständen selbst als Anbieter gilt – mit allen Anbieterpflichten. Das geschieht, wenn Sie

das System unter Ihrem eigenen Namen oder Ihrer Marke in Verkehr bringen,
die Zweckbestimmung eines bereits in Verkehr befindlichen Hochrisiko-Systems ändern, oder
eine wesentliche Änderung vornehmen, sodass das System weiterhin als Hochrisiko-System gilt.

Ein Beispiel: Sie kaufen eine allgemeine Bilderkennung ein und trainieren sie mit eigenen Daten für die Bewertung von Bewerbungsunterlagen nach. Aus einer harmlosen Zweckänderung wird ein Hochrisiko-Anwendungsfall (Beschäftigung) – und Sie werden zum Anbieter mit voller Dokumentations- und Konformitätslast. Genau diese Grenze muss der Vertrag benennen: Welche Anpassungen sind erlaubt, ohne die Rollen zu verschieben, und ab wann geht die Verantwortung auf Sie über?

Rollenzuordnung als Basis jeder Klausel

Halten Sie im Vertrag ausdrücklich fest, wer Anbieter und wer Betreiber ist, und dass der Anbieter die Anbieterpflichten trägt, solange Sie das System im vereinbarten Rahmen und unbearbeitet nutzen. Diese Zuordnung ist der Ankerpunkt, auf den alle folgenden Klauseln verweisen.

Die wichtigsten KI-Klauseln für Lieferantenverträge

Die folgenden Formulierungen sind Bausteine – im Einzelfall anwaltlich zu prüfen, aber unmittelbar als Verhandlungsgrundlage nutzbar.

Zusicherung der Konformität und CE-Kennzeichnung

„Der Anbieter sichert zu, dass das gelieferte KI-System zum Zeitpunkt der Bereitstellung sämtliche einschlägigen Anforderungen der Verordnung (EU) 2024/1689 erfüllt, ein Konformitätsbewertungsverfahren durchlaufen wurde, eine EU-Konformitätserklärung nach Art. 47 vorliegt und – soweit einschlägig – die CE-Kennzeichnung nach Art. 48 angebracht ist. Der Anbieter hält diese Konformität über die Vertragslaufzeit aufrecht.”

Diese Klausel verwandelt eine Marketingaussage in eine einklagbare Zusicherung.

Herausgabe von Nutzungsanweisungen und Dokumentation

„Der Anbieter stellt spätestens bei Lieferung vollständige Nutzungsanweisungen gemäß Art. 13 in deutscher Sprache bereit, einschließlich Angaben zur Zweckbestimmung, zu bekannten Beschränkungen, zur menschlichen Aufsicht sowie zu Genauigkeits- und Robustheitswerten.”

Warum das zählt, zeigt unser Beitrag zu Nutzungsanweisungen nach Art. 13: Ohne diese Angaben können Sie Ihre Betreiberpflichten schlicht nicht erfüllen.

Informations- und Mitwirkungspflichten bei Audits

„Der Anbieter unterstützt den Betreiber auf Anforderung bei Prüfungen durch Marktüberwachungsbehörden, stellt die erforderlichen Informationen und Dokumentationen innerhalb von [X] Werktagen bereit und benennt einen fachkundigen Ansprechpartner.”

Wie Sie diese Zulieferung in Ihre eigene Prüfungsvorbereitung einbetten, beschreibt der Beitrag zur Audit-Vorbereitung.

Meldeketten bei schwerwiegenden Vorfällen

Anbieter müssen schwerwiegende Vorfälle nach Art. 73 melden. Als Betreiber sind Sie oft die Erstinstanz, die den Vorfall bemerkt.

„Der Betreiber informiert den Anbieter unverzüglich, spätestens innerhalb von 24 Stunden nach Kenntnis, über jeden schwerwiegenden Vorfall. Der Anbieter erfüllt daraufhin seine Meldepflichten nach Art. 73 und informiert den Betreiber über den Stand der Meldung.”

Die Fristen und Kriterien erläutert unser Beitrag zur Meldepflicht bei schwerwiegenden Vorfällen.

Haftung, Freistellung und Vertragsstrafen

„Der Anbieter stellt den Betreiber von sämtlichen Ansprüchen Dritter sowie behördlichen Bußgeldern frei, die auf einer Verletzung der Anbieterpflichten oder auf einer unzutreffenden Konformitätszusicherung beruhen.”

Ergänzen Sie eine Vertragsstrafe für die verspätete Herausgabe von Dokumentation. Wie sich Haftung realistisch verteilen lässt und wo Freistellungen an ihre Grenzen stoßen, zeigt der Beitrag zur Haftung im AI-Act-Kontext.

Klausel	Sichert ab	AI-Act-Bezug
Konformitätszusicherung	Rechtsverbindlichkeit der Konformität	Art. 16, 47, 48
Dokumentationsherausgabe	Ihre Nachweisführung	Art. 11, 13
Audit-Mitwirkung	Prüfungsfähigkeit	Art. 26
Vorfallmeldung	Meldekette	Art. 73
Haftung/Freistellung	Regress bei Verstoß	Art. 25, 26

Nachweise, die Sie sich vertraglich sichern müssen

Der Vertrag ist nur so viel wert wie die Nachweise, die Sie damit tatsächlich in die Hand bekommen.

Dokumentationszugang für Ihre eigene Nachweisführung

Sie müssen gegenüber Behörden belegen können, dass Sie das System pflichtgemäß betreiben. Sichern Sie sich deshalb Lesezugriff auf die relevanten Teile der technischen Dokumentation nach Art. 11 und Anhang IV – nicht das komplette Betriebsgeheimnis des Anbieters, aber die für Ihre Betreiberpflichten nötigen Auszüge. Was dazugehört, ordnet der Beitrag zur technischen Dokumentation ein.

Datenqualitäts- und Governance-Nachweise

Nach Art. 10 verantwortet der Anbieter die Datenqualität. Lassen Sie sich zusichern, dass Trainings-, Validierungs- und Testdaten den Governance-Anforderungen entsprechen und dass bekannte Verzerrungen (Bias) dokumentiert sind. Das schützt Sie, wenn Ihre Eingabedaten später auf Eignung zu prüfen sind.

Update- und Cybersicherheitszusagen über die Laufzeit

Konformität ist kein Zustand, sondern ein Prozess. Art. 15 verlangt Genauigkeit, Robustheit und Cybersicherheit über den Lebenszyklus. Vereinbaren Sie:

„Der Anbieter stellt sicherheitsrelevante Updates während der gesamten Laufzeit bereit und informiert den Betreiber über Änderungen, die die Konformität oder die Zweckbestimmung berühren, vor deren Wirksamwerden.”

Der letzte Halbsatz ist entscheidend: Ein Anbieter-Update, das die Zweckbestimmung ändert, kann Ihre Rolle verschieben.

KI-Compliance im Beschaffungsprozess verankern

Klauseln wirken nur, wenn der Beschaffungsprozess sie systematisch erzwingt.

Lieferanten-Fragebogen und Vorprüfung

Stellen Sie vor jeder Vergabe standardisierte Fragen: Liegt eine Konformitätserklärung vor? Ist das System als Hochrisiko eingestuft? Sitzt der Anbieter in der EU oder in einem Drittstaat? Ein Nein an der falschen Stelle stoppt die Vergabe, bevor Kosten entstehen.

Standardklauseln als Vergabekriterium

Machen Sie die Akzeptanz Ihrer KI-Klauseln zum harten Vergabekriterium. Ein Anbieter, der keine Konformität zusichern will, sagt Ihnen damit implizit, dass er sie nicht garantieren kann.

Bevor Sie überhaupt die passenden Klauseln ableiten können, müssen Sie wissen, was Sie einkaufen und in welche Risikoklasse es fällt – dafür brauchen Sie ein zentrales Register aller zugekauften KI-Systeme mit Inventar und Risikoklasse an einer Stelle, aus dem sich die konkreten vertraglichen Anforderungen für jedes System ableiten lassen. Ohne diese Klassifizierung verhandeln Sie im Blindflug: Für ein Hochrisiko-System gelten die vollen Anbieterzusicherungen, für ein System mit begrenztem Risiko genügen oft Transparenzpflichten.

Laufende Überwachung der Zulieferer-Konformität

Verankern Sie regelmäßige Nachweisabfragen – etwa jährlich oder bei jedem Major-Update. Dokumentieren Sie diese Abfragen; sie sind Teil Ihrer eigenen Sorgfaltsdokumentation als Betreiber.

Drittstaaten-Besonderheit: Beziehen Sie ein KI-System von außerhalb der EU, greifen die Importeurspflichten nach Art. 23. Prüfen Sie, ob der Anbieter einen Bevollmächtigten in der EU benannt hat (Art. 22) – ohne ihn kann die Verantwortung an Ihnen hängen bleiben. Klären Sie zudem, ob Sie selbst zum Importeur werden. Die Details erläutert der Beitrag zum Drittstaaten-Import.

Checkliste: KI-Klauseln vor der Vertragsunterschrift

Muss-Klauseln kompakt

Rollenzuordnung ausdrücklich festgehalten (Anbieter/Betreiber)
Konformitätszusicherung inkl. Konformitätserklärung und CE-Kennzeichnung
Herausgabe von Nutzungsanweisungen (Art. 13) und relevanter technischer Dokumentation (Art. 11)
Datenqualitäts- und Governance-Nachweise (Art. 10)
Audit-Mitwirkung mit fixen Reaktionsfristen
Vorfallmeldekette mit 24-Stunden-Weitergabe (Art. 73)
Update- und Cybersicherheitszusage über die Laufzeit (Art. 15)
Haftung und Freistellung inkl. behördlicher Bußgelder
Vertragsstrafe bei verspäteter Dokumentation
Bei Drittstaaten: EU-Bevollmächtigter benannt (Art. 22)

Typische Fallstricke

Zusicherung nur zum Lieferzeitpunkt, nicht über die Laufzeit
Keine Sprachregelung – Dokumentation kommt auf Englisch, Behörde verlangt Deutsch
Zweckänderung durch Anbieter-Update übersieht die Rollenverschiebung nach Art. 25
Freistellung ausgeschlossen für Bußgelder – dann trägt der Betreiber das Behördenrisiko
Eigene Nachtrainings, die Sie unbemerkt zum Anbieter machen

Nächste Schritte für den Einkauf

Verankern Sie die Muss-Klauseln als Standardanhang in Ihren Beschaffungsvorlagen, ergänzen Sie den Lieferanten-Fragebogen um die AI-Act-Fragen und definieren Sie eine Eskalation für den Fall, dass ein Anbieter die Konformitätszusicherung verweigert.

Fazit

Wer KI einkauft, kauft Verantwortung mit: In aller Regel werden Sie zum Betreiber nach Art. 26 AI Act und müssen Nachweise führen, deren Grundlagen ausschließlich beim Anbieter liegen. Die Lösung liegt nicht im nachträglichen Regress, sondern in präzisen KI-Klauseln für Lieferantenverträge, die Konformitätszusicherung, Dokumentationsherausgabe, Audit-Mitwirkung, Vorfallmeldung und Freistellung dorthin verlagern, wo die Informationen entstehen. Entscheidend ist die saubere Rollenklärung: Solange Sie im vereinbarten Rahmen und unbearbeitet nutzen, bleiben die Anbieterpflichten beim Anbieter – doch eigene Zweckänderungen oder wesentliche Anpassungen können Sie nach Art. 25 selbst zum Anbieter machen. Bei Bezug aus Drittstaaten kommen Importeurspflichten und die Frage nach dem EU-Bevollmächtigten hinzu. Ein Beschaffungsprozess, der Klassifizierung, Standardklauseln und laufende Überwachung verbindet, macht aus einer Compliance-Schwachstelle einen belastbaren Nachweis.