Verbotene KI-Praktiken nach Art. 5 AI Act – Diese Systeme sind seit 2025 tabu

Stellen Sie sich vor, Ihr HR-Team führt ein modernes Bewerbungstool ein, das während des Videointerviews die „emotionale Passung“ der Kandidaten misst. Klingt innovativ? Seit dem 2. Februar 2025 ist genau das in der gesamten EU vollständig verboten – und ein einziger Einsatz kann Bußgelder von bis zu 35 Millionen Euro auslösen. Das Tückische daran: Viele Unternehmen betreiben verbotene KI-Praktiken, ohne es überhaupt zu wissen.

Willkommen bei der schärfsten Waffe des EU AI Act – dem Verbotskatalog aus Artikel 5.

Was Art. 5 AI Act verbietet – und warum

Der EU AI Act arbeitet mit einem risikobasierten Ansatz und teilt KI-Systeme in vier Klassen ein: minimales Risiko, begrenztes Risiko, hohes Risiko und – als oberste Stufe – das unannehmbare Risiko. Systeme dieser höchsten Kategorie werden nicht reguliert, kontrolliert oder mit Auflagen belegt. Sie werden schlicht verboten.

Der Gesetzgeber begründet das mit einer klaren Linie: Bestimmte KI-Anwendungen verletzen fundamentale Werte der EU – Menschenwürde, Freiheit, Gleichheit, Nichtdiskriminierung. Sie sind mit den Grundrechten der Union so unvereinbar, dass keine noch so gute Dokumentation oder Risikominderung sie akzeptabel machen würde. Wie sich diese oberste Stufe in das Gesamtsystem einordnet, erläutern wir ausführlich in unserem Vergleich der KI-Risikoklassen.

Geltung seit 2. Februar 2025 – die erste scharfgeschaltete Pflicht

Während viele Vorschriften des AI Act erst ab August 2026 gelten oder – wie die Hochrisiko-Pflichten – erst ab Dezember 2027 bzw. August 2028 greifen, ist der Verbotskatalog aus Artikel 5 bereits seit dem 2. Februar 2025 unmittelbar anwendbar. Damit ist er die erste scharfgeschaltete Pflicht des gesamten Regelwerks – noch vor den umfangreichen Anforderungen an Hochrisiko-KI.

Das bedeutet konkret: Es gibt keine Übergangsfrist mehr, keine Schonzeit und keine „Wir passen das später an“-Option. Wer heute ein System betreibt, das unter Art. 5 fällt, verstößt bereits gegen geltendes Recht. Wie sich dieses Datum in den Gesamtfahrplan einfügt, zeigt unsere Übersicht zum AI-Act-Zeitplan 2025–2027.

Die 8 verbotenen KI-Praktiken nach Art. 5 AI Act im Überblick

Artikel 5 listete ursprünglich acht klar umrissene Praktiken auf; der Digital Omnibus hat zwei weitere ergänzt, die ab dem 2. Dezember 2026 gelten (dazu unten mehr). Die ersten vier der ursprünglichen Verbote betreffen Manipulation, Ausnutzung und Bewertung von Menschen.

1. Manipulative und täuschende Techniken unterhalb des Bewusstseins

Verboten sind KI-Systeme, die unterschwellige, manipulative oder täuschende Techniken einsetzen, um das Verhalten von Personen so zu beeinflussen, dass diese Entscheidungen treffen, die sie sonst nicht getroffen hätten – und die ihnen oder anderen erheblichen Schaden zufügen können. Der Schlüssel liegt im Wort „unterschwellig“: Der Betroffene nimmt die Beeinflussung nicht bewusst wahr.

Wichtig ist die Abgrenzung zu legitimer Werbung. Nicht jede überzeugende Marketingbotschaft ist verboten. Erst wenn eine Technik gezielt unterhalb der bewussten Wahrnehmung ansetzt und erheblichen Schaden riskiert, greift das Verbot. Wo bloße Kennzeichnungspflichten enden und das Totalverbot beginnt, erklären wir im Beitrag zur KI-Transparenzpflicht.

2. Ausnutzung von Schwächen (Alter, Behinderung, soziale Lage)

Ebenfalls verboten: KI, die die Vulnerabilität bestimmter Personengruppen ausnutzt – aufgrund ihres Alters, einer Behinderung oder einer besonderen sozialen oder wirtschaftlichen Lage – um ihr Verhalten schädlich zu beeinflussen. Ein Beispiel wäre eine App, die kognitive Einschränkungen älterer Menschen ausnutzt, um sie zu unnötigen Käufen zu drängen.

Untersagt ist das Social Scoring von Personen über einen bestimmten Zeitraum anhand ihres Sozialverhaltens oder persönlicher Eigenschaften, wenn dies zu einer Schlechterstellung in einem unzusammenhängenden Kontext oder zu einer ungerechtfertigten, unverhältnismäßigen Benachteiligung führt. Anders als oft angenommen gilt dieses Verbot nicht nur für staatliche Stellen, sondern auch für private Akteure.

4. Predictive Policing allein auf Profiling-Basis

Verboten sind KI-Systeme, die das Risiko einer Person, eine Straftat zu begehen, allein auf Grundlage von Profiling oder der Bewertung von Persönlichkeitsmerkmalen vorhersagen. Ausgenommen bleiben Systeme, die menschliche Bewertungen unterstützen, welche bereits auf objektiven, überprüfbaren Fakten mit direktem Bezug zu einer Straftat beruhen.

Verbotene KI-Systeme in der Biometrie: Was ist erlaubt?

Die restlichen vier Verbote betreffen den besonders sensiblen Bereich der biometrischen KI. Hier ist die Grenze zwischen verboten und erlaubt oft schmal.

5. Ungezieltes Scraping von Gesichtsbildern

Das ungezielte Auslesen (Scraping) von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsmaterial zum Aufbau oder zur Erweiterung von Gesichtserkennungsdatenbanken ist verboten. Diese Regel zielt direkt auf Geschäftsmodelle, die massenhaft öffentlich verfügbare Fotos zu Identifikationsdatenbanken zusammenführen.

6. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen

Dies ist eines der am häufigsten übersehenen Verbote. Untersagt ist der Einsatz von KI zur Erkennung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen. Betroffen sind zum Beispiel:

Software, die im Bewerbungsgespräch Mimik und Stimme auf „Motivation“ analysiert
Tools, die die Aufmerksamkeit von Mitarbeitenden im Callcenter über Emotionsanalyse messen
Systeme, die in Schulungen die Konzentration von Lernenden per Kamera bewerten

Ausnahmen bestehen nur aus medizinischen oder Sicherheitsgründen – etwa ein System, das Müdigkeit eines Piloten erkennt. Die schlichte „Optimierung“ von Personal oder Lernenden ist hingegen tabu. Gerade weil viele HR- und EdTech-Anbieter mit solchen Features werben, sollten Sie hier besonders genau hinschauen.

7. Biometrische Kategorisierung nach sensiblen Merkmalen

Verboten sind biometrische Kategorisierungssysteme, die Personen anhand ihrer biometrischen Daten in Kategorien einordnen, um auf sensible Merkmale zu schließen – etwa Rasse oder ethnische Herkunft, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, Sexualleben oder sexuelle Orientierung. Rechtmäßiges Kennzeichnen oder Filtern legal erworbener Datensätze bleibt davon unberührt.

8. Echtzeit-Fernidentifikation im öffentlichen Raum und ihre engen Ausnahmen

Der Einsatz von biometrischer Echtzeit-Fernidentifikation in öffentlich zugänglichen Räumen zu Zwecken der Strafverfolgung ist grundsätzlich verboten. Gemeint ist die Live-Gesichtserkennung, die Personen in einer Menschenmenge automatisiert identifiziert.

Der Gesetzgeber lässt eng begrenzte Ausnahmen ausschließlich für Strafverfolgungsbehörden zu, und zwar nur bei:

der gezielten Suche nach bestimmten Opfern (z. B. Entführungen, Menschenhandel, sexuelle Ausbeutung),
der Abwehr einer konkreten, gegenwärtigen und erheblichen Gefahr für Leib und Leben oder eines Terroranschlags,
der Lokalisierung oder Identifizierung von Verdächtigen bestimmter schwerer Straftaten.

Selbst dann gelten strenge Schranken: In der Regel ist eine vorherige Genehmigung durch ein Gericht oder eine unabhängige Behörde erforderlich, der Einsatz muss verhältnismäßig und zeitlich sowie örtlich begrenzt sein. Für Unternehmen heißt das im Klartext: Diese Ausnahmen gelten niemals für private Sicherheitsdienste, Einzelhändler oder Veranstalter. Wichtig zur Einordnung: Das Verbot in Art. 5 betrifft nur die Strafverfolgung. Setzen Private biometrische Fernidentifizierung ein, ist das nach dem AI Act Hochrisiko-KI (Anhang III) – und nach Art. 9 DSGVO in aller Regel ohnehin unzulässig.

Neu ab 2. Dezember 2026: zwei weitere Verbote

Mit dem Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) hat der Gesetzgeber Art. 5 um zwei Verbote erweitert. Sie gelten ab dem 2. Dezember 2026.

9. KI für nicht einvernehmliche intime Deepfakes („Nudify-Apps“)

Verboten sind KI-Systeme, die realistische Bilder, Videos, Audios oder ähnliches Material erzeugen oder manipulieren, die die Intimbereiche einer identifizierbaren Person zeigen oder sie bei sexuellen Handlungen darstellen – ohne deren freiwillige, ausdrückliche und informierte Einwilligung (Art. 5 Abs. 1 lit. ba).

10. KI zur Erzeugung von Darstellungen sexuellen Kindesmissbrauchs

Ebenfalls verboten sind KI-Systeme, die Darstellungen sexuellen Kindesmissbrauchs im Sinne der EU-Richtlinie 2011/93/EU erzeugen oder manipulieren (Art. 5 Abs. 1 lit. bb).

Was das für Anbieter allgemeiner Bild- und Videogeneratoren heißt

Für Anbieter gilt das Verbot nicht nur, wenn ein System gezielt für solche Inhalte gebaut ist. Es greift auch, wenn Design, Training oder Funktionen solche Inhalte zu einem vernünftigerweise vorhersehbaren und reproduzierbaren Ergebnis machen und keine angemessenen technischen Schutzmaßnahmen bestehen, die das zuverlässig verhindern und Missbrauch korrigieren (Art. 5 Abs. 1a). Betreiber verstoßen gegen das Verbot, wenn sie ein System gezielt zur Erzeugung solcher Inhalte nutzen. Wer generative Bild-, Video- oder Audio-KI anbietet, sollte seine Schutzmechanismen bis Dezember 2026 überprüfen.

Praxisbeispiele: Diese verbotenen KI-Praktiken sind jetzt tabu

Die abstrakte Rechtslage wird an konkreten Fällen greifbar. Die folgende Tabelle zeigt typische Anwendungen, die verboten sind:

Bereich	System / Use Case	Verbotene Praktik
HR	Video-Interview-Tool mit Emotionsanalyse	Emotionserkennung am Arbeitsplatz (Nr. 6)
HR	Produktivitätsmessung per Webcam-Stimmungsanalyse	Emotionserkennung am Arbeitsplatz (Nr. 6)
Marketing	App, die kognitive Schwächen Älterer für Käufe ausnutzt	Ausnutzung von Vulnerabilität (Nr. 2)
Marketing	Unterschwellige Reize zur schädlichen Verhaltenslenkung	Manipulative Techniken (Nr. 1)
Strafverfolgung	Live-Gesichtserkennung auf öffentlichen Plätzen ohne Ausnahmegrund und Genehmigung	Echtzeit-Fernidentifikation (Nr. 8)
Sicherheit	Datenbankaufbau aus gescrapten Internet-Fotos	Ungezieltes Scraping (Nr. 5)
Bildung	Kamera-System zur Konzentrationsbewertung	Emotionserkennung in Bildungseinrichtung (Nr. 6)
Verwaltung	Bonusprogramm mit sozialer Verhaltensbewertung	Social Scoring (Nr. 3)
Generative KI	„Nudify-App“, die Fotos realer Personen ohne Einwilligung entkleidet (ab 2. Dezember 2026)	Intime Deepfakes (Nr. 9)

Grauzonen: Wann kippt legitime KI in eine verbotene Praktik?

Nicht jede biometrische oder analytische KI ist verboten. Entscheidend ist oft der Verwendungszweck:

Eine Videoanalyse, die aus Sicherheitsgründen Sturzsituationen erkennt, ist zulässig – dieselbe Kamera zur Emotionsmessung von Mitarbeitenden ist verboten.
Ein Chatbot, der transparent Produkte empfiehlt, ist erlaubt – ein System, das unterschwellig und zu erheblichem Schaden manipuliert, ist verboten.
Nachträgliche (post-hoc) biometrische Identifikation kann als Hochrisiko-KI zulässig sein, während die Echtzeit-Variante zur Strafverfolgung im öffentlichen Raum grundsätzlich verboten ist.

Hier zeigt sich, wie wichtig die saubere Abgrenzung zwischen verbotener und Hochrisiko-KI ist.

Verbotene KI vs. Hochrisiko-KI – die entscheidende Grenze

Diese Unterscheidung ist die vielleicht wichtigste des gesamten AI Act:

Verbotene KI (Art. 5): unannehmbares Risiko. Der Einsatz ist komplett untersagt. Es gibt keine Auflagen, mit denen man sie zulässig machen könnte.
Hochrisiko-KI (Annex III): hohes, aber beherrschbares Risiko. Der Einsatz ist erlaubt – jedoch nur unter strengen Auflagen wie Risikomanagement, Dokumentation, menschlicher Aufsicht und Konformitätsbewertung.

Ein Bewerbungstool zur Vorauswahl von Kandidaten ist beispielsweise Hochrisiko-KI und damit unter Bedingungen einsetzbar. Ergänzt es jedoch eine Emotionserkennung, kippt es in die verbotene Kategorie. Welche Anwendungen als Hochrisiko gelten, lesen Sie in unserem Beitrag zu Hochrisiko-KI nach Annex III.

Bußgelder und Haftung bei verbotenen KI-Praktiken

Verstöße gegen Art. 5 werden mit dem höchsten Bußgeldrahmen des gesamten AI Act geahndet – deutlich härter als Verstöße gegen Hochrisiko-Pflichten.

Bis zu 35 Millionen Euro oder 7 % des Jahresumsatzes

Für den Einsatz verbotener KI-Praktiken drohen Geldbußen von bis zu 35 Millionen Euro oder – falls höher – bis zu 7 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres.

Ein Rechenbeispiel: Ein Konzern mit 2 Milliarden Euro Jahresumsatz riskiert bei einem Verstoß nicht „nur“ 35 Millionen Euro, sondern bis zu 140 Millionen Euro (7 % von 2 Mrd.). Für KMUs und Start-ups gilt umgekehrt der jeweils niedrigere der beiden Beträge als Obergrenze (Art. 99 Abs. 6). Eine detaillierte Aufschlüsselung finden Sie in unserer Übersicht zu AI-Act-Bußgeldern und Strafen.

Wer haftet: Anbieter, Betreiber, Importeure

Die Verantwortung trifft nicht nur den Hersteller. In der Pflicht stehen:

Anbieter (Provider): wer das System entwickelt und in Verkehr bringt.
Betreiber (Deployer): wer das System im eigenen Namen einsetzt – also auch das Unternehmen, das ein zugekauftes Tool nutzt.
Importeure und Händler: wer verbotene Systeme in die EU einführt oder vertreibt.

Für die meisten Unternehmen ist die Betreiber-Rolle entscheidend: Wer eine verbotene KI einsetzt, haftet – selbst wenn ein Dritter sie entwickelt hat. Die Ausrede „Das war ja ein Standardtool vom Anbieter“ schützt nicht.

So prüfen Unternehmen ihre KI-Systeme auf verbotene Praktiken

Handlungsbedarf besteht sofort. Ausgangspunkt jeder Prüfung ist ein vollständiges Verzeichnis Ihrer eingesetzten Systeme – wie Sie es aufbauen, zeigt unsere Anleitung zum KI-Inventar.

Screening-Fragen zur Selbsteinschätzung

Gehen Sie jedes KI-System anhand dieser Checkliste durch. Wird auch nur eine Frage mit „Ja“ beantwortet, besteht dringender Prüfbedarf:

Analysiert das System Emotionen von Mitarbeitenden, Bewerbern oder Lernenden?
Nutzt es unterschwellige oder täuschende Techniken, um Verhalten zu beeinflussen?
Zielt es gezielt auf schutzbedürftige Gruppen (Alter, Behinderung, wirtschaftliche Lage)?
Bewertet es Personen anhand ihres Sozialverhaltens mit Nachteilen in fremden Kontexten?
Sagt es Straffälligkeit allein auf Basis von Profiling voraus?
Baut es Gesichtsdatenbanken durch ungezieltes Scraping auf?
Leitet es aus Biometrie sensible Merkmale (Ethnie, Religion, sexuelle Orientierung, politische Meinung) ab?
Identifiziert es Personen per Live-Gesichtserkennung im öffentlichen Raum?
Kann es intime Deepfakes realer Personen oder Missbrauchsdarstellungen erzeugen – und fehlen wirksame Schutzmaßnahmen dagegen?

Dokumentation und Handlungsschritte bei Verdachtsfällen

Wird ein System auffällig, gehen Sie strukturiert vor:

Sofort dokumentieren: Zweck, Funktionsweise, Datenbasis und betroffene Personen festhalten.
Einsatz aussetzen: Bei begründetem Verdacht das System pausieren, bis die Rechtslage geklärt ist.
Zweck prüfen: Lässt sich die Funktion auf eine erlaubte Nutzung (z. B. Sicherheit statt Emotionsmessung) umstellen?
Rechtlich bewerten lassen: Grenzfälle mit spezialisierter Expertise absichern.
Vertrag mit dem Anbieter prüfen: Zusicherungen zur AI-Act-Konformität und Haftungsregelungen kontrollieren.

Konkrete, priorisierte Schritte speziell für kleinere Organisationen fasst unsere AI-Act-Checkliste für KMU zusammen.

Art. 5 ist die schärfste, aber nicht die einzige Stufe. Was unterhalb des Verbots gilt und ab wann, steht im AI-Act-Leitfaden.

Fazit: Verbotene KI-Praktiken sind keine Zukunftsmusik – sie gelten heute

Seit dem 2. Februar 2025 sind die acht ursprünglichen Praktiken aus Artikel 5 AI Act EU-weit verboten, ab dem 2. Dezember 2026 kommen intime Deepfakes ohne Einwilligung und Darstellungen sexuellen Kindesmissbrauchs hinzu – ohne Schonzeit und mit dem schärfsten Bußgeldrahmen des Gesetzes von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes. Das größte Risiko liegt nicht im bewussten Rechtsbruch, sondern in der unbemerkten Nutzung: Emotionserkennung im Recruiting, biometrische Analysen im Marketing oder Live-Gesichtserkennung im Sicherheitsbereich schleichen sich oft über zugekaufte Standardtools ein.

Die gute Nachricht: Wer sein KI-Inventar kennt und die richtigen Screening-Fragen stellt, kann verbotene KI-Praktiken früh erkennen und abstellen – bevor eine Behörde es tut.