Worum geht es im EU AI Act?

Der EU AI Act – offiziell Verordnung (EU) 2024/1689, auf Deutsch KI-Verordnung – ist das erste umfassende Regelwerk für künstliche Intelligenz in der Europäischen Union. Er verfolgt einen risikobasierten Ansatz: Reguliert wird nicht die Technologie an sich, sondern der Verwendungszweck. Je größer der mögliche Schaden für Gesundheit, Sicherheit oder Grundrechte, desto strenger die Anforderungen.

Wenige Anwendungen sind verboten, ein klar umrissener Kreis gilt als hochriskant, für einen weiteren Teil gelten Transparenzregeln – für den großen Rest ändert sich rechtlich nichts. Die praktische Frage lautet deshalb nie „Sind wir vom AI Act betroffen?“, sondern „In welche Klasse fällt dieser konkrete Anwendungsfall, und in welcher Rolle sind wir dabei?“.

Die Verordnung wurde 2024 verabschiedet, ist seit dem 1. August 2024 in Kraft und wird seit Februar 2025 stufenweise anwendbar. Sie soll Grundrechte und Sicherheit schützen und zugleich einen einheitlichen Binnenmarkt schaffen, damit Anbieter nicht 27 nationale Regelwerke bedienen müssen.

Der Gesetzgeber hat dabei am Produktsicherheitsrecht angeknüpft: Ein Hochrisiko-KI-System wird ähnlich behandelt wie eine Maschine oder ein Medizinprodukt – mit Risikomanagement, dokumentierter Datenqualität, technischen Unterlagen, Protokollierung, menschlicher Aufsicht und Konformitätsbewertung. Das erklärt, warum der AI Act zunächst fremd wirkt: Er denkt in Produkten und Rollen, nicht in Abteilungen.

Verbotene Praktiken (Artikel 5). Dazu zählen Social Scoring und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus Überwachungsaufnahmen zum Aufbau von Gesichtserkennungsdatenbanken. Verboten sind ebenso die Ableitung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen, sowie manipulative Systeme, die die Fähigkeit zu einer fundierten Entscheidung gezielt unterlaufen. Diese Verbote gelten seit dem 2. Februar 2025.

Hochrisiko-KI-Systeme (Artikel 6). Zwei Wege führen in diese Klasse. Der eine über Anhang I: KI als Sicherheitskomponente in Produkten, die ohnehin einer EU-Konformitätsbewertung unterliegen. Der andere über Anhang III und ist für die meisten Organisationen der relevantere: benannte Einsatzbereiche wie Personalauswahl und Beschäftigung, Bildung, kritische Infrastruktur, Zugang zu wesentlichen Diensten wie Kreditvergabe, Strafverfolgung, Migration und Justiz. Ein KI-gestütztes Vorauswahl-Tool im Recruiting fällt darunter, ein KI-Assistent für Protokolle in der Regel nicht.

Transparenzpflichten (Artikel 50). Wer mit einem Chatbot spricht, muss erkennen können, dass er mit einer Maschine spricht. Synthetisch erzeugte oder manipulierte Audio-, Bild-, Video- und Textinhalte müssen maschinenlesbar gekennzeichnet werden. Diese Pflichten gelten seit dem 2. August 2026. Eine Übergangsfrist bis zum 2. Dezember 2026 gibt es nur für die Kennzeichnung nach Artikel 50 Absatz 2 und nur für Anbieter erzeugender Systeme – die Hinweispflicht beim Chatbot gilt für Betreiber ohne Übergangsfrist.

Modelle mit allgemeinem Verwendungszweck (GPAI) unterliegen seit dem 2. August 2025 eigenen Pflichten zu Dokumentation, Urheberrecht und Trainingsdaten; sie treffen die Modellanbieter, nicht die Organisationen, die solche Modelle nutzen. Alles übrige – der Großteil betrieblicher KI-Nutzung – bleibt ohne besondere Pflichten aus dem AI Act. Datenschutz-, Arbeits- und Urheberrecht gelten davon unabhängig weiter.

Der AI Act knüpft Pflichten an Rollen, nicht an Branchen. Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr; dort liegt der Großteil der Pflichten. Betreiber setzt ein KI-System in eigener Verantwortung beruflich ein – das trifft auf die meisten Organisationen zu, die KI einkaufen statt bauen. Die Betreiberpflichten sind schlanker: bestimmungsgemäße Nutzung, menschliche Aufsicht sicherstellen, Eingabedaten im Griff haben, Protokolle aufbewahren, betroffene Personen informieren.

Die Rolle ist nicht in Stein gemeißelt. Wer ein zugekauftes Hochrisiko-System unter eigenem Namen weitergibt, es wesentlich verändert oder seinen Zweck ändert, wird nach Artikel 25 selbst zum Anbieter. Genau diese Verschiebung wird in der Praxis am häufigsten übersehen.

2. Februar 2025 – verbotene Praktiken und die Pflicht zur KI-Kompetenz (Artikel 4)

2. August 2025 – Pflichten für GPAI-Modelle

2. August 2026 – allgemeiner Geltungsbeginn, Transparenzpflichten nach Artikel 50

2. Dezember 2026 – zwei zusätzliche Verbote; Kennzeichnung nach Artikel 50 Absatz 2 für Altsysteme

2. Dezember 2027 – Hochrisiko-Pflichten für Systeme nach Anhang III

2. August 2028 – Hochrisiko-Pflichten für Systeme nach Anhang I

2. August 2030 – Hochrisiko-Bestandssysteme, die bestimmungsgemäß von Behörden genutzt werden

Artikel 99 sieht Geldbußen von bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes bei verbotenen Praktiken vor, bis zu 15 Mio. Euro oder 3 % bei sonstigen Verstößen und bis zu 7,5 Mio. Euro oder 1 % bei falschen Angaben gegenüber Behörden – jeweils der höhere Betrag, für KMU und kleine Midcap-Unternehmen der niedrigere. In Deutschland ist seit dem 29. Juli 2026 die Bundesnetzagentur zuständige Marktüberwachungsbehörde; sie betreibt zugleich einen KI-Service-Desk und ein KI-Reallabor.

Mit der Verordnung (EU) 2026/1744 vom 8. Juli 2026 hat der Gesetzgeber nachjustiert. Die Hochrisiko-Pflichten wurden verschoben – Anhang III auf den 2. Dezember 2027, Anhang I auf den 2. August 2028. Das verschafft Zeit, ändert aber nichts an der Richtung.

Artikel 4 zur KI-Kompetenz wurde abgeschwächt. Die Pflicht besteht seit Februar 2025 fort, ist aber neu gefasst: Anbieter und Betreiber „ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals … zu unterstützen“. Ausdrücklich ergänzt der Text, diese Verpflichtung verpflichte nicht dazu, „für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren“. Weggefallen ist das Ziel eines „ausreichenden Maßes“ an KI-Kompetenz, nicht die Pflicht. Zusätzlich nennt Artikel 99 Absatz 1 jetzt ausdrücklich Geldbußen als mögliche Sanktion; Verwarnungen und nichtmonetäre Maßnahmen standen schon vorher darin.

• - „Der AI Act verbietet KI.“ Verboten sind wenige, klar benannte Praktiken nach Artikel 5. Der Großteil betrieblicher KI-Nutzung fällt in die Klasse mit minimalem Risiko und trägt keine besonderen Pflichten aus der Verordnung.

• - „Uns betrifft das nicht, wir entwickeln keine KI.“ Die meisten Pflichten treffen Betreiber, also alle, die KI einkaufen und beruflich einsetzen. Zum Anbieter wird zusätzlich, wer ein System unter eigenem Namen weitergibt, es wesentlich verändert oder seinen Zweck ändert.

• - „Das gilt erst ab Dezember 2027.“ Verschoben wurden nur die Hochrisiko-Pflichten. Die Verbote und die Pflicht zur Förderung der KI-Kompetenz gelten seit Februar 2025, die Transparenzpflichten seit August 2026.

• - „Mit dem Digital Omnibus ist die KI-Kompetenz-Pflicht weggefallen.“ Sie besteht fort, nur schwächer gefasst: Das Ziel eines „ausreichenden Maßes“ an KI-Kompetenz ist entfallen. Ein bestimmtes Kompetenzniveau muss niemand garantieren, Maßnahmen ergreifen aber schon.

• - „Hochrisiko heißt gefährliche Technologie.“ Die Einstufung hängt nicht am Modell, sondern am Einsatzzweck. Dasselbe Sprachmodell kann in der Bewerbervorauswahl hochriskant sein und beim Protokollieren einer Besprechung ohne besondere Pflichten bleiben.

Eine Organisation führt ein KI-gestütztes Tool ein, das eingehende Bewerbungen vorsortiert. Die Einordnung läuft in drei Schritten. Die Klasse: Beschäftigung und Personalauswahl stehen in Anhang III – ein Hochrisiko-System. Die Rolle: Die Organisation kauft das Tool ein und konfiguriert es, sie ist Betreiberin, solange sie es nicht unter eigenem Namen weitergibt oder seinen Zweck ändert. Die Frist: Die vollen Hochrisiko-Pflichten greifen ab dem 2. Dezember 2027.

Untätig bleiben kann sie trotzdem nicht: Schon heute gelten die Pflicht zur Förderung der KI-Kompetenz, das Datenschutzrecht, die Mitbestimmung und die Information der Bewerbenden. Wer die Vorbereitung vertagt, steht Ende 2027 vor Anforderungen, die sich nicht in wenigen Wochen nachholen lassen.

Der AI Act wird von zwei Seiten kritisiert: Wirtschaftsverbänden ist der Befolgungsaufwand besonders für kleinere Unternehmen zu hoch – der Digital Omnibus ist die Antwort darauf. Grundrechtsorganisationen sehen in derselben Änderung eine Aufweichung, bevor die Regeln überhaupt gewirkt haben.

Praktisch schwierig bleibt die Abgrenzung: Ob eine Software ein „KI-System“ im Sinne der Verordnung ist, ob ein Anwendungsfall unter Anhang III fällt, ob eine Anpassung schon eine wesentliche Änderung darstellt – das lässt sich selten aus dem Text allein beantworten. Dieser Beitrag ordnet den AI Act fachlich ein und ersetzt keine Rechtsberatung.

Wir erleben häufig, dass Organisationen den AI Act als Rechtsprojekt behandeln: Ein Gutachten wird beauftragt, abgelegt – und im Alltag ändert sich nichts. Das greift zu kurz. Die Verordnung verlangt an entscheidender Stelle organisatorische Antworten: Wer entscheidet, welche KI-Anwendung eingeführt wird? Wer trägt die menschliche Aufsicht – mit welcher Kompetenz, Befugnis und Zeit? Wie kommt eine Anwendung überhaupt zur Kenntnis, bevor sie produktiv läuft?

Unser Zugang ist derselbe wie bei jeder Transformation: erst Transparenz über den tatsächlichen Einsatz, dann Rollen und Entscheidungswege, dann Kompetenzaufbau – und die Dokumentation als Nebenprodukt sauberer Abläufe statt als Sonderprojekt.

Welche Rollen, Verantwortlichkeiten und Governance-Strukturen der KI-Einsatz in der eigenen Organisation braucht, behandelt das KI Compliance Training anhand realer oder realitätsnaher Fälle.

KI-Kompetenz (AI Literacy) – Artikel 4 der KI-Verordnung

Menschliche Aufsicht (Human Oversight) – Artikel 14

Schatten-KI (Shadow AI)

Tokens – Verarbeitungseinheiten in KI-Sprachmodellen

Quellen: Verordnung (EU) 2024/1689 (KI-Verordnung) und Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI), EUR-Lex; Bundesnetzagentur zur nationalen Aufsicht nach dem KI-MIG. Stand: September 2026.

Der EU AI Act reguliert KI nach Risiko, nicht nach Technologie. Entscheidend ist nicht, ob eine Organisation betroffen ist, sondern in welche Klasse ein konkreter Anwendungsfall fällt und ob sie dabei Anbieter oder Betreiber ist. Verbote und die Pflicht zur Förderung der KI-Kompetenz gelten seit Februar 2025, die Transparenzpflichten seit August 2026; die Hochrisiko-Pflichten greifen nach der Verschiebung durch den Digital Omnibus ab Dezember 2027 beziehungsweise August 2028.