Kurz gesagt
Die KI-Verordnung (EU) 2024/1689 teilt KI-Systeme nach Risiko ein: Manche Praktiken sind verboten, Hochrisiko-Systeme unterliegen strengen Pflichten, Chatbots und KI-Agenten müssen sich seit 2. August 2026 als KI zu erkennen geben. Unternehmen, die KI-Agenten nutzen, sind meist Betreiber. Sie müssen die KI-Kompetenz ihres Personals fördern und die Transparenzpflichten aus Artikel 50 beachten.
Was regelt die KI-Verordnung?
Die KI-Verordnung (EU) 2024/1689, oft auch AI Act genannt, ist seit dem 1. August 2024 in Kraft und gilt unmittelbar in jedem Mitgliedstaat. Sie legt fest, welche KI-Praktiken verboten sind, welche Anforderungen für Hochrisiko-KI-Systeme gelten, welche Transparenzpflichten Anbieter und Betreiber haben und welche Pflichten Anbieter großer KI-Modelle treffen.
Ein KI-System ist nach Artikel 3 Nummer 1 ein maschinengestütztes System, das in unterschiedlichem Grad autonom arbeitet und aus Eingaben ableitet, wie es Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt. KI-Agenten, die Mails beantworten, im Browser recherchieren oder über MCP-Server Werkzeuge aufrufen, erfüllen diese Beschreibung in aller Regel.
Am 27. Juli 2026 trat die Verordnung (EU) 2026/1744 in Kraft, der sogenannte Digital-Omnibus zur KI. Sie hat unter anderem Artikel 4 neu gefasst, neue Verbote eingeführt und die Hochrisiko-Pflichten verschoben. Alle Angaben auf dieser Seite folgen der konsolidierten Fassung auf EUR-Lex mit Stand 27. Juli 2026. Sie sind eine sachliche Einordnung und keine Rechtsberatung.
Anbieter oder Betreiber: Welche Rolle hat Ihr Unternehmen?
Die Pflichten der KI-Verordnung hängen an der Rolle. Anbieter ist nach Artikel 3 Nummer 3, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt, entgeltlich oder unentgeltlich. Betreiber ist nach Artikel 3 Nummer 4, wer ein KI-System in eigener Verantwortung verwendet, außer im rein persönlichen, nicht beruflichen Rahmen.
Ein Unternehmen kann beide Rollen gleichzeitig haben. Die Kommission nennt in ihren Leitlinien zu Artikel 50 ausdrücklich den Fall, dass eine Organisation einen Chatbot selbst entwickelt und unter eigenem Namen für den Eigengebrauch in Betrieb nimmt: Sie ist dann Anbieter dieses Systems.
| Situation | Rolle nach KI-Verordnung |
|---|---|
| Beschäftigte nutzen einen fertigen KI-Assistenten über einen Firmenaccount | Betreiber (Art. 3 Nr. 4) |
| Sie bauen auf einem fremden Modell einen Kundenservice-Agenten und stellen ihn unter Ihrem Namen bereit | Anbieter dieses KI-Systems und zugleich Betreiber |
| Sie entwickeln intern einen Agenten für eigene Abläufe und nehmen ihn unter Ihrem Namen in Betrieb | Anbieter (Inbetriebnahme zum Eigengebrauch, Art. 3 Nr. 11) und Betreiber |
| Sie setzen einen Allzweck-Assistenten so ein, dass er Bewerbungen filtert und bewertet | Sie gelten als Anbieter eines Hochrisiko-KI-Systems (Art. 25 Abs. 1 Buchst. c) |
| Sie trainieren ein eigenes Basismodell und geben es an andere weiter | Anbieter eines KI-Modells mit allgemeinem Verwendungszweck (Kapitel V) |
Welche Risikostufen kennt die KI-Verordnung?
Die Verordnung ordnet KI-Systeme nach dem Risiko, das von ihrem Einsatz ausgeht. Entscheidend ist der Verwendungszweck, nicht die Technik: Derselbe Agent kann im Marketing unkritisch und in der Personalauswahl hochriskant sein.
| Stufe | Norm | Beispiele | Folge |
|---|---|---|---|
| Verbotene Praktiken | Art. 5 | Social Scoring, Emotionserkennung am Arbeitsplatz, manipulative Techniken mit erheblichem Schaden | Einsatz verboten |
| Hochrisiko-KI-Systeme | Art. 6 mit Anhang I und III | Bewerberauswahl, Entscheidungen über Beförderung oder Kündigung, Kreditwürdigkeitsprüfung, Sicherheitsbauteile kritischer Infrastruktur | Anforderungen für Anbieter, Pflichten für Betreiber (Art. 26) |
| Transparenzpflichten | Art. 50 | Chatbots und KI-Agenten mit Kontakt zu Menschen, generierte Bilder, Videos und Texte, Deepfakes | Offenlegung und Kennzeichnung |
| Übrige KI-Systeme | Art. 4, Art. 95 | Textzusammenfassung, Übersetzung, Code-Vervollständigung | Keine besonderen Anforderungen, KI-Kompetenz nach Art. 4 gilt |
| KI-Modelle mit allgemeinem Verwendungszweck | Art. 51 bis 55 | Große Sprachmodelle, auf denen Assistenten und Agenten aufbauen | Pflichten für Modellanbieter |
Ein System aus Anhang III gilt nach Artikel 6 Absatz 3 ausnahmsweise nicht als hochriskant, wenn es etwa nur eine eng gefasste Verfahrensaufgabe erledigt oder eine Bewertung bloß vorbereitet. Nimmt es ein Profiling natürlicher Personen vor, ist es immer hochriskant.
Welche KI-Praktiken sind verboten?
Artikel 5 verbietet bestimmte Praktiken seit dem 2. Februar 2025. Das Verbot gilt für das Inverkehrbringen, die Inbetriebnahme und die Verwendung, trifft also auch Betreiber. Für Unternehmen mit KI-Agenten sind vor allem die Verbote relevant, die Beschäftigte und Kunden betreffen:
- Manipulation: unterschwellige oder täuschende Techniken, die Entscheidungen verzerren und erheblichen Schaden verursachen
- Ausnutzen von Schwächen wegen Alter, Behinderung oder sozialer und wirtschaftlicher Lage
- Social Scoring: Bewertung von Personen nach Sozialverhalten mit ungerechtfertigter Benachteiligung
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen
- Gesichtsdatenbanken durch ungezieltes Auslesen von Bildern aus dem Internet oder von Überwachungsaufnahmen
- Biometrische Kategorisierung zur Ableitung von Herkunft, politischer Haltung, Religion oder sexueller Orientierung
- Ab 2. Dezember 2026: Systeme, die ohne ausdrückliche Zustimmung intime Darstellungen bestimmbarer Personen erzeugen (Art. 5 Abs. 1 Buchst. ba)
Welche Pflichten haben Betreiber von KI-Agenten?
Für jeden Betreiber gilt Artikel 4: Er ergreift Maßnahmen, um die KI-Kompetenz seines Personals und weiterer Personen zu fördern, die in seinem Auftrag mit KI-Systemen arbeiten. Seit der Neufassung vom 27. Juli 2026 verlangt die Vorschrift ausdrücklich nicht, für eine Person ein bestimmtes Kompetenzniveau zu garantieren. Was das für Schulungen bedeutet, beschreibt die Seite zur KI-Sicherheit im Unternehmen.
Wer ein Hochrisiko-KI-System betreibt, etwa einen Agenten zur Vorauswahl von Bewerbungen, hat zusätzlich die Pflichten aus Artikel 26. Für Systeme nach Anhang III gelten sie ab dem 2. Dezember 2027. Die wichtigsten Punkte:
- System nach der Betriebsanleitung des Anbieters verwenden
- Menschliche Aufsicht an Personen mit Kompetenz, Ausbildung und Befugnis übertragen
- Eingabedaten, soweit kontrolliert, passend zum Zweck und ausreichend repräsentativ halten
- Betrieb überwachen, bei Risiken den Einsatz aussetzen und Anbieter sowie Behörde informieren
- Automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren
- Arbeitnehmervertretung und Beschäftigte vor dem Einsatz am Arbeitsplatz informieren
- Betroffene informieren, wenn das System Entscheidungen über sie trifft oder unterstützt
Artikel 14: Aufsicht im System angelegt
Der Anbieter muss Hochrisiko-Systeme so bauen, dass Menschen Fähigkeiten und Grenzen verstehen, Automatisierungsbias erkennen, Ausgaben außer Acht lassen und den Betrieb über eine Stopptaste oder ein ähnliches Verfahren anhalten können.
Artikel 26 Absatz 2: Aufsicht im Betrieb gelebt
Der Betreiber benennt die Personen, die diese Eingriffsmöglichkeiten tatsächlich nutzen, und gibt ihnen die nötige Unterstützung. Wie solche Freigaben bei Agenten technisch aussehen, zeigt die Seite zu Human in the Loop.
Artikel 27: Grundrechte-Folgenabschätzung
Öffentliche Stellen, private Einrichtungen mit öffentlichen Diensten sowie Betreiber von Systemen zur Kreditwürdigkeitsprüfung und zur Preisbildung bei Lebens- und Krankenversicherungen prüfen vor der Inbetriebnahme die Folgen für die Grundrechte.
Transparenzpflichten nach Artikel 50
Artikel 50 gilt seit dem 2. August 2026 und betrifft fast jedes Unternehmen, das KI nach außen einsetzt. Anbieter müssen Systeme, die direkt mit Menschen interagieren, so gestalten, dass diese erfahren, dass sie mit einer KI sprechen. Anbieter generativer Systeme kennzeichnen Ausgaben maschinenlesbar. Betreiber legen Deepfakes und KI-Texte offen, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren.
Die Leitlinien der Kommission stellen klar, dass KI-Agenten unter Artikel 50 Absatz 1 fallen, wenn sie bei ihren Aufgaben mit Menschen interagieren, etwa beim Buchen, bei der Korrespondenz oder bei Vertragsverhandlungen. Sie sollen sowohl ihre künstliche Natur offenlegen als auch, in wessen Auftrag sie handeln. Alle Absätze, Ausnahmen und Beispiele erklärt die Seite zur KI-Kennzeichnungspflicht.
KI-Modelle mit allgemeinem Verwendungszweck (GPAI)
Die großen Sprachmodelle hinter Assistenten und Agenten sind KI-Modelle mit allgemeinem Verwendungszweck (General Purpose AI, GPAI). Für ihre Anbieter gelten seit dem 2. August 2025 die Pflichten aus Kapitel V. Sie müssen nach Artikel 53 unter anderem eine technische Dokumentation führen, Informationen an nachgelagerte Anbieter weitergeben und eine Strategie zur Einhaltung des Urheberrechts haben.
Ein Modell gilt nach Artikel 51 als Modell mit systemischem Risiko, wenn es Fähigkeiten mit hohem Wirkungsgrad hat. Das wird vermutet, wenn für das Training mehr als 10^25 Gleitkommaoperationen eingesetzt wurden. Für solche Modelle kommen nach Artikel 55 weitere Pflichten hinzu. Modelle, die vor dem 2. August 2025 in Verkehr gebracht wurden, müssen die Pflichten bis zum 2. August 2027 erfüllen.
Die Kommission hat am 10. Juli 2025 einen Praxisleitfaden für GPAI-Modelle veröffentlicht, mit Kapiteln zu Transparenz, Urheberrecht sowie Sicherheit und Schutz. Kommission und KI-Gremium haben ihn als geeignetes freiwilliges Mittel bestätigt, die Einhaltung nachzuweisen.
Ein Unternehmen, das ein solches Modell nur über eine Schnittstelle nutzt, wird dadurch nicht zum GPAI-Anbieter. Baut es darauf aber ein eigenes KI-System unter eigenem Namen, ist es Anbieter dieses Systems und braucht die Informationen des Modellanbieters, um seine eigenen Pflichten zu erfüllen.
Zeitplan: Ab wann gilt was?
Die KI-Verordnung gilt gestaffelt. Die Verordnung (EU) 2026/1744 hat mehrere Termine verschoben oder neu eingeführt. Die Tabelle zeigt alle Fristen nach Artikel 111 und Artikel 113 in der konsolidierten Fassung, ergänzt um das deutsche Durchführungsgesetz.
| Datum | Was gilt ab diesem Tag | Norm |
|---|---|---|
| 1. August 2024 | Inkrafttreten der KI-Verordnung | Art. 113 |
| 2. Februar 2025 | Allgemeine Bestimmungen, KI-Kompetenz und die ursprünglichen Verbote | Art. 113 Buchst. a |
| 2. August 2025 | Pflichten für GPAI-Modelle, Governance, Sanktionen (ohne Art. 101), notifizierende Behörden | Art. 113 Buchst. b |
| 27. Juli 2026 | Inkrafttreten der Änderungsverordnung, Neufassung von Art. 4, Geltung der Art. 102 bis 110 | VO (EU) 2026/1744, Art. 113 Buchst. d |
| 29. Juli 2026 | Deutsches KI-MIG in Kraft, Bundesnetzagentur wird Marktüberwachungsbehörde | KI-MIG |
| 2. August 2026 | Allgemeiner Geltungsbeginn, unter anderem Transparenzpflichten und Geldbußen für GPAI-Anbieter | Art. 113, Art. 50, Art. 101 |
| 2. Dezember 2026 | Neue Verbote zu intimen Deepfakes, Kennzeichnung nach Art. 50 Abs. 2 für Systeme, die vor dem 2. August 2026 in Verkehr kamen | Art. 113 Buchst. a, Art. 111 Abs. 4 |
| 2. August 2027 | Altbestand an GPAI-Modellen muss die Pflichten erfüllen, jeder Mitgliedstaat hat ein KI-Reallabor | Art. 111 Abs. 3, Art. 57 |
| 2. Dezember 2027 | Hochrisiko-Pflichten für Systeme nach Anhang III, darunter Art. 26 für Betreiber | Art. 113 Buchst. c Ziff. i |
| 2. August 2028 | Hochrisiko-Pflichten für Systeme nach Anhang I, etwa in Medizinprodukten oder Maschinen | Art. 113 Buchst. c Ziff. ii |
| 2. August 2030 | Hochrisiko-Systeme, die Behörden nutzen sollen, müssen die Anforderungen erfüllen | Art. 111 Abs. 2 |
| 31. Dezember 2030 | KI-Komponenten von IT-Großsystemen nach Anhang X | Art. 111 Abs. 1 |
Hochrisiko-Systeme, die vor dem Beginn der Hochrisiko-Pflichten in Verkehr kamen, fallen nach Artikel 111 Absatz 2 nur darunter, wenn sie danach in ihrer Konzeption erheblich verändert werden. Für Artikel 50 gibt es diese Ausnahme nicht.
Sanktionen und Aufsicht in Deutschland
Artikel 99 gibt die Obergrenzen für Geldbußen vor. Maßgeblich ist jeweils der höhere Betrag aus Festsumme und Anteil am weltweiten Jahresumsatz des Vorjahres. Für KMU und Start-ups gilt nach Absatz 6 der niedrigere Betrag, für kleine Midcap-Unternehmen nach dem neuen Absatz 6a bei den Absätzen 4 und 5 ebenso.
Das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) vom 22. Juli 2026 ist am 29. Juli 2026 in Kraft getreten. Nach § 2 ist die Bundesnetzagentur die zuständige Marktüberwachungsbehörde, soweit das Gesetz nichts anderes bestimmt. Sie ist außerdem zentrale Anlaufstelle (§ 6) und zentrale Beschwerdestelle (§ 8) und verhängt Geldbußen in ihrem Geschäftsbereich (§ 17).
Ausnahmen regelt § 2 ausdrücklich: Die BaFin überwacht KI-Systeme, die in direktem Zusammenhang mit regulierten Finanztätigkeiten stehen. Für öffentliche Stellen der Länder und für Mediendienste sind Landesbehörden zuständig. Für Produkte nach Anhang I bleiben die bisherigen Marktüberwachungsbehörden zuständig. Eine unabhängige KI-Marktüberwachungskammer bei der Bundesnetzagentur übernimmt Systeme aus Strafverfolgung, Migration, Justiz und demokratischen Prozessen.
Für KI-Systeme, die ein Modellanbieter auf seinem eigenen GPAI-Modell anbietet, ist nach Artikel 75 Absatz 1 das Büro für Künstliche Intelligenz der Kommission allein zuständig. Die Bundesnetzagentur bietet mit dem KI-Service Desk ein Online-Werkzeug zur ersten Einschätzung der Risikoklasse sowie Hinweise zum Aufbau von KI-Kompetenz an.
Die KI-Verordnung ersetzt nicht die DSGVO. Verarbeitet ein Agent personenbezogene Daten, bleiben Rechtsgrundlage, Auftragsverarbeitung und Datenschutz-Folgenabschätzung Pflicht, wie auf der Seite zu KI und Datenschutz beschrieben.
| Verstoß | Höchstbetrag | Norm |
|---|---|---|
| Verbotene Praktiken | 35 Mio. Euro oder 7 % des Jahresumsatzes | Art. 99 Abs. 3 |
| Pflichten von Anbietern, Betreibern (Art. 26) und Transparenzpflichten (Art. 50) | 15 Mio. Euro oder 3 % | Art. 99 Abs. 4 |
| Falsche oder unvollständige Auskünfte an Behörden | 7,5 Mio. Euro oder 1 % | Art. 99 Abs. 5 |
| Verstöße von GPAI-Anbietern, verhängt durch die Kommission | 15 Mio. Euro oder 3 % | Art. 101 |
| Nationale Tatbestände, etwa fehlende Grundrechte-Folgenabschätzung | 50.000 Euro | § 15 KI-MIG |
Checkliste: KI-Verordnung für Unternehmen mit KI-Agenten
Mit diesen Punkten bereiten Sie Ihr Unternehmen auf die geltenden und kommenden Pflichten vor. Wie Sie Zuständigkeiten, Inventar und Freigaben dauerhaft organisieren, beschreibt die Seite zur KI-Governance.
- Inventar aller KI-Systeme und Agenten mit Zweck, Daten, Anbieter und Verantwortlichen
- Rolle je System klären: Betreiber, Anbieter oder beides, und das Ergebnis dokumentieren
- Jeden Einsatz gegen Artikel 5 prüfen, besonders Emotionserkennung und Profiling
- Einsätze in Personal, Kredit oder Bildung als mögliches Hochrisiko nach Anhang III markieren
- Chatbots und Agenten mit Kundenkontakt geben sich zu Beginn als KI zu erkennen
- Deepfakes und KI-Texte zu öffentlichen Themen vor Veröffentlichung kennzeichnen
- Schulungen nach Rolle anbieten und für Artikel 4 nachweisbar festhalten
- Freigaben für kritische Aktionen, Protokolle und eine Stopptaste für Agenten einrichten
- Fristen 2. Dezember 2026 und 2. Dezember 2027 im Projektplan verankern
Häufige Fragen
Ab wann gilt die KI-Verordnung?
Die KI-Verordnung ist seit dem 1. August 2024 in Kraft und gilt gestaffelt. Verbote und KI-Kompetenz gelten seit 2. Februar 2025, Pflichten für GPAI-Modelle seit 2. August 2025, die meisten übrigen Regeln einschließlich Artikel 50 seit 2. August 2026.
Die Hochrisiko-Pflichten beginnen nach der Änderung durch die Verordnung (EU) 2026/1744 am 2. Dezember 2027 (Anhang III) und am 2. August 2028 (Anhang I).
Was hat der Digital-Omnibus an der KI-Verordnung geändert?
Die Verordnung (EU) 2026/1744 hat Artikel 4 neu gefasst, neue Verbote für nicht einvernehmliche intime Deepfakes ab 2. Dezember 2026 eingeführt und die Hochrisiko-Pflichten auf Dezember 2027 und August 2028 verschoben.
Außerdem gibt es Erleichterungen für KMU und kleine Midcap-Unternehmen, eine Übergangsfrist bis 2. Dezember 2026 für die maschinenlesbare Kennzeichnung bestehender generativer Systeme und mehr Aufsichtsbefugnisse für das Büro für Künstliche Intelligenz.
Ist ein KI-Agent ein Hochrisiko-KI-System?
Nicht automatisch. Entscheidend ist der Einsatzzweck. Ein Agent, der Rechnungen vorsortiert oder Recherchen zusammenfasst, fällt in der Regel nicht unter Anhang III.
Filtert oder bewertet er dagegen Bewerbungen, beeinflusst Entscheidungen über Beförderungen oder prüft die Kreditwürdigkeit von Personen, ist er nach Anhang III Nummer 4 oder 5 hochriskant.
Muss ich KI-Agenten bei einer Behörde registrieren?
Betreiber, die private Unternehmen sind, haben keine allgemeine Registrierungspflicht. Nach Artikel 49 registrieren Anbieter ihre Hochrisiko-KI-Systeme aus Anhang III in der EU-Datenbank, bei den Betreibern nur Behörden sowie Organe und Stellen der Union.
Ein Anbieter, der ein System aus Anhang III nach Artikel 6 Absatz 3 als nicht hochriskant einstuft, muss diese Bewertung dokumentieren und sich ebenfalls registrieren.
Wer ist in Deutschland für die KI-Verordnung zuständig?
Seit dem Inkrafttreten des KI-MIG am 29. Juli 2026 ist grundsätzlich die Bundesnetzagentur zuständig. Sie ist Marktüberwachungsbehörde, zentrale Anlaufstelle und Beschwerdestelle.
Für den Finanzsektor ist die BaFin zuständig, für öffentliche Stellen der Länder und Mediendienste die Landesbehörden.
Gibt es Bußgelder, wenn wir keine KI-Schulung machen?
Artikel 99 Absatz 4 nennt Artikel 4 nicht unter den Pflichten mit eigenem Bußgeldrahmen, und auch die Bußgeldvorschriften in § 15 KI-MIG erfassen ihn nicht.
Die Pflicht, Maßnahmen zur KI-Kompetenz zu ergreifen, besteht trotzdem. Für eine verbindliche Einschätzung wenden Sie sich an eine Rechtsberatung.
Gilt die KI-Verordnung auch für ChatGPT im Büro?
Ja. Ein Unternehmen, das ChatGPT oder einen ähnlichen Dienst beruflich einsetzt, ist Betreiber. Damit gilt mindestens Artikel 4 zur KI-Kompetenz.
Veröffentlicht das Unternehmen mit dem Dienst erzeugte Deepfakes oder ungeprüfte Texte zu öffentlichen Themen, kommt die Kennzeichnungspflicht aus Artikel 50 Absatz 4 hinzu.
Quellen
- Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung vom 27.07.2026, EUR-Lex
- Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI), ABl. L vom 24.7.2026, EUR-Lex
- Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG), Bundesministerium der Justiz, gesetze-im-internet.de
- Bundesnetzagentur übernimmt zentrale Rolle bei der Umsetzung der KI-Verordnung (Pressemitteilung, 29.07.2026), Bundesnetzagentur
- Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 AI Act, C(2026) 7702, Europäische Kommission
- The General-Purpose AI Code of Practice, Europäische Kommission
- Code of Practice on Transparency of AI-Generated Content, Europäische Kommission