KI-Verordnung in der Praxis: Pflichten für Unternehmen, die KI nur nutzen

Wenn es um die europäische Verordnung über künstliche Intelligenz geht, fällt schnell der Satz: Wir entwickeln keine KI, wir nutzen sie nur, also betrifft uns das nicht. Das stimmt so nicht. Die KI-Verordnung, international als AI Act bekannt und amtlich Verordnung (EU) 2024/1689, verteilt die Pflichten auf diejenigen, die KI-Systeme entwickeln, und diejenigen, die sie verwenden. Wer KI nur verwendet, hat weniger Pflichten, aber nicht keine.

Ein Modellbeispiel: Dasselbe Sprachmodell kann in einem Unternehmen den Newsletter schreiben, wo vor allem die Pflicht zur KI-Kompetenz greift, und in einem anderen Bewerbungen vorsortieren, wo ab dem 2. Dezember 2027 das strenge Regime für Hochrisiko-KI-Systeme gelten kann. Die KI-Verordnung knüpft die Pflichten für Unternehmen nämlich nicht an das Werkzeug, sondern an die Rolle des Unternehmens und den Verwendungszweck. Der Beitrag gibt den zum 16. September 2026 geprüften Stand wieder und ist keine Rechtsberatung für den Einzelfall.

Warum „Wir entwickeln keine KI“ nicht „Das betrifft uns nicht“ bedeutet

Die erste Fehlerquelle sind die Regeln für KI-Modelle mit allgemeinem Verwendungszweck, also große Modelle, auf denen Anwendungen wie ChatGPT aufbauen. Sie richten sich an die Anbieter der Modelle. Wer ein solches Modell jedoch in ein eigenes KI-System einbindet, etwa in einen Kundenservice-Chatbot unter der eigenen Marke, muss laut EU-Kommission die entsprechenden Pflichten für KI-Systeme erfüllen.

Die zweite Fehlerquelle ist eine übersehene Definition. Betreiber ist jeder, der ein KI-System in eigener Verantwortung verwendet, außer im Rahmen einer persönlichen und nicht beruflichen Tätigkeit, in der Regel also auch ein Unternehmen, dessen Beschäftigte KI bei der Arbeit nutzen. Das ist eine gängige Situation: Laut Eurostat setzten von den Unternehmen in der EU mit 10 und mehr Beschäftigten außerhalb des Finanzsektors, die 2024 KI nutzten, fast 58 % gebrauchsfertige kommerzielle Software ein und knapp 22 % KI, die von eigenen Beschäftigten entwickelt wurde.

Was zum 16. September 2026 gilt und ab wann

Die KI-Verordnung ist am 1. August 2024 in Kraft getreten, ihre Vorschriften gelten gestaffelt. Den Zeitplan und einige Pflichten hat die Verordnung (EU) 2026/1744 geändert, bekannt als Digital Omnibus on AI und amtlich als Digital-Omnibus-Verordnung zur KI. Sie ist seit dem 27. Juli 2026 in Kraft. Es handelt sich nicht um einen Entwurf, sondern um verabschiedetes und bereits geltendes Recht. Die Termine für Unternehmen:

• 2. Februar 2025: Verbote von KI-Praktiken mit unannehmbarem Risiko und KI-Kompetenz, Letztere seit dem 27. Juli 2026 in abgeschwächter Fassung.
• 2. August 2025: Regeln für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck.
• 2. August 2026: Transparenzpflichten und Beginn der Durchsetzung durch die Behörden der Mitgliedstaaten und das Büro für Künstliche Intelligenz (AI Office) der Kommission.
• 2. Dezember 2026: neue Verbote für KI, die Darstellungen sexuellen Missbrauchs von Kindern erzeugt, und für KI, die intime oder sexuell explizite Inhalte mit einer identifizierbaren Person ohne deren Zustimmung erstellt, sowie das Ende der Übergangsfrist für die maschinenlesbare Kennzeichnung von Inhalten bei generativen Systemen, die vor dem 2. August 2026 in Verkehr gebracht wurden.
• 2. Dezember 2027: Regeln für Hochrisiko-KI-Systeme aus sensiblen Bereichen nach Anhang III, etwa Personalauswahl oder Bonitätsbewertung.
• 2. August 2028: Regeln für Hochrisiko-KI-Systeme in regulierten Produkten nach Anhang I.

Verwechseln Sie den Digital Omnibus on AI nicht mit dem separaten Vorschlag für eine Digital Omnibus Regulation zu Daten, DSGVO und Cookies, der laut Europäischem Parlament mit Stand 1. August 2026 lediglich vorgelegt war und Unternehmen daher zu nichts verpflichtet. In Deutschland ist nach dem Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) die Bundesnetzagentur die allgemein zuständige Marktüberwachungsbehörde für die KI-Verordnung, soweit das Gesetz keine andere Behörde bestimmt. Das Gesetz ist am 29. Juli 2026 in Kraft getreten und gilt damit zum Prüfdatum bereits.

Anbieter, Betreiber und wann die Rollen wechseln

Der Anbieter entwickelt ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck oder lässt es entwickeln und bringt es unter eigenem Namen oder eigener Handelsmarke in Verkehr oder nimmt es in Betrieb. Ein Modellbeispiel: Der Entwickler eines Tools zur Vorauswahl von Lebensläufen ist Anbieter, das Unternehmen, das dieses Tool abonniert, ist Betreiber.

Die Rolle bestimmt jedoch nicht nur der Vertrag, sondern vor allem das, was Sie mit der KI tun. Nach Art. 25 wird auch zum Anbieter eines Hochrisiko-KI-Systems, wer es mit seinem Namen oder seiner Handelsmarke versieht, es wesentlich verändert oder die Zweckbestimmung eines anderen Systems, einschließlich eines KI-Systems mit allgemeinem Verwendungszweck, so ändert, dass es zu einem Hochrisiko-KI-System wird. Ein Modellbeispiel: Die Personalabteilung setzt einen allgemeinen Chatbot systematisch zur Bewertung von Bewerbungen ein, und das Unternehmen kann dadurch in die Rolle des Anbieters geraten.

Vier Risikostufen an Beispielen

Welche Pflichten die KI-Verordnung Unternehmen auferlegt, hängt auch davon ab, in welche der vier Risikostufen eine konkrete Anwendung fällt.

• Unannehmbares Risiko, also verbotene Praktiken. Verboten ist es zum Beispiel, Emotionen von Menschen am Arbeitsplatz abzuleiten, außer aus medizinischen Gründen oder Sicherheitsgründen. Ein Modellbeispiel: Ein Callcenter führt ein Zusatzmodul ein, das aus der Stimme der Agentinnen und Agenten deren Emotionen auswertet.
• Hohes Risiko. Ein Hochrisiko-KI-System kann die Gesundheit, die Sicherheit oder die Grundrechte von Menschen erheblich beeinträchtigen. Dazu gehört etwa KI für die Personalauswahl, für die Zuweisung von Aufgaben nach Verhalten oder persönlichen Merkmalen, für die Leistungsbewertung von Beschäftigten oder für die Bonitätsbewertung natürlicher Personen. Eine Ausnahme kann zum Beispiel eine eng gefasste Verfahrensaufgabe oder eine vorbereitende Aufgabe ohne erhebliches Risiko sein, niemals jedoch das Profiling natürlicher Personen. Ein Modellbeispiel: Ein Onlineshop lässt KI die Bonität von Kundinnen und Kunden bewerten, denen er den Kauf auf Raten anbietet.
• Transparenzrisiko. Menschen sollen in bestimmten Fällen wissen, dass sie es mit KI zu tun haben. Ein Modellbeispiel: ein Unternehmensvideo, in dem KI Gesicht und Stimme des Geschäftsführers nachahmt.
• Minimales Risiko. Hierfür sieht die Verordnung keine besonderen Regeln vor, die Pflicht zur KI-Kompetenz gilt aber auch hier. Laut Kommission fällt die große Mehrheit der in der EU genutzten KI-Systeme in diese Stufe, zum Beispiel Spamfilter.

Was ein typisches Unternehmen tun muss

KI-Kompetenz: fördern, nicht zertifizieren

KI-Kompetenz umfasst die Fähigkeiten, die Kenntnisse und das Verständnis, die für einen sachkundigen Einsatz von KI nötig sind. Nach Art. 4 in der seit dem 27. Juli 2026 geltenden Fassung ergreifen Anbieter wie Betreiber „Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen“, die KI in ihrem Auftrag nutzen, ohne ein bestimmtes Niveau garantieren zu müssen. Laut Kommission betrifft das auch ein Unternehmen, dessen Mitarbeitende mit ChatGPT Werbetexte schreiben, und die Beschäftigten sollten zum Beispiel das Risiko von Halluzinationen kennen, also von überzeugend präsentierten, aber falschen Ausgaben. Eine Formalität ist das nicht: In der weltweiten Befragung von KPMG und der University of Melbourne gaben 66 % der Beschäftigten, die KI nutzen, an, sich ohne Prüfung auf deren Ergebnisse zu verlassen, und 56 % haben bei der Arbeit wegen KI einen Fehler gemacht. Ein Zertifikat oder eine Funktion wie die eines KI-Beauftragten (AI Officer) ist laut Kommission nicht erforderlich, das Unternehmen kann Schulungen intern dokumentieren.

Transparenz gegenüber Menschen

Die Regeln nach Art. 50 gelten seit dem 2. August 2026. Bei Chatbots muss der Anbieter den Hinweis sicherstellen, dass es sich um KI handelt: Bei einer eingekauften Lösung prüfen Sie das also beim Lieferanten, bei einem Chatbot, den Sie unter Ihrer eigenen Marke aufbauen, ist es Ihre Pflicht. Der Betreiber muss Personen informieren, die einer Emotionserkennung oder biometrischen Kategorisierung ausgesetzt sind, und Deepfakes kennzeichnen, also von KI erzeugte oder veränderte Bilder, Tonaufnahmen oder Videos, die echte Personen oder Ereignisse nachahmen und fälschlich als echt erscheinen könnten. Erzeugt oder verändert KI einen Text, der die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren soll, ist das offenzulegen, es sei denn, der Text hat eine menschliche Überprüfung oder redaktionelle Kontrolle mit redaktioneller Verantwortung durchlaufen.

Hochrisiko-KI-Systeme: Personalauswahl und Kredite

Für Hochrisiko-KI-Systeme nach Anhang III gelten ab dem 2. Dezember 2027 die Pflichten der Betreiber nach Art. 26 und 27. Für Systeme, die vor diesem Datum in Verkehr gebracht oder in Betrieb genommen wurden, gelten sie erst nach einer erheblichen Veränderung ihrer Konzeption. Der Betreiber muss insbesondere:

• das System gemäß der Betriebsanleitung verwenden und die menschliche Aufsicht Personen mit der erforderlichen Kompetenz und Befugnis übertragen,
• soweit er die Eingabedaten kontrolliert, auf deren Relevanz und Repräsentativität achten,
• den Betrieb überwachen, bei einem Risiko den Anbieter und die Marktüberwachungsbehörde informieren und die Verwendung aussetzen sowie schwerwiegende Vorfälle melden,
• automatisch erzeugte Protokolle, die seiner Kontrolle unterliegen, mindestens sechs Monate aufbewahren, sofern besondere Vorschriften nichts anderes bestimmen,
• vor dem Einsatz am Arbeitsplatz die Arbeitnehmervertreter und die betroffenen Beschäftigten informieren,
• die betroffenen Personen informieren, wenn das System Entscheidungen über sie trifft oder dabei unterstützt,
• bei der Bonitätsbewertung natürlicher Personen, bei Risikobewertung und Preisgestaltung in der Lebensversicherung und Krankenversicherung oder wenn das Unternehmen öffentliche Dienste erbringt, vor dem Einsatz eine Grundrechte-Folgenabschätzung durchführen, also eine Analyse möglicher Schäden für Menschen, und das Ergebnis der Marktüberwachungsbehörde mitteilen.

Wo die KI-Verordnung auf die DSGVO trifft

Die KI-Verordnung ersetzt die DSGVO nicht: Verarbeitet ein System personenbezogene Daten, gelten beide Regelwerke. Nach dem geänderten Art. 27 kann der Betreiber eines Hochrisiko-KI-Systems in der Grundrechte-Folgenabschätzung auf die Datenschutz-Folgenabschätzung verweisen oder die Teile daraus übernehmen, mit denen er die Pflichten bereits erfüllt hat. Dieselbe Analyse muss also nicht zweimal erstellt werden.

Achten Sie bei gängigen Tools auch auf die Eingaben: Laut der erwähnten KPMG-Befragung räumte fast die Hälfte der Beschäftigten ein, KI entgegen den Unternehmensrichtlinien zu nutzen, einschließlich des Hochladens sensibler Unternehmensinformationen in kostenlose öffentliche Tools. Wie Sie Berechtigungen festlegen und die an Modelle übermittelten Daten begrenzen, erläutern wir im Artikel KI im Unternehmen ohne Chaos.

Sanktionen: Höchstbeträge, keine festen Sätze

Die Höchstgeldbußen sind dreistufig, und in der Regel gilt der höhere von zwei Beträgen:

• Verstöße gegen die Verbote: bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes,
• Verstöße gegen weitere Pflichten, etwa die Pflichten der Betreiber nach Art. 26 oder die Transparenzpflichten nach Art. 50: bis zu 15 Mio. EUR oder 3 %,
• falsche, unvollständige oder irreführende Angaben gegenüber Behörden: bis zu 7,5 Mio. EUR oder 1 %.

Für kleine und mittlere Unternehmen (KMU) gilt jeweils der niedrigere Betrag, für kleine Midcap-Unternehmen, die keine KMU mehr sind, gilt dasselbe in der zweiten und dritten Stufe. Der Omnibus hat die Höchstbeträge nicht verändert. Über die konkrete Geldbuße entscheidet die Behörde nach den Umständen des Einzelfalls, etwa nach Schwere und Dauer des Verstoßes, Größe des Unternehmens oder Zusammenarbeit mit den Behörden (Art. 99 Abs. 7). Für die KI-Kompetenz legt die Verordnung keine Bußgeldhöhe fest, die Sanktionen regeln nationale Gesetze, und laut Kommission sind sie wahrscheinlicher, wenn es wegen unzureichender Schulung zu einem Vorfall kommt.

Praktisches Vorgehen in vier Schritten

Bei minimalem Risiko brauchen Sie weder spezielle Software noch ein großes Projekt, oft genügen eine Tabelle, klare Regeln und eine kurze Schulung. Eine erste Orientierung bietet der AI Act Service Desk der Europäischen Kommission, für kleine und mittlere Unternehmen laut Kommission auch die Europäischen Digitalen Innovationszentren.

1. Bestandsaufnahme einschließlich Schatten-KI. Schatten-KI ist die Nutzung von KI-Tools ohne Wissen oder Freigabe des Unternehmens. Die KI-Verordnung kennt diesen Begriff nicht, in die Bestandsaufnahme gehört Schatten-KI aber ebenso wie KI-Funktionen in Software, die Sie bereits einsetzen. Da in der KPMG-Befragung 57 % der Beschäftigten, die KI nutzen, angaben, ihre KI-Nutzung zu verheimlichen, hilft ein anonymer Fragebogen. Sortieren Sie überflüssige Tools aus, bevor Sie mit der Dokumentation beginnen; warum KI keine unnötigen Schritte beschleunigen sollte, erklären wir im Artikel KI rettet keinen schlechten Prozess.
2. Einstufung und Dokumentation. Bestimmen Sie für jede Anwendung Rolle und Risikostufe und halten Sie Zweck, Datum der Bewertung und verantwortliche Person fest, sonst veraltet die Bestandsaufnahme schnell. Verbotene Anwendungen schalten Sie sofort ab, Hochrisiko-Anwendungen lassen Sie eingehend prüfen.
3. Regeln und Schulung. Legen Sie fest, welche Tools freigegeben sind, welche Daten nicht eingegeben werden dürfen und in welchen Situationen Ergebnisse geprüft oder gekennzeichnet werden müssen. Passen Sie die Schulung an die Rollen an und dokumentieren Sie sie.
4. Prüfung der Lieferanten. Klären Sie die Zweckbestimmung des Systems, ob der Lieferant es als hochriskant einstuft, welche Betriebsanleitung er bereitstellt und wie er die Information von Personen und die Kennzeichnung von Inhalten löst. Übernehmen Sie die Antworten in den Vertrag.

Was Sie mitnehmen

• Wenn Sie KI im Unternehmen nutzen, sind Sie in der Regel Betreiber, und einige Pflichten aus der KI-Verordnung betreffen Sie schon heute, vor allem die KI-Kompetenz und in bestimmten Fällen die Transparenz.
• Den Umfang der Pflichten bestimmen Rolle und Verwendungszweck, nicht die Marke des Tools. Eine eigene Marke, eine wesentliche Veränderung oder ein neuer Zweck können aus dem Nutzer einen Anbieter machen.
• Die Pflichten bei Personalauswahl oder Bonitätsbewertung gelten ab dem 2. Dezember 2027. Bestandsaufnahme, Regeln und Schulung sollten Sie jedoch schon jetzt vorbereiten, denn die Pflicht zur KI-Kompetenz gilt seit dem 2. Februar 2025.
• Bevor Sie ein Compliance-Tool kaufen, klären Sie, was Sie tatsächlich nutzen und zu welchem Zweck.
• Der Stand entspricht dem 16. September 2026. Prüfen Sie Fristen und die Regelung der deutschen Aufsicht daher vor jeder Entscheidung erneut.