Übersicht
Der EU AI Act ist die erste umfassende Verordnung weltweit, die den Einsatz Künstlicher Intelligenz rechtlich regelt. Die Verordnung gilt seit dem 1. August 2024 und wird in mehreren Stufen wirksam. Stand Mai 2026 sind die verbotenen KI-Praktiken und die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck bereits in Kraft. Die zentralen Anforderungen für Hochrisiko-KI-Systeme wurden durch das jüngste Reformpaket der EU verschoben und greifen nun gestaffelt zwischen Dezember 2027 und August 2028. Dieser Beitrag ordnet Risikoklassen, Pflichten und Fristen ein und beschreibt, was sich daraus für mittelständische Unternehmen ableiten lässt.
EU AI Act (Verordnung (EU) 2024/1689)
Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz. Die Verordnung folgt einem risikobasierten Ansatz und gliedert KI-Systeme in vier Klassen mit unterschiedlich strengen Anforderungen. Sie gilt unmittelbar in allen EU-Mitgliedsstaaten, also auch in Deutschland, und richtet sich nicht nur an Anbieter und Hersteller, sondern auch an Unternehmen, die KI-Systeme einsetzen. Bei Verstößen drohen Bußgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes. Die Aufsicht liegt auf europäischer Ebene beim AI Office der EU-Kommission, in Deutschland soll die nationale Marktüberwachung über das im Februar 2026 vom Bundeskabinett beschlossene KI-Maßnahmen- und Innovationsgesetz (KI-MIG) ausgestaltet werden.
Aktueller Umsetzungsstand und Stufenplan
Der EU AI Act tritt nicht auf einen Schlag in Kraft, sondern entfaltet seine Wirkung in mehreren Stufen über einen Zeitraum von vier Jahren. Der ursprüngliche Plan sah die zentralen Hochrisiko-Pflichten bereits für August 2026 vor, wurde durch das im Mai 2026 verabschiedete Reformpaket „Digital Omnibus on AI“ jedoch teilweise verschoben. Die folgenden Stufen sind für die Praxis maßgeblich.
2. Februar 2025 — Verbote und KI-Kompetenz
Mit dieser ersten Stufe wurden bestimmte KI-Praktiken EU-weit untersagt, darunter Social Scoring, manipulative Systeme, biometrische Echtzeit-Fernüberwachung im öffentlichen Raum sowie Emotionserkennung am Arbeitsplatz und im Bildungsbereich. Parallel dazu trat die Pflicht zur Vermittlung ausreichender KI-Kompetenz nach Artikel 4 in Kraft.
2. August 2025 — GPAI-Pflichten und Governance
Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (General Purpose AI, GPAI) unterliegen seit dieser Stufe spezifischen Transparenz-, Dokumentations- und Urheberrechtspflichten. Gleichzeitig wurden die nationalen Governance-Strukturen aktiviert. Das AI Office der EU-Kommission koordiniert die Durchsetzung auf europäischer Ebene und veröffentlichte im Juli 2025 die finale Fassung des Code of Practice on General Purpose AI als praktischen Leitfaden.
2. Dezember 2026 — Kennzeichnungspflicht für synthetische Inhalte
Im Rahmen des Digital Omnibus wurde dieser Termin sogar vorgezogen. Anbieter generativer KI-Systeme müssen ab diesem Datum sicherstellen, dass synthetische Inhalte wie Deepfakes, KI-generierte Texte, Bilder oder Audio maschinenlesbar als künstlich erzeugt gekennzeichnet sind. Auch Chatbots und ähnliche interaktive Systeme müssen Nutzer darüber informieren, dass eine Interaktion mit einer Maschine stattfindet.
2. Dezember 2027 — Hochrisiko-KI-Systeme nach Anhang III
Ursprünglich für August 2026 vorgesehen, wurden die vollständigen Pflichten für eigenständige Hochrisiko-KI-Systeme um rund sechzehn Monate verschoben. Betroffen sind insbesondere KI-Systeme im Personalwesen, in der Kreditprüfung, im Bildungsbereich und in der Strafverfolgung. Konformitätsbewertung, technische Dokumentation, Risikomanagement-System, Daten-Governance, menschliche Aufsicht, CE-Kennzeichnung und Eintragung in die EU-Datenbank werden ab diesem Datum verpflichtend.
2. August 2028 — Hochrisiko-KI in regulierten Produkten
Für KI-Komponenten in regulierten Produkten nach Anhang I, etwa in Medizinprodukten, Maschinen, Kraftfahrzeugen oder Spielzeug, gilt die längste Übergangsfrist. Die parallele Compliance unter sektoralen Regelwerken wie der Medizinprodukteverordnung MDR oder der Maschinenverordnung wurde bei der Fristverlängerung berücksichtigt. Hersteller dieser Produkte müssen ihre KI-Komponenten bis zu diesem Datum vollständig in Konformität gebracht haben.
Was die Fristverschiebung bedeutet
Die Verschiebung der Hochrisiko-Pflichten ist kein Anlass, die Vorbereitung zurückzustellen. Sie reagiert vielmehr auf die Tatsache, dass die harmonisierten Normen für die Konformitätsbewertung und die Benennung der notifizierten Stellen schlicht nicht rechtzeitig fertig waren. Inhaltlich ändern sich die Anforderungen kaum. Wer die Vorbereitungsarbeiten auf eine angeblich gewonnene Atempause verschiebt, riskiert, am Ende mit denselben Pflichten konfrontiert zu sein, nur zwölf bis sechzehn Monate später. Insbesondere die Governance-Strukturen sollten unabhängig vom genauen Stichtag aufgebaut werden.
Die KI-Realität in deutschen Unternehmen
Die regulatorische Diskussion trifft auf einen Markt, in dem sich die KI-Nutzung im vergangenen Jahr grundlegend verändert hat. Die Bitkom-KI-Studie 2026 zeigt eine Verdopplung der aktiven Nutzung gegenüber dem Vorjahr und macht zugleich deutlich, wo die größten Hemmnisse liegen.
41 %
der deutschen Unternehmen ab 20 Beschäftigten setzen KI aktiv ein (2024: 17 %)
53 %
nennen rechtliche Unsicherheit als zentrales Hemmnis beim KI-Einsatz
93 %
würden bei vergleichbaren Konditionen einen KI-Anbieter aus Deutschland bevorzugen
Bitkom KI-Studie 2026 · Befragung von 604 Unternehmen ab 20 Beschäftigten · veröffentlicht März 2026
Die Zahlen zeigen einen Markt im Umbruch. Innerhalb eines Jahres hat sich die aktive Nutzung mehr als verdoppelt und damit den Punkt überschritten, an dem KI von der Ausnahme zur Regel kippt. Gleichzeitig ist die rechtliche Unsicherheit zu einem der dominanten Hemmnisse geworden. Mehr als jedes zweite Unternehmen, das KI einsetzen möchte, sieht sich durch unklare Regulierung ausgebremst. Genau diese Lücke versucht der EU AI Act zu schließen, indem er einen einheitlichen Rechtsrahmen schafft. Für die Unternehmen bedeutet das in der Übergangsphase zunächst Mehraufwand, mittelfristig aber Planungssicherheit.
Die vier Risikoklassen
Das Herzstück des EU AI Act ist die risikobasierte Klassifizierung. Je höher das Risikopotenzial eines KI-Systems, desto strenger die regulatorischen Anforderungen. Die Verordnung unterscheidet vier Klassen, die in der internen Bestandsaufnahme jedes Unternehmens das erste Ordnungsraster bilden sollten.
Klasse 1 — Verbotene KI-Praktiken (Art. 5)
KI-Systeme, deren Einsatz mit europäischen Grundwerten unvereinbar ist und die deshalb seit Februar 2025 ausnahmslos verboten sind. Dazu zählen Social-Scoring-Systeme öffentlicher Stellen, manipulative Systeme zur unterschwelligen Beeinflussung, biometrische Echtzeit-Fernüberwachung im öffentlichen Raum mit eng definierten Ausnahmen, Emotionserkennung am Arbeitsplatz und im Bildungsbereich sowie ungezieltes Scrapen von Gesichtsbildern aus dem Internet. Im Mai 2026 wurde durch den Digital Omnibus eine weitere Kategorie aufgenommen, die KI-generiertes Material über sexuellen Kindesmissbrauch und nicht-einvernehmliche intime Darstellungen identifizierbarer Personen erfasst.
Klasse 2 — Hochrisiko-KI-Systeme (Art. 6, Anhänge I und III)
KI-Systeme, die ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen können. Sie sind grundsätzlich zulässig, unterliegen aber einem umfangreichen Pflichtenkatalog. Die Klassifikation erfolgt entweder über Anhang III, der eigenständige Hochrisiko-Anwendungen in acht Bereichen aufzählt, oder über Anhang I, der KI-Komponenten in regulierten Produkten erfasst. Die Pflichten umfassen Risikomanagement, Daten-Governance, technische Dokumentation, menschliche Aufsicht, Genauigkeit und Cybersicherheit, Konformitätsbewertung, CE-Kennzeichnung sowie die Eintragung in die EU-Datenbank.
Klasse 3 — KI mit begrenztem Risiko (Art. 50)
KI-Systeme mit überschaubaren Risiken, für die vor allem Transparenzpflichten gelten. Dazu zählen interaktive Systeme wie Chatbots, generative KI-Anwendungen, die synthetische Inhalte erzeugen, sowie biometrische Kategorisierungs- und Emotionserkennungs-Systeme außerhalb der verbotenen Anwendungsbereiche. Nutzer müssen erkennen können, dass sie mit einer KI interagieren oder dass ein Inhalt künstlich erzeugt wurde. Die Kennzeichnungspflicht greift in der vollständigen Form ab dem 2. Dezember 2026.
Klasse 4 — KI mit minimalem Risiko
Die große Mehrheit der heute eingesetzten KI-Anwendungen fällt in diese Klasse. Spam-Filter, einfache Empfehlungssysteme, KI-gestützte Optimierung in der Produktion oder Übersetzungssoftware unterliegen keinen besonderen Anforderungen aus dem AI Act. Die freiwillige Orientierung an Codes of Conduct wird empfohlen, ist aber nicht verpflichtend. Diese Klasse ist regulatorisch entlastet, was den allergrößten Teil der KI-Nutzung im Mittelstand abdeckt.
Die acht Bereiche der Hochrisiko-KI nach Anhang III
Wer prüfen möchte, ob im eigenen Unternehmen Hochrisiko-KI eingesetzt wird, beginnt am sinnvollsten mit den acht Bereichen aus Anhang III. Sie umfassen die wesentlichen Anwendungsfelder, in denen KI-Systeme typischerweise erhebliche Auswirkungen auf Grundrechte, Sicherheit oder den Zugang zu wesentlichen Diensten haben können.
Anhang III · 8 Bereiche
Eigenständige Hochrisiko-KI-Systeme
- Biometrie — Identifizierung, Kategorisierung, Emotionserkennung außerhalb verbotener Anwendungen
- Kritische Infrastruktur — Sicherheitskomponenten in Verkehr, Energie, Wasser, digitalen Netzen
- Bildung und Berufsausbildung — Zugangs- und Zulassungsentscheidungen, Bewertung von Leistungen
- Beschäftigung und Personalmanagement — Bewerber-Screening, Auswahlentscheidungen, Leistungsbewertung, Beförderung
- Wesentliche Dienste — Kreditwürdigkeitsprüfung, Versicherungsbewertung, Zugang zu öffentlichen Leistungen
- Strafverfolgung — Bewertung von Beweismitteln, Profiling, Vorhersagebewertungen
- Migration, Asyl, Grenzkontrolle — Risikobewertungen, Lügendetektion, Antragsprüfung
- Justiz und demokratische Prozesse — Unterstützung gerichtlicher Entscheidungen, Beeinflussung von Wahlen
Anhang I · sektorale Regulierung
KI-Komponenten in regulierten Produkten
- Medizinprodukte — KI-gestützte Diagnostik, Assistenzsysteme
- In-vitro-Diagnostika — Laboranalytik mit algorithmischer Auswertung
- Maschinen und Anlagen — autonome Steuerung, Sicherheitsfunktionen
- Spielzeug — interaktive KI-Funktionen mit Sicherheitsbezug
- Aufzüge und Druckgeräte — KI-gestützte Steuerung sicherheitskritischer Komponenten
- Kraftfahrzeuge und Luftfahrt — Fahrer-Assistenz, autonome Funktionen
- Funkanlagen — intelligente Signalverarbeitung mit sicherheitsrelevanter Wirkung
- Schutzausrüstung — intelligente persönliche Schutzausrüstung mit KI-Komponenten
Mittelständische Unternehmen außerhalb der typischen Hochrisiko-Branchen unterschätzen häufig den Anhang III. Wer beispielsweise KI-gestützte Software zur Bewerber-Vorauswahl oder zur Bonitätsprüfung einsetzt, fällt unmittelbar in den Anwendungsbereich. Auch Tools zur automatisierten Leistungsbewertung von Beschäftigten oder zur Vorhersage von Kreditrisiken im B2B-Geschäft können zur Hochrisiko-Klasse zählen. Die Klassifikationsfrage lohnt deshalb eine sorgfältige Prüfung anhand des Geschäftsmodells.
Pflichten von Anbietern und Betreibern
Der EU AI Act folgt einer klaren Rollenverteilung entlang der Wertschöpfungskette. Anbieter (Provider) entwickeln und vertreiben KI-Systeme, Betreiber (Deployer) setzen sie in eigener Verantwortung ein. Die Pflichten unterscheiden sich erheblich. Während die Anbieter die Hauptlast der technischen und dokumentarischen Anforderungen tragen, sind Betreiber für die ordnungsgemäße Verwendung im konkreten Einsatzfeld verantwortlich. Für viele mittelständische Unternehmen wird die Betreiber-Rolle die praktisch relevantere sein.
Anbieter (Provider)
- Konformitätsbewertung nach Artikel 43 vor dem Inverkehrbringen, in der Regel als interne Bewertung möglich
- Technische Dokumentation mit Trainings- und Testverfahren, Risikobewertungen und Bewertungsergebnissen
- Risikomanagement-System über den gesamten Lebenszyklus des Systems
- Daten-Governance mit Anforderungen an Qualität, Repräsentativität und Bias-Vermeidung der Trainingsdaten
- Qualitätsmanagement-System nach Artikel 17 mit dokumentierten Prozessen und Verantwortlichkeiten
- Eintragung in die EU-Datenbank nach Artikel 71 vor Markteinführung
- CE-Kennzeichnung als Nachweis der Konformität
- Post-Market-Monitoring einschließlich Meldepflichten bei schwerwiegenden Vorfällen
Betreiber (Deployer)
- Einsatz nach Anbieter-Vorgaben, einschließlich Beachtung der Gebrauchsanweisung
- Menschliche Aufsicht nach Artikel 14 durch geschultes und qualifiziertes Personal
- Eingangsdaten-Qualität sicherstellen, soweit der Betreiber darauf Einfluss hat
- Protokollierung der Systemnutzung für mindestens sechs Monate
- Information der betroffenen Personen, wenn das System sie unmittelbar betrifft
- Folgenabschätzung nach Artikel 27 für bestimmte öffentliche Stellen und private Anbieter wesentlicher Dienste
- Meldung schwerwiegender Vorfälle an Anbieter und nationale Aufsichtsbehörde
- Schulungspflicht für Mitarbeitende, die KI-Systeme bedienen oder ihre Ergebnisse verarbeiten
Die Trennung zwischen Anbieter und Betreiber wird in der Praxis nicht immer eindeutig sein. Wer ein bestehendes KI-Modell wesentlich verändert, nachtrainiert oder in einem anderen Anwendungsbereich einsetzt als ursprünglich vorgesehen, kann selbst zum Anbieter werden und übernimmt damit die entsprechend höheren Pflichten. Diese Konstellation tritt häufiger auf, als man zunächst annehmen würde, etwa wenn ein Unternehmen ein vorhandenes Sprachmodell auf eigene Daten feinjustiert und dann in einem Hochrisiko-Bereich einsetzt.
General Purpose AI und Foundation Models
Eine eigene Regelungsebene betrifft Modelle, die nicht für einen bestimmten Anwendungsfall, sondern als universelle Basis für vielfältige Anwendungen entwickelt wurden. Die Verordnung bezeichnet diese als General Purpose AI (GPAI). Bekannte Beispiele sind die Sprachmodelle GPT-4 von OpenAI, Gemini von Google, Claude von Anthropic oder die europäischen Alternativen von Mistral und Aleph Alpha. Die Pflichten für GPAI-Anbieter gelten seit dem 2. August 2025.
Die Verordnung unterscheidet zwei Stufen. Standard-GPAI-Modelle sind solche, deren Trainingsaufwand 10²³ Gleitkommaoperationen überschreitet. Für sie gelten Dokumentationspflichten, eine Urheberrechts-Policy und die Veröffentlichung einer Zusammenfassung der Trainingsdaten nach EU-Vorlage. GPAI-Modelle mit systemischem Risiko, deren Trainingsaufwand 10²⁵ Gleitkommaoperationen überschreitet, unterliegen zusätzlich verpflichtenden Modellbewertungen, Meldepflichten bei schwerwiegenden Vorfällen und besonderen Cybersicherheitsanforderungen. Anbieter solcher Modelle müssen das AI Office innerhalb von zwei Wochen über das Erreichen des Schwellenwerts informieren.
GPAI in der Praxis
Mittelständische Unternehmen sind in den allermeisten Fällen nicht selbst GPAI-Anbieter, sondern integrieren bestehende Modelle wie ChatGPT, Microsoft Copilot oder Google Gemini in ihre Geschäftsprozesse. Sie nehmen dadurch zunächst die Rolle eines Betreibers ein. Wer ein solches Modell jedoch durch eigenes Fine-Tuning wesentlich verändert oder in eine neue Hochrisiko-Anwendung integriert, kann selbst zum GPAI-Anbieter werden. Die EU-Kommission hat im Juli 2025 Leitlinien veröffentlicht, die diese Abgrenzung klären sollen.
Sanktionen und Bußgelder
Die Bußgeld-Obergrenzen des EU AI Act orientieren sich an der Schwere des Verstoßes und am Umsatz des betroffenen Unternehmens. Sie liegen damit im Bereich der DSGVO und schaffen für mittelständische Unternehmen ein existenzbedrohendes Risiko, das über das eines üblichen Compliance-Verstoßes weit hinausgeht. Im Rahmen des Digital Omnibus wurde die Sanktionssystematik für KMU und Small Mid-Caps allerdings entschärft.
Die Erleichterung für kleine und mittlere Unternehmen ist eine der praktisch bedeutsamsten Änderungen aus dem Digital Omnibus. Während Großunternehmen weiterhin den jeweils höheren der beiden Werte tragen, also entweder den Festbetrag oder den Prozentsatz vom Umsatz, gilt für KMU mit weniger als 250 Beschäftigten und für Small Mid-Caps mit bis zu 750 Beschäftigten künftig der niedrigere Wert. Bei einem mittelständischen Unternehmen mit 30 Millionen Euro Jahresumsatz sinkt damit die rechnerische Obergrenze für Hochrisiko-Verstöße von 15 Millionen Euro auf 900.000 Euro. Das ist immer noch erheblich, aber kein existenzbedrohendes Niveau mehr.
Mittelstandsperspektive: Was sich konkret lohnt
Für mittelständische Unternehmen ist die Aufgabe weniger, jede Detail-Anforderung des AI Act zu erfüllen, als vielmehr eine strukturierte Bestandsaufnahme der eigenen KI-Nutzung vorzunehmen und daraus angemessene Maßnahmen abzuleiten. Die folgenden Schritte haben sich in der Beratungspraxis als sinnvoller Einstieg erwiesen.
- KI-Inventar erstellen. Welche KI-Systeme werden im Unternehmen eingesetzt, in welchen Fachbereichen, mit welchen Daten und durch welche Anbieter? Auch Schatten-KI-Anwendungen, also unkontrollierter Einsatz durch einzelne Beschäftigte, gehören in diese Erhebung.
- Risikoklassifizierung pro System. Jedes erfasste System wird einer der vier Risikoklassen zugeordnet. In den meisten Fällen wird die Mehrzahl der Anwendungen in die Klasse mit minimalem Risiko fallen, einzelne aber in die Hochrisiko-Klasse.
- Verbotene Praktiken ausschließen. Bestimmte Anwendungen sind seit Februar 2025 untersagt, etwa Emotionserkennung am Arbeitsplatz oder bestimmte Formen biometrischer Kategorisierung. Diese Systeme müssen unverzüglich abgestellt werden.
- Schulungskonzept aufsetzen. Auch wenn die KI-Kompetenzpflicht aus Artikel 4 durch den Digital Omnibus zur Empfehlung herabgestuft werden soll, bleibt eine systematische Schulung der Beschäftigten zum Umgang mit KI-Werkzeugen wirtschaftlich sinnvoll und reduziert Haftungsrisiken.
- Transparenzpflichten umsetzen. Bis zum 2. Dezember 2026 müssen Chatbots, KI-generierte Inhalte und Deepfakes gekennzeichnet sein. Wer generative KI in Marketing, Kundenservice oder interner Kommunikation einsetzt, sollte die entsprechenden Hinweise und Kennzeichnungen bereits jetzt vorbereiten.
- KI-Governance etablieren. Auch ohne formale Hochrisiko-Pflicht lohnt sich ein internes Regelwerk, das festlegt, welche KI-Systeme für welche Aufgaben mit welchen Daten genutzt werden dürfen. Das verhindert die Entstehung unkontrollierter Schatten-KI und reduziert das Risiko von Verstößen gegen DSGVO oder Geschäftsgeheimnis-Schutz.
- Verträge prüfen. Wer KI-Lösungen von externen Anbietern bezieht, sollte die Verträge auf AI-Act-konforme Zusicherungen prüfen, insbesondere zu Trainingsdaten, Urheberrechten, Konformitätsbewertung und Haftung.
- Hochrisiko-Roadmap planen. Sofern Hochrisiko-Anwendungen identifiziert wurden, sollte ein Umsetzungsplan bis zum 2. Dezember 2027 erstellt werden, der Konformitätsbewertung, Dokumentation und Qualitätsmanagement-System adressiert.
Häufige Fragen zum EU AI Act
Gilt der EU AI Act auch für unser kleines Unternehmen?
Grundsätzlich ja. Der AI Act enthält keine generelle Größenausnahme für KMU. Er greift, sobald ein Unternehmen KI-Systeme entwickelt, vertreibt oder einsetzt, unabhängig von der Beschäftigtenzahl. Allerdings gelten für die meisten KMU-Anwendungen nur sehr begrenzte Pflichten, weil sie in die Klasse mit minimalem Risiko fallen. Konkret strenge Anforderungen treffen Unternehmen erst dann, wenn sie Hochrisiko-Systeme einsetzen, etwa zur Bewerber-Vorauswahl, zur Bonitätsprüfung oder zur Bewertung von Beschäftigten. Der Digital Omnibus von 2026 hat zudem die Sanktionen für KMU und Small Mid-Caps spürbar entschärft.
Was bedeutet die Fristverschiebung durch den Digital Omnibus konkret?
Die ursprünglich für den 2. August 2026 vorgesehenen Hochrisiko-Pflichten wurden auf den 2. Dezember 2027 verschoben. Für Hochrisiko-Komponenten in regulierten Produkten gilt sogar eine Frist bis zum 2. August 2028. Die Verbote aus Artikel 5 und die Pflichten für Anbieter von GPAI-Modellen bleiben unverändert anwendbar. Die Kennzeichnungspflicht für KI-generierte Inhalte greift weiterhin am 2. Dezember 2026. Inhaltlich ändern sich die Anforderungen kaum, der Vorbereitungsaufwand bleibt also bestehen.
Wir nutzen Microsoft Copilot — sind wir damit betroffen?
Als Nutzer von Copilot, ChatGPT oder vergleichbaren generativen KI-Diensten sind Sie zunächst Betreiber im Sinne des AI Acts. Microsoft als Anbieter trägt die Hauptlast der Pflichten für das Modell selbst, einschließlich der GPAI-spezifischen Anforderungen. Auf Ihrer Seite bleibt die Pflicht zur Kennzeichnung KI-generierter Inhalte ab Dezember 2026, die Schulung der Mitarbeitenden im Umgang mit dem System sowie die KI-Governance, also klare Regeln darüber, welche Daten in den Dienst eingegeben werden dürfen. Wer Copilot in einem Hochrisiko-Bereich einsetzt, etwa zur strukturierten Bewerber-Bewertung, übernimmt zusätzliche Pflichten als Betreiber des Hochrisiko-Systems.
Was ist Schatten-KI und warum ist sie relevant?
Als Schatten-KI bezeichnet man die unkontrollierte Nutzung von KI-Werkzeugen durch einzelne Beschäftigte ohne Kenntnis oder Freigabe der Geschäftsleitung oder IT-Abteilung. Laut Bitkom-Studie 2026 nutzt jede zehnte Beschäftigte KI ohne Wissen des Arbeitgebers. Schatten-KI ist regulatorisch und wirtschaftlich problematisch, weil sich der Datenschutz nicht mehr steuern lässt, Geschäftsgeheimnisse in externe Dienste fließen können und der Arbeitgeber im Falle eines Vorfalls die Verantwortung trägt, ohne den Vorgang zu kennen. Eine konsequente KI-Governance mit klaren Nutzungsregeln und freigegebenen Werkzeugen ist die wirksamste Antwort.
Wie hängt der EU AI Act mit der DSGVO zusammen?
Beide Verordnungen gelten parallel und ergänzen sich. Wo personenbezogene Daten in KI-Systemen verarbeitet werden, gelten weiterhin alle Anforderungen der DSGVO, einschließlich Rechtsgrundlage, Datenminimierung, Betroffenenrechte und Datenschutz-Folgenabschätzung. Der AI Act ergänzt diese Pflichten um KI-spezifische Anforderungen wie Risikomanagement, technische Dokumentation und menschliche Aufsicht. In der Praxis bedeutet das, dass Unternehmen ihre Datenschutz-Compliance um eine KI-Compliance-Komponente erweitern müssen. Methodisch lassen sich beide Anforderungen gut in ein integriertes Management-System überführen, das auch die Anforderungen aus Informationssicherheit und gegebenenfalls NIS-2 mitabdeckt. Eine ausführliche Einordnung zur NIS-2-Pflicht enthält unsere NIS-2-Übersicht.
Welche Aufsichtsbehörde ist in Deutschland zuständig?
Auf europäischer Ebene koordiniert das AI Office innerhalb der EU-Kommission die Durchsetzung, insbesondere für GPAI-Modelle mit systemischem Risiko. In Deutschland soll die nationale Marktüberwachung über das im Februar 2026 vom Bundeskabinett beschlossene KI-Maßnahmen- und Innovationsgesetz (KI-MIG) ausgestaltet werden. Voraussichtlich wird die Aufsicht in einem föderalen Modell auf bestehende Behörden verteilt, etwa auf das Bundesamt für Sicherheit in der Informationstechnik, die Bundesnetzagentur und die Datenschutzaufsichtsbehörden der Länder. Die finalen Zuständigkeiten werden im Laufe des Jahres 2026 erwartet.
Wie hoch ist der typische Aufwand für die Vorbereitung?
Bei einem mittelständischen Unternehmen ohne Hochrisiko-KI-Anwendungen liegt der Aufwand für die grundlegende Vorbereitung erfahrungsgemäß bei vier bis acht Wochen. Inhalte sind die Erstellung des KI-Inventars, die Risikoklassifizierung, ein internes Governance-Regelwerk und ein Schulungskonzept. Bei vorhandenen Hochrisiko-Anwendungen kommt die Konformitätsbewertung hinzu, die je nach Komplexität drei bis sechs Monate beansprucht. Wer ein bestehendes ISMS nach ISO/IEC 27001 oder ein Datenschutz-Management-System bereits etabliert hat, erreicht das untere Ende dieses Korridors, weil viele methodische Bausteine wiederverwendet werden können.
Brauchen wir einen KI-Beauftragten?
Der EU AI Act sieht keine formale Bestellungspflicht vor, wie sie aus dem Datenschutz mit dem Datenschutzbeauftragten oder aus der Informationssicherheit mit dem ISB bekannt ist. Eine benannte Verantwortlichkeit für KI-Governance ist in der Praxis jedoch sehr empfehlenswert, insbesondere bei Hochrisiko-Anwendungen. In mittelständischen Unternehmen wird diese Rolle häufig dem Datenschutzbeauftragten oder dem Informationssicherheits-Beauftragten zugeordnet, da die fachliche Schnittmenge erheblich ist. Eine externe Begleitung kann sinnvoll sein, wenn intern weder die Methodenkompetenz noch die zeitliche Kapazität vorhanden sind.
