# KI und Recht: was DSGVO und AI Act von deinem Team verlangen
> Bevor Mitarbeitende Arbeit in einen Chatbot kopieren, greifen zwei EU-Gesetze: die DSGVO für die Daten im Prompt, der AI Act für den Zweck des Systems. Was beide von einer IT-Abteilung verlangen, mit den Fristen auf dem Stand November 2026.
Source: https://rfriedmann.de/de/blog/ai-and-the-law-gdpr-ai-act/ · English: https://rfriedmann.de/blog/ai-and-the-law-gdpr-ai-act/
Published: 2026-11-08 · Track: learn · Level: Ops
Nach „Können wir dafür ChatGPT nehmen?“ folgt meist die Frage, ob das erlaubt ist.
In der EU beantworten das zwei Gesetze, und sie schauen auf verschiedene
Dinge. Die DSGVO fragt, was *im* Prompt steht. Der AI Act fragt, *wofür* du das System
einsetzt. Beides wird oft verwechselt, und die günstigen Schritte, die tatsächlich
nötig sind, werden übersehen.
Diese Lektion gibt einen Überblick: was jedes Gesetz von einer
normalen IT-Abteilung verlangt, welche Fristen zählen und wo die Primärquellen stehen. Das
ist keine Rechtsberatung. Dein Datenschutzbeauftragter und deine Juristin haben das
letzte Wort; das hier soll dafür sorgen, dass du mit den richtigen Fragen in dieses
Gespräch gehst.
## DSGVO: folge dem Prompt
Am nützlichsten denkst du über DSGVO und LLMs nach, wenn du einem Prompt mit
personenbezogenen Daten folgst und an jeder Station fragst: Wer hat die Daten jetzt,
und auf welcher Grundlage?
Ein Prompt mit personenbezogenen Daten, drei Stationen, drei Papierstapel
[diagram omitted — see the page for the chart]
Jede Station bringt Papierkram. Ein lokales Modell erspart dir den Auftragsverarbeiter und die Übermittlung, nicht die DSGVO selbst: Du brauchst weiter einen Grund für die Verarbeitung, und deine eigenen Logs enthalten die Daten weiterhin.
**Station eins: deine Seite.** Eine Kunden-E-Mail in ein Modell zu kopieren ist eine
Verarbeitung personenbezogener Daten. Du brauchst eine Rechtsgrundlage nach Art. 6 wie
für jede andere Verarbeitung, einen Zweck und nur so viele Daten, wie die Aufgabe
braucht. Was gern vergessen wird: Prompt-Logs, Chatverläufe und RAG-Indizes sind
ebenfalls personenbezogene Daten, mit Löschfristen und Löschanträgen (Art. 17), die
auch sie erreichen.
**Station zwei: der Anbieter.** Läuft das Modell bei jemand anderem, ist dieser jemand
normalerweise dein Auftragsverarbeiter, und Art. 28 verlangt einen
Auftragsverarbeitungsvertrag, bevor personenbezogene Daten fließen. Business- und
API-Tarife bringen meist einen mit; ein kostenloses Privatkonto, das sich jemand
selbst angelegt hat, nicht. Drei Fragen an jeden Anbieter: Werden unsere Daten zum
Training verwendet, wie lange werden Prompts gespeichert, und in welcher Region
werden sie verarbeitet?
**Station drei: das Ausland.** Daten, die die EU verlassen, brauchen eine Grundlage
nach Kapitel V der DSGVO. Bei US-Anbietern ist das meist das EU-US Data Privacy
Framework, ein Angemessenheitsbeschluss vom 10. Juli 2023, oder
Standardvertragsklauseln. Das Gericht der EU hat das Framework am 3. September 2025
bestätigt (Rechtssache T-553/23); ein Rechtsmittel liegt als C-703/25 P beim
Gerichtshof. Derselbe Gerichtshof hat die beiden Vorgänger gekippt, also behandle das
DPF als heute gültig und halte einen Plan B für den Tag bereit, an dem es das nicht
mehr ist.
Zwei weitere Prüfungen gehören hierher. Eine **Datenschutz-Folgenabschätzung**
(Art. 35) ist Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko für
Menschen birgt, zum Beispiel beim Vorsortieren von Bewerbungen, bei Gesundheitsdaten
oder bei der Überwachung von Beschäftigten. Und **Fine-Tuning auf
personenbezogenen Daten** ist der schwierige Fall: Eine Logzeile kannst du löschen,
ein Dokument neu indizieren, aber einen Fakt kannst du nicht zuverlässig aus
Modellgewichten löschen. Ein Grund mehr, warum [RAG bei eigenen Dokumenten das
Fine-Tuning schlägt](/de/blog/your-own-documents/).
## Der AI Act: folge dem Einsatz
Für den AI Act zählt weniger, welches Modell du betreibst, als deine
**Rolle** und dein **Anwendungsfall**.
Der Anwendungsfall fällt dann in eine von vier Stufen:
- **Verboten** (Art. 5): Social Scoring, manipulative Techniken, die Schaden anrichten,
Emotionserkennung am Arbeitsplatz und in Schulen und einiges mehr. Schlicht untersagt.
- **Hochrisiko** (Art. 6, Anhang III): Bereiche, in denen eine falsche Ausgabe Menschen
schadet, etwa Beschäftigung (Bewerbungen sichten, Beförderungen), Bildung,
Kreditwürdigkeit und kritische Infrastruktur. Hier haben Betreiber konkrete Pflichten:
menschliche Aufsicht, Logs mindestens sechs Monate aufbewahren und die
Arbeitnehmervertretung vor dem Einsatz am Arbeitsplatz informieren (Art. 26). Diese
Pflichten gelten ab dem 2. Dezember 2027. In Deutschland bestimmt der Betriebsrat schon
heute bei jedem Tool mit, das Beschäftigte überwachen kann (§ 87 Abs. 1 Nr. 6 BetrVG).
- **Transparenz** (Art. 50): Menschen müssen erfahren, dass sie mit einem Chatbot
sprechen, Deepfakes müssen offengelegt werden, und KI-Text, der zur Information der
Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht wird,
muss gekennzeichnet sein, außer ein Mensch hat
ihn geprüft und eine Redaktion trägt die Verantwortung.
- **Minimal**: alles andere, darunter der meiste interne „hilf mir, das zu
formulieren“-Einsatz. Keine besonderen Pflichten über die allgemeinen hinaus.
Die Firmen, die die Modelle selbst bauen, Anbieter von **KI-Modellen mit allgemeinem
Verwendungszweck**, tragen eigene Pflichten (Dokumentation, Urheberrechts-Strategie,
Zusammenfassung der Trainingsdaten). Diese Pflichten treffen sie, nicht dich, solange du
nicht selbst ein Modell trainierst oder wesentlich veränderst und veröffentlichst.
Eine Pflicht trifft aber fast alle: **KI-Kompetenz** (Art. 4). Anbieter und Betreiber
müssen Maßnahmen ergreifen, damit Beschäftigte, die KI nutzen, sie für ihren
Zusammenhang gut genug verstehen. Die Verordnung (EU) 2026/1744 hat den Wortlaut im
Juli 2026 abgeschwächt: Pflicht ist, *Maßnahmen zu ergreifen*, und es wird
ausdrücklich kein bestimmtes Kompetenzniveau pro Person verlangt. Praktisch heißt das:
eine kurze, dokumentierte Schulung vor dem Rollout. Dieser Kurs kann ein
Ausgangspunkt sein.
## Die Fristen, Stand November 2026
Der AI Act gilt in Stufen. Der „Digital Omnibus on AI“, Verordnung (EU) 2026/1744, am
24. Juli 2026 im Amtsblatt veröffentlicht, hat die Hochrisiko-Fristen nach hinten
verschoben.
Geltungsbeginn des AI Act nach Verordnung (EU) 2026/1744
[diagram omitted — see the page for the chart]
Vor dem Omnibus waren die Hochrisiko-Regeln nach Anhang III für den 2. August 2026 und die Produkt-Regeln für den 2. August 2027 vorgesehen. Die neuen Verbote ab dem 2. Dezember 2026 betreffen KI, die nicht einvernehmliche sexuelle Bilder realer Personen oder Darstellungen sexuellen Kindesmissbrauchs erzeugt. Anbieter, deren Generatoren schon vor dem 2. August 2026 auf dem Markt waren, haben bis zum 2. Dezember 2026 Zeit, KI-Ausgaben als solche zu kennzeichnen (Art. 50 Abs. 2).
Die Bußgelder sind erheblich: bis zu
35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes für verbotene Praktiken nach
dem AI Act (Art. 99), bis zu 20 Millionen Euro oder 4 % für die schwersten
DSGVO-Verstöße (Art. 83). In Deutschland ist die Bundesnetzagentur nach dem KI-MIG vom
Juli 2026 die Marktüberwachungsbehörde für den AI Act; für den Datenschutz bleiben die
Datenschutzbehörden von Bund und Ländern zuständig.
Ein zweiter Omnibus, zur DSGVO selbst, wird noch verhandelt. Bis er beschlossen ist,
gilt der aktuelle DSGVO-Text unverändert.
## Checkliste
Vor dem Rollout
Ein Business-Tarif mit unterschriebenem AV-Vertrag, keine Privatkonten
Kein Training auf euren Daten, Löschfrist und Region schriftlich
Eine Regel auf einer Seite: welche Daten in welches Werkzeug dürfen
Eine kurze, dokumentierte Schulung (Art. 4)
Betriebsrat früh einbinden, wo Beschäftigte betroffen sind
Erst anhalten und fragen
Alles, was Menschen einstuft, filtert oder bewertet
Gesundheits-, Personal- oder andere besondere Daten
Fine-Tuning auf personenbezogenen Daten
KI-Text oder -Bilder ungeprüft veröffentlichen
Ein Anbieter, der die drei Fragen oben nicht beantworten kann
Für die meisten Teams ist das Fazit kurz. Die linke Spalte ist eine Woche
Arbeit, kein Projekt. In der rechten Spalte fängt ein [selbst gehostetes
Modell](/de/blog/self-hosting-an-llm-for-your-team/) oder eine [Entscheidung gegen
KI](/de/blog/when-not-to-use-ai/) an, sinnvoll zu werden, und dort gehört dein
Datenschutzbeauftragter mit an den Tisch, bevor irgendetwas gebaut wird.
Wem gehört, was das Modell erzeugt, und ob es ein fremdes Werk kopiert, regelt noch ein
drittes Gesetz: [Urheberrecht und KI-Ausgaben](/de/blog/who-owns-ai-output/).
## Primärquellen
- **DSGVO**: Verordnung (EU) 2016/679 auf EUR-Lex.
- **AI Act**: Verordnung (EU) 2024/1689 und die ändernde Verordnung (EU) 2026/1744,
beide auf EUR-Lex. Der AI Act Service Desk der EU-Kommission erklärt sie in
einfacher Sprache.
- **KI-Modelle und personenbezogene Daten**: Stellungnahme 28/2024 des Europäischen
Datenschutzausschusses (EDSA).
- **Deutschland**: die Bundesnetzagentur für den AI Act, deine Landesdatenschutzbehörde
für die DSGVO.
Gesetze ändern sich: Die Fristen oben haben sich dieses Jahr schon einmal geändert.
Prüfe den konsolidierten Text, bevor du dich auf eine Frist verlässt.