# KI und Recht: was DSGVO und AI Act von deinem Team verlangen > Bevor Mitarbeitende Arbeit in einen Chatbot kopieren, greifen zwei EU-Gesetze: die DSGVO für die Daten im Prompt, der AI Act für den Zweck des Systems. Was beide von einer IT-Abteilung verlangen, mit den Fristen auf dem Stand November 2026. Source: https://rfriedmann.de/de/blog/ai-and-the-law-gdpr-ai-act/ · English: https://rfriedmann.de/blog/ai-and-the-law-gdpr-ai-act/ Published: 2026-11-08 · Track: learn · Level: Ops Nach „Können wir dafür ChatGPT nehmen?“ folgt meist die Frage, ob das erlaubt ist. In der EU beantworten das zwei Gesetze, und sie schauen auf verschiedene Dinge. Die DSGVO fragt, was *im* Prompt steht. Der AI Act fragt, *wofür* du das System einsetzt. Beides wird oft verwechselt, und die günstigen Schritte, die tatsächlich nötig sind, werden übersehen. Diese Lektion gibt einen Überblick: was jedes Gesetz von einer normalen IT-Abteilung verlangt, welche Fristen zählen und wo die Primärquellen stehen. Das ist keine Rechtsberatung. Dein Datenschutzbeauftragter und deine Juristin haben das letzte Wort; das hier soll dafür sorgen, dass du mit den richtigen Fragen in dieses Gespräch gehst. ## DSGVO: folge dem Prompt Am nützlichsten denkst du über DSGVO und LLMs nach, wenn du einem Prompt mit personenbezogenen Daten folgst und an jeder Station fragst: Wer hat die Daten jetzt, und auf welcher Grundlage?
Ein Prompt mit personenbezogenen Daten, drei Stationen, drei Papierstapel
[diagram omitted — see the page for the chart]
Jede Station bringt Papierkram. Ein lokales Modell erspart dir den Auftragsverarbeiter und die Übermittlung, nicht die DSGVO selbst: Du brauchst weiter einen Grund für die Verarbeitung, und deine eigenen Logs enthalten die Daten weiterhin.
**Station eins: deine Seite.** Eine Kunden-E-Mail in ein Modell zu kopieren ist eine Verarbeitung personenbezogener Daten. Du brauchst eine Rechtsgrundlage nach Art. 6 wie für jede andere Verarbeitung, einen Zweck und nur so viele Daten, wie die Aufgabe braucht. Was gern vergessen wird: Prompt-Logs, Chatverläufe und RAG-Indizes sind ebenfalls personenbezogene Daten, mit Löschfristen und Löschanträgen (Art. 17), die auch sie erreichen. **Station zwei: der Anbieter.** Läuft das Modell bei jemand anderem, ist dieser jemand normalerweise dein Auftragsverarbeiter, und Art. 28 verlangt einen Auftragsverarbeitungsvertrag, bevor personenbezogene Daten fließen. Business- und API-Tarife bringen meist einen mit; ein kostenloses Privatkonto, das sich jemand selbst angelegt hat, nicht. Drei Fragen an jeden Anbieter: Werden unsere Daten zum Training verwendet, wie lange werden Prompts gespeichert, und in welcher Region werden sie verarbeitet? **Station drei: das Ausland.** Daten, die die EU verlassen, brauchen eine Grundlage nach Kapitel V der DSGVO. Bei US-Anbietern ist das meist das EU-US Data Privacy Framework, ein Angemessenheitsbeschluss vom 10. Juli 2023, oder Standardvertragsklauseln. Das Gericht der EU hat das Framework am 3. September 2025 bestätigt (Rechtssache T-553/23); ein Rechtsmittel liegt als C-703/25 P beim Gerichtshof. Derselbe Gerichtshof hat die beiden Vorgänger gekippt, also behandle das DPF als heute gültig und halte einen Plan B für den Tag bereit, an dem es das nicht mehr ist. Zwei weitere Prüfungen gehören hierher. Eine **Datenschutz-Folgenabschätzung** (Art. 35) ist Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Menschen birgt, zum Beispiel beim Vorsortieren von Bewerbungen, bei Gesundheitsdaten oder bei der Überwachung von Beschäftigten. Und **Fine-Tuning auf personenbezogenen Daten** ist der schwierige Fall: Eine Logzeile kannst du löschen, ein Dokument neu indizieren, aber einen Fakt kannst du nicht zuverlässig aus Modellgewichten löschen. Ein Grund mehr, warum [RAG bei eigenen Dokumenten das Fine-Tuning schlägt](/de/blog/your-own-documents/). ## Der AI Act: folge dem Einsatz Für den AI Act zählt weniger, welches Modell du betreibst, als deine **Rolle** und dein **Anwendungsfall**. Der Anwendungsfall fällt dann in eine von vier Stufen: - **Verboten** (Art. 5): Social Scoring, manipulative Techniken, die Schaden anrichten, Emotionserkennung am Arbeitsplatz und in Schulen und einiges mehr. Schlicht untersagt. - **Hochrisiko** (Art. 6, Anhang III): Bereiche, in denen eine falsche Ausgabe Menschen schadet, etwa Beschäftigung (Bewerbungen sichten, Beförderungen), Bildung, Kreditwürdigkeit und kritische Infrastruktur. Hier haben Betreiber konkrete Pflichten: menschliche Aufsicht, Logs mindestens sechs Monate aufbewahren und die Arbeitnehmervertretung vor dem Einsatz am Arbeitsplatz informieren (Art. 26). Diese Pflichten gelten ab dem 2. Dezember 2027. In Deutschland bestimmt der Betriebsrat schon heute bei jedem Tool mit, das Beschäftigte überwachen kann (§ 87 Abs. 1 Nr. 6 BetrVG). - **Transparenz** (Art. 50): Menschen müssen erfahren, dass sie mit einem Chatbot sprechen, Deepfakes müssen offengelegt werden, und KI-Text, der zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht wird, muss gekennzeichnet sein, außer ein Mensch hat ihn geprüft und eine Redaktion trägt die Verantwortung. - **Minimal**: alles andere, darunter der meiste interne „hilf mir, das zu formulieren“-Einsatz. Keine besonderen Pflichten über die allgemeinen hinaus. Die Firmen, die die Modelle selbst bauen, Anbieter von **KI-Modellen mit allgemeinem Verwendungszweck**, tragen eigene Pflichten (Dokumentation, Urheberrechts-Strategie, Zusammenfassung der Trainingsdaten). Diese Pflichten treffen sie, nicht dich, solange du nicht selbst ein Modell trainierst oder wesentlich veränderst und veröffentlichst. Eine Pflicht trifft aber fast alle: **KI-Kompetenz** (Art. 4). Anbieter und Betreiber müssen Maßnahmen ergreifen, damit Beschäftigte, die KI nutzen, sie für ihren Zusammenhang gut genug verstehen. Die Verordnung (EU) 2026/1744 hat den Wortlaut im Juli 2026 abgeschwächt: Pflicht ist, *Maßnahmen zu ergreifen*, und es wird ausdrücklich kein bestimmtes Kompetenzniveau pro Person verlangt. Praktisch heißt das: eine kurze, dokumentierte Schulung vor dem Rollout. Dieser Kurs kann ein Ausgangspunkt sein. ## Die Fristen, Stand November 2026 Der AI Act gilt in Stufen. Der „Digital Omnibus on AI“, Verordnung (EU) 2026/1744, am 24. Juli 2026 im Amtsblatt veröffentlicht, hat die Hochrisiko-Fristen nach hinten verschoben.
Geltungsbeginn des AI Act nach Verordnung (EU) 2026/1744
[diagram omitted — see the page for the chart]
Vor dem Omnibus waren die Hochrisiko-Regeln nach Anhang III für den 2. August 2026 und die Produkt-Regeln für den 2. August 2027 vorgesehen. Die neuen Verbote ab dem 2. Dezember 2026 betreffen KI, die nicht einvernehmliche sexuelle Bilder realer Personen oder Darstellungen sexuellen Kindesmissbrauchs erzeugt. Anbieter, deren Generatoren schon vor dem 2. August 2026 auf dem Markt waren, haben bis zum 2. Dezember 2026 Zeit, KI-Ausgaben als solche zu kennzeichnen (Art. 50 Abs. 2).
Die Bußgelder sind erheblich: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes für verbotene Praktiken nach dem AI Act (Art. 99), bis zu 20 Millionen Euro oder 4 % für die schwersten DSGVO-Verstöße (Art. 83). In Deutschland ist die Bundesnetzagentur nach dem KI-MIG vom Juli 2026 die Marktüberwachungsbehörde für den AI Act; für den Datenschutz bleiben die Datenschutzbehörden von Bund und Ländern zuständig. Ein zweiter Omnibus, zur DSGVO selbst, wird noch verhandelt. Bis er beschlossen ist, gilt der aktuelle DSGVO-Text unverändert. ## Checkliste

Vor dem Rollout

Erst anhalten und fragen

Für die meisten Teams ist das Fazit kurz. Die linke Spalte ist eine Woche Arbeit, kein Projekt. In der rechten Spalte fängt ein [selbst gehostetes Modell](/de/blog/self-hosting-an-llm-for-your-team/) oder eine [Entscheidung gegen KI](/de/blog/when-not-to-use-ai/) an, sinnvoll zu werden, und dort gehört dein Datenschutzbeauftragter mit an den Tisch, bevor irgendetwas gebaut wird. Wem gehört, was das Modell erzeugt, und ob es ein fremdes Werk kopiert, regelt noch ein drittes Gesetz: [Urheberrecht und KI-Ausgaben](/de/blog/who-owns-ai-output/). ## Primärquellen - **DSGVO**: Verordnung (EU) 2016/679 auf EUR-Lex. - **AI Act**: Verordnung (EU) 2024/1689 und die ändernde Verordnung (EU) 2026/1744, beide auf EUR-Lex. Der AI Act Service Desk der EU-Kommission erklärt sie in einfacher Sprache. - **KI-Modelle und personenbezogene Daten**: Stellungnahme 28/2024 des Europäischen Datenschutzausschusses (EDSA). - **Deutschland**: die Bundesnetzagentur für den AI Act, deine Landesdatenschutzbehörde für die DSGVO. Gesetze ändern sich: Die Fristen oben haben sich dieses Jahr schon einmal geändert. Prüfe den konsolidierten Text, bevor du dich auf eine Frist verlässt.