Eine Vertriebsdemo zeigt dir das Modell. Die IT muss mit allem drumherum leben: dem Vertrag, der Admin-Konsole, den Rate Limits und dem Tag, an dem das Modell abgeschaltet wird, auf dem du aufgebaut hast. Das hier ist die Checkliste, die ich durchgehe, bevor ein Anbieter Firmendaten bekommt. Die Anbieterdetails sind Stand November 2026 und auf die Seiten der Anbieter selbst verlinkt; sie ändern sich oft, also prüf sie am Tag der Unterschrift noch einmal.
1. Vertrag und Datenstandort#
Frag zuerst nach dem Auftragsverarbeitungsvertrag (AVV, englisch DPA) und prüf, ob er Teil des Vertrags ist, den du unterschreibst, und nicht eine separate Webseite, die sich ändern kann. Anthropics Commercial Terms binden das DPA per Verweis ein, und Kunden im EWR, in der Schweiz oder in Großbritannien schließen den Vertrag mit Anthropic Ireland. Das Modell-Hosting bei Azure fällt unter das Microsoft Products and Services DPA. Warum das nach DSGVO zählt, steht in der Lektion zum Recht.
Dann frag, wo Prompts verarbeitet und gespeichert werden und was es braucht, damit sie in der EU bleiben. Die Antworten gehen weit auseinander:
- OpenAI bietet für API-Projekte eine Region Europa (EWR und Schweiz), die beim Anlegen des Projekts gewählt wird. Berechtigte Modelle, die am oder nach dem 5. März 2026 erschienen sind, kosten auf Residency-Endpunkten 10 % mehr.
- Anthropics eigene API bietet Inferenz nur in “us” oder “global”; für EU-Regionen verweist Anthropic auf Bedrock, Google Cloud und Microsoft Foundry.
- DataZone-Deployments von Azure in der EU halten die Verarbeitung in EU-Mitgliedstaaten; der “eu”-Endpunkt von Googles Vertex AI umfasst die EU-Mitgliedstaaten und schließt Großbritannien und die Schweiz aus.
2. Aufbewahrung und Training#
Alle vier großen Anbieter halten Business- und API-Daten standardmäßig aus dem Training heraus. Offen bleibt, wie lange Prompts in Abuse-Monitoring-Logs liegen, wer sie lesen kann und ob Zero Data Retention für deinen Fall verfügbar ist und mit welchen Ausnahmen. Hol dir die Antworten in den Vertrag, nicht von einer Hilfeseite.
3. Identität, Administration und Audit#
- SSO und SCIM. Single Sign-on ist das Minimum; SCIM-Provisionierung ist das, was einem ausscheidenden Mitarbeiter automatisch den Zugang entzieht. Auf den Preisseiten von OpenAI und Anthropic ist SCIM eine Enterprise-Funktion und nicht Teil von ChatGPT Business oder Claude Team.
- Audit-Logs. Frag, was protokolliert wird, wie du es in dein SIEM exportierst und wie lange der Anbieter es aufbewahrt. OpenAIs Compliance-Logs liegen 30 Tage, du musst sie also laufend abholen. Der Audit-Log-Export von Claude enthält IDs, keine Chatinhalte.
- Admin-Kontrollen. Kannst du Modelle, Konnektoren und Funktionen pro Gruppe einschränken und die Aufbewahrung für den Workspace selbst festlegen?
4. Modelle und ihr Lebenszyklus#
Das Modell, das du heute testest, wird abgekündigt. Entscheidend ist, wie viel Vorlauf du bekommst:
- OpenAI: mindestens 6 Monate für allgemein verfügbare Modelle, 3 Monate für Spezialvarianten, Preview-Modelle teils nur 2 Wochen.
- Anthropic: mindestens 60 Tage Vorlauf für öffentlich veröffentlichte Modelle.
- Azure Foundry: allgemein verfügbare Modelle haben einen Lebenszyklus von 18 Monaten (12 Monate für manche Partnermodelle), Benachrichtigung mindestens 60 Tage vor der Abschaltung, und Abschalttermine lassen sich nicht verlängern. Standard-Deployments werden automatisch aktualisiert, Provisioned-Deployments nicht.
Pinne Modellversionen in der Produktion und behalte das Testset aus Schritt 4, damit du es auf dem Nachfolger erneut laufen lassen kannst. Frag außerdem, ob du auf derselben Plattform Modelle anderer Hersteller nutzen kannst: Azure, Bedrock und Google Cloud hosten mehrere Modellfamilien.
5. Limits und SLA#
Die Rate Limits der APIs von OpenAI und Anthropic steigen in Stufen mit deinen Guthabenkäufen oder deiner Nutzungshistorie, ein neues Konto startet also niedrig. Frag, welches Limit du am ersten Tag bekommst und ob es reservierte Kapazität gibt: Anthropic verkauft einen Priority Tier mit zugesicherten Tokens pro Minute, Azure verkauft Provisioned Throughput. Für die Verfügbarkeit nennt Microsoft 99,9 % für Azure OpenAI. Egal welche Zahl: Du willst sie in einem Vertrag mit Service-Gutschriften; eine Statusseite ist kein SLA.
6. Preismodell#
Chat-Produkte werden pro Nutzer verkauft, APIs pro Token. Nutzerlizenzen sind planbar und bezahlen auch die Leute, die das Werkzeug nie öffnen. Tokens bezahlen echte Nutzung und brauchen Budgetgrenzen und Monitoring. Achte auf Aufschläge über dem Listenpreis: den Residency-Aufschlag oben, Anthropics Faktor 1,1 für reine US-Inferenz und höhere Preise für lange Prompts bei manchen Modellen. Ist das Volumen hoch und gleichmäßig, wird Selbst-Hosten zu einem fairen Vergleich.
7. Zertifizierungen#
ISO/IEC 27001 und ein SOC-2-Type-II-Bericht sind die Basis; ISO/IEC 42001 deckt das Management von KI-Systemen ab. Was die Anbieter angeben:
- Anthropic: ISO 27001:2022, ISO/IEC 42001:2023, SOC 2 Type I und Type II für die kommerziellen Produkte.
- OpenAI: SOC 2 Type 2 und ISO/IEC 27001, 27017, 27018 und 27701 im Trust Portal.
- Google: Gemini in Workspace nennt SOC 1/2/3 und ISO/IEC 27001, 27017, 27018, 27701 und 42001.
- Microsoft: Microsoft 365 Copilot nennt ISO 27001 und ISO 42001.
Lies den Geltungsbereich. Ein Zertifikat deckt benannte Produkte ab, und “aligned with ISO 27001” ist kein Zertifikat.
8. Exit-Plan#
Entscheide, wie du gehen würdest, bevor du ankommst. Kannst du Chats, Dateien und
eigene Assistenten in einem brauchbaren Format exportieren? Ist deine Integration gegen
eine proprietäre API geschrieben oder gegen eine verbreitete? Die Chat-Completions-API
im OpenAI-Stil ist zur gemeinsamen Schnittstelle geworden: Google bietet für Gemini einen
OpenAI-kompatiblen Endpunkt, und Anthropic
eine Kompatibilitätsschicht für das OpenAI-SDK,
die laut Anthropic vor allem zum Testen und Vergleichen von Modellen gedacht ist und
Funktionen wie Prompt Caching nicht bietet. Selbst gehostete Server sprechen sie auch:
imp, die Inferenz-Engine, die ich baue, liefert /v1/chat/completions und Anthropics
/v1/messages, also ist der Umzug einer Anwendung auf ein lokales Modell eine Änderung
der Basis-URL. Halte Prompts, Testsets und Integrationscode in deinem eigenen
Repository, nicht nur im Assistenten-Baukasten eines Anbieters.
9. Test mit eigener Arbeit#
Benchmarks ranken Modelle auf den Aufgaben anderer Leute. Bevor du entscheidest, lass die Shortlist auf einem Satz echter Aufgaben aus deiner eigenen Arbeit laufen und bewerte die Ergebnisse so, wie du die Arbeit eines Kollegen bewerten würdest; wie du das aufsetzt, hat eine eigene Lektion. Es ist auch das Testset, das du erneut laufen lässt, wenn ein Modell abgekündigt wird.
Die Kurzfassung#
| Frage | Warum sie zählt | Warnsignal |
|---|---|---|
| Ist ein AVV Teil des Vertrags? | Die DSGVO verlangt einen Vertrag mit dem Auftragsverarbeiter | AVV nur als änderbare Webseite, oder gar keiner |
| Wo werden Prompts verarbeitet und gespeichert? | Übermittlungen außerhalb der EU brauchen eine Rechtsgrundlage | Nur “globales” Routing, keine Region schriftlich |
| Wie lange bleiben Logs, wer liest sie? | “Kein Training” erlaubt trotzdem Speicherung und Prüfung | Keine Frist genannt, überhaupt keine ZDR-Option |
| Sind SSO und SCIM enthalten? | Ausscheidende müssen automatisch den Zugang verlieren | SCIM nur in einem Tarif, den du nicht kaufen wirst |
| Kannst du Audit-Logs exportieren? | Vorfälle und eDiscovery brauchen sie | Keine API, oder Logs verfallen, bevor du sie abholen kannst |
| Wie lang ist der Vorlauf bei Abkündigungen? | Jedes Modell wird abgeschaltet | Keine veröffentlichte Richtlinie, oder Wochen Vorlauf für GA-Modelle |
| Welche Limits und welches SLA? | Ein Pilot kann laufen und die Produktion scheitern | Kein SLA, Limits erst nach Umsatzhistorie |
| Pro Nutzer oder pro Token? | Entscheidet, wer für Nichtnutzer oder Vielnutzung zahlt | Aufschläge, die nicht in der Preisliste stehen |
| Welche Zertifikate, für welches Produkt? | Der Geltungsbereich entscheidet, was abgedeckt ist | “Aligned with” statt zertifiziert |
| Wie kommst du wieder raus? | Lock-in ist ein Preis, den du später zahlst | Kein Export, nur proprietäre API |
Fazit#
Der größte Teil dieser Checkliste ist Papierarbeit, und genau darum geht es: AVV, Region, SSO, Audit-Logs und Abkündigungsrichtlinie lassen sich an einem Tag prüfen und sortieren Anbieter billig aus. Steck den echten Aufwand in einen Test mit deinen eigenen Aufgaben für die zwei oder drei, die übrig bleiben, unterschreib mit einem Exit-Plan in der Hand und halte deine Integration auf einer Schnittstelle, die mehr als ein Anbieter bedienen kann, deine eigene Hardware eingeschlossen.