Raphael Friedmann
← KI verstehen

Einen KI-Anbieter auswählen: eine Checkliste für die IT

Was vor dem Vertrag mit einem KI-Anbieter geklärt sein muss: AVV und EU-Hosting, SSO und Audit-Logs, Abkündigung, Limits und SLAs, Preise, Zertifikate, Exit-Plan und ein Test mit eigener Arbeit.

Eine Vertriebsdemo zeigt dir das Modell. Die IT muss mit allem drumherum leben: dem Vertrag, der Admin-Konsole, den Rate Limits und dem Tag, an dem das Modell abgeschaltet wird, auf dem du aufgebaut hast. Das hier ist die Checkliste, die ich durchgehe, bevor ein Anbieter Firmendaten bekommt. Die Anbieterdetails sind Stand November 2026 und auf die Seiten der Anbieter selbst verlinkt; sie ändern sich oft, also prüf sie am Tag der Unterschrift noch einmal.

Auswahl in sechs Schritten
1Muss-KriterienAVV, EU-Region, SSO2PapierprüfungBedingungen, Zertifikate3Shortlistzwei bis drei Anbieter4eigener Testdeine Aufgaben, deine Daten5Piloteinige Teams, echte Arbeit6VertragExit-Plan, Fristenfehlt ein Muss-Kriterium, ist der Anbieter raus, in jedem Schritt
Die Papierprüfungen sind billig und kommen zuerst. Der Test mit eigener Arbeit ist der teure Schritt, deshalb kommt nur die Shortlist dorthin.

1. Vertrag und Datenstandort#

Frag zuerst nach dem Auftragsverarbeitungsvertrag (AVV, englisch DPA) und prüf, ob er Teil des Vertrags ist, den du unterschreibst, und nicht eine separate Webseite, die sich ändern kann. Anthropics Commercial Terms binden das DPA per Verweis ein, und Kunden im EWR, in der Schweiz oder in Großbritannien schließen den Vertrag mit Anthropic Ireland. Das Modell-Hosting bei Azure fällt unter das Microsoft Products and Services DPA. Warum das nach DSGVO zählt, steht in der Lektion zum Recht.

Dann frag, wo Prompts verarbeitet und gespeichert werden und was es braucht, damit sie in der EU bleiben. Die Antworten gehen weit auseinander:

2. Aufbewahrung und Training#

Alle vier großen Anbieter halten Business- und API-Daten standardmäßig aus dem Training heraus. Offen bleibt, wie lange Prompts in Abuse-Monitoring-Logs liegen, wer sie lesen kann und ob Zero Data Retention für deinen Fall verfügbar ist und mit welchen Ausnahmen. Hol dir die Antworten in den Vertrag, nicht von einer Hilfeseite.

3. Identität, Administration und Audit#

  • SSO und SCIM. Single Sign-on ist das Minimum; SCIM-Provisionierung ist das, was einem ausscheidenden Mitarbeiter automatisch den Zugang entzieht. Auf den Preisseiten von OpenAI und Anthropic ist SCIM eine Enterprise-Funktion und nicht Teil von ChatGPT Business oder Claude Team.
  • Audit-Logs. Frag, was protokolliert wird, wie du es in dein SIEM exportierst und wie lange der Anbieter es aufbewahrt. OpenAIs Compliance-Logs liegen 30 Tage, du musst sie also laufend abholen. Der Audit-Log-Export von Claude enthält IDs, keine Chatinhalte.
  • Admin-Kontrollen. Kannst du Modelle, Konnektoren und Funktionen pro Gruppe einschränken und die Aufbewahrung für den Workspace selbst festlegen?

4. Modelle und ihr Lebenszyklus#

Das Modell, das du heute testest, wird abgekündigt. Entscheidend ist, wie viel Vorlauf du bekommst:

  • OpenAI: mindestens 6 Monate für allgemein verfügbare Modelle, 3 Monate für Spezialvarianten, Preview-Modelle teils nur 2 Wochen.
  • Anthropic: mindestens 60 Tage Vorlauf für öffentlich veröffentlichte Modelle.
  • Azure Foundry: allgemein verfügbare Modelle haben einen Lebenszyklus von 18 Monaten (12 Monate für manche Partnermodelle), Benachrichtigung mindestens 60 Tage vor der Abschaltung, und Abschalttermine lassen sich nicht verlängern. Standard-Deployments werden automatisch aktualisiert, Provisioned-Deployments nicht.

Pinne Modellversionen in der Produktion und behalte das Testset aus Schritt 4, damit du es auf dem Nachfolger erneut laufen lassen kannst. Frag außerdem, ob du auf derselben Plattform Modelle anderer Hersteller nutzen kannst: Azure, Bedrock und Google Cloud hosten mehrere Modellfamilien.

5. Limits und SLA#

Die Rate Limits der APIs von OpenAI und Anthropic steigen in Stufen mit deinen Guthabenkäufen oder deiner Nutzungshistorie, ein neues Konto startet also niedrig. Frag, welches Limit du am ersten Tag bekommst und ob es reservierte Kapazität gibt: Anthropic verkauft einen Priority Tier mit zugesicherten Tokens pro Minute, Azure verkauft Provisioned Throughput. Für die Verfügbarkeit nennt Microsoft 99,9 % für Azure OpenAI. Egal welche Zahl: Du willst sie in einem Vertrag mit Service-Gutschriften; eine Statusseite ist kein SLA.

6. Preismodell#

Chat-Produkte werden pro Nutzer verkauft, APIs pro Token. Nutzerlizenzen sind planbar und bezahlen auch die Leute, die das Werkzeug nie öffnen. Tokens bezahlen echte Nutzung und brauchen Budgetgrenzen und Monitoring. Achte auf Aufschläge über dem Listenpreis: den Residency-Aufschlag oben, Anthropics Faktor 1,1 für reine US-Inferenz und höhere Preise für lange Prompts bei manchen Modellen. Ist das Volumen hoch und gleichmäßig, wird Selbst-Hosten zu einem fairen Vergleich.

7. Zertifizierungen#

ISO/IEC 27001 und ein SOC-2-Type-II-Bericht sind die Basis; ISO/IEC 42001 deckt das Management von KI-Systemen ab. Was die Anbieter angeben:

Lies den Geltungsbereich. Ein Zertifikat deckt benannte Produkte ab, und “aligned with ISO 27001” ist kein Zertifikat.

8. Exit-Plan#

Entscheide, wie du gehen würdest, bevor du ankommst. Kannst du Chats, Dateien und eigene Assistenten in einem brauchbaren Format exportieren? Ist deine Integration gegen eine proprietäre API geschrieben oder gegen eine verbreitete? Die Chat-Completions-API im OpenAI-Stil ist zur gemeinsamen Schnittstelle geworden: Google bietet für Gemini einen OpenAI-kompatiblen Endpunkt, und Anthropic eine Kompatibilitätsschicht für das OpenAI-SDK, die laut Anthropic vor allem zum Testen und Vergleichen von Modellen gedacht ist und Funktionen wie Prompt Caching nicht bietet. Selbst gehostete Server sprechen sie auch: imp, die Inferenz-Engine, die ich baue, liefert /v1/chat/completions und Anthropics /v1/messages, also ist der Umzug einer Anwendung auf ein lokales Modell eine Änderung der Basis-URL. Halte Prompts, Testsets und Integrationscode in deinem eigenen Repository, nicht nur im Assistenten-Baukasten eines Anbieters.

9. Test mit eigener Arbeit#

Benchmarks ranken Modelle auf den Aufgaben anderer Leute. Bevor du entscheidest, lass die Shortlist auf einem Satz echter Aufgaben aus deiner eigenen Arbeit laufen und bewerte die Ergebnisse so, wie du die Arbeit eines Kollegen bewerten würdest; wie du das aufsetzt, hat eine eigene Lektion. Es ist auch das Testset, das du erneut laufen lässt, wenn ein Modell abgekündigt wird.

Die Kurzfassung#

Frage Warum sie zählt Warnsignal
Ist ein AVV Teil des Vertrags? Die DSGVO verlangt einen Vertrag mit dem Auftragsverarbeiter AVV nur als änderbare Webseite, oder gar keiner
Wo werden Prompts verarbeitet und gespeichert? Übermittlungen außerhalb der EU brauchen eine Rechtsgrundlage Nur “globales” Routing, keine Region schriftlich
Wie lange bleiben Logs, wer liest sie? “Kein Training” erlaubt trotzdem Speicherung und Prüfung Keine Frist genannt, überhaupt keine ZDR-Option
Sind SSO und SCIM enthalten? Ausscheidende müssen automatisch den Zugang verlieren SCIM nur in einem Tarif, den du nicht kaufen wirst
Kannst du Audit-Logs exportieren? Vorfälle und eDiscovery brauchen sie Keine API, oder Logs verfallen, bevor du sie abholen kannst
Wie lang ist der Vorlauf bei Abkündigungen? Jedes Modell wird abgeschaltet Keine veröffentlichte Richtlinie, oder Wochen Vorlauf für GA-Modelle
Welche Limits und welches SLA? Ein Pilot kann laufen und die Produktion scheitern Kein SLA, Limits erst nach Umsatzhistorie
Pro Nutzer oder pro Token? Entscheidet, wer für Nichtnutzer oder Vielnutzung zahlt Aufschläge, die nicht in der Preisliste stehen
Welche Zertifikate, für welches Produkt? Der Geltungsbereich entscheidet, was abgedeckt ist “Aligned with” statt zertifiziert
Wie kommst du wieder raus? Lock-in ist ein Preis, den du später zahlst Kein Export, nur proprietäre API

Fazit#

Der größte Teil dieser Checkliste ist Papierarbeit, und genau darum geht es: AVV, Region, SSO, Audit-Logs und Abkündigungsrichtlinie lassen sich an einem Tag prüfen und sortieren Anbieter billig aus. Steck den echten Aufwand in einen Test mit deinen eigenen Aufgaben für die zwei oder drei, die übrig bleiben, unterschreib mit einem Exit-Plan in der Hand und halte deine Integration auf einer Schnittstelle, die mehr als ein Anbieter bedienen kann, deine eigene Hardware eingeschlossen.