“Wäre es nicht billiger, das selbst zu betreiben?” Die Frage kommt jedes Mal, wenn eine API-Rechnung auf meinem Tisch landet. Ich baue imp, eine Inferenz-Engine für eine RTX 5090, also habe ich die lokalen Zahlen zur Hand. Dieser Beitrag bringt beide Seiten auf dieselbe Einheit, Euro pro Million Tokens, mit belegten Eingangswerten und offener Rechnung.
Wofür du bezahlst#
Beide Seiten rechnen in Tokens ab. Ein Token ist ein Stück Text, oft ein ganzes häufiges Wort, manchmal ein Bruchstück eines selteneren. Es ist die Einheit, die das Modell liest und schreibt, und genau deshalb können Modelle nicht buchstabieren: Sie sehen die Buchstaben nie.
API-Preise, Stand November 2026#
Ich habe pro Klasse ein Modell aus den offiziellen Preisseiten von Anthropic und OpenAI genommen, Standard-Tarif, ohne Batch-Rabatt, ohne Caching:
| Modell | Klasse | Eingabe, USD / M | Ausgabe, USD / M | Ausgabe, EUR / M |
|---|---|---|---|---|
| Claude Fable 5.2 | Frontier | 8,00 | 40,00 | 36,32 |
| Claude Sonnet 5.5 | Mittel | 2,00 | 10,00 | 9,08 |
| gpt-6.1-terra | Mittel, günstiger | 1,00 | 5,00 | 4,54 |
| Claude Haiku 5.5 | Klein | 0,10 | 0,50 | 0,45 |
Haiku 5.5 hat diesen Preis für Prompts bis 100 000 Tokens, darüber kostet es 0,50 USD Eingabe und 2,50 USD Ausgabe. Die Euro-Spalte nutzt den EZB-Referenzkurs von 1,1014 USD pro Euro vom 16. November 2026.
Warum Ausgabe fünfmal so viel kostet#
In jeder Zeile oben kostet die Ausgabe genau das Fünffache der Eingabe. Das folgt aus der Arbeitsweise der Hardware. Dein Prompt wird in einem Rutsch verarbeitet: Tausende Tokens laufen parallel durch das Modell, und die GPU ist mit Rechnen ausgelastet. Die Antwort entsteht Token für Token, und für jedes Token liest die GPU die benötigten Gewichte erneut aus dem Speicher. Diese zweite Phase ist durch die Speicherbandbreite begrenzt, nicht durch die Rechenleistung, deshalb belegt ein erzeugtes Token die Hardware viel länger als ein gelesenes. Ausführlich steht das in Prefill vs. Decode.
Für den Vergleich unten nehme ich die Ausgabepreise. Eingabe ist pro Token billiger, aber meist gibt es viel mehr davon, eine echte Rechnung hängt also vom Verhältnis zwischen Prompt und Antwort ab.
Die lokale Seite: Eingangswerte#
| Wert | Zahl | Quelle |
|---|---|---|
| RTX 5090, günstigste Angebote in Deutschland | etwa 7 700 Euro | Notebookcheck, 14.11.2026 |
| Haushaltsstrom, Deutschland 2026 | 37,3 ct/kWh | BDEW, Oktober 2026 |
| Energie, ein Stream | 0,115 Wh pro Antwort mit 500 Tokens | meine Messung, 17.11.2026 |
| Energie, 32 Streams | 0,024 Wh pro Antwort mit 500 Tokens | meine Messung, 17.11.2026 |
| Leerlauf | 39 bis 49 W, hier 49 W angesetzt | meine zwei Messungen |
| Decode, ein Stream | etwa 350 tok/s, 30B-MoE-Klasse in NVFP4 | imp |
| Decode, 32 Streams | 1 975 tok/s gesamt, Qwen3.8-27B | imp |
Karten- und Strompreis enthalten 19 % Mehrwertsteuer. Ein Unternehmen, das die Vorsteuer zieht und einen Gewerbestromtarif zahlt, zahlt weniger, die lokalen Zahlen unten sind also eine Obergrenze.
Ja, 7 700 Euro für eine Consumer-Karte. Das ist die größte Zahl in dieser Rechnung. Ich zähle nur die Karte: kein Rechner drumherum, keine Einrichtung, keine Admin-Zeit. All das würde lokal teurer machen.
Die Rechnung#
Fixkosten pro Jahr. Ich schreibe die Karte über 3 Jahre ab: 7 700 / 3 = 2 566,67 Euro. Die Maschine läuft als Server, immer an. Der Leerlauf liegt bei 49 W (der höhere meiner zwei Messwerte), also kostet jede Stunde ohne Generierung 49 Wh.
Energie pro Million Ausgabe-Tokens. Ein Stream: 0,115 Wh pro 500 Tokens sind 0,23 kWh pro Million Tokens, bei 37,3 ct/kWh also 0,086 Euro. 32 Streams: 0,024 Wh pro 500 Tokens, weil die Leistungsaufnahme der Karte kaum steigt, während ihre Ausgabe auf das Fünffache wächst. Das sind 0,047 kWh oder 0,018 Euro pro Million Tokens.
Szenario A: ein Stream, ein volles Arbeitsjahr ausgelastet. 2 000 Stunden Generierung (8 Stunden an 250 Tagen) bei 350 tok/s sind 2 520 Millionen Tokens. Leerlauf in den übrigen 6 760 Stunden kostet 331 kWh, also 123,55 Euro. Fixkosten: 2 566,67 + 123,55 = 2 690,22 Euro, geteilt durch 2 520 Millionen Tokens sind 1,07 Euro, plus 0,09 Euro Energie: 1,15 Euro pro Million.
Szenario B: 32 Streams, dieselben 2 000 Stunden. 1 975 tok/s über 2 000 Stunden sind 14 220 Millionen Tokens. 2 690,22 / 14 220 = 0,19 Euro, plus 0,02 Euro Energie: 0,21 Euro pro Million. Jeder der 32 Nutzer sieht dann etwa 62 tok/s, immer noch schnell genug zum Mitlesen.
Szenario C: eine Person, normale Nutzung. Szenario A setzt voraus, dass jemand die Karte acht Stunden am Tag ohne Pause generieren lässt. So viel liest niemand. Nimm eine Person, die pro Arbeitstag 200 Antworten mit je 500 Tokens liest: 100 000 Tokens am Tag, 25 Millionen im Jahr. Die Karte generiert dann etwa 20 Stunden im Jahr und steht den Rest im Leerlauf, die Fixkosten liegen bei 2 726,41 Euro. Geteilt durch 25 Millionen Tokens: 109,14 Euro pro Million. Das ist das Dreifache des Frontier-API-Preises.
Break-even gegen jede API#
Lokal hat hohe Fixkosten und winzige Grenzkosten, die API hat keine Fixkosten und einen festen Preis pro Token. Die Break-even-Menge sind die jährlichen Fixkosten geteilt durch die Differenz pro Million Tokens. Mit 2 690,22 Euro Fixkosten und den Energiekosten im Batch-Betrieb von 0,018 Euro pro Million:
| Gegen | Break-even, Millionen Ausgabe-Tokens / Jahr | Pro Arbeitstag |
|---|---|---|
| Claude Fable 5.2 | 74 | 296 000 |
| Claude Sonnet 5.5 | 297 | 1,19 Millionen |
| gpt-6.1-terra | 595 | 2,38 Millionen |
| Claude Haiku 5.5 | 6 165 | 24,7 Millionen |
Gegen Fable 5.2 rechnet sich die Karte ab etwa 600 Antworten mit 500 Tokens pro Arbeitstag. Gegen Haiku 5.5 braucht sie 6 165 Millionen Tokens im Jahr, mehr als ein einzelner Stream in 2 000 Stunden schafft (2 520 Millionen). Diese Menge erreicht nur eine Karte, die viele Anfragen gleichzeitig bearbeitet, per Continuous Batching.
Der Haken: Es ist nicht dasselbe Modell#
Die Tabelle vergleicht Preise, keine Ergebnisse. Ein offenes Modell der 30B-Klasse auf einer Karte ist kein Frontier-Modell, und der Break-even von 74 Millionen gegen Fable 5.2 setzt voraus, dass das lokale Modell dieselbe Arbeit leistet, was es meist nicht tut. In Ein eigenes LLM fürs Team betreiben habe ich argumentiert, dass die Fehlerquote eines schwächeren Modells mehr Arbeitszeit kostet, als es an API-Gebühren spart. Der faire Preisvergleich für ein Modell dieser Größe ist die kleine Klasse, und gegen Haiku 5.5 gewinnt lokal nur, wenn 32 Streams den größten Teil des Arbeitstags ausgelastet sind.
Zwei weitere Dinge verschieben die Zahlen. API-Preise ändern sich: Googles Gemini-Preisseite zum Beispiel nennt Preise, die sich für einige Modelle zum 1. Dezember 2026 oder 1. Januar 2027 verdoppeln. Und der Kartenpreis bewegt sich auch: Bei halbem Kartenpreis halbiert sich der Kartenanteil jeder lokalen Zahl oben.
Fazit#
Eine Million Ausgabe-Tokens kostet in der kleinen API-Klasse 0,45 Euro und an der Frontier 36,32 Euro, Stand November 2026. Auf einer RTX 5090 zum heutigen Preis kostet sie 0,21 Euro mit 32 ausgelasteten Streams, 1,15 Euro mit einem ausgelasteten Stream und 109 Euro, wenn eine einzelne Person sie normal nutzt. Lokal gewinnt beim Preis nur bei hoher, stetiger Menge, und du bekommst dafür ein kleineres Modell. Wenn dein Grund für lokalen Betrieb Daten sind, die das Haus nicht verlassen dürfen, ist der Preis das, was du dafür zahlst. Wenn dein Grund Sparen ist, mach die Rechnung oben zuerst mit deiner eigenen Menge.