# Lokal oder API: was eine Million Tokens wirklich kostet
> API-Preise pro Million Tokens gegen eine RTX 5090 für 7 700 Euro und 37,3 ct/kWh: die Rechnung, die Break-even-Mengen und warum ein einzelner Nutzer lokal am meisten zahlt.
Source: https://rfriedmann.de/de/blog/local-or-api-what-tokens-cost/ · English: https://rfriedmann.de/blog/local-or-api-what-tokens-cost/
Published: 2026-11-19 · Track: learn · Level: Ops
"Wäre es nicht billiger, das selbst zu betreiben?" Die Frage kommt jedes Mal, wenn eine
API-Rechnung auf meinem Tisch landet. Ich baue [imp](https://github.com/kekzl/imp), eine
Inferenz-Engine für eine RTX 5090, also habe ich die lokalen Zahlen zur Hand. Dieser
Beitrag bringt beide Seiten auf dieselbe Einheit, Euro pro Million Tokens, mit belegten
Eingangswerten und offener Rechnung.
## Wofür du bezahlst
Beide Seiten rechnen in Tokens ab. Ein Token ist ein Stück Text, oft ein ganzes häufiges
Wort, manchmal ein Bruchstück eines selteneren. Es ist die Einheit, die das Modell liest
und schreibt, und genau deshalb [können Modelle nicht buchstabieren](/de/blog/why-models-cant-spell/):
Sie sehen die Buchstaben nie.
## API-Preise, Stand November 2026
Ich habe pro Klasse ein Modell aus den offiziellen Preisseiten von
[Anthropic](https://platform.claude.com/docs/en/about-claude/pricing) und
[OpenAI](https://developers.openai.com/api/docs/pricing) genommen, Standard-Tarif, ohne
Batch-Rabatt, ohne Caching:
| Modell | Klasse | Eingabe, USD / M | Ausgabe, USD / M | Ausgabe, EUR / M |
|---|---|---:|---:|---:|
| Claude Fable 5.2 | Frontier | 8,00 | 40,00 | 36,32 |
| Claude Sonnet 5.5 | Mittel | 2,00 | 10,00 | 9,08 |
| gpt-6.1-terra | Mittel, günstiger | 1,00 | 5,00 | 4,54 |
| Claude Haiku 5.5 | Klein | 0,10 | 0,50 | 0,45 |
Haiku 5.5 hat diesen Preis für Prompts bis 100 000 Tokens, darüber kostet es 0,50 USD
Eingabe und 2,50 USD Ausgabe. Die Euro-Spalte nutzt den
[EZB-Referenzkurs](https://www.ecb.europa.eu/stats/policy_and_exchange_rates/euro_reference_exchange_rates/html/eurofxref-graph-usd.en.html)
von 1,1014 USD pro Euro vom 16. November 2026.
## Warum Ausgabe fünfmal so viel kostet
In jeder Zeile oben kostet die Ausgabe genau das Fünffache der Eingabe. Das folgt aus der
Arbeitsweise der Hardware. Dein Prompt wird in einem Rutsch verarbeitet: Tausende Tokens
laufen parallel durch das Modell, und die GPU ist mit Rechnen ausgelastet. Die Antwort
entsteht Token für Token, und für jedes Token liest die GPU die benötigten Gewichte erneut
aus dem Speicher. Diese zweite Phase ist durch die Speicherbandbreite begrenzt, nicht durch
die Rechenleistung, deshalb belegt ein erzeugtes Token die Hardware viel länger als ein
gelesenes. Ausführlich steht das in [Prefill vs. Decode](/de/blog/prefill-vs-decode-roofline/).
Für den Vergleich unten nehme ich die Ausgabepreise. Eingabe ist pro Token billiger, aber
meist gibt es viel mehr davon, eine echte Rechnung hängt also vom Verhältnis zwischen
Prompt und Antwort ab.
## Die lokale Seite: Eingangswerte
| Wert | Zahl | Quelle |
|---|---|---|
| RTX 5090, günstigste Angebote in Deutschland | etwa 7 700 Euro | [Notebookcheck, 14.11.2026](https://www.notebookcheck.com/Zum-dreifachen-Preis-Eingestellte-RTX-5090-teils-wieder-verfuegbar.1450508.0.html) |
| Haushaltsstrom, Deutschland 2026 | 37,3 ct/kWh | [BDEW, Oktober 2026](https://www.bdew.de/service/daten-und-grafiken/bdew-strompreisanalyse/) |
| Energie, ein Stream | 0,115 Wh pro Antwort mit 500 Tokens | meine Messung, 17.11.2026 |
| Energie, 32 Streams | 0,024 Wh pro Antwort mit 500 Tokens | meine Messung, 17.11.2026 |
| Leerlauf | 39 bis 49 W, hier 49 W angesetzt | meine zwei Messungen |
| Decode, ein Stream | etwa 350 tok/s, 30B-MoE-Klasse in NVFP4 | imp |
| Decode, 32 Streams | 1 975 tok/s gesamt, Qwen3.8-27B | imp |
Karten- und Strompreis enthalten 19 % Mehrwertsteuer. Ein Unternehmen, das die Vorsteuer
zieht und einen Gewerbestromtarif zahlt, zahlt weniger, die lokalen Zahlen unten sind also
eine Obergrenze.
Ja, 7 700 Euro für eine Consumer-Karte. Das ist die größte Zahl in dieser Rechnung. Ich
zähle nur die Karte: kein Rechner drumherum, keine Einrichtung, keine Admin-Zeit. All das
würde lokal teurer machen.
## Die Rechnung
**Fixkosten pro Jahr.** Ich schreibe die Karte über 3 Jahre ab: 7 700 / 3 = 2 566,67 Euro.
Die Maschine läuft als Server, immer an. Der Leerlauf liegt bei 49 W (der höhere meiner zwei Messwerte), also kostet jede
Stunde ohne Generierung 49 Wh.
**Energie pro Million Ausgabe-Tokens.** Ein Stream: 0,115 Wh pro 500 Tokens sind 0,23 kWh
pro Million Tokens, bei 37,3 ct/kWh also 0,086 Euro. 32 Streams: 0,024 Wh pro 500 Tokens,
weil die Leistungsaufnahme der Karte kaum steigt, während ihre Ausgabe auf das Fünffache
wächst. Das sind 0,047 kWh oder 0,018 Euro pro Million Tokens.
**Szenario A: ein Stream, ein volles Arbeitsjahr ausgelastet.** 2 000 Stunden Generierung
(8 Stunden an 250 Tagen) bei 350 tok/s sind 2 520 Millionen Tokens. Leerlauf in den
übrigen 6 760 Stunden kostet 331 kWh, also 123,55 Euro. Fixkosten: 2 566,67 + 123,55 =
2 690,22 Euro, geteilt durch 2 520 Millionen Tokens sind 1,07 Euro, plus 0,09 Euro Energie:
**1,15 Euro pro Million**.
**Szenario B: 32 Streams, dieselben 2 000 Stunden.** 1 975 tok/s über 2 000 Stunden sind
14 220 Millionen Tokens. 2 690,22 / 14 220 = 0,19 Euro, plus 0,02 Euro Energie: **0,21 Euro
pro Million**. Jeder der 32 Nutzer sieht dann etwa 62 tok/s, immer noch schnell genug zum
Mitlesen.
**Szenario C: eine Person, normale Nutzung.** Szenario A setzt voraus, dass jemand die Karte
acht Stunden am Tag ohne Pause generieren lässt. So viel liest niemand. Nimm eine Person,
die pro Arbeitstag 200 Antworten mit je 500 Tokens liest: 100 000 Tokens am Tag, 25 Millionen
im Jahr. Die Karte generiert dann etwa 20 Stunden im Jahr und steht den Rest im Leerlauf,
die Fixkosten liegen bei 2 726,41 Euro. Geteilt durch 25 Millionen Tokens: **109,14 Euro pro
Million**. Das ist das Dreifache des Frontier-API-Preises.
Euro pro Million Ausgabe-Tokens, Stand November 2026
[diagram omitted — see the page for the chart]Skala = 110 Euro. API: Listenpreis Ausgabe, umgerechnet mit 1,1014 USD pro Euro. Lokal (grau): RTX 5090 für 7 700 Euro über 3 Jahre, 37,3 ct/kWh, immer an, nur die Karte. Balken unter 2 px sind mit 2 px gezeichnet.
## Break-even gegen jede API
Lokal hat hohe Fixkosten und winzige Grenzkosten, die API hat keine Fixkosten und einen
festen Preis pro Token. Die Break-even-Menge sind die jährlichen Fixkosten geteilt durch
die Differenz pro Million Tokens. Mit 2 690,22 Euro Fixkosten und den Energiekosten im
Batch-Betrieb von 0,018 Euro pro Million:
| Gegen | Break-even, Millionen Ausgabe-Tokens / Jahr | Pro Arbeitstag |
|---|---:|---:|
| Claude Fable 5.2 | 74 | 296 000 |
| Claude Sonnet 5.5 | 297 | 1,19 Millionen |
| gpt-6.1-terra | 595 | 2,38 Millionen |
| Claude Haiku 5.5 | 6 165 | 24,7 Millionen |
Gegen Fable 5.2 rechnet sich die Karte ab etwa 600 Antworten mit 500 Tokens pro Arbeitstag.
Gegen Haiku 5.5 braucht sie 6 165 Millionen Tokens im Jahr, mehr als ein einzelner Stream in
2 000 Stunden schafft (2 520 Millionen). Diese Menge erreicht nur eine Karte, die viele
Anfragen gleichzeitig bearbeitet, per [Continuous Batching](/de/blog/continuous-batching/).
## Der Haken: Es ist nicht dasselbe Modell
Die Tabelle vergleicht Preise, keine Ergebnisse. Ein offenes Modell der 30B-Klasse auf einer
Karte ist kein Frontier-Modell, und der Break-even von 74 Millionen gegen Fable 5.2 setzt
voraus, dass das lokale Modell dieselbe Arbeit leistet, was es meist nicht tut. In
[Ein eigenes LLM fürs Team betreiben](/de/blog/self-hosting-an-llm-for-your-team/) habe ich
argumentiert, dass die Fehlerquote eines schwächeren Modells mehr Arbeitszeit kostet, als
es an API-Gebühren spart. Der faire Preisvergleich für ein Modell dieser Größe ist die
kleine Klasse, und gegen Haiku 5.5 gewinnt lokal nur, wenn 32 Streams den größten Teil des
Arbeitstags ausgelastet sind.
Zwei weitere Dinge verschieben die Zahlen. API-Preise ändern sich: Googles
[Gemini-Preisseite](https://aistudio.google.com/docs/pricing) zum Beispiel nennt Preise,
die sich für einige Modelle zum 1. Dezember 2026 oder 1. Januar 2027 verdoppeln. Und der
Kartenpreis bewegt sich auch: Bei halbem Kartenpreis halbiert sich der Kartenanteil jeder
lokalen Zahl oben.
## Fazit
Eine Million Ausgabe-Tokens kostet in der kleinen API-Klasse 0,45 Euro und an der Frontier
36,32 Euro, Stand November 2026. Auf einer RTX 5090 zum heutigen Preis kostet sie 0,21 Euro
mit 32 ausgelasteten Streams, 1,15 Euro mit einem ausgelasteten Stream und 109 Euro, wenn
eine einzelne Person sie normal nutzt. Lokal gewinnt beim Preis nur bei hoher, stetiger
Menge, und du bekommst dafür ein kleineres Modell. Wenn dein Grund für lokalen Betrieb Daten
sind, die das Haus nicht verlassen dürfen, ist der Preis das, was du dafür zahlst. Wenn dein
Grund Sparen ist, mach die Rechnung oben zuerst mit deiner eigenen Menge.