# Wie viel Strom braucht eine KI-Antwort?
> Veröffentlichte Zahlen setzen eine Chatbot-Antwort bei 0,24 bis 0,34 Wh an. Was sie enthalten, warum sie so streuen, und meine RTX 5090: 0,115 Wh pro Antwort allein, 0,024 Wh geteilt durch 32.
Source: https://rfriedmann.de/de/blog/energy-per-ai-answer/ · English: https://rfriedmann.de/blog/energy-per-ai-answer/
Published: 2026-11-17 · Track: learn · Level: Ops
"Ist KI nicht schlecht fürs Klima?" höre ich inzwischen öfter als "Welches Modell
sollen wir nehmen?". Die Frage verdient eine Zahl, kein Gefühl. Und es gibt Zahlen,
von den Betreibern selbst und von meiner eigenen Karte. Sie passen besser zusammen,
als man denkt, solange man liest, was jede einzelne zählt.
## Die veröffentlichten Zahlen
Zwei Betreiber haben eine Zahl für eine einzelne Antwort genannt.
- **Google, August 2025:** Der mittlere Text-Prompt (Median) in den Gemini-Apps
braucht **0,24 Wh**, gemessen am Produktivbetrieb im Mai 2025. Googles Vergleich:
weniger als neun Sekunden Fernsehen. Zählt man nur die KI-Chips, sind es **0,10 Wh**.
([Google-Cloud-Blog](https://cloud.google.com/blog/products/infrastructure/measuring-the-environmental-impact-of-ai-inference),
[Paper](https://arxiv.org/abs/2508.15734))
- **OpenAI, Juni 2025:** Sam Altman schrieb, eine durchschnittliche ChatGPT-Anfrage
brauche **etwa 0,34 Wh**, ungefähr so viel wie ein Backofen in gut einer Sekunde.
([Blogpost](https://blog.samaltman.com/the-gentle-singularity)) Eine Methode wurde
dazu nicht veröffentlicht.
Keine der beiden Zahlen wurde unabhängig geprüft, beide sind Selbstauskünfte. Trotzdem
sind sie die besten verfügbaren Daten, denn nur der Betreiber sieht den Stromzähler.
Energie für eine Textantwort, Wh
[diagram omitted — see the page for the chart]
Google und OpenAI wie veröffentlicht (Daten aus Mai und Juni 2025). Meine Zeilen sind Antworten mit 500 Tokens, gemessen am 17. November 2026, und zählen nur die Grafikkarte. Sie gehören also neben Googles Chips-Balken, nicht neben das ganze Rechenzentrum.
## Warum die Zahlen so weit auseinanderliegen
Schätzungen für "eine KI-Antwort" streuen stark. Vier Dinge erklären das meiste davon.
**Was gezählt wird.** Googles zwei Zahlen beschreiben dieselben Prompts. 0,10 Wh sind
die Chips, während sie rechnen. 0,24 Wh kommen dazu: die Host-CPUs und der Speicher,
Maschinen, die als Reserve leer mitlaufen, sowie Kühlung und Leitungsverluste des
Gebäudes. Eine Zahl ohne ihre Systemgrenze ist eine halbe Zahl.
**Wie lang die Antwort ist.** Ein Modell schreibt [ein Token nach dem
anderen](/de/blog/what-is-an-llm/), und jedes Token kostet einen Durchlauf durch das
Modell. Doppelt so viele Wörter heißt ungefähr doppelt so viel Energie. Ein
"mittlerer Prompt" ist ein kurzer Austausch, ein generierter Bericht ist es nicht.
**Ob das Modell vorher nachdenkt.** [Reasoning-Modelle](/de/blog/why-models-think-before-answering/)
schreiben seitenweise verborgene Zwischenschritte, bevor die Antwort kommt. Du siehst
diese Tokens nicht, aber die GPU berechnet jedes einzelne. Eine schwere Frage an ein
Reasoning-Modell kann ein Vielfaches einer schnellen Chat-Antwort kosten.
**Wie viele Leute sich die GPU teilen.** Das überrascht die meisten. Ein Token für
einen einzelnen Nutzer zu schreiben [ist durch die Speicherbandbreite
begrenzt](/de/blog/prefill-vs-decode-roofline/), nicht durch Rechenleistung: Die Karte
schiebt die Gewichte des Modells durch ihren Speicher, um ein einziges Wort zu
erzeugen, und auf meiner Karte zieht allein das etwa die Hälfte ihres Limits von 575 W.
[Bedient sie viele Nutzer gleichzeitig](/de/blog/continuous-batching/), liefert
derselbe Durchlauf für jeden von ihnen ein Token, und die Energie pro Antwort sinkt.
## Gemessen auf meiner eigenen Karte
Um echte Watt daran zu schreiben, habe ich meine RTX 5090 mit
[imp](https://github.com/kekzl/imp) gemessen, der Inferenz-Engine, die ich baue. Das
Modell ist Flint, ein Mixture-of-Experts-Modell mit 40 Milliarden Parametern, von
denen etwa 2,5 Milliarden [an jedem Token arbeiten](/de/blog/mixture-of-experts-explained/),
in 4 Bit.
| | Ein Nutzer | 32 Nutzer gleichzeitig |
|---|---|---|
| Board-Leistung beim Generieren | 303 bis 308 W | 331 bis 333 W |
| Geschwindigkeit | 355 bis 386 tok/s | 1 955 bis 1 967 tok/s insgesamt |
| Energie pro Antwort mit 500 Tokens | 0,115 Wh | 0,024 Wh |
Die Methode: drei einzelne Antworten und zwei Runden mit 32 parallelen Anfragen, jede
Antwort 499 Tokens lang, die Board-Leistung etwa alle 130 ms mit `nvidia-smi` gelesen
und über die Dauer jeder Antwort aufsummiert. Im Leerlauf zieht die Karte 39 W. Das
zählt die Grafikkarte, nicht den Rest des PCs, und gehört damit neben Googles 0,10 Wh
für die Chips, nicht neben die 0,24 Wh.
**Eine Antwort: 0,115 Wh.** Das liegt nah an Googles Chip-Zahl. Eine Gaming-Karte
zu Hause und ein Rechenzentrum landen für eine einzelne kurze Antwort im selben
Bereich, hier unterstützt von einem Modell, das pro Token nur 2,5 Milliarden
Parameter nutzt.
**32 Nutzer: ein Fünftel der Energie pro Antwort.** Mit 32 gleichzeitig gesendeten Anfragen (die Engine rechnet bis zu 18 davon parallel, der Rest wartet kurz)
steigt die Leistungsaufnahme nur von etwa 305 auf 332 W, die Ausgabe aber auf mehr als
das Fünffache, von etwa 370 auf 1 960 Tokens pro Sekunde. Jede Antwort kostet jetzt
0,024 Wh, 4,9-mal weniger als allein. Das ist der Bündelungseffekt in echten Watt.
**Mein erster Lauf hat das verpasst.** Am selben Tag zeigte der identische Test zuerst
gar keine Ersparnis: Ein Fehler in imps automatischer Größenwahl ließ die Engine nur
zwei Antworten gleichzeitig rechnen, die 32 Anfragen standen also Schlange und jede
kostete so viel wie eine einzelne. Mit dem Fix rechnet die Engine auf diesem Modell bis
zu 18 Antworten gleichzeitig. Eine geteilte GPU spart nur dann Energie, wenn die Engine
wirklich bündelt, also miss es, statt es anzunehmen.
## Was das praktisch heißt
**Pro Antwort ist es wenig.** 0,24 Wh mal 100 Antworten am Tag ein Jahr lang sind
8,8 kWh. Das ist ungefähr so viel, wie ein Wasserkocher für 90 Liter Wasser braucht:
über ein Jahr spürbar, aber keine Frage des Lebensstils.
**In der Summe ist es viel.** Die Sorge um KI und Strom betrifft nicht deinen Prompt.
Sie betrifft die Summe über alle Nutzer, die Trainingsläufe hinter jedem Modell und
die neuen Rechenzentren, die dafür gebaut werden. Nichts davon steckt in einer Zahl
pro Prompt: Googles Wert enthält weder Training noch Netzwerk noch dein eigenes Gerät.
**Wo du wirklich sparen kannst:**
- **Nimm das kleinste Modell, das die Aufgabe schafft.** Die Energie folgt den
Parametern, die an jedem Token arbeiten. Deshalb bleibt meine Karte mit Flints
2,5 Milliarden aktiven Parametern nahe 0,1 Wh pro Antwort. Ein kleines Modell
[antwortet bei einfachen Aufgaben oft genauso gut](/de/blog/testing-a-model-on-your-own-work/).
- **Schalte das Nachdenken ab, wenn du es nicht brauchst.** Reasoning bei einer
Nachschlagefrage verbrennt Tokens für nichts.
- **Bitte um kürzere Antworten.** Weniger Tokens, weniger Energie, und meist besser
zu lesen.
- **Teile die Hardware.** Eine Karte, die immer nur eine Person bedient, zahlt für
jedes Token einen vollen Durchlauf durch das Modell; ein Dienst mit Bündelung teilt
ihn auf viele auf. Auf meiner Karte senken 32 Nutzer die Energie pro Antwort auf ein
Fünftel. Das ist ein weiterer Grund, warum sich [ein eigenes Modell für eine
einzelne Person oder ein kleines Team selten lohnt](/de/blog/self-hosting-an-llm-for-your-team/).
Datenschutz kann es trotzdem rechtfertigen, Effizienz nicht.
## Fazit
Eine Chatbot-Antwort braucht nach den eigenen Zahlen der Betreiber etwa eine
Viertel-Wattstunde, ungefähr so viel wie ein paar Sekunden Fernsehen. Meine eigene
Karte braucht 0,115 Wh für eine Antwort mit 500 Tokens bei einem Nutzer und 0,024 Wh,
wenn sich 32 Nutzer die Karte teilen. Die Streuung zwischen den Schätzungen kommt
daher, was gezählt wird, wie lang die Antwort ist, ob das Modell vorher nachdenkt und
wie viele Nutzer sich die GPU teilen. Der einzelne Prompt ist nicht das Problem, die
Menge ist es. Wer sparen will, nimmt kleinere Modelle, kürzere Antworten, weniger
Nachdenken und geteilte Hardware.