# Wie viel Strom braucht eine KI-Antwort? > Veröffentlichte Zahlen setzen eine Chatbot-Antwort bei 0,24 bis 0,34 Wh an. Was sie enthalten, warum sie so streuen, und meine RTX 5090: 0,115 Wh pro Antwort allein, 0,024 Wh geteilt durch 32. Source: https://rfriedmann.de/de/blog/energy-per-ai-answer/ · English: https://rfriedmann.de/blog/energy-per-ai-answer/ Published: 2026-11-17 · Track: learn · Level: Ops "Ist KI nicht schlecht fürs Klima?" höre ich inzwischen öfter als "Welches Modell sollen wir nehmen?". Die Frage verdient eine Zahl, kein Gefühl. Und es gibt Zahlen, von den Betreibern selbst und von meiner eigenen Karte. Sie passen besser zusammen, als man denkt, solange man liest, was jede einzelne zählt. ## Die veröffentlichten Zahlen Zwei Betreiber haben eine Zahl für eine einzelne Antwort genannt. - **Google, August 2025:** Der mittlere Text-Prompt (Median) in den Gemini-Apps braucht **0,24 Wh**, gemessen am Produktivbetrieb im Mai 2025. Googles Vergleich: weniger als neun Sekunden Fernsehen. Zählt man nur die KI-Chips, sind es **0,10 Wh**. ([Google-Cloud-Blog](https://cloud.google.com/blog/products/infrastructure/measuring-the-environmental-impact-of-ai-inference), [Paper](https://arxiv.org/abs/2508.15734)) - **OpenAI, Juni 2025:** Sam Altman schrieb, eine durchschnittliche ChatGPT-Anfrage brauche **etwa 0,34 Wh**, ungefähr so viel wie ein Backofen in gut einer Sekunde. ([Blogpost](https://blog.samaltman.com/the-gentle-singularity)) Eine Methode wurde dazu nicht veröffentlicht. Keine der beiden Zahlen wurde unabhängig geprüft, beide sind Selbstauskünfte. Trotzdem sind sie die besten verfügbaren Daten, denn nur der Betreiber sieht den Stromzähler.
Energie für eine Textantwort, Wh
[diagram omitted — see the page for the chart]
Google und OpenAI wie veröffentlicht (Daten aus Mai und Juni 2025). Meine Zeilen sind Antworten mit 500 Tokens, gemessen am 17. November 2026, und zählen nur die Grafikkarte. Sie gehören also neben Googles Chips-Balken, nicht neben das ganze Rechenzentrum.
## Warum die Zahlen so weit auseinanderliegen Schätzungen für "eine KI-Antwort" streuen stark. Vier Dinge erklären das meiste davon. **Was gezählt wird.** Googles zwei Zahlen beschreiben dieselben Prompts. 0,10 Wh sind die Chips, während sie rechnen. 0,24 Wh kommen dazu: die Host-CPUs und der Speicher, Maschinen, die als Reserve leer mitlaufen, sowie Kühlung und Leitungsverluste des Gebäudes. Eine Zahl ohne ihre Systemgrenze ist eine halbe Zahl. **Wie lang die Antwort ist.** Ein Modell schreibt [ein Token nach dem anderen](/de/blog/what-is-an-llm/), und jedes Token kostet einen Durchlauf durch das Modell. Doppelt so viele Wörter heißt ungefähr doppelt so viel Energie. Ein "mittlerer Prompt" ist ein kurzer Austausch, ein generierter Bericht ist es nicht. **Ob das Modell vorher nachdenkt.** [Reasoning-Modelle](/de/blog/why-models-think-before-answering/) schreiben seitenweise verborgene Zwischenschritte, bevor die Antwort kommt. Du siehst diese Tokens nicht, aber die GPU berechnet jedes einzelne. Eine schwere Frage an ein Reasoning-Modell kann ein Vielfaches einer schnellen Chat-Antwort kosten. **Wie viele Leute sich die GPU teilen.** Das überrascht die meisten. Ein Token für einen einzelnen Nutzer zu schreiben [ist durch die Speicherbandbreite begrenzt](/de/blog/prefill-vs-decode-roofline/), nicht durch Rechenleistung: Die Karte schiebt die Gewichte des Modells durch ihren Speicher, um ein einziges Wort zu erzeugen, und auf meiner Karte zieht allein das etwa die Hälfte ihres Limits von 575 W. [Bedient sie viele Nutzer gleichzeitig](/de/blog/continuous-batching/), liefert derselbe Durchlauf für jeden von ihnen ein Token, und die Energie pro Antwort sinkt. ## Gemessen auf meiner eigenen Karte Um echte Watt daran zu schreiben, habe ich meine RTX 5090 mit [imp](https://github.com/kekzl/imp) gemessen, der Inferenz-Engine, die ich baue. Das Modell ist Flint, ein Mixture-of-Experts-Modell mit 40 Milliarden Parametern, von denen etwa 2,5 Milliarden [an jedem Token arbeiten](/de/blog/mixture-of-experts-explained/), in 4 Bit. | | Ein Nutzer | 32 Nutzer gleichzeitig | |---|---|---| | Board-Leistung beim Generieren | 303 bis 308 W | 331 bis 333 W | | Geschwindigkeit | 355 bis 386 tok/s | 1 955 bis 1 967 tok/s insgesamt | | Energie pro Antwort mit 500 Tokens | 0,115 Wh | 0,024 Wh | Die Methode: drei einzelne Antworten und zwei Runden mit 32 parallelen Anfragen, jede Antwort 499 Tokens lang, die Board-Leistung etwa alle 130 ms mit `nvidia-smi` gelesen und über die Dauer jeder Antwort aufsummiert. Im Leerlauf zieht die Karte 39 W. Das zählt die Grafikkarte, nicht den Rest des PCs, und gehört damit neben Googles 0,10 Wh für die Chips, nicht neben die 0,24 Wh. **Eine Antwort: 0,115 Wh.** Das liegt nah an Googles Chip-Zahl. Eine Gaming-Karte zu Hause und ein Rechenzentrum landen für eine einzelne kurze Antwort im selben Bereich, hier unterstützt von einem Modell, das pro Token nur 2,5 Milliarden Parameter nutzt. **32 Nutzer: ein Fünftel der Energie pro Antwort.** Mit 32 gleichzeitig gesendeten Anfragen (die Engine rechnet bis zu 18 davon parallel, der Rest wartet kurz) steigt die Leistungsaufnahme nur von etwa 305 auf 332 W, die Ausgabe aber auf mehr als das Fünffache, von etwa 370 auf 1 960 Tokens pro Sekunde. Jede Antwort kostet jetzt 0,024 Wh, 4,9-mal weniger als allein. Das ist der Bündelungseffekt in echten Watt. **Mein erster Lauf hat das verpasst.** Am selben Tag zeigte der identische Test zuerst gar keine Ersparnis: Ein Fehler in imps automatischer Größenwahl ließ die Engine nur zwei Antworten gleichzeitig rechnen, die 32 Anfragen standen also Schlange und jede kostete so viel wie eine einzelne. Mit dem Fix rechnet die Engine auf diesem Modell bis zu 18 Antworten gleichzeitig. Eine geteilte GPU spart nur dann Energie, wenn die Engine wirklich bündelt, also miss es, statt es anzunehmen. ## Was das praktisch heißt **Pro Antwort ist es wenig.** 0,24 Wh mal 100 Antworten am Tag ein Jahr lang sind 8,8 kWh. Das ist ungefähr so viel, wie ein Wasserkocher für 90 Liter Wasser braucht: über ein Jahr spürbar, aber keine Frage des Lebensstils. **In der Summe ist es viel.** Die Sorge um KI und Strom betrifft nicht deinen Prompt. Sie betrifft die Summe über alle Nutzer, die Trainingsläufe hinter jedem Modell und die neuen Rechenzentren, die dafür gebaut werden. Nichts davon steckt in einer Zahl pro Prompt: Googles Wert enthält weder Training noch Netzwerk noch dein eigenes Gerät. **Wo du wirklich sparen kannst:** - **Nimm das kleinste Modell, das die Aufgabe schafft.** Die Energie folgt den Parametern, die an jedem Token arbeiten. Deshalb bleibt meine Karte mit Flints 2,5 Milliarden aktiven Parametern nahe 0,1 Wh pro Antwort. Ein kleines Modell [antwortet bei einfachen Aufgaben oft genauso gut](/de/blog/testing-a-model-on-your-own-work/). - **Schalte das Nachdenken ab, wenn du es nicht brauchst.** Reasoning bei einer Nachschlagefrage verbrennt Tokens für nichts. - **Bitte um kürzere Antworten.** Weniger Tokens, weniger Energie, und meist besser zu lesen. - **Teile die Hardware.** Eine Karte, die immer nur eine Person bedient, zahlt für jedes Token einen vollen Durchlauf durch das Modell; ein Dienst mit Bündelung teilt ihn auf viele auf. Auf meiner Karte senken 32 Nutzer die Energie pro Antwort auf ein Fünftel. Das ist ein weiterer Grund, warum sich [ein eigenes Modell für eine einzelne Person oder ein kleines Team selten lohnt](/de/blog/self-hosting-an-llm-for-your-team/). Datenschutz kann es trotzdem rechtfertigen, Effizienz nicht. ## Fazit Eine Chatbot-Antwort braucht nach den eigenen Zahlen der Betreiber etwa eine Viertel-Wattstunde, ungefähr so viel wie ein paar Sekunden Fernsehen. Meine eigene Karte braucht 0,115 Wh für eine Antwort mit 500 Tokens bei einem Nutzer und 0,024 Wh, wenn sich 32 Nutzer die Karte teilen. Die Streuung zwischen den Schätzungen kommt daher, was gezählt wird, wie lang die Antwort ist, ob das Modell vorher nachdenkt und wie viele Nutzer sich die GPU teilen. Der einzelne Prompt ist nicht das Problem, die Menge ist es. Wer sparen will, nimmt kleinere Modelle, kürzere Antworten, weniger Nachdenken und geteilte Hardware.