# Was eine GPU ist, und warum KI eine braucht > Warum KI betreiben heißt, eine Grafikkarte zu kaufen, was eine GPU von einer CPU unterscheidet und warum der Speicher auf der Karte die wichtigste Zahl ist. Source: https://rfriedmann.de/de/blog/what-is-a-gpu/ · English: https://rfriedmann.de/blog/what-is-a-gpu/ Published: 2026-04-03 · Track: learn · Level: Beginner Wer KI zu Hause betreiben will, braucht in der Regel eine „GPU“, eine Grafikkarte. GPUs wurden für Videospiele entwickelt, deshalb erklärt diese Lektion, warum das Erzeugen von Text denselben Chip nutzt, der Spielegrafik berechnet. ## Ein paar große Arbeiter oder Tausende kleine Der Chip, den du schon hast, die **CPU**, hat eine Handvoll sehr starker Kerne. Sie ist sehr gut darin, eine komplizierte Sache nach der anderen schnell zu erledigen. Eine GPU ist umgekehrt gebaut: Tausende viel einfachere Kerne, die alle gleichzeitig arbeiten.
Warum KI auf GPUs läuft
[diagram omitted — see the page for the chart]
KI ist dieselbe einfache Rechnung über Milliarden Zahlen. Eine CPU erledigt ein paar davon auf einmal, schnell; eine GPU erledigt Tausende gleichzeitig. Diese Parallelität ist der ganze Grund, warum KI auf GPUs läuft.
Das passt gut zu KI. Das Ausführen eines Modells ist im Kern immer dieselbe einfache Rechnung (zwei Zahlen multiplizieren und addieren), wiederholt über Milliarden Gewichte für jedes Wort. Eine CPU arbeitet sich da ein paar auf einmal durch. Eine GPU macht Tausende gleichzeitig. Das ist der ganze Grund, warum KI auf Grafikkarten umgezogen ist. ## Die wichtigste Zahl: Speicher Die wichtigste Grenze ist aber nicht die reine Rechenleistung, sondern der Speicher. Eine RTX 5090 hat 32 Gigabyte VRAM. Die Gewichte des Modells und dazu der [Arbeitsspeicher, den es während der Ausführung braucht](/de/blog/how-a-big-model-fits-on-one-card/), müssen alle in dieses Budget passen.
Was eine 32-GB-Karte füllt (eine RTX 5090)
[diagram omitted — see the page for the chart]
Das Modell muss hier hineinpassen. Quantisierung schrumpft es so weit, dass Platz für den Arbeitsspeicher bleibt, den es während der Ausführung braucht.
Wenn Leute Grafikkarten für KI vergleichen, zählen also vor allem zwei Zahlen. **Wie viel** Speicher (das entscheidet, wie groß das Modell sein darf) und **wie schnell** dieser Speicher ist (das entscheidet, wie schnell jedes Wort geschrieben wird). Bei einer 5090 sind das 32 GB und etwa 1,79 Terabyte pro Sekunde. Deshalb ist auch [Quantisierung](/de/blog/how-a-big-model-fits-on-one-card/), das Verfahren, das Modell zu schrumpfen, so wichtig: Sie bringt ein großes Modell unter diese Grenze von 32 GB. Und wenn du wissen willst, was genau diese Karte im Vergleich zu den großen Karten in Rechenzentren kann und nicht kann, ist das [eine eigene Geschichte](/de/blog/what-the-5090-lacks-vs-datacenter/).