Raphael Friedmann
← KI verstehen

Wie man Namen und Specs eines Modells liest

Modellnamen wie Qwen3-30B-A3B-Q4_K_M wirken auf den ersten Blick kryptisch. So entschlüsselst du sie, plus die paar Specs, auf die es ankommt.

Such nach einem Modell zum Herunterladen, und sofort stößt du auf Namen wie Qwen3-30B-A3B-Q4_K_M und Specs wie „128k Kontext, 300 tok/s“. Jedes Stück davon bedeutet etwas Nützliches, und sobald du es lesen kannst, schätzt du jedes Modell auf einen Blick ein.

Der Name#

Der Name eines Modells ist eigentlich ein Stapel von Etiketten. Hier ein typischer, auseinandergenommen:

Den Namen eines Modells lesen
Qwen3Modell-familie30B30 Mrd.ParameterA3B3B aktivpro TokenQ4_K_M4 Bitpassend geschrumpft
Sobald du die Teile kennst, verrät dir jeder Modellname auf einer Seite wie Hugging Face seine Größe, seine Tempo-Bauweise und wie viel Speicher er braucht.

Von links nach rechts:

Der Teil A3B ist eine Besonderheit mancher Modelle. Sie bestehen aus vielen „Experten“ und schalten für jedes Wort nur einen Teil von sich ein. So kann ein Modell insgesamt riesig sein und trotzdem so schnell laufen wie ein kleines. „30B gesamt, 3B aktiv“ heißt genau das: das Wissen eines großen Modells im Tempo eines kleinen.

Der Teil Q4 ist die Quantisierung: Das Modell wurde auf 4-Bit-Zahlen geschrumpft, damit es auf eine normale Karte passt. Die zusätzlichen Buchstaben (K_M und Co.) sind nur Varianten, wie dieses Schrumpfen gemacht wurde.

Die zwei Specs, die du kennen solltest#

Neben dem Namen sagen dir zwei Zahlen, wie sich die Nutzung anfühlen wird.

Das ist das ganze Vokabular. Größe (Parameter), Tempo-Bauweise (aktive Parameter), wie geschrumpft wurde (Quantisierung), wie viel es fassen kann (Kontext) und wie schnell es schreibt (tok/s). Mit diesen fünf kannst du jede Liste von Modellen vergleichen.

Von hier aus sind die naheliegenden nächsten Fragen, was diese Modelle überhaupt sind und warum du selbst eins betreiben solltest.

Oder lass die Theorie kurz liegen und starte dein erstes Modell.