# Warum du jedes Mal eine andere Antwort bekommst
> Frag ein Modell zweimal dasselbe, und du bekommst womöglich zwei verschiedene Antworten. Das ist bewusstes gewichtetes Sampling, kein Fehler; ein einziger Regler bestimmt, wie stark die Antworten abweichen.
Source: https://rfriedmann.de/de/blog/why-different-answers/ · English: https://rfriedmann.de/blog/why-different-answers/
Published: 2026-06-19 · Track: learn · Level: Beginner
Tipp dieselbe Frage zweimal in einen Chatbot, und du bekommst oft zwei verschiedene
Antworten, manchmal nur anders formuliert, manchmal inhaltlich wirklich anders. Ein
Taschenrechner macht das nie. Kaputt ist das Modell trotzdem nicht.
Die Abweichung ist Absicht, und wer weiß, woher sie kommt, kann vieles an sonst
rätselhaftem KI-Verhalten erklären. Es läuft auf einen kleinen
Schritt ganz am Ende hinaus und auf einen Regler, der ihn steuert.
## Zur Erinnerung: Das Modell bewertet, dann wählt es
Aus [was ein LLM ist](/de/blog/what-is-an-llm/): Das Modell schreibt ein Wort nach dem
anderen, und für jedes nächste Wort liefert es nicht eine einzige Antwort. Es liefert
eine *Bewertung für jedes Wort in seinem Vokabular*, eine Rangliste, wie wahrscheinlich
jedes davon als Nächstes kommt.
„Das Wetter heute ist ___“ - die bewerteten Optionen des Modells
[diagram omitted — see the page for the chart]
Nicht eine Antwort, eine ganze Verteilung. „sonnig“ führt, aber „kalt“, „herrlich“ und der Rest sind ebenfalls echte Optionen. Die Frage ist, was man mit dieser Liste macht, und genau dort fällt die Wahl. Zahlen illustrativ.
Der nächste Schritt macht aus dieser Rangliste ein tatsächliches Wort. Es gibt zwei
Strategien, und der Unterschied zwischen ihnen erklärt die Abweichung.
## Zwei Arten zu wählen
**Immer das oberste nehmen.** Einfach, vorhersagbar. Jedes Mal „sonnig“, ohne
Ausnahme. Das nennt man *Greedy Decoding*, und bei gleicher Eingabe liefert es bei
jedem Lauf exakt dieselbe Ausgabe. Wiederholbar, aber der Text wirkt eher flach, und es
kann in Schleifen hängen bleiben und eine Phrase wiederholen, weil das sicherste
nächste Wort immer wieder auf sie zurückführt.
**Gezinkte Würfel werfen.** Meistens landest du trotzdem bei „sonnig“, aber ab und zu
bekommst du „kalt“ oder „herrlich“, grob im Verhältnis zu ihren Bewertungen. Mach das
bei *jedem* Wort, und die Antworten fächern sich auf: andere Anfänge, andere
Formulierungen, manchmal ein anderes Fazit. Das ist die Abweichung, die du siehst, und
deshalb wirkt der Text geschrieben statt gestanzt. Fast jeder Chatbot sampelt
standardmäßig, weil Greedy-Ausgabe roboterhaft klingt.
Dieselbe Frage liefert also aus demselben Grund verschiedene Antworten, aus dem Würfeln
verschiedene Zahlen liefert: In der letzten Wahl steckt bewusster Zufall. Keine
Verwirrung, kein Gedächtnis, nur eine gewichtete Ziehung, hunderte Male wiederholt.
## Der Regler: Temperatur
Wie stark die Würfel das oberste Wort bevorzugen, bestimmt ein einziger Regler namens **Temperatur**
(Temperature), und es lohnt sich, ihn zu verstehen, denn er ist die eine
Sampling-Einstellung, der du tatsächlich begegnest: in APIs, in Schiebereglern von
Playgrounds, in Werkzeugen, mit denen du ein Modell einstellen kannst.
Stell es dir so vor: wie weit das Modell vom sichersten Pfad abschweifen darf.
Dieselben Optionen, umgeformt durch die Temperatur
[diagram omitted — see the page for the chart]
Dieselben Bewertungen, zwei verschiedene Einstellungen. Niedrige Temperatur (oben) schiebt fast das ganze Gewicht auf „sonnig“, die Ausgabe ist fokussiert und wiederholbar. Hohe Temperatur (unten) ebnet das Feld, sodass die Außenseiter oft genug gewinnen, um es kreativ zu machen, oder um abzuschweifen. Formen illustrativ.
Eine allgemein „richtige“ Einstellung gibt es nicht; es hängt von der Aufgabe ab:
- **Niedrig (nahe 0):** wenn du Konsistenz und Korrektheit willst, Faktenantworten,
Datenextraktion, Code, alles, wo eine richtige Antwort fünf bunte schlägt.
- **Mittel (~0,7, der übliche Standard):** natürliche, abwechslungsreiche
Unterhaltung, die sich trotzdem meist benimmt. Da sitzen die meisten Chatbots.
- **Hoch (1+):** Brainstorming, Fiktion, Witze, wenn du Überraschung *willst* und
gelegentlich eine unzusammenhängende Wendung in Kauf nimmst.
Es gibt einen verwandten Regler, den du vielleicht siehst, **Top-p** (auch Nucleus
Sampling genannt), der die Liste vor dem Würfeln auf die wahrscheinlichsten Wörter
kürzt. Dasselbe Ziel: verhindern, dass die Würfel je auf einer sehr unwahrscheinlichen Wahl
landen, und trotzdem Abwechslung zulassen. Als Gelegenheitsnutzer musst du selten an
einem davon drehen; sie sind für den Fall da, dass du es doch musst.
## Warum sich das zu wissen lohnt
Daraus folgen zwei praktische Dinge.
Erstens: **„Gib mir jedes Mal dieselbe Antwort“ ist eine Einstellung, kein Wunsch.**
Brauchst du Reproduzierbarkeit, frag nach niedriger Temperatur (oder nach einem
Werkzeug, mit dem du sie setzen kannst), und der Zufall verschwindet größtenteils.
Manche Setups bieten zusätzlich einen *Seed*, der die Würfel komplett festlegt.
Abweichung ist ein Standard, kein Gesetz.
Zweitens, und wichtiger: **Die Abweichung heißt nicht, dass das Modell mehrere
Wahrheiten kennt.** Wenn du eine Faktenfrage stellst und zwei verschiedene Antworten
bekommst, wägt das Modell keine Belege ab, sondern die Würfel fallen bei der
Formulierung anders und ziehen manchmal den Inhalt mit. Eine selbstbewusste, flüssige
Antwort ist nur der wahrscheinlichste Pfad durch die Wörter, und „am
wahrscheinlichsten“ ist nicht dasselbe wie „wahr“. Genau in dieser Lücke
[erfinden Modelle Dinge](/de/blog/why-models-make-things-up/), und das ist das Nächste,
was es zu verstehen lohnt. Es ist auch der Grund, warum die gesamte Eingabe mehr zählt,
als man erwarten würde, bis hinunter dazu, [wie Wörter in Tokens zerhackt
werden](/de/blog/why-models-cant-spell/), bevor all das überhaupt beginnt.