# Warum du jedes Mal eine andere Antwort bekommst > Frag ein Modell zweimal dasselbe, und du bekommst womöglich zwei verschiedene Antworten. Das ist bewusstes gewichtetes Sampling, kein Fehler; ein einziger Regler bestimmt, wie stark die Antworten abweichen. Source: https://rfriedmann.de/de/blog/why-different-answers/ · English: https://rfriedmann.de/blog/why-different-answers/ Published: 2026-06-19 · Track: learn · Level: Beginner Tipp dieselbe Frage zweimal in einen Chatbot, und du bekommst oft zwei verschiedene Antworten, manchmal nur anders formuliert, manchmal inhaltlich wirklich anders. Ein Taschenrechner macht das nie. Kaputt ist das Modell trotzdem nicht. Die Abweichung ist Absicht, und wer weiß, woher sie kommt, kann vieles an sonst rätselhaftem KI-Verhalten erklären. Es läuft auf einen kleinen Schritt ganz am Ende hinaus und auf einen Regler, der ihn steuert. ## Zur Erinnerung: Das Modell bewertet, dann wählt es Aus [was ein LLM ist](/de/blog/what-is-an-llm/): Das Modell schreibt ein Wort nach dem anderen, und für jedes nächste Wort liefert es nicht eine einzige Antwort. Es liefert eine *Bewertung für jedes Wort in seinem Vokabular*, eine Rangliste, wie wahrscheinlich jedes davon als Nächstes kommt.
„Das Wetter heute ist ___“ - die bewerteten Optionen des Modells
[diagram omitted — see the page for the chart]
Nicht eine Antwort, eine ganze Verteilung. „sonnig“ führt, aber „kalt“, „herrlich“ und der Rest sind ebenfalls echte Optionen. Die Frage ist, was man mit dieser Liste macht, und genau dort fällt die Wahl. Zahlen illustrativ.
Der nächste Schritt macht aus dieser Rangliste ein tatsächliches Wort. Es gibt zwei Strategien, und der Unterschied zwischen ihnen erklärt die Abweichung. ## Zwei Arten zu wählen **Immer das oberste nehmen.** Einfach, vorhersagbar. Jedes Mal „sonnig“, ohne Ausnahme. Das nennt man *Greedy Decoding*, und bei gleicher Eingabe liefert es bei jedem Lauf exakt dieselbe Ausgabe. Wiederholbar, aber der Text wirkt eher flach, und es kann in Schleifen hängen bleiben und eine Phrase wiederholen, weil das sicherste nächste Wort immer wieder auf sie zurückführt. **Gezinkte Würfel werfen.** Meistens landest du trotzdem bei „sonnig“, aber ab und zu bekommst du „kalt“ oder „herrlich“, grob im Verhältnis zu ihren Bewertungen. Mach das bei *jedem* Wort, und die Antworten fächern sich auf: andere Anfänge, andere Formulierungen, manchmal ein anderes Fazit. Das ist die Abweichung, die du siehst, und deshalb wirkt der Text geschrieben statt gestanzt. Fast jeder Chatbot sampelt standardmäßig, weil Greedy-Ausgabe roboterhaft klingt. Dieselbe Frage liefert also aus demselben Grund verschiedene Antworten, aus dem Würfeln verschiedene Zahlen liefert: In der letzten Wahl steckt bewusster Zufall. Keine Verwirrung, kein Gedächtnis, nur eine gewichtete Ziehung, hunderte Male wiederholt. ## Der Regler: Temperatur Wie stark die Würfel das oberste Wort bevorzugen, bestimmt ein einziger Regler namens **Temperatur** (Temperature), und es lohnt sich, ihn zu verstehen, denn er ist die eine Sampling-Einstellung, der du tatsächlich begegnest: in APIs, in Schiebereglern von Playgrounds, in Werkzeugen, mit denen du ein Modell einstellen kannst. Stell es dir so vor: wie weit das Modell vom sichersten Pfad abschweifen darf.
Dieselben Optionen, umgeformt durch die Temperatur
[diagram omitted — see the page for the chart]
Dieselben Bewertungen, zwei verschiedene Einstellungen. Niedrige Temperatur (oben) schiebt fast das ganze Gewicht auf „sonnig“, die Ausgabe ist fokussiert und wiederholbar. Hohe Temperatur (unten) ebnet das Feld, sodass die Außenseiter oft genug gewinnen, um es kreativ zu machen, oder um abzuschweifen. Formen illustrativ.
Eine allgemein „richtige“ Einstellung gibt es nicht; es hängt von der Aufgabe ab: - **Niedrig (nahe 0):** wenn du Konsistenz und Korrektheit willst, Faktenantworten, Datenextraktion, Code, alles, wo eine richtige Antwort fünf bunte schlägt. - **Mittel (~0,7, der übliche Standard):** natürliche, abwechslungsreiche Unterhaltung, die sich trotzdem meist benimmt. Da sitzen die meisten Chatbots. - **Hoch (1+):** Brainstorming, Fiktion, Witze, wenn du Überraschung *willst* und gelegentlich eine unzusammenhängende Wendung in Kauf nimmst. Es gibt einen verwandten Regler, den du vielleicht siehst, **Top-p** (auch Nucleus Sampling genannt), der die Liste vor dem Würfeln auf die wahrscheinlichsten Wörter kürzt. Dasselbe Ziel: verhindern, dass die Würfel je auf einer sehr unwahrscheinlichen Wahl landen, und trotzdem Abwechslung zulassen. Als Gelegenheitsnutzer musst du selten an einem davon drehen; sie sind für den Fall da, dass du es doch musst. ## Warum sich das zu wissen lohnt Daraus folgen zwei praktische Dinge. Erstens: **„Gib mir jedes Mal dieselbe Antwort“ ist eine Einstellung, kein Wunsch.** Brauchst du Reproduzierbarkeit, frag nach niedriger Temperatur (oder nach einem Werkzeug, mit dem du sie setzen kannst), und der Zufall verschwindet größtenteils. Manche Setups bieten zusätzlich einen *Seed*, der die Würfel komplett festlegt. Abweichung ist ein Standard, kein Gesetz. Zweitens, und wichtiger: **Die Abweichung heißt nicht, dass das Modell mehrere Wahrheiten kennt.** Wenn du eine Faktenfrage stellst und zwei verschiedene Antworten bekommst, wägt das Modell keine Belege ab, sondern die Würfel fallen bei der Formulierung anders und ziehen manchmal den Inhalt mit. Eine selbstbewusste, flüssige Antwort ist nur der wahrscheinlichste Pfad durch die Wörter, und „am wahrscheinlichsten“ ist nicht dasselbe wie „wahr“. Genau in dieser Lücke [erfinden Modelle Dinge](/de/blog/why-models-make-things-up/), und das ist das Nächste, was es zu verstehen lohnt. Es ist auch der Grund, warum die gesamte Eingabe mehr zählt, als man erwarten würde, bis hinunter dazu, [wie Wörter in Tokens zerhackt werden](/de/blog/why-models-cant-spell/), bevor all das überhaupt beginnt.