# Wann man KI nicht einsetzen sollte: ein Blick aus dem Betrieb > Wann der Griff zum LLM die falsche Wahl ist, und eine einfache Faustregel, um diese Fälle auseinanderzuhalten. Source: https://rfriedmann.de/de/blog/when-not-to-use-ai/ · English: https://rfriedmann.de/blog/when-not-to-use-ai/ Published: 2026-06-14 · Track: learn · Level: Ops Die meisten Empfehlungen behandeln, wo KI sinnvoll ist. Im Betrieb ist es mindestens ebenso wertvoll zu wissen, wann nicht. Wer ein LLM dort einsetzt, wo es nicht hingehört, verschwendet nicht nur Aufwand, er baut einem System einen selbstbewussten, plausiblen Fehlermodus ein, den es vorher nicht hatte. ## Die vier Fälle, in denen du es weglegen solltest **Wenn du Determinismus brauchst.** Gleiche Eingabe, gleiche Ausgabe, jedes Mal. Das ist das Fundament von allem Automatisierten, dem du wirklich vertraust, und ein LLM bietet es nicht: zweimal fragen, zwei Formulierungen, gelegentlich zwei verschiedene Antworten. Für eine Pipeline, eine Prüfung, ein Gate ist das ein Ausschlusskriterium. Ein Skript liefert bei jedem Lauf dieselbe Ausgabe, und genau das braucht Produktion. **Wenn ein normales Werkzeug den Job schon erledigt.** Eine Regex, ein `jq`-Filter, ein Parser, eine ordentliche API. Ist das Problem klar umrissen, ist das deterministische Werkzeug schneller, kostenlos, testbar und halluziniert nicht. Ein LLM an dieser Stelle bringt Kosten und Streuung, aber keinen Nutzen. **Wenn du dir weder das Prüfen noch einen Fehler leisten kannst.** Das Modell [liegt manchmal selbstbewusst falsch](/de/blog/what-is-an-llm/), und zwar flüssig. Ist das Prüfen der Antwort genauso viel Arbeit wie die Aufgabe selbst, hat es dir nichts gespart. *Lässt* du die Prüfung weg, weil es richtig klang, hast du einen unentdeckten Fehler ausgeliefert. **Wenn es unbeaufsichtigt handeln muss.** Ein Entwurf, den ein Mensch freigibt, ist der Idealfall. Führt das Modell eine Aktion in Produktion aus, ohne dass vorher jemand draufschaut, wird aus einem gelegentlichen Fehler ein Incident. ## Das gemeinsame Risiko hinter allen vieren In jedem Fall gilt: **Die Demo funktioniert.** Das Modell erledigt die offensichtlichen 80 % gut, also sieht das Problem gelöst aus. Das Risiko sind die anderen 20 %, in denen es nicht laut scheitert, sondern *plausibel*: Es liefert etwas sauber Geformtes und Falsches, das einem Reviewer leicht entgeht. Deterministische Werkzeuge scheitern sichtbar. LLMs scheitern flüssig und weniger sichtbar, und genau diesen Fehlermodus erkennen Betriebsprozesse am schlechtesten. ## Eine praktische Faustregel Bevor du zum LLM greifst, zwei Fragen:

Passt gut, wenn

Falsches Werkzeug, wenn

Das ist der ganze Filter. Unordentliche Eingabe plus menschliche Prüfung ergibt einen guten Einsatz für ein LLM. Determinismus, Ground Truth oder unbeaufsichtigtes Handeln heißt: Greif zu etwas anderem. Lies ihn von oben nach unten und hör beim ersten Ja auf:
Ein schneller Filter: wann du NICHT zum LLM greifst
[diagram omitted — see the page for the chart]
Jedes Ja oben heißt, dass dir ein deterministisches Werkzeug besser dient als ein LLM; nur wenn alle drei Antworten Nein sind, hat das Modell seinen Platz verdient.
Nichts davon spricht gegen KI. Ich [baue ganze Systeme mit diesen Modellen](/de/blog/writing-cuda-with-an-agent/). Es ist ein bewährter Grundsatz aus dem Betrieb, angewandt auf ein neues Werkzeug: ein Werkzeug dort einsetzen, wo es passt, wissen, wo es nicht hingehört, und es dort heraushalten.