Wann man KI nicht einsetzen sollte: ein Blick aus dem Betrieb
Wann der Griff zum LLM die falsche Wahl ist, und eine einfache Faustregel, um diese Fälle auseinanderzuhalten.
Die meisten Empfehlungen behandeln, wo KI sinnvoll ist. Im Betrieb ist es mindestens ebenso wertvoll zu wissen, wann nicht. Wer ein LLM dort einsetzt, wo es nicht hingehört, verschwendet nicht nur Aufwand, er baut einem System einen selbstbewussten, plausiblen Fehlermodus ein, den es vorher nicht hatte.
Die vier Fälle, in denen du es weglegen solltest#
Wenn du Determinismus brauchst. Gleiche Eingabe, gleiche Ausgabe, jedes Mal. Das ist das Fundament von allem Automatisierten, dem du wirklich vertraust, und ein LLM bietet es nicht: zweimal fragen, zwei Formulierungen, gelegentlich zwei verschiedene Antworten. Für eine Pipeline, eine Prüfung, ein Gate ist das ein Ausschlusskriterium. Ein Skript liefert bei jedem Lauf dieselbe Ausgabe, und genau das braucht Produktion.
Wenn ein normales Werkzeug den Job schon erledigt. Eine Regex, ein jq-Filter, ein
Parser, eine ordentliche API. Ist das Problem klar umrissen, ist das deterministische
Werkzeug schneller, kostenlos, testbar und halluziniert nicht. Ein LLM an dieser
Stelle bringt Kosten und Streuung, aber keinen Nutzen.
Wenn du dir weder das Prüfen noch einen Fehler leisten kannst. Das Modell liegt manchmal selbstbewusst falsch, und zwar flüssig. Ist das Prüfen der Antwort genauso viel Arbeit wie die Aufgabe selbst, hat es dir nichts gespart. Lässt du die Prüfung weg, weil es richtig klang, hast du einen unentdeckten Fehler ausgeliefert.
Wenn es unbeaufsichtigt handeln muss. Ein Entwurf, den ein Mensch freigibt, ist der Idealfall. Führt das Modell eine Aktion in Produktion aus, ohne dass vorher jemand draufschaut, wird aus einem gelegentlichen Fehler ein Incident.
Das gemeinsame Risiko hinter allen vieren#
In jedem Fall gilt: Die Demo funktioniert. Das Modell erledigt die offensichtlichen 80 % gut, also sieht das Problem gelöst aus. Das Risiko sind die anderen 20 %, in denen es nicht laut scheitert, sondern plausibel: Es liefert etwas sauber Geformtes und Falsches, das einem Reviewer leicht entgeht. Deterministische Werkzeuge scheitern sichtbar. LLMs scheitern flüssig und weniger sichtbar, und genau diesen Fehlermodus erkennen Betriebsprozesse am schlechtesten.
Eine praktische Faustregel#
Bevor du zum LLM greifst, zwei Fragen:
Passt gut, wenn
- die Eingabe unordentlich oder natürliche Sprache ist
- ein Mensch die Ausgabe liest, bevor gehandelt wird
- ungefähr richtig und schnell schon wertvoll ist
Falsches Werkzeug, wenn
- du jedes Mal dieselbe Antwort brauchst
- eine Regex, ein Parser oder eine API es schon kann
- niemand es prüft und ein Fehler teuer ist
Das ist der ganze Filter. Unordentliche Eingabe plus menschliche Prüfung ergibt einen guten Einsatz für ein LLM. Determinismus, Ground Truth oder unbeaufsichtigtes Handeln heißt: Greif zu etwas anderem.
Lies ihn von oben nach unten und hör beim ersten Ja auf:
Nichts davon spricht gegen KI. Ich baue ganze Systeme mit diesen Modellen. Es ist ein bewährter Grundsatz aus dem Betrieb, angewandt auf ein neues Werkzeug: ein Werkzeug dort einsetzen, wo es passt, wissen, wo es nicht hingehört, und es dort heraushalten.