Raphael Friedmann
← KI verstehen

Wann man KI nicht einsetzen sollte: ein Blick aus dem Betrieb

Wann der Griff zum LLM die falsche Wahl ist, und eine einfache Faustregel, um diese Fälle auseinanderzuhalten.

Die meisten Empfehlungen behandeln, wo KI sinnvoll ist. Im Betrieb ist es mindestens ebenso wertvoll zu wissen, wann nicht. Wer ein LLM dort einsetzt, wo es nicht hingehört, verschwendet nicht nur Aufwand, er baut einem System einen selbstbewussten, plausiblen Fehlermodus ein, den es vorher nicht hatte.

Die vier Fälle, in denen du es weglegen solltest#

Wenn du Determinismus brauchst. Gleiche Eingabe, gleiche Ausgabe, jedes Mal. Das ist das Fundament von allem Automatisierten, dem du wirklich vertraust, und ein LLM bietet es nicht: zweimal fragen, zwei Formulierungen, gelegentlich zwei verschiedene Antworten. Für eine Pipeline, eine Prüfung, ein Gate ist das ein Ausschlusskriterium. Ein Skript liefert bei jedem Lauf dieselbe Ausgabe, und genau das braucht Produktion.

Wenn ein normales Werkzeug den Job schon erledigt. Eine Regex, ein jq-Filter, ein Parser, eine ordentliche API. Ist das Problem klar umrissen, ist das deterministische Werkzeug schneller, kostenlos, testbar und halluziniert nicht. Ein LLM an dieser Stelle bringt Kosten und Streuung, aber keinen Nutzen.

Wenn du dir weder das Prüfen noch einen Fehler leisten kannst. Das Modell liegt manchmal selbstbewusst falsch, und zwar flüssig. Ist das Prüfen der Antwort genauso viel Arbeit wie die Aufgabe selbst, hat es dir nichts gespart. Lässt du die Prüfung weg, weil es richtig klang, hast du einen unentdeckten Fehler ausgeliefert.

Wenn es unbeaufsichtigt handeln muss. Ein Entwurf, den ein Mensch freigibt, ist der Idealfall. Führt das Modell eine Aktion in Produktion aus, ohne dass vorher jemand draufschaut, wird aus einem gelegentlichen Fehler ein Incident.

Das gemeinsame Risiko hinter allen vieren#

In jedem Fall gilt: Die Demo funktioniert. Das Modell erledigt die offensichtlichen 80 % gut, also sieht das Problem gelöst aus. Das Risiko sind die anderen 20 %, in denen es nicht laut scheitert, sondern plausibel: Es liefert etwas sauber Geformtes und Falsches, das einem Reviewer leicht entgeht. Deterministische Werkzeuge scheitern sichtbar. LLMs scheitern flüssig und weniger sichtbar, und genau diesen Fehlermodus erkennen Betriebsprozesse am schlechtesten.

Eine praktische Faustregel#

Bevor du zum LLM greifst, zwei Fragen:

Passt gut, wenn

  • die Eingabe unordentlich oder natürliche Sprache ist
  • ein Mensch die Ausgabe liest, bevor gehandelt wird
  • ungefähr richtig und schnell schon wertvoll ist

Falsches Werkzeug, wenn

  • du jedes Mal dieselbe Antwort brauchst
  • eine Regex, ein Parser oder eine API es schon kann
  • niemand es prüft und ein Fehler teuer ist

Das ist der ganze Filter. Unordentliche Eingabe plus menschliche Prüfung ergibt einen guten Einsatz für ein LLM. Determinismus, Ground Truth oder unbeaufsichtigtes Handeln heißt: Greif zu etwas anderem.

Lies ihn von oben nach unten und hör beim ersten Ja auf:

Ein schneller Filter: wann du NICHT zum LLM greifst
Jedes Mal dieselbe Antwort nötig? -> Skript Ausgabe nicht prüfbar? -> Skript Muss es unbeaufsichtigt handeln? -> Skript sonst: ein LLM passt gut
Jedes Ja oben heißt, dass dir ein deterministisches Werkzeug besser dient als ein LLM; nur wenn alle drei Antworten Nein sind, hat das Modell seinen Platz verdient.

Nichts davon spricht gegen KI. Ich baue ganze Systeme mit diesen Modellen. Es ist ein bewährter Grundsatz aus dem Betrieb, angewandt auf ein neues Werkzeug: ein Werkzeug dort einsetzen, wo es passt, wissen, wo es nicht hingehört, und es dort heraushalten.