Raphael Friedmann

KI verstehen und nutzen39 Beiträge

Ein Kurs, kein Archiv: in Lesereihenfolge nummeriert, Start bei 01. Jeder Beitrag steht für sich, wenn du den Teil davor schon kennst.

Von null anGrundlagen, 26 Beiträge

Was ein LLM ist, was eine GPU tut und wie man eins selbst betreibt. Kein Vorwissen nötig.

01

Was ein LLM ist und wie daraus Wörter entstehen

Große Sprachmodelle ohne Fachjargon erklärt: was sie sind, warum sie im Grunde eine sehr gute Autovervollständigung sind und wie sie Wort für Wort schreiben.Hier anfangen
Einstieg19. Mär 2026, 5 Min.
02

Wann sich KI auf dem eigenen Rechner lohnt

Cloud-Chatbots sind bequem und schwer zu schlagen. Die engeren Gründe, ein Modell selbst zu betreiben, und was du dafür aufgibst.
Einstieg27. Mär 2026, 5 Min.
03

Was eine GPU ist, und warum KI eine braucht

Warum KI betreiben heißt, eine Grafikkarte zu kaufen, was eine GPU von einer CPU unterscheidet und warum der Speicher auf der Karte die wichtigste Zahl ist.
Einstieg3. Apr 2026, 2 Min.
04

Wie ein Modell mit 30 Milliarden Parametern auf eine Karte passt

Quantisierung einfach erklärt: wie das Speichern jeder Zahl im Modell mit weniger Bits ein großes Modell auf eine Desktop-Grafikkarte bringt, und was das kostet.
Einstieg10. Apr 2026, 2 Min.
05

Wie man Namen und Specs eines Modells liest

Modellnamen wie Qwen3-30B-A3B-Q4_K_M wirken auf den ersten Blick kryptisch. So entschlüsselst du sie, plus die paar Specs, auf die es ankommt.
Einstieg17. Apr 2026, 2 Min.
06

Dein erstes lokales Modell, Schritt für Schritt

Von null bis zu einem Modell, das auf deinem eigenen Rechner antwortet: welche Größe du wählst, vier Befehle, wie du siehst, was es belegt, und wie du es wieder entfernst.
Einstieg7. Nov 2026, 4 Min.
07

Offene Gewichte, Open Source und Modelllizenzen

Ein Modell, das du kostenlos herunterladen kannst, darfst du nicht automatisch für alles nutzen. Was „offen“ bei einem Modell heißt, welche Lizenzfamilien es gibt und fünf Fragen, bevor ein Modell in die Arbeit geht.
Einstieg8. Nov 2026, 6 Min.
08

Mixture of Experts: wie ein 30B-Modell läuft wie ein 3B-Modell

Die Bauweise hinter Qwen3-30B-A3B: das Modell in viele Experten aufteilen und pro Token nur wenige ausführen. Warum das zu einer GPU passt, und welchen technischen Aufwand es mitbringt.
Fortgeschritten12. Mai 2026, 3 Min.
09

Wie ein Modell lernt: Training, einfach erklärt

Jedes LLM beginnt als zufälliges Rauschen und wird von einer einzigen Schleife geformt: raten, den Fehler messen, Milliarden Regler anstupsen. Wie Training funktioniert, und warum es teuer ist.
Einstieg13. Jun 2026, 4 Min.
10

Pretraining, Fine-Tuning und RLHF

Ein frisch trainiertes Modell kann Text fortsetzen, antwortet dir aber nicht. Die drei Stufen, die daraus einen hilfreichen Assistenten machen, und welche du brauchst.
Fortgeschritten14. Jun 2026, 4 Min.
11

Wie ein kleines Modell von einem großen lernt

Viele der kleinen offenen Modelle, die du zu Hause laufen lassen kannst, wurden von einem größeren Modell unterrichtet, nicht nur vom Internet. Was Destillation ist, warum sie so gut funktioniert und was sie nicht weitergeben kann.
Einstieg10. Okt 2026, 7 Min.
12

KI, die kein LLM ist

Sprachmodelle sind eine Familie der KI unter mehreren. Ein Rundgang durch die anderen großen Familien, wofür jede da ist und wann ein LLM das falsche Werkzeug ist.
Einstieg15. Jun 2026, 4 Min.
13

Was ein KI-Agent ist

Ein Agent ist ein Sprachmodell in einer Schleife, ausgestattet mit Werkzeugen, damit es Aktionen ausführen kann, statt sie nur zu beschreiben.
Einstieg16. Jun 2026, 4 Min.
14

Wie ein Agent Werkzeuge und Gedächtnis nutzt

Die Schleife, eine Ebene tiefer: wie das Modell ein Werkzeug anfordert, warum sein ganzes Gedächtnis nur das wachsende Protokoll ist und warum lange mehrstufige Aufgaben zerfallen.
Fortgeschritten17. Jun 2026, 5 Min.
15

MCP: ein Stecker für jedes Werkzeug, das ein Agent nutzt

Das Model Context Protocol ist der Weg, über den Werkzeuge, Dateien und Fachsysteme an einen KI-Assistenten angeschlossen werden. Was die Teile sind, wie ein Aufruf auf der Leitung aussieht und was ein IT-Team erlauben sollte, bevor jemand einen Server installiert.
Fortgeschritten8. Nov 2026, 6 Min.
16

Warum ein LLM die r in „strawberry“ falsch zählt

Bitte ein Spitzenmodell, die Buchstaben in einem Wort zu zählen, und es liegt oft daneben. Die Ursache ist kein Bug: Das Modell sieht überhaupt keine Buchstaben. Ein Rundgang durch Tokens.
Einstieg18. Jun 2026, 5 Min.
17

Warum du jedes Mal eine andere Antwort bekommst

Frag ein Modell zweimal dasselbe, und du bekommst womöglich zwei verschiedene Antworten. Das ist bewusstes gewichtetes Sampling, kein Fehler; ein einziger Regler bestimmt, wie stark die Antworten abweichen.
Einstieg19. Jun 2026, 4 Min.
18

Warum Modelle sich Dinge ausdenken

Ein Modell liefert dir mit voller Überzeugung einen falschen Fakt, ein erfundenes Zitat oder eine Funktion, die es nicht gibt. Woher „Halluzinationen“ kommen und wie du damit umgehst.
Einstieg20. Jun 2026, 5 Min.
19

Warum ein Modell nicht weiß, was gestern passiert ist

Ein Modell kann Quantenphysik erklären und trotzdem das heutige Datum falsch nennen. Was ein Knowledge Cutoff ist, warum ein Modell schon am Erscheinungstag veraltet ist und wie du damit umgehst.
Einstieg6. Nov 2026, 6 Min.
20

Was sich das Modell merkt: das Kontextfenster

Ein LLM hat kein Gedächtnis zwischen Nachrichten: Es liest bei jeder Runde das ganze Gespräch neu, und nur begrenzt viel passt hinein. Das ist das Kontextfenster.
Einstieg22. Jun 2026, 5 Min.
21

Embeddings: wie aus Text eine Liste von Zahlen wird

Ein Embedding macht aus Text eine Liste von Zahlen, so dass ähnliche Bedeutung nah beieinander landet. Wie das Suche und RAG antreibt, wo es scheitert und was die Vektoren an Speicher kosten.
Einstieg18. Nov 2026, 6 Min.
22

Wie ein Modell ein Bild sieht

Du kannst einer modernen KI ein Foto geben und Fragen dazu stellen. Ein Sprachmodell versteht nur Tokens; so kommt Sehen in ein Modell, das nur Wörter kannte.
Einstieg23. Jun 2026, 4 Min.
23

Wie ein Bildgenerator aus Rauschen ein Bild erzeugt

Ein Bildgenerator malt nicht und setzt keine Collage zusammen: Das Modell startet bei zufälligem Rauschen und entfernt es Schritt für Schritt, gelenkt von deinen Worten. Wie das funktioniert und warum es die verformten Hände erklärt.
Einstieg8. Nov 2026, 7 Min.
24

Wie ein Modell hört und spricht

Diktat, Besprechungsprotokolle, Sprachassistenten und geklonte Stimmen beruhen alle auf einer Idee: Klang wird zum Bild, dann zu Tokens. Wie Spracherkennung und Sprachsynthese funktionieren, wo sie versagen und worauf du bei der Arbeit achten solltest.
Einstieg8. Nov 2026, 7 Min.
25

Warum ein Modell nachdenkt, bevor es antwortet

Moderne Modelle schreiben seitenweise Rechenweg, bevor sie antworten. Dieses „Nachdenken“ ist mit Tokens erkaufte Rechenleistung: was es bringt, was es kostet, wann es verschwendet ist.
Einstieg14. Sep 2026, 5 Min.
26

Wie man einen Prompt schreibt: klare Anweisungen statt Spezialphrasen

Gutes Prompting sind klare Anweisungen an einen fähigen, wörtlich denkenden Assistenten ohne Gedächtnis, abgeleitet davon, wie das Modell funktioniert.
Einstieg23. Jun 2026, 4 Min.

KI in der PraxisOps und Infrastruktur, 13 Beiträge

Erfahrung aus zwanzig Jahren Infrastrukturbetrieb, angewandt auf den praktischen Einsatz von KI.

27

Was ein LLM in deiner Infrastruktur kann und was nicht

Zwanzig Jahre Systembetrieb, ein paar davon mit LLMs: wo KI einem Ops-Team hilft und wo sie ein Risiko ist.
Ops8. Jun 2026, 5 Min.
28

LLMs im Terminal: die Liste eines Sysadmins

Die konkreten, alltäglichen Stellen, an denen sich ein LLM im Workflow eines Sysadmins seinen Platz verdient, und die paar Regeln, die Schaden verhindern.
Ops10. Jun 2026, 4 Min.
29

Ein eigenes LLM fürs Team betreiben: meistens nicht lohnend

Warum die meisten Teams kein eigenes Modell betreiben sollten: Die Fehlerquote eines kleinen Modells kostet mehr Arbeitszeit, als es an API-Gebühren spart. Und wo es trotzdem sinnvoll ist.
Ops12. Jun 2026, 4 Min.
30

Wie viel Strom braucht eine KI-Antwort?

Veröffentlichte Zahlen setzen eine Chatbot-Antwort bei 0,24 bis 0,34 Wh an. Was sie enthalten, warum sie so streuen, und meine RTX 5090: 0,115 Wh pro Antwort allein, 0,024 Wh geteilt durch 32.
Ops17. Nov 2026, 6 Min.
31

Wann man KI nicht einsetzen sollte: ein Blick aus dem Betrieb

Wann der Griff zum LLM die falsche Wahl ist, und eine einfache Faustregel, um diese Fälle auseinanderzuhalten.
Ops14. Jun 2026, 2 Min.
32

Wann man einen Agent selbstständig handeln lässt: ein Blick aus dem Betrieb

Ein Agent, der handeln kann, kann auch falsch handeln. Nach zwanzig Jahren Systembetrieb: wie viel Autonomie ich einem gebe und welche Leitplanken sich lohnen.
Ops17. Jun 2026, 4 Min.
33

Ein LLM auf die eigenen Dokumente ansetzen (RAG)

Eine häufige Anfrage lautet „ein ChatGPT, das unsere internen Dokumente kennt“. Das ist RAG: einfacher als oft dargestellt, und die meiste Arbeit steckt in der Retrieval-Hälfte.
Ops21. Jun 2026, 5 Min.
34

Fine-Tuning auf eigenen Daten, mit LoRA

Fine-Tuning ist das falsche Werkzeug für Fakten und das richtige für Stil, Format und enge Aufgaben. Wann es sich lohnt, wie LoRA es auf eine GPU bringt und welche Daten und Prüfungen du brauchst.
Ops8. Nov 2026, 6 Min.
35

KI und Recht: was DSGVO und AI Act von deinem Team verlangen

Bevor Mitarbeitende Arbeit in einen Chatbot kopieren, greifen zwei EU-Gesetze: die DSGVO für die Daten im Prompt, der AI Act für den Zweck des Systems. Was beide von einer IT-Abteilung verlangen, mit den Fristen auf dem Stand November 2026.
Ops8. Nov 2026, 7 Min.
36

Urheberrecht und KI-Ausgaben: wem gehört, was das Modell schreibt

Ein generierter Text, ein Bild, eine Funktion: wem das gehört, ob es fremde Werke verletzen kann und wie es um die Daten steht, aus denen das Modell gelernt hat. Die Gerichtsfälle, die zählen, Stand November 2026, und praktische Regeln für ein Team.
Ops8. Nov 2026, 6 Min.
37

Prompt Injection: das Sicherheitsrisiko in LLM-Anwendungen

Sobald deine KI irgendetwas liest, das ein Angreifer beeinflussen kann, kann dieser Inhalt sie kapern. Eine vollständige Lösung gibt es nicht, nur Eindämmung: ein Briefing aus dem Betrieb.
Ops24. Jun 2026, 5 Min.
38

Wann ein heruntergeladenes Modell sicher ist

Eine Modelldatei sieht aus wie eine Menge Zahlen, und manche Formate sind genau das. Andere führen Code aus, sobald du sie lädst. Welche Formate welche sind, was schon schiefgegangen ist und was ich prüfe, bevor ein Modell auf einen Arbeitsrechner kommt.
Ops8. Nov 2026, 5 Min.
39

Ein Modell an der eigenen Arbeit testen

Leaderboards messen die Leistung auf öffentlichen Benchmarks. Vierzig echte Fälle aus deinem eigenen Backlog, einheitlich bewertet, zeigen, wie ein Modell bei deiner Arbeit abschneidet.
Ops15. Sep 2026, 5 Min.