Zum Inhalt springen

LLM Deep Dive

  • Fortgeschritten · Modul 01
  • Lektion 1 von 7 · danach Quellen und Quiz
Hinweis
Stand: November 2026

Konkrete Modellnamen und Benchmark-Scores in diesem Modul entsprechen dem Stand vom November 2026. Die Konzepte (Reasoning, Thinking Tokens, Benchmarks) sind langlebig — die Beispiel-Modelle veralten dagegen schnell.

Willkommen zum ersten Modul des Fortgeschritten-Pfads. Du hast im Einsteiger-Kurs gelernt, was LLMs sind, wie Tokens funktionieren und was Embeddings bedeuten. Jetzt gehen wir in die Tiefe.

In diesem Modul wirst du verstehen, wie LLMs unter der Haube arbeiten -- nicht nur, was sie tun. Du lernst die Mechanismen kennen, die hinter modernen AI-Systemen stecken, und kannst danach fundiert einschätzen, welches Modell für welchen Einsatzzweck geeignet ist.

Was dich erwartet

  • Vom Prompt zur Antwort -- Die fünf Stationen, die jedes Token durchläuft: Tokenisierung, Embedding, Attention, MLP und Sampling
  • Embeddings im Detail -- Wie Vektorräume funktionieren und warum Cosine Similarity der Schlüssel zu semantischer Suche ist
  • Context Strategies -- Wie LLMs mit langen Texten umgehen: Sliding Window, Summarization und die Evolution von 4K zu 1M Tokens
  • RAG Einführung -- Warum LLMs externe Wissensquellen brauchen und wie Retrieval-Augmented Generation funktioniert
  • Reasoning Models -- Wie GPT-6, Claude Opus 5.5 und Gemini 4 nativ "denken" und was Thinking Tokens sind
  • Benchmarks verstehen -- Was MMLU, HumanEval und Arena ELO wirklich messen -- und was nicht

Für wen ist dieses Modul?

Du solltest den Einsteiger-Pfad abgeschlossen haben oder bereits Grundwissen über LLMs mitbringen. Wenn dir Begriffe wie "Token", "Embedding" und "Context Window" bekannt vorkommen, bist du hier richtig.

Tipp
Lernziel

Nach diesem Modul kannst du LLM-Architekturen analysieren, Modelle anhand von Benchmarks vergleichen und RAG als Strategie für wissensbasierte Anwendungen einordnen. Du bewegst dich auf Bloom-Level "Anwenden" und "Analysieren".

Lass uns starten -- mit dem Weg, den dein Prompt durch das Modell nimmt.

Reflektieren

LLMs sind mehr als Black Boxes -- mit dem Verständnis von Embeddings, Benchmarks, Reasoning und Context-Strategien kannst du fundierte Modellentscheidungen treffen. Dieses Modul gibt dir das Werkzeug dafür. Los geht es mit dem Weg, den dein Prompt durch das Modell nimmt.