LLM Deep Dive

Willkommen zum ersten Modul des Fortgeschritten-Pfads. Du hast im Einsteiger-Kurs gelernt, was LLMs sind, wie Tokens funktionieren und was Embeddings bedeuten. Jetzt gehen wir in die Tiefe.

In diesem Modul wirst du verstehen, wie LLMs unter der Haube arbeiten -- nicht nur, was sie tun. Du lernst die Mechanismen kennen, die hinter modernen AI-Systemen stecken, und kannst danach fundiert einschätzen, welches Modell für welchen Einsatzzweck geeignet ist.

Was dich erwartet

• Vom Prompt zur Antwort -- Die fünf Stationen, die jedes Token durchläuft: Tokenisierung, Embedding, Attention, MLP und Sampling
• Embeddings im Detail -- Wie Vektorräume funktionieren und warum Cosine Similarity der Schlüssel zu semantischer Suche ist
• Context Strategies -- Wie LLMs mit langen Texten umgehen: Sliding Window, Summarization und die Evolution von 4K zu 1M Tokens
• RAG Einführung -- Warum LLMs externe Wissensquellen brauchen und wie Retrieval-Augmented Generation funktioniert
• Reasoning Models -- Wie GPT-5.6, Claude Opus 5 und Gemini 3.1 Pro nativ "denken" und was Thinking Tokens sind
• Benchmarks verstehen -- Was MMLU, HumanEval und Arena ELO wirklich messen -- und was nicht

Für wen ist dieses Modul?

Du solltest den Einsteiger-Pfad abgeschlossen haben oder bereits Grundwissen über LLMs mitbringen. Wenn dir Begriffe wie "Token", "Embedding" und "Context Window" bekannt vorkommen, bist du hier richtig.

Lass uns starten -- mit dem Weg, den dein Prompt durch das Modell nimmt.

Reflektieren

LLMs sind mehr als Black Boxes -- mit dem Verständnis von Embeddings, Benchmarks, Reasoning und Context-Strategien kannst du fundierte Modellentscheidungen treffen. Dieses Modul gibt dir das Werkzeug dafür. Los geht es mit dem Weg, den dein Prompt durch das Modell nimmt.