Mentales Modell: Autor, nicht Figur

Wissen

Du hast jetzt gesehen, wie ein LLM arbeitet: Tokens, Embeddings, Attention, Training. Das ist die Mechanik. Aber wenn du das nächste Mal mit ChatGPT oder Claude chattest, brauchst du ein Bild im Kopf — ein mentales Modell, das dir hilft, das Gesehene richtig einzuordnen.

Das hilfreichste Bild ist das vom Autor, der eine Figur schreibt.

Wenn wir mit einem LLM chatten, klingt die Antwort wie von einer Person. Unser Kopf macht daraus fast automatisch ein Gegenüber — "der Assistent", "Claude", "ChatGPT". Das ist eine bequeme Vereinfachung, aber sie führt in die Irre. Denn dieses Gegenüber existiert nicht. Was existiert, ist ein Autor, der in Echtzeit eine Figur schreibt.

Die Metapher: Stell dir einen Romanautor vor, der eine Figur zum Leben erweckt. Er überlegt sich bei jedem Satz: "Was würde diese Figur als Nächstes sagen?" Er hat kein Wissen über die Welt der Figur — er hat nur ein Gefühl dafür, was zu ihr passt, basierend auf allem, was er je gelesen hat. Das LLM ist der Autor. Die hilfreiche Assistenten-Persona, mit der du sprichst, ist die Figur.

Wenn das Modell also schreibt "Die Hauptstadt von Frankreich ist Paris", hat es nicht "nachgeschlagen". Es hat ein Muster reproduziert, das in den Trainingsdaten extrem stabil war. Das Muster stimmt mit der Realität überein — und zwar sehr zuverlässig. Aber der Prozess ist der gleiche wie bei jeder anderen Antwort auch: Der Autor schreibt, was zur Figur passt.

Verstehen

Jede Antwort entsteht auf die gleiche Weise

Das ist der Kern. Ob eine Antwort sachlich korrekt ist oder nicht — der Mechanismus dahinter ist identisch. Das Modell prüft keine Wahrheit, es wählt Tokens. Die Wahl fällt so aus, wie die Trainingsdaten es nahelegen.

iEin wichtiger Gedanke

Aus Sicht des Modells gibt es keinen Unterschied zwischen einer sachlich richtigen und einer erfundenen Antwort. Beides ist derselbe Prozess. Dass die allermeisten Antworten stimmen, liegt daran, dass die Trainingsdaten meistens stimmten — nicht daran, dass das Modell Wahrheit erkennt. Das ist keine schlechte Nachricht, sondern eine nützliche.

Dieses Bild erklärt nebenbei viele Dinge, die sonst rätselhaft wirken:

Warum funktionieren Rollenspiele im Prompt? ("Du bist ein Experte für römische Geschichte...") Weil der Autor jede Figur spielen kann. Du sagst ihm, welche Rolle gerade dran ist, und er schreibt entsprechend.
Warum klingen falsche Antworten oft überzeugender als richtige? Weil der Autor beide gleich gut schreibt. Seine Aufgabe ist nicht, recht zu haben — seine Aufgabe ist, dass die Figur stimmig klingt.
Warum variiert die Antwort, wenn du dieselbe Frage zweimal stellst? Weil der Autor jedes Mal neu schreibt. Es gibt keine gespeicherte "Antwort" — es gibt nur den Prozess, der Antworten erzeugt.

Was das für dich bedeutet

Das Modell ist nicht unzuverlässig. Es ist anders zuverlässig, als man zunächst denkt. Eine LLM-Antwort ist kein Lexikoneintrag, den jemand nachgeschlagen hat. Sie ist ein Entwurf — so wie der erste Entwurf eines hilfsbereiten Kollegen, der sehr viel gelesen hat und schnell schreiben kann.

Einen Entwurf liest man nicht voller Misstrauen. Man liest ihn mit Interesse — und mit Kopf. Man nimmt das Nützliche mit und merkt, wenn etwas nicht ganz passt. Genau diese Haltung passt zu LLMs.

Was macht die 'Autor, nicht Figur'-Metapher so hilfreich?

Anwenden

Aus dem mentalen Modell folgt eine Haltung, die erstaunlich entspannt ist: grundsätzliches Hinterfragen. Nicht Misstrauen, nicht Abwehr — sondern der gleiche aufmerksame Blick, mit dem du auch den Entwurf eines Kollegen oder einen Wikipedia-Artikel liest.

Drei kleine Fragen, die dabei helfen:

Könnte das auch anders sein? Wo ist die Antwort eindeutig, wo könnte der Autor auch etwas anderes geschrieben haben? Bei "Paris ist die Hauptstadt von Frankreich" ist der Spielraum null. Bei "Die drei wichtigsten Gründe für den Erfolg von X sind..." ist er riesig.
Woher könnte das kommen? Klingt die Antwort nach Allgemeinwissen, nach einer konkreten Quelle, oder nach einem Zitat, das niemand kennt? Konkrete Zahlen, Paragrafen und Namen sind die häufigsten Stolperstellen.
Was wäre der Test? Wie würdest du herausfinden, ob das stimmt — ohne dasselbe Modell nochmal zu fragen? Manchmal reicht eine Minute Google. Manchmal weißt du es selbst am besten.

*Keine Extrahürde

Das ist kein Zusatzaufwand, den LLMs dir aufdrängen. Das ist derselbe Umgang, den man mit jedem Text hat, den man ernst nimmt: mit Interesse lesen, mit Kopf prüfen. Nur dass wir es bei Büchern und Kollegen gewohnt sind — und bei einer Maschine, die so flüssig schreibt, zuerst vergessen.

Reflektieren

Du fragst ein LLM nach einem konkreten Gesetzes-Paragrafen und bekommst eine Antwort mit Paragraphen-Nummer und Wortlaut. Was ist die passende Haltung?

Wenn du das Bild vom Autor im Kopf behältst, verändert sich nicht, was du mit LLMs machen kannst — sondern wie du die Antworten liest. Das ist ein kleiner Unterschied mit großer Wirkung. Der Rest dieses Moduls — besonders der nächste Abschnitt über die Grenzen von LLMs — baut direkt darauf auf.