Grundlagen
Reasoning-Modell
Auch: Thinking Model
Ein Modell, das vor der Antwort sichtbar oder intern längere Zwischenschritte rechnet.
Reasoning-Modelle nehmen sich vor der eigentlichen Antwort Zeit für Zwischenschritte. Bei mehrstufigen Aufgaben, Mathematik, Code und Planung bringt das messbar bessere Ergebnisse als eine direkte Antwort.
Der Preis ist real: Diese Zwischenschritte sind Tokens, also Kosten, und sie brauchen Zeit. Für einfache Umformulierungen oder kurze Auskünfte ist ein schnelles Modell die bessere Wahl. Die Kunst liegt darin, pro Aufgabe zu entscheiden, nicht pauschal das teuerste Modell zu nehmen.
Verwandte Begriffe
- Chain-of-Thought
Das Modell zu Zwischenschritten auffordern, damit es mehrstufige Aufgaben nicht überspringt.
- LLM
Ein Modell, das aus sehr großen Textmengen gelernt hat, das jeweils nächste Textstück vorherzusagen.
- Inferenz
Das Ausführen eines fertig trainierten Modells, also jede einzelne Anfrage.
In der Praxis üben
In der AI Masterclass kommt dieser Begriff nicht als Definition vor, sondern in einer Session, in der damit gearbeitet wird.