Gedankengang
Wenn ein Modell seine Zwischenschritte vor der Antwort aufschreibt, kann es mehrstufige Aufgaben deutlich besser lösen. Schlussfolgerungsmodelle sind standardmäßig darauf trainiert, dies zu tun.
Ein Modell verfügt über keinen anderen Zwischenspeicher als seine eigene Ausgabe: Jedes Token erhält eine festgelegte Rechenleistung, und die einzige Möglichkeit, mehr Denkleistung zu erhalten, besteht darin, weitere Token zu schreiben. Die ausgeschriebenen Schritte sind diese Token, und sie verbleiben im Kontext für die nachfolgenden Schritte. Schlussfolgerungsmodelle werden darauf trainiert, dies vor der Antwort zu tun – genau das wird durch die Einstellung „Schlussfolgerungsaufwand“ bei diesen Modellen gesteuert. Ein Hinweis: Die sichtbaren Schritte geben nicht immer genau wieder, wie die Antwort zustande gekommen ist.