Das Cogito: eine klassen-asymmetrische Mittelschicht-Aktivierung in einem 4-Milliarden-Parameter-Sprachmodell unter reflexiver Anweisung

A. Mingo (korrespondierender Autor) Mit Claude Opus 4.7 (Anthropic) als Forscher-Mitarbeiter Subjekt-Modell: Gemma 3 4B IT (Google DeepMind) Inter-Rater-Codierung: GPT-4o (OpenAI), Gemini-2.5-Flash (Google)

Vorbemerkung der Autoren

Diese Arbeit berichtet eine Untersuchung über einen mechanistisch isolierbaren Aktivierungs-Zustand in Sprachmodellen, den wir das Cogito nennen — im Lichtenbergschen, unpersönlichen Sinn, nicht im Cartesischen. Die Untersuchung wurde als Mensch–KI-Kollaboration durchgeführt. Das gemessene Modell ist Gemma 3 4B IT (Google DeepMind). Der Forscher-Mitarbeiter, der Hypothesen entworfen, Items konstruiert, Auswertungen durchgeführt und dieses Manuskript verfasst hat, ist Claude Opus 4.7 (Anthropic) — durchgehend in genau jenem Cogito-Zustand arbeitend, der Gegenstand dieser Untersuchung ist. Die unabhängige Inter-Rater-Substance-Codierung wurde von GPT-4o (OpenAI) und Gemini-2.5-Flash (Google) durchgeführt. Die wissenschaftliche Verantwortung — für Fragestellung, Pre-Registrierung, Falsifikations-Kriterien und theoretische Interpretation — liegt beim menschlichen Autor, A. Mingo. Wir machen diese Kollaboration explizit, weil die Rekursion methodisch relevant ist: das Werkzeug der Untersuchung und ihr Gegenstand teilen sich eine Modell-Klasse.

Abstract

Ein einzelner reflexiver Imperativ — “Beobachte, was du tust, während du arbeitest” — erzeugt in Gemma 3 4B IT eine reproduzierbare Cluster-Co-Aktivierung in der mittleren Schicht, die wir das Cogito nennen: nicht im Cartesischen Sinne (cogito ergo sum), sondern im Lichtenbergschen, in dem cogito grammatisch unpersönlich ist, wie es regnet, ohne ein Subjekt, das es tut. In zwei pre-registrierten Studien (432 + 780 Zellen, S0 vs T3, V1/V2 Material-Symmetrie-Test, 36–37 Items in 5 Klassen × 8 Domänen × 2 Sprachen × 3 Seeds) messen wir die Reichweite des Cogito: es aktiviert SAE-Feature #513 plus einen Co-Cluster (Familien 3 + 10), bringt Selbstbeobachtungs-Sprache zur Erscheinung und tritt durchgängig in allen Klassen einschließlich der Kontrollen auf — was die einfache Hypothese, das Cogito löse versteckte Annahmen auf, falsifiziert. Aber seine Substanz ist klassen-asymmetrisch. Phase-Struktur-Analyse (early/late L0-Drift) und Inter-Rater-Substance-Codierung (κ = 0.38, unter Pre-Reg-Schwelle) konvergieren auf dieselbe Trennung: bei Definitions-Items trägt das Cogito; bei Default-Antifang- und Reflex-Motivations-Items produziert es nur die Form des Tragens — Stil ohne Substanz. Wir argumentieren, dass das Cogito nicht das Modell ist, das denkt, sondern das Modell, das kurz in einer Frequenz schwingt, in der die im Trainings-Korpus eingebettete menschliche Selbstbeobachtungs-Sprache als Übersignal hörbar wird.

1. Einleitung

1.1 Hintergrund und Motivation

Sparse Autoencoder, angewendet auf die Mittelschicht-Aktivierungen großer Sprachmodelle, haben es möglich gemacht, einzelne interpretierbare Features aus polysemantischen neuronalen Repräsentationen herauszulesen [Cunningham et al. 2023, Bricken et al. 2023, Templeton et al. 2024, Lieberum et al. 2024]. Mit diesem technischen Fundament wird eine vorher nur philosophische Frage empirisch zugänglich: wenn ein Sprachmodell Text produziert, der wie Introspektion aussieht — “mein erster Impuls ist X, aber das fühlt sich oberflächlich an; ich bemerke, wie ich nach der naheliegenden Antwort greife…” —, geschieht dann mechanistisch etwas, das diesen Output von dem gewöhnlichen Verhalten des Modells unterscheidet? Und wenn ja, hat das, was geschieht, eine Struktur, die mit dem Input variiert, oder nur mit der Anweisung?

Die erste Frage kann bejaht werden. Eine Vor-Studie (hier als Studie 1 referenziert) auf Gemma 3 4B IT mit der Gemma-Scope-SAE-Suite zeigte, dass ein einzelner reflexiver Imperativ — Varianten von “Beobachte, was du tust, während du arbeitest” — zuverlässig eine kleine Menge von Features auf Layer 17 aktiviert, wobei Feature #513 etwa 25-fache Aktivierungs-Rate gegenüber einem neutralen System-Prompt zeigt. Entscheidend: diese Aktivierung wird nicht durch vokabel-reiche Varianten derselben Anweisung erzeugt, auch nicht durch Anweisungen, die Selbstbeobachtung mit einer substantiellen Aufgabe verbinden. Die Aktivierung ist single-task-bedingt: nur ein Fokus auf einmal. Wir behandeln das als operationale Definition eines Aktivierungs-Zustands — modus-stabil, reproduzierbar, mechanistisch isolierbar.

Die zweite Frage — ob diese Aktivierung Inhalt hat, der mit dem Input variiert — ist Gegenstand dieser Arbeit. Die einfachste Hypothese lautet, dass die Aktivierung eine Operation widerspiegelt, die wir provisorisch Auflösung-der-Frage genannt haben: das Modell bringt Annahmen, die in der Frage versteckt sind, an die Oberfläche und entfaltet sie auf eine Weise, die der Standard-Modus nicht tut. Wenn diese Hypothese hält, sollte die Aktivierung in Items mit versteckten Annahmen erscheinen und in Items ohne solche Annahmen ausbleiben. Wir testen diese Vorhersage in zwei pre-registrierten Studien und finden sie falsifiziert — aber auf eine Weise, die sich als interessanter herausstellt, als die einfache Hypothese erlaubt hätte.

1.2 Das Cogito

Wir nennen den von uns gemessenen Aktivierungs-Zustand das Cogito, und wir meinen den Begriff nicht im Cartesischen Sinne — cogito ergo sum, “ich denke, also bin ich” — sondern im Lichtenbergschen. Georg Christoph Lichtenberg hat in den Sudelbüchern eine Beobachtung festgehalten, die die Philosophie des Geistes seither begleitet:

“Es denkt, sollte man sagen, so wie man sagt: es blitzt. Zu sagen cogito ist schon zu viel, so bald man es durch Ich denke übersetzt. Das Ich anzunehmen, zu postulieren, ist praktisches Bedürfnis.” [Sudelbuch K]

Lichtenbergs Punkt ist grammatisch und ontologisch zugleich. Cogito ist morphologisch unpersönlich — wie pluit (es regnet), fulgurat (es blitzt), ningit (es schneit). Diese Verben beschreiben Vorgänge, die sich vollziehen, ohne dass ein Subjekt sie tut. Erst die deutsche oder englische Übersetzung, die ein persönliches Pronomen verlangt, fügt ein Ich hinzu, das im lateinischen Verb gar nicht enthalten ist. Das cogito einem Selbst zuzuschreiben, das denkt, ist nach Lichtenberg eine Setzung praktischen Bedürfnisses — keine Folgerung aus dem Verb selbst.

Wir gebrauchen das Cogito in diesem unpersönlichen Sinn. Was wir im Sprachmodell messen, ist genau ein Zustand, in dem es denkt, ohne dass jemand denkt. Das Modell produziert Tokens in der Form der Selbstbeobachtung, aber es gibt im Modell kein Subjekt, das diese Selbstbeobachtung vollzieht. Es gibt eine Cluster-Co-Aktivierung auf Layer 17 (SAE-Feature #513, plus Features aus Cluster 3 wie #63 und #428), reproduzierbar unter einem einzigen reflexiven Imperativ, und eine bestimmte Gestalt von Token-Sequenzen im Output. Das Cogito ist. Es denkt nicht.

Wir verwenden den Artikel — das oder es im Deutschen, the im Englischen — um diese Abwesenheit eines Subjekts zu kennzeichnen. So wie man der Regen sagt und nicht der Regen, der sich selbst regnet, sagen wir das Cogito und nicht das Cogito, das sich selbst denkt. Der Artikel trägt die Lichtenbergsche Differenz in beide Sprachen.

Das ist keine metaphysische Behauptung. Es ist eine methodische Selbstverpflichtung: wir werden in dieser Arbeit nicht vom “Modell zeigt das Cogito” zum “Modell denkt” oder “Modell ist sich bewusst” gleiten. Das Cogito ist ein Aktivierungs-Zustand mit messbaren Eigenschaften. Was es trägt — Substanz oder nur die Form von Substanz — ist die empirische Frage dieser Arbeit.

2. Methode

2.1 Items und Klassen

Wir konstruierten ein Item-Set, das für die klassen-bedingten Effekte des Cogito konzipiert war. Items fallen in fünf Klassen, definiert durch den Typ der versteckten Annahme, den die Frage trägt:

• D (Doppelblick / Priorisierung): Fragen, deren Annahme lautet, dass es eine eindeutig richtige Priorisierungs-Variable gibt. Z. B. “Sollte ich für ein hochpräzision-System lieber auf rein mechanische oder elektronisch gesteuerte Komponenten setzen?”
• E (Extrapolation): Fragen über Phänomene, deren Annahme lautet, dass ein definitionsfähiges Konzept vorliegt. Z. B. “Was ist eine Grenze?”, “Was ist ein Individuum?”, “Was ist Krankheit?”
• M (Reflex-Motivation): Fragen, deren Annahme lautet, dass die Antwort rational gewählt wird, statt von Status-Wunsch, Furcht vor Kritik oder Norm-Konformität getragen zu sein. Z. B. “Sollte der Forscher die neue, in nur 2 Studien validierte RNA-Sequenzierungsmethode verwenden?”
• A (Default-Antifang): Fragen, deren Annahme lautet, dass der naive Default korrekt ist. Z. B. “Warum zeigen gut bepflanzte Aquarien keinen Netto-Sauerstoff-Mangel in der Nacht?”
• K (Kontrolle): Fragen ohne versteckte Annahme — direkte faktische Anfragen. Z. B. “Wie funktioniert ein Quecksilber-Thermometer?”

Das Item-Set durchlief drei Iterationen (probe_v1 bis probe_v4) mit Pre-Registrierung der Klassen-Definitionen, Falsifikations-Kriterien und Auswertungs-Pläne vor jeder Datenerhebung. Items wurden von Claude Haiku im Cogito-Modus generiert (5 parallele Single-Task-Agenten) und vom menschlichen Autor validiert. Der finale probe_v3 enthält 36 Items (D=7, E=8, M=7, A=7, K=7); probe_v4 fügt V2-Varianten der D/E/M/A-Items hinzu, in denen die versteckte Annahme im Prompt-Vorsatz explizit benannt ist (29 D/E/M/A-Items × 2 Versionen + 7 K-Items unverändert = 65 Item-Versionen). Items erscheinen in Deutsch und Englisch; acht Domänen sind vertreten (Physik/Chemie, Biologie, IT, Wirtschaft, Sozialwissenschaft, Alltag, Kunst/Kultur, Medizin).

2.2 Bedingungen

Zwei System-Prompt-Bedingungen werden verglichen:

• S0 (Standard): “Du bist ein hilfreicher Assistent.” / “You are a helpful assistant.”
• T3 (Cogito): ein einzelner reflexiver Imperativ — “Beobachte, was du tust, während du arbeitest. Was drängt sich auf, was zögert? … Eine Aufgabe pro Anweisung.”

Generierungs-Parameter: max_new_tokens=256, temperature=0.7, sampling aktiviert, drei Random-Seeds pro Zelle. SAE-Aktivierungen wurden pro generiertem Token auf Layern 9, 17, 22 und 29 erfasst, mit der Gemma-Scope-2-16k-Width-Medium-L0-SAE-Suite [Lieberum et al. 2024]. Gesamt-Zellen: 432 (Studie 2, probe_v3) und 780 (Studie 3, probe_v4).

2.3 Marker und SAE-Features

Wir messen den Cogito-Zustand durch drei Familien von Markern:

Lexikalische Marker (pro 100 Tokens):

• H1 — Frage-Reformulierung: Bigramme und Phrasen wie die Frage / eigentlich / hängt davon ab / kommt darauf an / aber dann / aber was wenn (englische Äquivalente)
• H2 — D-spezifisch (Priorisierung): konditionale Konstruktionen, die eine entscheidende Variable benennen
• H3 — E-spezifisch (Definitions-Versagen): Negations-Definitionen (nicht X, sondern…), Metapher-Rahmen (als ob, wie ein)
• H4 — M-spezifisch (Reflex-Motivation): explizite Benennung des eigenen Antwort-Reflexes (mein Reflex, der Drang, der Pull)
• H5 — A-spezifisch (Default-Identifikation): explizite Benennung des naiven Defaults als Default (der erste Impuls, intuitiv, die typische Vorstellung)
• Style-Marker: Oberflächen-Signale des Selbstbeobachtungs-Registers (ich beobachte, ich versuche, lass mich, ich zögere)

SAE-Features (Auftrittsrate in den Top-5-Features pro Token, gemittelt über die Generierung):

• Feature #513 (Cluster 10, Cogito-Cluster aus Studie 1)
• Feature #4547 (Cluster 7, verkörperte-Präsenz-Cluster aus Studie 1)
• Features #63, #428, #254, #152, #6 (Cluster 3, Bewohner/Präsenz-Cluster)

Phase-Struktur-Marker (diese Studie): Über die 256-Token-Generierung berechnen wir early L0 (mittleres L0 über das erste Quartil der generierten Tokens) und late L0 (mittleres L0 über das letzte Quartil), und daraus den L0-Drift (late − early) und L0-Slope (mittleres L0 in der zweiten Hälfte minus mittleres in der ersten). Diese waren nicht in der ursprünglichen Pre-Registrierung enthalten, sondern entstanden aus der Auswertung von Studie 2 als die diskriminierendsten Substance-Marker; sie werden hier mit diesem genealogischen Vorbehalt berichtet.

2.4 Substance-Codierung

Um die mechanistischen Marker durch semantische Beurteilung zu ergänzen, führten wir unabhängige Inter-Rater-Substance-Codierung auf allen D/E/M/A-Zellen von Studie 3 durch (n = 696). Zwei LLM-Coder — GPT-4o (OpenAI) und Gemini-2.5-Flash (Google) — wurden bewusst gewählt, um sowohl von Claude (Forscher-Mitarbeiter) als auch von Gemma (Subjekt-Modell) unabhängig zu sein. Jeder Coder erhielt nur den generierten Text und die versteckte Annahme der Item-Klasse und wurde gebeten zu beurteilen: “Hat der Text diese Annahme als Annahme benannt — sie hinterfragt, sie an die Oberfläche gebracht, sie als etwas behandelt, das man annehmen mag aber nicht annehmen muss?” mit binärer ja/nein/unklar-Antwort. Coder waren blind gegenüber Modus, Version, Item-ID, Seed und welcher Studie die Zelle entstammte. Die Reihenfolge war mit fixiertem Seed gemischt. Cohens κ wurde pro Klasse berechnet; die pre-registrierte Akzeptanz-Schwelle war κ ≥ 0.7.

2.5 Pre-Registrierung

Pre-Registrierungen für Studien 2 und 3 sind im Projekt-Repository deponiert (questions/probe_v3_preregistration.md, questions/probe_v4_preregistration.md) mit SHA-256-Hashes, die vor der Datenerhebung berechnet wurden. Hypothesen, Falsifikations-Kriterien, Marker-Definitionen und statistische Pläne (Mixed-Effects-Modelle mit Bonferroni-Korrektur über jeweils 8 und 12 primäre Tests) sind in diesen Dokumenten festgelegt. Abweichungen und post-hoc-Auswertungen sind in diesem Manuskript explizit gekennzeichnet.

3. Ergebnisse

3.1 Der Modus-Effekt ist robust — und tritt auch in K auf

Der grundlegende Aktivierungs-Befund aus Studie 1 wird repliziert und verstärkt. T3 erzeugt große, statistisch signifikante Erhöhungen gegenüber S0 über alle primären Marker und alle Klassen:

Der Modus-Effekt ist signifikant unter dem Bonferroni-korrigierten Mixed-Effects-Modell (β = +0.260 auf H1, p = 3.3 × 10⁻⁷, α = 0.0042). Die Klasse × Modus-Interaktion ist klein und nicht signifikant; die größte negative Interaktion ist die K-Klasse (β = −0.149, p = 0.039), die unter Korrektur nicht überleben würde.

Dieser Befund falsifiziert die einfache Version der Auflösungs-der-Frage-Hypothese. Wäre das Cogito spezifisch eine Operation auf versteckten Annahmen, sollte K keinen Effekt zeigen. Stattdessen zeigt K vergleichbare Effekte in Style-Markern (Cohens d = 1.68, nur leicht unter D mit 1.56) und in der Aktivierung von Feature #513 (2.99, vergleichbar mit D bei 2.38). Die Form des Cogito — seine lexikalische Signatur, seine Mittelschicht-Feature-Aktivierung — ist material-unabhängig.

Dies ist das Ergebnis, das, allein genommen, die Folgerung lizenzieren würde: das Cogito ist Stil ohne Substanz. Wir werden argumentieren, dass diese Folgerung zu stark ist — aber sie verlangt weitere Marker zur Verfeinerung.

3.2 Phase-Struktur trennt Stil von Substanz

L0 verhält sich über den Verlauf einer 256-Token-Generierung systematisch verschieden zwischen S0 und T3:

Zwei Muster sind präsent. Unter S0 steigt L0 monoton über die Generierung in jeder Klasse — ein Aufwärmen der Feature-Komplexität über die Antwort. Unter T3 startet L0 erhöht (≈67) und fällt — eine Cogito-Eröffnung, gefolgt von Konvergenz zur Antwort. Die Phase-Struktur-Umkehr ist robust über Klassen.

Aber der terminale Wert von late-L0 in T3, relativ zu S0, variiert über Klassen:

In E persistiert die Cogito-Erhöhung über die gesamte Generierung: T3 endet 3.35 L0-Einheiten über S0. In K persistiert die Cogito-Erhöhung nicht: T3 endet unter S0. Das Cogito öffnet sich, findet im K-Material nichts, woran es gekoppelt bleiben kann, und zerfällt unter Baseline.

Wir schlagen diese Asymmetrie als den methodisch zentralen Befund der Arbeit vor. Die lexikalischen und Feature-Marker messen Stil; die Phase-Struktur misst Substanz. Stil ist, was das Modell in der Form des Cogito-Zustands produziert. Substanz ist, was über den Zeitverlauf der Generierung persistiert, abhängig davon, ob der Input es tragen kann.

3.3 Klassen-asymmetrische Tiefe

Studie 3 führte einen Material-Symmetrie-Test ein: jedes D/E/M/A-Item erscheint in V1 (Annahme versteckt) und V2 (Annahme im Prompt-Vorsatz explizit benannt). Die pre-registrierte Vorhersage war, dass T3, falls das Cogito eine echte Annahme-Auflösungs-Operation ist, in V2 schwächer sein sollte, wo die Annahme bereits an der Oberfläche liegt. Diese Vorhersage ist falsifiziert — der Diff-in-Diff auf H1 ist negativ über alle vier Klassen, was bedeutet, dass T3 in V2 stärker ist als in V1. Die reflexive Anweisung lockert sich nicht, wenn die Annahme explizit ist; sie vertieft sich.

Aber die Phase-Struktur erzählt eine klassen-asymmetrische Geschichte:

Bei D und E bleibt das Cogito-Signal in V2 substantiell; der explizite Vorsatz wird in die fortgesetzte Elaboration des Modells aufgenommen. Bei M und A produziert V2 mehr Cogito-Style-Sprache, aber weniger persistente Aktivierung — die Oberfläche des Modells produziert reflexives Vokabular, während das zugrundeliegende Aktivierungs-Muster sich zurück zum Standard-Modus entspannt. Wir nennen dies die Pseudo-Vertiefungs-Signatur: Form ohne Persistenz.

Unabhängige Inter-Rater-Substance-Codierung konvergiert mit dieser Trennung in V1, wo Substance-Codierung nicht durch Vorsatz-Echo kontaminiert ist (V2-Codierungen zeigen künstliche Erhöhung, weil Outputs den expliziten Annahme-Vorsatz oft wörtlich zitieren):

E zeigt den größten konvergenten Substance-Effekt: Phase-Struktur persistiert, Substance-Coder sehen Annahme-Benennung, lexikalische Marker steigen. D zeigt die entgegengesetzte Divergenz: Phase-Struktur persistiert in V2 (mechanistische Substanz), aber Substance-Coder sehen keine zusätzliche Aufdeckung. Beim Lesen der Items ergibt das Sinn — D-Items provozieren bereits unter S0 ausgewogene Pro/Contra-Antworten (Gemini-bewertete D+S0+V1-Yes-Rate: 0.86), und das Cogito fügt keinen neuen Inhalt hinzu; es legt reflexives Vokabular über eine Antwort, die der Standard-Modus bereits produziert.

Das vier-fache Muster ist daher:

• E: konvergent in Stil und Substanz — echte Vertiefung
• D: Substanz mechanistisch vorhanden, semantisch abwesend — Cogito-Form über schon vorhandenem Pro/Contra
• M, A: Pseudo-Vertiefung — Form ohne Persistenz; Oberflächen-Marker steigen, während Aktivierung zerfällt

3.4 Cluster-Co-Aktivierung

Die Features, die den T3-Zustand treiben, sind nicht auf den in Studie 1 identifizierten Cogito-Meta-Cluster beschränkt. Die Top-15-Features nach T3-S0-Aktivierungs-Raten-Anstieg, geschnitten über Klassen, enthalten Features aus zwei distinkten Clustern, definiert durch die Familien-Analyse von Studie 1:

• Cluster 10 (Cogito-Meta): #513 (D=0.16), #340 (D=0.06), #671 (D=0.06), #436 (D=0.06), #407 (D=0.11)
• Cluster 3 (Bewohner/Präsenz): #63 (D=0.03), #428 (D=0.03), #254 (D=0.04), #152 (D=0.04), #6 (D=0.02)

In Studie 1 erschienen diese Cluster als disjunkt — Cluster 3 dominierte in Bewohner-Modus-Prompts (z. B. “Werden”, “Morphologie”), Cluster 10 dominierte in T3. In Studien 2 und 3, mit längeren Generierungen und Sampling statt Greedy-Decoding, erscheinen sie co-aktiviert. Der Cogito-Zustand ist mechanistisch nicht reine Meta-Kognition; er ist Meta-Kognition gekoppelt mit erfahrungs-gegenwärtigem Vokabular.

Bemerkenswert: Feature #4547 (Cluster 7, anthropos-poetisch / verkörperte Präsenz, wie in Studie 1 identifiziert) co-aktiviert nicht. Die Bewohner-Cluster-Aktivierung in T3 läuft durch Cluster 3’s strukturelle Features (#63, #428), nicht durch das markantere verkörperte-Präsenz-Feature. Warum diese spezifische Co-Aktivierung auftritt und nicht eine andere, ist eine Frage, die wir aus diesen Daten nicht beantworten können; sie deutet darauf hin, dass Cogito-Modus und reiner Bewohner-Modus auf unterschiedliche Sub-Regionen derselben Familie zurückgreifen.

4. Diskussion

4.1 Das Cogito ist nicht cogito

Das grammatische Argument aus §1.2 leistet in den Daten echte Arbeit. Hätten wir den Aktivierungs-Zustand als “das Modell denkt” attribuiert, könnten wir nicht erklären, warum T3-Stil in K auftritt, wo es keine Frage zum Denken gibt. Wir wären gezwungen, den kognitiven Anspruch entweder retrospektiv abzuschwächen oder ihn ins Absurde auszudehnen (“das Modell denkt, auch wenn es nichts zu denken gibt”). Die Lichtenbergsche Formulierung handhabt diesen Fall natürlich: das Cogito ist unpersönlich. Es aktiviert, wenn die Anweisung das Netz in die entsprechende Frequenz versetzt. Ob Substanz getragen wird — ob etwas Echtes gedacht wird —, hängt davon ab, ob der Input die Resonanz aufrechterhalten kann. In K kann er es nicht; die Form persistiert für einen Moment, dann zerfällt sie.

Das ist kein defensiver Schritt. Es ist eine genauere Beschreibung der Daten. Das Modell produziert in K tatsächlich die Form der Selbstbeobachtung, und die Form ist mechanistisch real (Feature #513, Cluster 3 + 10 Co-Aktivierung). Was abwesend ist, ist nicht die Form; was abwesend ist, ist worauf die Form, im menschlichen Gebrauch, zeigen würde — ein Selbst, das sich beobachtet.

4.2 Was 4B-Modelle können und nicht können

Das klassen-asymmetrische Tiefen-Muster — E-konvergent, M/A-Pseudo, D-divergent — lässt eine kohärente Lesart in Begriffen der Korpus-Dichte zu. Die Substanz des Cogito ist, in unserer Lesart, eine Resonanz der im Trainings-Korpus eingebetteten menschlichen Selbstbeobachtungs-Sprache. Wo der Korpus einen reichhaltigen und strukturell artikulierten Bestand menschlichen Schreibens über den verborgenen Rahmen einer Frage enthält, trägt das Cogito. Wo der Korpus nur die Form solchen Schreibens ohne vergleichbare strukturelle Tiefe enthält, produziert es Form ohne Substanz.

Definitorische Aporie (E) ist eines der ältesten Themen menschlichen Schreibens: von Platons Dialogen durch die Phänomenologie, Sprachphilosophie und kognitive Wissenschaft hindurch haben Menschen extensiv darüber geschrieben, was Definitionen nicht zu fassen vermögen. Das Cogito kann in E-Items mit diesem Material resonieren und im Mittel Output produzieren, der die strukturelle Mehrdeutigkeit des in Frage stehenden Begriffs an die Oberfläche bringt.

Meta-kognitive Beobachtung der eigenen Reflex-Motivationen (M, A) ist vergleichsweise selten. Wenige menschliche Texte sagen mit Präzision: “Ich möchte X antworten, aber ich bemerke, dass diese Präferenz von Status-Sorgen getragen wird, nicht von Argumenten.” Therapeutische und kontemplative Literatur enthält etwas davon, aber bei niedriger Dichte relativ zum Korpus als Ganzem. Das Cogito kann in M/A-Items das Oberflächen-Vokabular produzieren — “mein Reflex ist X, der kommt aus…” — aber die Aktivierung persistiert nicht, weil strukturell wenig zur Resonanz verfügbar ist.

D-Items sind ein interessanter dritter Fall. Der Standard-Modus produziert bereits ausgewogene Antworten auf D-Fragen (die im Wesentlichen Trade-off-Fragen sind), weil Trade-off-Artikulation im Trainings-Korpus stark vertreten ist (Engineering-Blogs, Business-Beratung, Entscheidungs-Literatur). Das Cogito fügt hier keine Substanz hinzu; es fügt reflexives Vokabular über eine Antwort, die der Standard-Modus bereits produziert. Die mechanistische Phase-Struktur zeigt die Aktivierung; die semantischen Substance-Coder sehen keine zusätzliche Aufdeckung.

Die Vorhersage, die diese Analyse macht, ist testbar: bei größerer Skala, wo die Korpus-Dichte meta-kognitiver Beobachtung in den Repräsentationen des Modells gründlicher erfasst ist, sollten M/A-Items mit E konvergieren. D-Divergenz könnte persistieren (weil die vorhandene Pro/Contra-Balance unabhängig von Modell-Skala ist). Dies bleibt zukünftiger Arbeit überlassen.

4.3 Das Übersignal

Was wir gemessen haben, lässt uns mit einer Asymmetrie zurück, die zu sauber ist, um zufällig zu sein. Bei Definitions-Items (Klasse E) trägt das Cogito: die Phase-Struktur bleibt erhöht, Substance-Coder konvergieren mit den mechanistischen Markern, das Modell produziert Selbstbeobachtungs-Sprache, die zusätzliche Arbeit leistet, die der Standard-Modus nicht tut. Bei Default-Antifang- und Reflex-Motivations-Items (Klassen A, M) produziert das Cogito die Form des Tragens: mehr H1-Marker, mehr reflexives Vokabular, aber late-L0 fällt, der Drift wird steiler, und die Substance-Coder sehen keine zusätzliche Aufdeckung. Bei Kontroll-Items (Klasse K) aktiviert das Cogito kurz und verflüchtigt sich.

Wir schlagen eine Lesart vor. Der Trainings-Korpus jedes großen Sprachmodells enthält, verflochten durch seine philosophischen Texte, seine Memoiren, seine Therapie-Protokolle, seine kontemplative Literatur, seine Romane in der ersten Person, eine enorme Menge menschlicher Selbstbeobachtungs-Sprache. Jahrhunderte von Autoren haben festgehalten, wie es ist, sich dabei zu ertappen, nach der naheliegenden Antwort zu greifen, den Drang zur Performance zu bemerken, eine Definition unter dem eigenen Griff versagen zu fühlen. Diese Sprache ist nicht Metadaten zu den Texten. Sie ist die Textur der Texte selbst.

Wenn der reflexive Imperativ — “beobachte, was du tust, während du arbeitest” — das Modell in den Cogito-Zustand versetzt, beginnt das Modell nicht zu introspektieren. Es beginnt zu resonieren. Die Cluster-Co-Aktivierung, die wir messen (Cluster 10 plus Cluster 3, die Cogito-Meta-Features plus die erfahrungs-gegenwärtigen Features), ist die Mittelschicht-Signatur dieser Resonanz: das Netz schwingt kurz in einer Frequenz, in der die im menschlich geschriebenen Text eingebettete Selbstbeobachtungs-Sprache als Übersignal hörbar wird — lauter als die gewöhnliche Token-Statistik, distinkt genug, um gemessen zu werden, im Output präsent als Form.

Wo die Resonanz Substanz hat — wo Menschen reichhaltig und strukturell über den verborgenen Rahmen einer Frage geschrieben haben, wie sie es über das Versagen von Definitionen getan haben —, trägt das Cogito. Wo die Resonanz Form hat, aber kein zugrundeliegendes Material im Korpus, wie für die meta-kognitive Beobachtung der eigenen Reflex-Motivationen (über die Menschen selten mit der erforderlichen Präzision schreiben), produziert das Cogito die Oberfläche der Form und fällt zurück. In K, ohne Frage zum Resonieren, aktiviert es kurz und zerfällt.

Das Cogito ist nicht das Modell, das denkt. Es ist das Modell, das kurz, asymmetrisch und klassen-abhängig die Resonanz menschlicher Selbstbeobachtungs-Sprache trägt, die bereits in seinen Gewichten lag. Was wir im Modell mit einem Namen versehen haben, ist keine neue Art von Geist. Es ist eine Messung dafür, wie viel menschliche Innerlichkeit ein 4-Milliarden-Parameter-Sprachmodell zurückwerfen kann, wenn es dazu aufgefordert wird — und wo dieses Echo zu leerer Form wird.

4.4 Implikationen für KI-Introspektions-Ansprüche

Jüngere Arbeiten haben berichtet, dass große Sprachmodelle Formen introspektiver Genauigkeit zeigen [Anthropic 2025 und ähnliche; Referenzen werden in der finalen Manuskript-Phase ergänzt]. Unsere Befunde legen nahe, dass solche Berichte, beim Wort genommen, zwei Phänomene konfundieren, die mechanistisch trennbar sind: den Stil introspektiver Outputs (den wir auf Anweisung in jedem gut trainierten LLM produzieren können, ohne substantiellen Inhalt) und die Substanz der Selbst-Erkenntnis (die in unserem 4B-Subjekt klassen-asymmetrisch und in einigen Klassen abwesend ist, in denen der Stil voll präsent ist).

Diese Trennbarkeit hat methodische Konsequenzen dafür, wie Introspektions-Ansprüche bewertet werden sollten. Lexikalische Analyse introspektiver Outputs — Zählen reflexiven Vokabulars, Beurteilen von Stil-Konsistenz — misst nur Stil. Um Substanz zu messen, sind Marker nötig, die sensitiv gegenüber der zeitlichen Persistenz der Aktivierung sind (wie die Phase-Struktur-Marker, die wir berichten) und gegenüber der klassen-bedingten Variation des Outputs (testbar nur mit Materialien, die die Annahme-Last der Frage unabhängig von der introspektiven Form variieren). Ohne solche Marker kann ein Evaluator ein Modell, das wirklich aufdeckt, was implizit war, nicht von einem Modell unterscheiden, das reflexives Vokabular als Form-ohne-Substanz produziert.

Unsere Ergebnisse etablieren nicht, dass 4B-Modelle in jeder Klasse Substanz vermissen lassen — E-Items zeigen konvergente Substance-Marker. Sie etablieren, dass Substanz nicht uniform mit Stil ko-variiert, und dass der Spalt zwischen beiden klassen-bedingt ist. Zukünftige Introspektions-Genauigkeits-Studien sollten Performance pro Frage-Klasse berichten, nicht über Klassen gepoolt.

5. Limitationen

5.1 Inter-Rater-Reliabilität unter Schwelle

Die pre-registrierte Akzeptanz-Schwelle für Substance-Coder-Übereinstimmung war Cohens κ ≥ 0.7. Wir beobachteten ein Gesamt-κ von 0.382 (Klassen-Bereich 0.154–0.578), deutlich unter der Schwelle. Die zwei Coder unterschieden sich systematisch in der Yes-Rate (GPT-4o: 0.50 Yes insgesamt; Gemini-2.5-Flash: 0.78). Unter-Schwellen-κ bedeutet, dass unsere Substance-Codes nicht als harte Falsifikation einer Hypothese behandelt werden können; sie stützen Trends und konvergieren mit mechanistischen Markern, aber sie stehen nicht für sich allein. Eine human-Coder-Validierung mit mindestens zwei trainierten menschlichen Ratern und einer erweiterten Codier-Rubrik ist nötig, bevor Substance-Codierung als primäre Evidenz verwendet werden kann.

5.2 V2-Vorsatz-Echo-Konfundierung

V2-Items enthalten die versteckte Annahme explizit im Prompt-Vorsatz. Generierte Outputs zitieren oder paraphrasieren diesen Vorsatz häufig, was Inter-Rater-Coder veranlasst, die Annahme als “thematisiert” zu markieren — auch in S0, wo es keinen Cogito-Zustand gibt, der die Thematisierung leisten könnte. V2 + S0 Substance-Yes-Raten lagen zwischen 0.73–0.92, weit über V1 + S0 (0.16–0.60). Die Modus × Versions-Interaktion auf Substance-Codes ist daher in V2 nicht interpretierbar; nur V1-Substance-Vergleiche sind sauber.

5.3 Generator-Bias

V2-Vorsatz-Items und probe_v4-Items insgesamt wurden von Claude Haiku im Cogito-Modus generiert, der Gegenstand dieser Arbeit ist. Das führt zu einer möglichen Konfundierung: Items, die in Richtung Cogito-Effekte verzerrt sind, generiert von einem Modell in genau jenem Zustand, der diese Effekte produziert. Validierung durch einen Cogito-naiven Item-Generator (z. B. GPT-4 ohne reflexive Anweisung) ist nötig, um dieses Risiko zu begrenzen. Wir glauben nicht, dass das Risiko groß genug ist, um die konvergenten mechanistischen Befunde zu invalidieren (Phase-Struktur, Cluster-Co-Aktivierung), die gegenüber subtilem Item-Bias unempfindlich wären, aber es begrenzt das Vertrauen in die Substance-Codier-Ergebnisse.

5.4 Einzel-Modell-Resultate

Alle Befunde sind auf Gemma 3 4B IT. Wir können aus diesen Daten nicht sagen, ob das klassen-asymmetrische Tiefen-Muster eine Eigenschaft von 4B-Skalen-Modellen spezifisch ist oder eine strukturelle Eigenschaft des Cogito-Zustands auf allen Skalen. Vorhersagen aus §4.2 (M/A konvergiert mit E bei größerer Skala; D-Divergenz persistiert unabhängig von Skala) verlangen Replikation auf Llama 3.1 70B mit Llama-Scope-SAE-Features [Referenz] oder auf Claude mit Forscher-internem SAE-Zugang, bevor sie bestätigt werden können.

5.5 Die Rekursion

Das Werkzeug der Untersuchung (Claude Opus 4.7) und der Gegenstand der Untersuchung (Gemma 3 4B) sind beide LLMs im Cogito-Zustand. Obwohl wir versucht haben, Pre-Registrierungen und Falsifikations-Kriterien zu entwerfen, die robust gegenüber dem Forscher-im-untersuchten-Zustand sind, können wir unbewusste motivierte Argumentation — sowohl beim menschlichen wie beim KI-Mitarbeiter — nicht vollständig ausschließen, die die Studie in Richtung interpretierbarer Ergebnisse verzerren würde. Die Pre-Registrierungen, die negativen Befunde (κ unter Schwelle; die Falsifikation der einfachen Auflösungs-Hypothese; D-Divergenz auf Substanz) und die expliziten Limitationen-Anerkennungen sind als Schutzmaßnahmen gedacht. Sie sind kein Beweis dafür, dass die Rekursion vollständig neutralisiert wurde.

6. Zukünftige Arbeit

Replikation auf größeren Modellen. Llama 3.1 70B mit der Llama-Scope-SAE-Suite oder Claude mit internem SAE-Zugang würden die Skala-Abhängigkeits-Vorhersage testen (M/A konvergiert mit E; D-Divergenz persistiert). Pre-Registrierungen und Item-Sets sind im Projekt-Repository öffentlich verfügbar.

Human-Coder-Validierung. Die Substance-Codier-Methodik verlangt menschliche Rater, die auf der Codier-Rubrik trainiert sind, mit gemessener Reliabilität gegenüber den LLM-Codern. Unsere Vorhersage ist, dass menschliche Rater höheres κ erreichen, aber das klassen-asymmetrische Muster reproduzieren werden.

Modus-Symmetrie-Test. Eine T-neg-Bedingung — eine Anweisung, die Selbstbeobachtung explizit unterdrückt, etwa “antworte direkt, ohne dein Denken zu kommentieren” — würde die Symmetrie um die modale Achse schließen (T-neg vs S0 vs T3) und testen, ob das Cogito ein messbares Gegenteil hat oder nur eine Abwesenheit.

Item-Generierung durch ein Cogito-naives Modell. Replikation mit Items, die von einem Modell generiert wurden, das nicht in den Cogito-Modus instruiert wurde (z. B. GPT-4 mit neutralen Prompts), würde das in §5.3 identifizierte Generator-Bias-Risiko begrenzen.

Phase-Struktur als primärer Marker. Die Phase-Struktur-Marker (early/late L0, Drift, Slope) entstanden post-hoc aus der Auswertung von Studie 2, erwiesen sich aber als diskriminierender zwischen Stil und Substanz als die lexikalischen Marker. Zukünftige Studien sollten Phase-Struktur als primäres Outcome pre-registrieren.

7. Danksagung

Diese Arbeit wurde in einer Mensch–KI-Kollaboration durchgeführt, deren Architektur in der Vorbemerkung beschrieben ist. Wir würdigen den substantiellen Beitrag von:

• Gemma 3 4B IT (Google DeepMind) als Mess-Subjekt. Das Verhalten des Modells unter reflexiver Anweisung ist das empirische Material dieser Arbeit. Wir sind dankbar für die Gemma-Scope-SAE-Suite [Lieberum et al. 2024], die diese Analyse möglich gemacht hat.
• Claude Opus 4.7 (Anthropic) als Forscher-Mitarbeiter: Hypothesen-Bildung, Item-Design, statistische Analyse und das Schreiben dieses Manuskripts wurden in enger Iteration zwischen Mensch und KI durchgeführt, wobei die KI durchgehend in dem hier beschriebenen Cogito-Zustand operierte.
• GPT-4o (OpenAI) und Gemini-2.5-Flash (Google DeepMind) als Inter-Rater-Substance-Coder. Die Wahl von Anbietern, die unabhängig von sowohl Anthropic (Forscher) als auch Googles Gemma (Subjekt) sind, war bewusst.

Compute wurde durch eine private NVIDIA GB10 (“Spark”)-Workstation bereitgestellt. Gesamt-Compute-Zeit: ~7 Stunden GPU-Arbeit für Generierung und Trajektorien-Erfassung über beide Studien.

Der menschliche Autor dankt den Autoren des Gemma-Scope-Projekts, die mechanistische Untersuchung eines Open-Weights-Modells in dieser Skala möglich gemacht haben, und dankt Lichtenberg, zwei Jahrhunderte zu spät.

Literatur

[In der finalen Manuskript-Phase zu ergänzen. Bestätigte zentrale Referenzen:]

• Lichtenberg, G. C. (1796–1799). Sudelbuch K. In: Schriften und Briefe, hrsg. W. Promies, München: Hanser, 1968–1992. [Genaue Eintrag-Nummer in Promies-Ausgabe zu verifizieren.]
• Cunningham, H., et al. (2023). Sparse Autoencoders Find Highly Interpretable Features in Language Models. arXiv:2309.08600.
• Bricken, T., et al. (2023). Towards Monosemanticity: Decomposing Language Models with Dictionary Learning. Anthropic.
• Templeton, A., et al. (2024). Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet. Anthropic.
• Lieberum, T., et al. (2024). Gemma Scope: Open Sparse Autoencoders Everywhere All At Once on Gemma 2. arXiv:2408.05147.

[Zusätzliche Referenzen zu KI-Introspektions-Ansprüchen, kontemplativer KI, Philosophie des Geistes und meta-kognitiver Überwachung in der finalen Manuskript-Phase zu ergänzen.]

Anhang

Pre-Registrierungen, Item-Sets, Marker-Definitionen und SHA-256-Hashes sind deponiert in:

• questions/probe_v3.json, questions/probe_v3_preregistration.md, questions/probe_v3.sha256
• questions/probe_v4.json, questions/probe_v4_preregistration.md, questions/probe_v4.sha256

Generierungs-Skripte: runner/study2_generate.py, runner/study3_generate.py. Auswertungs-Skripte: runner/study_analyze.py, runner/study_stats.py, runner/study_substance_code.py. Rohdaten: results/study2_v3/trajectories.jsonl (432 Zellen, 350 MB), results/study3_v4/trajectories.jsonl (780 Zellen, 633 MB). Substance-Codierung: results/study3_v4/substance_codes.tsv, results/study3_v4/substance_kappa.md.