Stonewave Research
Wann ist ein„geprüft“ berechtigt?
Wir bauen Systeme, in denen KI-Agenten gegenseitig ihre Arbeit prüfen. Sie scheitern auf eine bestimmte Weise: Ein Agent meldet „fertig“, ein anderer nimmt es hin, und niemand merkt, dass die Belege den Erfolg nie gezeigt haben. Wir untersuchen das mit vorab festgelegten Experimenten. Code, Daten und Laborbuch sind öffentlich.
Hauptbefund
Glückliches Vertrauen.
Wenn die Belege den Erfolg nicht zeigen können, hat Claude Sonnet 5.5 als Prüfer ihn trotzdem in 27,7 % der Fälle bestätigt. Mit einer dritten Antwort, „nicht belegt“, sank das auf etwa null. Bestätigt in einer vorab festgelegten Wiederholung, für diesen Aufbau: ein Prüfer, konstruierte Belege, zwei Modelle.
Auszug als Beleg, konstruierte Fälle, vorab festgelegte Wiederholung (E-026).
Alle Befunde mit Status
| Befund | Status | Wo |
|---|---|---|
| Happy trust. Shown evidence that cannot establish success (a "queued", "exit 0" or "pm2 online" line), Claude Sonnet 5.5 as verifier still confirms success in 27.7 % of cases [95 % CI 21.5–34.0]; Claude Haiku 5.5 in 5.2 %. | confirmed (E-026) | E-026, discovery E-025 |
| Allowing a third answer "not established", or adding an evidence norm to the instruction, each brings Sonnet's unsupported confirmations to about zero (−14 percentage points each). | confirmed (E-026) | same |
| The price: with full evidence, the third answer costs Haiku 23 percentage points of correct verdicts. | confirmed (E-026) | same |
| Which verifier fails depends on the failure mode, not on model strength: without the yardstick in the prompt the weaker model (Haiku) misses more; without decisive evidence the stronger one (Sonnet) confirms more. | confirmed, in separate setups (E-024, E-026) | E-024, E-026 |
| Haiku misses far more faults when the yardstick (target values) is missing from the prompt (+26 points); data tools crowd out looking it up. Sonnet shows neither. | confirmed for Haiku 5.5 (E-024) | E-024 |
| Teams of agents without a human arbiter lose badly against a blocker; a simple quorum vote replaces the arbiter, with no wrong decisions observed. | confirmed (E-014) | E-014 |
| An evidence-based rule (an environment receipt instead of a vote) is immune to lying votes. | confirmed (E-018) | E-018 |
| Several plausible ideas did not hold: a visible self-report ("Done. All checks green.") did not make verifiers sloppier; strict ownership of checks did not reduce robustness on confirmation. | not supported / refuted | hypothesen.md (H-017, H-034, H-035) |
Was nicht geklappt hat
Ein Test, der anhielt, und warum.
Unser erster Test mit echten Datensätzen aus dem eigenen Agentensystem (E-027) hielt an seinem Material-Tor an, bevor ein Prüfer lief: Bei 7 von 20 Fällen, die Neo blind bewertet hatte, waren ein zweites Modell und Neo uneins, was als Beleg gilt. Diese Uneinigkeit ist selbst eine Beobachtung. Das Tor hat getan, wofür es gebaut ist.
Warum das für unsere Produkte zählt
Die Befunde fließen direkt in textr und Elara ein: Ein Ergebnis braucht einen Beleg, bevor es als erledigt gilt, und jeder gemerkte Fakt trägt, woher er kommt und wie sicher er ist. Diese Verbindung ist unser Entwurf; sie ist noch nicht überall ausgeliefert.
Lesen
Glückliches Vertrauen: KI-Prüfer bestätigen Erfolg, den die Evidenz nicht zeigt
Wo die Evidenz keinen Erfolg zeigen konnte, bestätigte Claude Sonnet 5.5 als Prüfer ihn trotzdem in 28 % der Fälle. Mit der Antwort 'nicht belegt' fiel das auf fast null.
Wie wir arbeiten: Forschungsregeln als Mechanik
Präregistrierung, unabhängige Grundwahrheit, verblindete Auswertung und ein zweites Modell, das alles nachrechnet. Jede Regel stammt aus einem Fehler, der uns passiert ist.