Tests prüfen Code. Evals prüfen Agenten.
Wer beides gleichsetzt, verifiziert nichts. Ein Verifikationsgate braucht beide Werkzeuge, jeweils an einer anderen Stelle der Kette.
Ein Test prüft Code, ein Eval prüft Verhalten
Ein Test prüft eine feste Erwartung an deterministischen Code: Derselbe Input liefert denselben Output, das Ergebnis ist bestanden oder nicht bestanden. Ein Eval (= eine Bewertung des Modellverhaltens gegen ein Rubric, einen vorab festgelegten Bewertungsmaßstab) liefert dagegen einen Score, weil dieselbe Frage zweimal leicht verschiedene Antworten erzeugt.
Die Spannweite zeigt der Vergleich zweier Fälle. Ob eine Funktion aus 19,99 und 19 Prozent den Bruttopreis rechnet, gehört in einen Test. Ob ein Support-Agent eine Kündigung höflich, korrekt und ohne erfundene Zusage beantwortet, gehört in ein Eval, da es dafür keinen einzigen richtigen Satz gibt.
Ein Verifikationsgate (= die Stelle, an der ein Ergebnis über den nächsten Schritt entscheidet) arbeitet automatisch bei technischen Regeln und mit einem Menschen bei allem, was ein Rubric nicht abschließend bewerten kann. Wichtig ist: Ein Eval ersetzt keinen Test. Es beantwortet eine andere Frage.
Test vs. Eval
| Merkmal | Test | Eval |
|---|---|---|
| Verhalten | deterministisch | probabilistisch |
| Ergebnis | Pass / Fail | Score gegen Rubric |
| Auslöser | je Commit | je Modell- oder Prompt-Wechsel |
| Frage | Funktioniert der Code wie spezifiziert? | Verhält sich der Agent wie beabsichtigt? |
Bevor ein Agent produktiv geht
Gehen Sie die fünf Punkte einmal durch, bevor Sie einen Agenten auf echte Daten lassen.
- Eine Test-Suite deckt die deterministischen Teile des Codes ab und läuft bei jedem Commit.
- Ein Eval-Set mit repräsentativen Aufgaben liegt vor und läuft bei jedem Modell- oder Prompt-Wechsel.
- Jedes Eval-Ergebnis ist gegen ein benanntes Rubric bewertbar, nicht gegen ein Bauchgefühl.
- Ein Verifikationsgate legt fest, wer bei einem niedrigen Score entscheidet: ein Mensch oder eine automatische Regel.
- Die Zielstufe aus dem Reifegradmodell bestimmt, wie viel Automatisierung am Gate zulässig ist.
Autonomie darf nur so weit gehen, wie die Verifikation trägt. Autonomiegrad ist kein Reifegrad – nicht jede Zeile soll auf Stufe 5. Mehr im Reifegradmodell
Erst das Haus, dann die Werkstatt
Der KI-Reifegrad-Check misst Ihr Unternehmen: Governance, Kosten, Infrastruktur, Wissen, Kultur. Achtzehn Fragen, 10 bis 15 Minuten, AI Readiness Profile direkt danach, ausführliches Ergebnis per E-Mail. Die Entwicklungsorganisation deckt er nicht ab; dafür bauen wir gerade ein eigenes Instrument entlang der acht Schritte auf dieser Seite. Bis dahin lohnt der Unternehmens-Check zuerst, da Guardrails, Rechte und Budgets für Ihre Agenten ohnehin dort entschieden werden.
Unternehmens-Check starten