Reifegradmodell Fundamente Tests vs. Evals Check starten
Tests vs. Evals · Agentic Engineering

Tests prüfen Code. Evals prüfen Agenten.

Wer beides gleichsetzt, verifiziert nichts. Ein Verifikationsgate braucht beide Werkzeuge, jeweils an einer anderen Stelle der Kette.

AWS Premier Tier Services Partner
Definitionen

Ein Test prüft Code, ein Eval prüft Verhalten

Ein Test prüft eine feste Erwartung an deterministischen Code: Derselbe Input liefert denselben Output, das Ergebnis ist bestanden oder nicht bestanden. Ein Eval (= eine Bewertung des Modellverhaltens gegen ein Rubric, einen vorab festgelegten Bewertungsmaßstab) liefert dagegen einen Score, weil dieselbe Frage zweimal leicht verschiedene Antworten erzeugt.

Die Spannweite zeigt der Vergleich zweier Fälle. Ob eine Funktion aus 19,99 und 19 Prozent den Bruttopreis rechnet, gehört in einen Test. Ob ein Support-Agent eine Kündigung höflich, korrekt und ohne erfundene Zusage beantwortet, gehört in ein Eval, da es dafür keinen einzigen richtigen Satz gibt.

Ein Verifikationsgate (= die Stelle, an der ein Ergebnis über den nächsten Schritt entscheidet) arbeitet automatisch bei technischen Regeln und mit einem Menschen bei allem, was ein Rubric nicht abschließend bewerten kann. Wichtig ist: Ein Eval ersetzt keinen Test. Es beantwortet eine andere Frage.

Vergleich

Test vs. Eval

MerkmalTestEval
Verhaltendeterministischprobabilistisch
ErgebnisPass / FailScore gegen Rubric
Auslöserje Commitje Modell- oder Prompt-Wechsel
FrageFunktioniert der Code wie spezifiziert?Verhält sich der Agent wie beabsichtigt?
Checkliste

Bevor ein Agent produktiv geht

Gehen Sie die fünf Punkte einmal durch, bevor Sie einen Agenten auf echte Daten lassen.

  1. Eine Test-Suite deckt die deterministischen Teile des Codes ab und läuft bei jedem Commit.
  2. Ein Eval-Set mit repräsentativen Aufgaben liegt vor und läuft bei jedem Modell- oder Prompt-Wechsel.
  3. Jedes Eval-Ergebnis ist gegen ein benanntes Rubric bewertbar, nicht gegen ein Bauchgefühl.
  4. Ein Verifikationsgate legt fest, wer bei einem niedrigen Score entscheidet: ein Mensch oder eine automatische Regel.
  5. Die Zielstufe aus dem Reifegradmodell bestimmt, wie viel Automatisierung am Gate zulässig ist.
Autonomie darf nur so weit gehen, wie die Verifikation trägt. Autonomiegrad ist kein Reifegrad – nicht jede Zeile soll auf Stufe 5. Mehr im Reifegradmodell

Erst das Haus, dann die Werkstatt

Der KI-Reifegrad-Check misst Ihr Unternehmen: Governance, Kosten, Infrastruktur, Wissen, Kultur. Achtzehn Fragen, 10 bis 15 Minuten, AI Readiness Profile direkt danach, ausführliches Ergebnis per E-Mail. Die Entwicklungsorganisation deckt er nicht ab; dafür bauen wir gerade ein eigenes Instrument entlang der acht Schritte auf dieser Seite. Bis dahin lohnt der Unternehmens-Check zuerst, da Guardrails, Rechte und Budgets für Ihre Agenten ohnehin dort entschieden werden.

Unternehmens-Check starten