Qualität
Produktive Agenten brauchen mehr als gute Prompts
Evaluation bedeutet, dass ein Agent gegen realistische Aufgaben, klare Erwartungen und bekannte Fehlerfälle geprüft wird. Das betrifft Antwortqualität, Tool-Nutzung, Quellen, Kosten, Latenz und Verhalten bei Unsicherheit.
Golden DatasetsBekannte Aufgaben mit erwarteten Ergebnissen zeigen, ob ein Agent konsistent besser wird.
Tool ChecksDer Agent darf nur erlaubte Tools nutzen und muss Zwischenschritte nachvollziehbar protokollieren.
Human ReviewMenschen prüfen die Stellen, an denen falsche Entscheidungen teuer oder riskant wären.
Risiken
Was Evaluation verhindern soll
- Halluzinationen ohne Quellen oder klare Unsicherheitsmarkierung.
- Falsche Tool-Nutzung, unerlaubter Datenzugriff oder schlechte Zwischenschritte.
- Regressionen nach Modell-, Prompt- oder Datenänderungen.
- Agenten, die in Demos gut wirken, aber im Alltag nicht robust genug sind.
Weiter