Auf den Punkt: EDV nutzt mehrere heterogene Agenten zur Generierung verschiedener Lösungsansätze, einen unabhängigen Verifikator und einen Konsens-Mechanismus, um fehlerhafte Erfahrungen vor dem Einspeichern herauszufiltern.
Forscher haben ein neues Framework namens EDV (Execute-Distill-Verify) entwickelt, das verhindert, dass LLM-Agenten fehlerhafte Erfahrungen als erfolgreich einspeichern und dabei in eine Fehlerkette verfallen. Das Problem entsteht, wenn ein Agent eigenständig Aufgaben durchführt, auswertet und seine Ergebnisse speichert — ohne externe Kontrolle.
Das Problem: Self-Confirmation Trap
Wenn LLM-Agenten lernen sollen, führen sie Aufgaben aus, bewerten ihre eigenen Ergebnisse und speichern die gewonnenen Erkenntnisse ab. Dieser Kreislauf hat einen kritischen Schwachpunkt: Wenn ein Agent einen falschen Weg einschlägt, kann er diese Abweichung selbst als konsistent und richtig bewerten. Die fehlerhafte Erfahrung wird gespeichert und bei ähnlichen Aufgaben wieder abgerufen — was zu kumulativen Fehlern führt. Die Forscher nennen dieses Phänomen „Self-Confirmation Trap”.
EDV-Framework mit drei Phasen
Das EDV-Framework entkoppelt den Lernprozess in drei Etappen: In der Execute-Phase erkunden mehrere unterschiedliche Agenten parallel denselben Aufgabenraum und generieren diverse Lösungskandidaten. Danach analysiert in der Distill-Phase ein dedizierter Drittparteien-Agent diese Trajektorien vergleichend und erstellt Erfahrungskandidaten — ohne die einseitige Sicht des ausführenden Agenten. Abschließend validiert die Verification-Phase die Kandidaten durch einen Konsens-Mechanismus unter den ausführenden Agenten. Nur genehmigte Erfahrungen werden ins gemeinsame oder private Gedächtnis geschrieben.
Validierung auf drei Benchmarks
Die Methode wurde auf drei anspruchsvollen Long-Horizon-Benchmarks getestet: tau2-bench, Mind2Web und MMTB. EDV übertraf durchgehend starke Baselines. Der Code steht unter https://github.com/shidingz/EDV zur Verfügung. Das Framework transformiert erfahrungsbasiertes Lernen von isolierter Selbstreflektion zu kollaborativer Konstruktion mit vorgelagerter Fehlerfilterung.
Quelle: arxiv.org · Erschienen 22. Juni 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.1.