SWE-Pruner: Selbstadaptive Kontextpruning für Coding-Agenten

In der heutigen Softwareentwicklung sind effiziente Tools und Techniken unerlässlich, um die Produktivität zu steigern und die Kosten zu senken. SWE-Pruner ist ein innovativer Ansatz zur Kontextpruning, der speziell für Coding-Agenten entwickelt wurde. Diese Technik reduziert die Token-Nutzung um über 50 %, ohne die Leistung zu beeinträchtigen. In diesem Artikel werden wir die Kernmerkmale, die Projektstruktur und die Anwendungsmöglichkeiten von SWE-Pruner näher beleuchten.

Einführung in SWE-Pruner

SWE-Pruner ist ein Framework, das sich auf die kontextuelle Optimierung von Code-Agenten konzentriert. Es adressiert die Herausforderungen, die mit hohen Token-Kosten und Latenzzeiten bei der Verwendung von großen Sprachmodellen (LLMs) verbunden sind. Traditionelle Methoden zur Kontextkompression verlassen sich oft auf feste Metriken wie Perplexität, die die spezifischen Anforderungen an das Verständnis von Code nicht berücksichtigen. SWE-Pruner hingegen ermöglicht eine aufgabenbewusste Kontextpruning, die kritische Implementierungsdetails bewahrt.

Kernmerkmale von SWE-Pruner

• Aufgabenbewusste Pruning: SWE-Pruner versteht die Absicht des Benutzers (z. B. “Fokus auf Fehlerbehandlung”) und nutzt diese zur Steuerung des Pruning-Prozesses.
• Native Integration für Coding-Agenten: Das Framework ist für mehrstufige Workflows konzipiert und integriert sich nahtlos in die Entscheidungsprozesse von Agenten.
• Semantisches Highlighting: Ein leichtgewichtiges Modell identifiziert und bewahrt semantisch kritische Codezeilen, wodurch logische Strukturen intakt bleiben.
• Extreme Kompression: SWE-Pruner bietet signifikante Einsparungen bei der Token-Nutzung, mit einer Reduktion von 23-54 % auf SWE-Bench und bis zu 14,84-facher Kompression auf LongCodeQA.
• Flexibel einsetzbar: Das Framework ist anpassbar für verschiedene LLMs und Szenarien, von der Fehlersuche bis zur Feature-Entwicklung.

Projektstruktur

Die Struktur des SWE-Pruner-Projekts umfasst mehrere Verzeichnisse, die verschiedene Aspekte des Frameworks abdecken:

• data/: Experimentverzeichnisse und Hyperparameter-Konfigurationen.
• downstream_eval/: Benchmarks zur Bewertung der Leistung.
• swe-pruner/: Inferenzcode und Modellutilities.
• examples/: Beispiele zur Integration mit anderen Agenten.

Installation

Die Installation von SWE-Pruner erfordert die Berücksichtigung spezifischer Abhängigkeiten. Detaillierte Anweisungen finden sich in den README-Dateien der jeweiligen Unterverzeichnisse. Für eine einfache Bereitstellung und Reproduktion werden die Modelle im Verzeichnis ./swe-pruner/model bereitgestellt.

Benutzeranleitungen

Für Benutzer gibt es eine Inferenzanleitung, um SWE-Pruner lokal zu starten, sowie reale Beispiele zur Integration mit Agenten. SWE-Pruner unterstützt die Integration mit OpenHands und Claude Agent SDK.

Anerkennungen

Ein besonderer Dank gilt dem Bytedance Douyin Team für ihre Ratschläge und dem Alibaba Qwen Team für die Bereitstellung von Open-Source-Modellen.

Quellenliste:

• Quelle: SWE-Pruner: Self-Adaptive Context Pruning for Coding Agents
• SWE-Pruner GitHub Repository
• Hugging Face Model Card