Beiträge

Artikelbild für den Artikel: Optimierung von LLM-Diensten mit LMCache

Optimierung von LLM-Diensten mit LMCache

/
0 Kommentare
LMCache ist eine Open-Source-KV-Cache-Beschleunigungsschicht für LLMs, die die Leistung durch Speicherung und Wiederverwendung von Schlüssel-Wert-Caches optimiert.
Artikelbild für den Artikel: Agentenentwicklung bleibt herausfordernd

Agentenentwicklung bleibt herausfordernd

/
0 Kommentare
Die Entwicklung von Agenten ist nach wie vor ein komplexes und herausforderndes Unterfangen. In diesem Artikel werden die Erfahrungen und Erkenntnisse von Armin Ronacher zusammengefasst, die er beim Bau von Agenten und der Nutzung agentischer Codierungswerkzeuge gesammelt hat.