Die neue Fähigkeit in der KI: Context Engineering

Die Entwicklung leistungsstarker und zuverlässiger KI-Agenten ist zunehmend von der Kunst des Context Engineering abhängig. Dieser Artikel beleuchtet, wie sich der Fokus in der KI von “Prompt Engineering” zu einem umfassenderen Konzept, dem “Context Engineering”, verschiebt.

Was ist Context Engineering?

Um das Konzept des Context Engineering zu verstehen, müssen wir unsere Definition von “Kontext” erweitern. Es geht nicht nur um den einzelnen Prompt, den Sie an ein LLM (Large Language Model) senden. Vielmehr umfasst es alles, was das Modell sieht, bevor es eine Antwort generiert. Hier sind einige zentrale Aspekte:

• Anweisungen/System Prompt: Ein initiales Set von Anweisungen, das das Verhalten des Modells während einer Konversation definiert und Beispiele sowie Regeln enthalten kann.
• Benutzer-Prompt: Die unmittelbare Aufgabe oder Frage des Benutzers.
• State/History (kurzfristiges Gedächtnis): Die aktuelle Konversation, einschließlich der Antworten von Benutzer und Modell, die zu diesem Moment geführt haben.
• Langzeitgedächtnis: Eine persistente Wissensbasis, die über viele vorherige Gespräche gesammelt wurde und Benutzerpräferenzen sowie Zusammenfassungen vergangener Projekte enthält.
• Abgerufene Informationen (RAG): Externe, aktuelle Informationen aus Dokumenten, Datenbanken oder APIs, um spezifische Fragen zu beantworten.
• Verfügbare Werkzeuge: Definitionen aller Funktionen oder integrierten Werkzeuge, die aufgerufen werden können (z.B. check_inventory, send_email).
• Strukturierte Ausgabe: Definitionen zum Format der Antwort des Modells, z.B. ein JSON-Objekt.

Warum ist Context Engineering wichtig?

Der Schlüssel zum Bau wirklich effektiver KI-Agenten hat weniger mit der Komplexität des Codes zu tun, den Sie schreiben, und alles mit der Qualität des Kontexts, den Sie bereitstellen. Der Unterschied zwischen einem einfachen Demo-Agenten und einem “magischen” Agenten liegt in der Qualität des bereitgestellten Kontexts.

Stellen Sie sich vor, ein KI-Assistent wird gebeten, ein Meeting basierend auf einer einfachen E-Mail zu planen:

„Hey, nur mal nachfragen, ob du morgen für ein kurzes Treffen verfügbar bist.“

Der “Cheap Demo” Agent hat einen schlechten Kontext. Er sieht nur die Anfrage des Benutzers und nichts anderes. Sein Code könnte perfekt funktional sein – er ruft ein LLM auf und erhält eine Antwort – aber die Ausgabe ist unhilfreich und robotic:

„Danke für Ihre Nachricht. Morgen passt mir. Darf ich fragen, welche Uhrzeit Sie im Sinn hatten?“

Der “Magical” Agent hingegen wird von reichhaltigem Kontext unterstützt. Die Hauptaufgabe des Codes besteht nicht darin, herauszufinden, wie er antworten soll, sondern die Informationen zu sammeln, die das LLM benötigt, um sein Ziel zu erreichen. Bevor das LLM aufgerufen wird, würde der Kontext erweitert, um Folgendes einzuschließen:

• Ihre Kalenderinformationen (die zeigen, dass Sie voll ausgebucht sind).
• Ihre bisherigen E-Mails mit dieser Person (um den angemessenen informellen Ton zu bestimmen).
• Ihre Kontaktliste (um sie als wichtigen Partner zu identifizieren).
• Werkzeuge für send_invite oder send_email.

Dann können Sie eine Antwort generieren:

„Hey Jim! Morgen ist bei mir voll, ich habe den ganzen Tag über Termine. Donnerstag Vormittag wäre frei, wenn das für dich passt? Ich habe eine Einladung gesendet, lass mich wissen, ob das funktioniert.“

Die Magie liegt nicht in einem intelligenteren Modell oder einem clevereren Algorithmus. Sie besteht darin, den richtigen Kontext für die jeweilige Aufgabe bereitzustellen. Aus diesem Grund wird Context Engineering von entscheidender Bedeutung sein. Agentenfehler sind nicht nur Modellfehler; sie sind Kontextfehler.

Von Prompt zu Context Engineering

Was ist Context Engineering? Während “Prompt Engineering” sich darauf konzentriert, die perfekten Anweisungen in einer einzigen Textzeichenfolge zu formulieren, ist Context Engineering viel umfassender. Einfach ausgedrückt:

„Context Engineering ist die Disziplin, dynamische Systeme zu entwerfen und zu bauen, die die richtigen Informationen und Werkzeuge in dem richtigen Format zur richtigen Zeit bereitstellen, damit ein LLM eine Aufgabe erfolgreich ausführen kann.“

Context Engineering ist:

• Ein System, kein String: Kontext ist nicht nur eine statische Prompt-Vorlage. Es ist das Ergebnis eines Systems, das vor dem Hauptaufruf des LLM läuft.
• Dynamisch: Wird spontan erstellt, maßgeschneidert für die unmittelbare Aufgabe. Für eine Anfrage könnte dies die Kalenderdaten sein, für eine andere die E-Mails oder eine Websuche.
• Die richtigen Informationen und Werkzeuge zur richtigen Zeit: Die Kernaufgabe besteht darin, sicherzustellen, dass das Modell keine entscheidenden Details vermisst (“Garbage In, Garbage Out”). Das bedeutet, sowohl Wissen (Informationen) als auch Fähigkeiten (Werkzeuge) nur dann bereitzustellen, wenn sie erforderlich und hilfreich sind.
• Format ist wichtig: Wie Sie Informationen präsentieren, ist entscheidend. Eine prägnante Zusammenfassung ist besser als eine rohe Datenansammlung. Ein klares Werkzeug-Schema ist besser als eine vage Anweisung.

Fazit

Der Bau leistungsstarker und zuverlässiger KI-Agenten wird zunehmend weniger von der Suche nach einem magischen Prompt oder Modellaktualisierungen bestimmt. Es geht um das Engineering von Kontext und darum, die richtigen Informationen und Werkzeuge im richtigen Format zur richtigen Zeit bereitzustellen. Es ist eine funktionsübergreifende Herausforderung, die ein Verständnis Ihres geschäftlichen Anwendungsfalls, die Definition Ihrer Ausgaben und die Strukturierung aller notwendigen Informationen erfordert, damit ein LLM die Aufgabe erfolgreich ausführen kann.

Quellenliste:

• Quelle: THE NEW SKILL IN AI IS NOT PROMPTING, IT’S CONTEXT ENGINEERING
• The rise of “context engineering”
• Own your context window
• Context engineering by Simon Willison
• Context Engineering for Agents