Was können KI-Agenten tatsächlich tun?

In der heutigen digitalen Welt gibt es viel Aufregung darüber, was KI, insbesondere die neueste Welle von LLM-gestützter KI, leisten kann. Die Diskussionen darüber, wie KI-first Unternehmen sich von früheren Generationen unterscheiden, sind zahlreich, doch oft bleiben sie auf einem abstrakten Niveau, das wenig greifbare Informationen liefert. Dieser Artikel versucht, die Funktionsweise von KI-Agenten zusammenzufassen, reale Anwendungsfälle zu beleuchten und zu verdeutlichen, dass Agenten die Qualität Ihrer Software und Systemgestaltung erheblich steigern können.

Wie funktionieren KI-Agenten?

Im Kern ist die Nutzung eines LLM ein API-Aufruf, der ein Prompt enthält. Zum Beispiel könnte man Anthropics /v1/message mit einem Prompt aufrufen: “Wie sollte ich LLMs in meinem Unternehmen einsetzen?” Dieses Prompt wird verwendet, um das Kontextfenster des LLMs zu füllen, was das Modell dazu bringt, bestimmte Arten von Antworten zu generieren.

Die erste wichtige Funktion von Agenten besteht darin, ein LLM zu nutzen, um ein Kontextfenster zu bewerten und ein Ergebnis zu erhalten. Prompt Engineering, auch als Context Engineering bekannt, bezieht sich darauf, was in das Kontextfenster eingegeben wird, um die gewünschten Antworten zu generieren. Ein Beispiel hierfür ist das In-Context Learning (ICL), bei dem man eine Reihe ähnlicher Beispiele bereitstellt, bevor man eine Frage stellt.

Die Komposition des perfekten Kontextfensters ist jedoch zeitaufwendig und erfordert Techniken wie Metaprompting, um den Kontext zu verbessern. Oft weiß der Mensch, der den ursprünglichen Kontext erstellt, nicht genug, um relevante Informationen bereitzustellen. Hier kommen die Chat-Erfahrungen von Modellen wie OpenAI und Anthropic ins Spiel, die Websuchen nutzen, um Kontext zu ziehen, den der Benutzer möglicherweise nicht hat.

Die zweite wichtige Funktion von Agenten ist die Nutzung eines LLMs, um relevante Werkzeuge für das Kontextfenster vorzuschlagen und das Kontextfenster mit den Antworten dieser Werkzeuge anzureichern.

Anwendungsfälle von KI-Agenten

Ein typisches Szenario, in dem KI-Agenten häufig eingesetzt werden, ist der Kundenservice. Hier könnte ein KI-Agent die einfachsten Anfragen übernehmen und dabei helfen, die Effizienz zu steigern. Der Prozess könnte wie folgt aussehen:

1. Tickets oder Support-Chats fließen in den KI-Agenten.
2. Der Agent hat Zugriff auf verschiedene Werkzeuge, um Informationen über den Benutzer abzurufen und Anfragen zu bearbeiten.
3. Der Agent kann Anfragen an die nächste Support-Ebene eskalieren oder Rückerstattungen veranlassen.
4. Es gibt Regeln zur Flusskontrolle, die sicherstellen, dass alle Anfragen, die nicht innerhalb eines bestimmten Zeitrahmens gelöst werden, an einen Menschen eskaliert werden.

Ein weiterer Anwendungsfall ist die Triagierung von eingehenden Fehlerberichten. Wenn ein Vorfall gemeldet wird, könnte ein KI-Agent die Schwere des Problems bewerten und die notwendigen Schritte einleiten:

1. Alle erstellten Vorfälle und Tickets werden zur Überprüfung an den Agenten weitergeleitet.
2. Der Agent kann aktuelle Vorfälle abrufen und Produktionsmetriken analysieren.
3. Basierend auf den gesammelten Daten kann der Agent entscheiden, ob ein Vorfall sofortige Aufmerksamkeit erfordert oder ob er in einem weniger dringenden Prozess behandelt werden kann.

Herausforderungen und Grenzen von KI-Agenten

Trotz ihrer vielen Vorteile haben KI-Agenten auch ihre Herausforderungen. Eine der größten Herausforderungen ist die Notwendigkeit, qualitativ hochwertige Software und Systeme zu entwerfen. Wenn die zugrunde liegende Software schlecht gestaltet ist, können Agenten mehr schaden als nützen. Zudem können LLMs nicht immer vertrauenswürdig sein. Sie können nicht als alleinige Lösung für kritische Probleme eingesetzt werden, da sie in bestimmten Situationen fehlerhaft sein können.

Ein weiteres Problem ist die Komplexität der Implementierung. Der Aufbau eines effektiven KI-Agenten erfordert eine sorgfältige Planung und kontinuierliche Überwachung, um sicherzustellen, dass die Agenten korrekt funktionieren und die gewünschten Ergebnisse liefern.

Fazit

KI-Agenten stellen eine aufregende Entwicklung in der Softwareindustrie dar. Sie bieten zahlreiche Möglichkeiten zur Automatisierung und Effizienzsteigerung, insbesondere in Bereichen wie Kundenservice und Fehlerbehebung. Um jedoch das volle Potenzial dieser Technologie auszuschöpfen, ist es entscheidend, qualitativ hochwertige Systeme zu entwickeln und die Grenzen der Technologie zu verstehen. Nur durch die Kombination von Agenten, gutem Systemdesign und effektiver Softwaregestaltung können Unternehmen die Vorteile von KI-Agenten wirklich nutzen.

Quellenliste:

• Quelle: What Can Agents Actually Do?
• Anthropic API Documentation
• Context Engineering
• Meta Prompting
• OpenAI Function Calling Documentation