KI-Agent

Was unterscheidet einen KI-Agenten von einem Chatbot?

Ein Chatbot antwortet über vorgeschriebene Dialogabläufe oder einen einzelnen LLM-Aufruf. Er ist reaktiv und auf Textgenerierung beschränkt. Ein KI-Agent hingegen darf Aktionen ausführen: ein CRM abfragen, einen Termin planen, eine Bestellung erstatten, eine E-Mail versenden. Der Agent entscheidet selbst, welche Tools er aufruft, in welcher Reihenfolge und was mit den Ergebnissen geschieht, ganz ohne dass jemand den Ablauf vorab schreibt.

Drei konkrete Unterschiede:

• Toolnutzung: Ein Agent kann Funktionen aufrufen; ein Chatbot generiert nur Text.
• Mehrstufiges Schließen: Ein Agent kann Aktionen verketten (die Bestellung nachschlagen, den Versandstatus prüfen, eine Erstattung entwerfen) innerhalb einer Nutzeranfrage.
• Zustandsverwaltung: Ein Agent hält den Kontext über Gesprächsrunden und über Tool-Aufrufe innerhalb einer Sitzung hinweg fest.

Wie KI-Agenten aufgebaut sind

Ein KI-Agent besteht aus vier Hauptbestandteilen:

1. Ein Basis-LLM (Anthropic Claude, OpenAI GPT, Mistral usw.), das Sprachverständnis und Entscheidungsfindung übernimmt.
2. Ein Toolset, typisierte Funktionsdefinitionen, die das LLM aufrufen darf (z. B. `get_order_by_id`, `send_email`).
3. Ein Orchestrator, der zwischen dem LLM und den Tools vermittelt, Tool-Aufrufe ausführt und die Ergebnisse in das Gespräch zurückspeist.
4. Eine Gedächtnis- oder Kontextschicht, die frühere Runden, abgerufenes Wissen und Tool-Ausgaben über die Sitzung hinweg bewahrt.

Moderne Agent-Plattformen, darunter Conveya, nutzen das native Tool-Calling-Protokoll des LLM-Anbieters (z. B. die tool_use-Blöcke von Anthropic oder das Function Calling von OpenAI), damit die Orchestrierungslogik deklarativ bleibt.

Wann ein KI-Agent und wann ein Chatbot

KI-Agenten sind sinnvoll, wenn die Antwort Daten erfordert, die nicht im Trainingsdatensatz des Chatbots stehen, etwa Bestellstatus, Kundendaten, Terminverfügbarkeit, und wenn der Nutzer eine Aktion erwartet und nicht nur eine Antwort. Einen Chatbot sollten Sie nur für Fragen und Antworten mit festen Antworten einsetzen, bei denen sich jede mögliche Antwort im Voraus verfassen lässt.

Speziell im Kundenservice liegen die Kosten pro Lösung bei einem Agenten in der Regel niedriger als bei einem Chatbot, sobald das Volumen nicht mehr trivial ist, weil Agenten Fälle von Anfang bis Ende lösen, statt für Datenabfragen an Menschen zu eskalieren.

Risiken und Grenzen

• Halluzination: wenn ein Agent einen Tool-Aufruf oder eine Tatsache erfindet. Wird durch typisierte Tooldefinitionen und Validierung der Ergebnisse begrenzt.
• Autorisierung von Aktionen: Ein Agent kann im Prinzip destruktive Aktionen ausführen (Daten löschen, Massen-E-Mails versenden). Wird durch Berechtigungsscopes pro Tool und Human-in-the-Loop-Kontrollen für riskante Vorgänge begrenzt.
• Latenz: Tool-Aufrufe verursachen zusätzliche Hin- und Rückläufe. Ein gut konstruierter Agent bleibt für Support-Anwendungen unter drei Sekunden pro Runde.
• Kosten: Agenten verbrauchen mehr LLM-Tokens als Chatbots mit einem einzigen Aufruf. Wird durch aggressives Caching und Routing zu kleinen Modellen für einfache Runden begrenzt.