AI Agents spielen eine zunehmend wichtige Rolle in aktuellen KI-Anwendungen. Während ein Large Language Model (LLM) in der Regel eine Eingabe verarbeitet und darauf eine Antwort generiert, umfasst der Ablauf bei AI Agents häufig mehrere Schritte. Sie können Entscheidungen über den weiteren Ablauf treffen und mithilfe von Tools auch Aktionen ausführen oder zusätzliche Informationen abrufen.
In unserem vorherigen Blogbeitrag haben wir schon kurz erklärt, was unter einem Agenten zu verstehen ist, uns dort aber hauptsächlich auf Agentic RAG und Multi-Agentic RAG konzentriert. Mehr zu diesen beiden Ansätzen finden Sie in unserem Blogbeitrag „RAG neu gedacht: Agents, Agentic RAG und Multi-Agentic RAG„.
In diesem Beitrag beschäftigen wir uns ausführlicher mit AI Agents selbst. Wir schauen uns an, wie ein AI Agent aufgebaut ist, wie agentische Workflows funktionieren und welche unterschiedlichen Architekturen von AI Agents es gibt.
Erläuterung der Begriffe
Bevor wir uns den Aufbau und die Funktionsweise von AI Agents genauer ansehen, sollten zunächst einige grundlegende Begriffe geklärt werden. Sie helfen dabei, die Abläufe und das Zusammenspiel der einzelnen Komponenten eines agentischen Systems besser zu verstehen.
AI Agents
Unter einem AI Agent versteht man ein System, dessen Verhalten nicht vollständig deterministisch ist. Es generiert nicht nur Antworten auf Basis einer Eingabe, sondern kann auch selbstständig Entscheidungen über die Bearbeitung einer Aufgabe treffen. Im Zentrum eines AI Agents steht in der Regel ein LLM, das die Verarbeitung der Anfrage steuert und dabei Zwischenergebnisse berücksichtigt. Ein Agent kann eine Aufgabe über mehrere Schritte hinweg bearbeiten, bevor eine endgültige Antwort generiert wird. Dabei kann das LLM beispielsweise ein geeignetes Tool auswählen, zusätzliche Informationen abrufen lassen und die erhaltenen Ergebnisse in die weitere Bearbeitung einbeziehen.
Ein AI Agent arbeitet dabei jedoch nicht völlig unabhängig. Welche Aktionen möglich sind, hängt unter anderem von den verfügbaren Tools, den vorgegebenen Anweisungen, den Berechtigungen und weiteren technischen Rahmenbedingungen ab. Der Agent arbeitet also innerhalb festgelegter Grenzen, kann aber selbst entscheiden, wie die Bearbeitung einer Anfrage fortgesetzt werden soll.
Tools
Damit AI Agents Informationen beschaffen oder Aktionen ausführen können, greifen sie auf Tools zu. Dabei handelt es sich um Funktionen oder Schnittstellen, über die ein Agent beispielsweise eine Datenbank abfragen, eine API aufrufen oder eine Websuche durchführen kann.
Bei der Nutzung von Tools wird ein Unterschied zwischen klassischer Software und AI Agents deutlich. Klassische Software folgt in der Regel klar definierten Abläufen: Für eine bestimmte Funktion ist festgelegt, welche Eingaben sie erwartet und wie sie ausgeführt wird. AI Agents arbeiten dagegen nicht vollständig deterministisch. Bei derselben oder einer ähnlichen Anfrage kann ein Agent unterschiedliche Entscheidungen treffen, beispielsweise ein Tool aufrufen, zunächst weitere Informationen anfordern oder auf Grundlage bereits vorhandener Informationen antworten.
Tools bilden damit eine Schnittstelle zwischen dem nicht-deterministischen Verhalten eines AI Agents und den klar definierten Funktionen klassischer Softwaresysteme. Das LLM entscheidet, ob und welches Tool für die Bearbeitung einer Aufgabe benötigt wird. Das Agentensystem ermöglicht anschließend den technischen Aufruf des Tools und stellt das Ergebnis wieder dem Modell zur Verfügung.
Nutzung eines Tools
Damit ein AI Agent ein Tool verwenden kann, muss dieses zunächst technisch in die Anwendung eingebunden und dem Modell mit seiner Funktion sowie den benötigten Eingaben bekannt gemacht werden. Dafür gibt es unterschiedliche Möglichkeiten. Eine Möglichkeit ist das Model Context Protocol (MCP). Dabei handelt es sich um einen offenen Standard, über den AI-Anwendungen auf Tools, Ressourcen und Prompts zugreifen können. Ein MCP-Server stellt die verfügbaren Tools bereit und beschreibt, welche Funktionen sie haben und welche Eingaben sie benötigen. Die KI-Anwendung kann diese Informationen abrufen und ein Tool bei Bedarf aufrufen. Wie MCP im Detail funktioniert, würde den Umfang dieses Beitrags überschreiten und kann daher in einem eigenen Blogbeitrag behandelt werden.
MCP ist dabei nicht die einzige Möglichkeit zur Tool-Nutzung. Tools können beispielsweise auch über „Function Calling“ eingebunden werden.
In diesem Fall werden dem Modell die verfügbaren Funktionen mit ihrer Beschreibung und den benötigten Parametern bekannt gemacht. Erkennt das Modell, dass eine dieser Funktionen für die Bearbeitung einer Aufgabe benötigt wird, kann es festlegen, welche Funktion mit welchen Parametern aufgerufen werden soll. Die Anwendung führt diesen Aufruf anschließend aus und gibt das Ergebnis wieder an das Modell zurück.
Memory (Gedächtnis)
Damit ein AI Agent eine Aufgabe über mehrere Schritte hinweg bearbeiten oder eine zusammenhängende Unterhaltung mit einem Benutzer führen kann, muss er relevante Informationen aus vorherigen Interaktionen berücksichtigen können. Dafür spielt Gedächtnis eine wichtige Rolle. Es ermöglicht dem Agenten, Informationen über den bisherigen Verlauf zu behalten und bei späteren Entscheidungen wieder einzubeziehen.
Dabei kann grundsätzlich zwischen Kurzzeit- und Langzeitgedächtnis unterschieden werden.
Kurzzeitgedächtnis umfasst Informationen, die für die aktuelle Unterhaltung oder die gerade bearbeitete Aufgabe relevant sind, beispielsweise den bisherigen Chatverlauf, Zwischenergebnisse oder bereits ausgeführte Aktionen. Diese Informationen werden also vor allem während der aktuellen Bearbeitung benötigt.
Langzeitgedächtnis ermöglicht es dagegen, ausgewählte Informationen über einzelne Unterhaltungen oder Ausführungen hinweg zu speichern und später wieder abzurufen. Auf diese Weise können relevante Informationen auch in späteren Unterhaltungen oder bei neuen Aufgaben wieder berücksichtigt werden. Dafür können beispielsweise Datenbanken verwendet werden, um relevante Informationen aus vergangenen Verläufen dauerhaft zu speichern.
Reasoning
Reasoning beschreibt vereinfacht die Fähigkeit eines Modells, Informationen zu analysieren, Zusammenhänge zu erkennen und daraus Schlussfolgerungen oder nächste Schritte abzuleiten.
Bekannte Ansätze in diesem Zusammenhang sind beispielsweise:
- Chain-of-Thought (CoT): Das Modell zerlegt ein Problem in mehrere gedankliche Zwischenschritte, um zu einer Lösung zu gelangen.
- ReAct (Reasoning + Acting): Reasoning wird mit Aktionen kombiniert. Auf einen Reasoning-Schritt kann beispielsweise ein Tool-Aufruf folgen, dessen Ergebnis anschließend in die weitere Bearbeitung einfließt.
Chain-of-Thought (CoT) und ReAct sind dabei nicht als konkurrierende Ansätze zu verstehen, sondern können sich ergänzen. Während CoT den schrittweisen Denkprozess des Modells unterstützt, erweitert ReAct diesen Ansatz um Aktionen und die daraus gewonnenen Ergebnisse.
Typen von AI Agents
AI Agents lassen sich nach unterschiedlichen Kriterien einteilen. Betrachtet man ihre Aufgaben in Arbeitsabläufen können beispielsweise drei Typen unterschieden werden: Productivity Agents, Action Agents und Automation Agents wie in Abbildung 1 zu sehen ist.
Productivity Agents: Sie unterstützen Benutzer vor allem bei der Suche und Zusammenführung von relevanten Informationen, wenn sie eine Anfrage erhalten. Dafür greifen sie über Knowledge Tools auf unterschiedliche Datenquellen zu und stellen die benötigten Informationen für die jeweilige Anfrage bereit. Auf diese Weise kann der Zeitaufwand für die Informationssuche reduziert und die Genauigkeit der bereitgestellten Informationen verbessert werden.
Action Agents: Sie übernehmen konkrete Aufgaben innerhalb bereits definierter Abläufe. Sie können beispielsweise Datensätze aktualisieren oder bestimmte Prozesse anstoßen. Um solche Aufgaben zu erledigen, nutzen sie sowohl Knowledge Tools zur Informationsbeschaffung als auch Action Tools, mit denen bestimmte Aktionen ausgeführt werden können. Dadurch können Arbeitsschritte automatisiert und Fehler bei manuellen Eingaben reduziert werden.
Automation Agents: Automation Agents kommen vor allem dann zum Einsatz, wenn nicht nur einzelne Aktionen, sondern ganze mehrstufige Abläufe automatisiert werden sollen. Sie können Informationen abrufen, Aktionen ausführen und zusätzlich auf bestimmte Ereignisse oder Bedingungen reagieren. Um das zu erreichen, nutzen diese Agents eine Kombination aus Knowledge Tools, Action Tools und Triggern, die beispielsweise festlegen, wann ein Prozess gestartet, gestoppt oder ein weiterer Schritt ausgelöst wird. Dadurch können Prozesse mit nur wenigen manuellen Eingriffen über mehrere Schritte hinweg bearbeitet werden. Gleichzeitig steigt mit dem höheren Grad an Autonomie auch die Komplexität des Systems, weshalb klare Regeln, Kontrollmechanismen und Verantwortlichkeiten erforderlich sind.
Agentische Architekturen
Eine agentische Architektur beschreibt den technischen Aufbau eines Systems, in dem ein oder mehrere AI Agents Aufgaben über mehrere Schritte hinweg bearbeiten können. Sie legt fest, welche Rolle Komponenten wie das Large Language Model, Tools, Memory und die Orchestrierung übernehmen, wie diese zusammenspielen und auf welche Weise die Agents auf externe Datenquellen oder Systeme zugreifen können. Diese Architektur schafft damit den technischen Rahmen, in dem dieses agentische Verhalten möglich wird.
Agentische vs. nicht-Agentische Architektur
Im Unterschied zu einem einfachen Frage-Antwort-Ablauf kann der Agent abhängig von der Anfrage und den bisherigen Ergebnissen entscheiden, welche Schritte als Nächstes notwendig sind. Er kann beispielsweise ein Tool auswählen, zusätzliche Informationen abrufen oder nach einem Zwischenergebnis den weiteren Ablauf anpassen.
Bei einem nicht-agentischen Workflow ist der Ablauf weitgehend im Voraus festgelegt. Das System durchläuft definierte Schritte und das LLM verarbeitet die Eingaben innerhalb dieses vorgegebenen Ablaufs. In einem agentischen System kann das Modell dagegen abhängig von der Aufgabe und den Zwischenergebnissen dynamischer entscheiden, welcher Schritt als Nächstes ausgeführt werden soll.
Der Unterschied liegt damit weniger darin, ob überhaupt ein LLM oder ein Tool verwendet wird, sondern darin, wie stark der Ablauf vorgegeben ist und wie viel Entscheidungsspielraum das Agentensystem während der Bearbeitung besitzt.
Arten von agentischen Architekturen
Je nachdem, wie viele Agents in einem Workflow zum Einsatz kommen und wie sie miteinander kommunizieren bzw. strukturiert sind, können unterschiedliche agentische Architekturen entstehen. Wie in Abbildung 2 dargestellt, gibt es zunächst Single-Agent- und Multi-Agent-Architekturen. Multi-Agent-Architekturen können wiederum beispielsweise vertikal, horizontal oder hybrid aufgebaut sein. Im Folgenden werden diese möglichen Architekturen näher betrachtet.
Single-Agent-Architektur
Bei einer Single-Agent-Architektur besteht das System aus einem einzelnen AI Agent, der innerhalb seiner Umgebung Entscheidungen trifft und Aktionen ausführt, um ein bestimmtes Ziel zu erreichen. Eine Abstimmung mit weiteren Agents ist nicht erforderlich.
Der Vorteil dieser Architektur liegt vor allem in ihrer vergleichsweise einfachen Struktur. Da nur ein Agent verwaltet werden muss, sind Entwicklung und Überwachung häufig weniger aufwendig als bei Multi-Agent-Systemen. Auch zusätzliche Kommunikation zwischen mehreren Agents entfällt, wodurch der Ablauf in vielen Fällen übersichtlicher bleibt und der technische Aufwand geringer ausfallen kann.
Grenzen können entstehen, wenn sehr unterschiedliche oder komplexere Aufgaben gleichzeitig abgedeckt werden müssen. Zwar kann auch ein einzelner Agent mehrere Aufgaben bearbeiten, mit zunehmender Komplexität können jedoch die Tool-Auswahl und die Entscheidungslogik aufwendiger werden.
Single-Agent-Architekturen eignen sich besonders für klar abgegrenzte und überschaubare Aufgaben. Ein Beispiel sind einfache Chatbots, bei denen ein einzelner Agent Benutzeranfragen verarbeitet und bei Bedarf Tools nutzt, um zusätzliche Informationen abzurufen oder Aktionen auszuführen. Auch Empfehlungssysteme können mit einer Single-Agent-Architektur umgesetzt werden, wenn ein einzelner Agent beispielsweise Benutzerpräferenzen und verfügbare Inhalte berücksichtigt und daraus passende Empfehlungen ableitet.
Multi-Agent-Architektur
Bei einer Multi-Agent-Architektur arbeiten mehrere AI Agents innerhalb eines Systems zusammen. Die einzelnen Agents können dabei unterschiedliche Rollen, Fähigkeiten oder Zuständigkeiten übernehmen und gemeinsam an einer Aufgabe oder einem übergeordneten Ziel arbeiten.
Vertikale Architektur:
Eine vertikale Architektur ist hierarchisch aufgebaut. Ein übergeordneter Agent, auch Leiter oder Orchestrator genannt, übernimmt die Koordination und verteilt Aufgaben an weitere Agents, die als Arbeiter fungieren. Diese bearbeiten ihre jeweiligen Teilaufgaben und geben die Ergebnisse zurück. Ein Vorteil liegt in der klaren Verteilung der Zuständigkeiten und der zentralen Koordination.
Die starke Abhängigkeit von einem zentralen Agenten kann jedoch auch zum Nachteil werden. Wenn viele Entscheidungen über eine einzige Stelle laufen, kann dies den Ablauf verlangsamen. Probleme an dieser Stelle können sich außerdem auf das gesamte System auswirken.
Vertikale Architekturen eignen sich daher besonders für Prozesse, bei denen klare Zuständigkeiten und eine zentrale Steuerung wichtig sind. Ein typischer Anwendungsfall kann ein komplexerer Chatbot sein, bei dem mehrere spezialisierte Agents unterschiedliche Teilaufgaben übernehmen, beispielsweise eine Websuche durchführen oder Informationen aus einer Datenbank abrufen. Ein übergeordneter Orchestrator-Agent koordiniert dabei den Einsatz der einzelnen Agents, führt ihre Ergebnisse zusammen und bestimmt den weiteren Ablauf.
Abbildung 3 zeigt ein Beispiel für eine vertikale Multi-Agent-Architektur. Der Benutzer stellt zunächst eine Anfrage, die vom Orchestrator-Agenten entgegengenommen wird. Dieser koordiniert den weiteren Ablauf und entscheidet, welche Agents für die Bearbeitung der Anfrage benötigt werden. In diesem Beispiel stehen dafür ein RAG-Agent und ein Code-Agent zur Verfügung. Der RAG-Agent beschafft relevante Informationen aus internen oder externen Quellen. Der Code-Agent erstellt und analysiert Code. Die Agents können dabei auf gemeinsame Ressourcen wie Tools, Memory und Datenbanken zugreifen. Nachdem die spezialisierten Agents ihre Aufgaben bearbeitet haben, überprüft ein Evaluierungs-Agent die zurückgegebenen Ergebnisse auf Richtigkeit, Vollständigkeit und Qualität. Wenn die Prüfung erfolgreich ist, wird auf Grundlage dieser Ergebnisse eine Antwort an den Benutzer ausgegeben.
Horizontale Architektur:
Bei einer horizontalen Architektur arbeiten mehrere Agents eher gleichberechtigt zusammen. Entscheidungen werden nicht ausschließlich von einem zentralen Agenten getroffen. Aufgaben werden gemeinsam von mehreren Agents bearbeitet, die miteinander kommunizieren und Informationen austauschen.
Eine solche Architektur kann sich insbesondere dann eignen, wenn unterschiedliche Perspektiven berücksichtigt oder mehrere Teilaufgaben parallel bearbeitet werden sollen. Da mehrere Agents eine Aufgabe jeweils anders analysieren können, lassen sich verschiedene Lösungsansätze einbeziehen. Gleichzeitig wird die Koordination anspruchsvoller, da die Agents ihre Arbeit und Ergebnisse untereinander abstimmen müssen. Dadurch kann es länger dauern, bis ein gemeinsames Ergebnis vorliegt. Ein typischer Anwendungsfall kann die Bearbeitung komplexer Fragestellungen sein, bei denen mehrere Agents parallel unterschiedliche Lösungsansätze entwickeln und ihre Ergebnisse gemeinsam bewerten.
Abbildung 4 zeigt ein Beispiel einer solchen Architektur. In diesem Beispiel soll auf Grundlage einer Benutzeranfrage ein Bericht erstellt werden. Für diese Aufgabe arbeiten ein Research Agent, ein Writer Agent und ein Reviewer Agent zusammen. Der Research Agent beschafft relevante Informationen, der Writer Agent erstellt und strukturiert daraus den Bericht und der Reviewer Agent überprüft den Entwurf und gibt Verbesserungsvorschläge. Die Agents kommunizieren dabei über einen gemeinsamen Group Chat, tauschen Informationen und Ergebnisse aus und können bei Bedarf weitere Informationen voneinander anfordern. Zusätzlich können sie auf gemeinsame Ressourcen wie eine Wissensdatenbank, Unternehmensdokumente, externe Tools und Memory zugreifen. Auf diese Weise entsteht der Bericht durch die Zusammenarbeit mehrerer spezialisierter Agents.
Hybride Architektur:
Eine hybride Architektur kombiniert vertikale und horizontale Strukturen. Sie verbindet die zentrale Koordination einer vertikalen Architektur mit der Zusammenarbeit gleichberechtigter Agents aus einer horizontalen Architektur.
Je nach Aufgabe oder Phase kann dabei ein übergeordneter Agent die Führung übernehmen, während die spezialisierten Agents in anderen Situationen direkter miteinander zusammenarbeiten. Dadurch lässt sich die Architektur flexibel an unterschiedliche Anforderungen anpassen. Gleichzeitig wird die Koordination komplexer, da Führungsrollen und Zusammenarbeit aufeinander abgestimmt werden müssen.
Ein Vorteil dieser Architektur liegt darin, dass je nach Situation sowohl eine zentrale Steuerung als auch eine direkte Zusammenarbeit zwischen mehreren Agents möglich ist.
Ein möglicher Anwendungsfall sind komplexe Analyse- oder Planungsaufgaben, bei denen bestimmte Schritte zentral koordiniert werden, während andere parallel von mehreren Agents bearbeitet werden.
Abbildung 5 zeigt ein Beispiel für eine hybride Multi-Agent-Architektur. Der Benutzer stellt zunächst eine Anfrage, die vom Orchestrator-Agenten aufgenommen wird. Dieser übernimmt die Planung und Koordination des Ablaufs und kann Aufgaben an spezialisierte Agents weitergeben. In diesem Beispiel arbeiten ein Research Agent, ein Data-Analysis Agent und ein Review Agent zusammen. Sie übernehmen unterschiedliche Teilaufgaben und können ihre Ergebnisse direkt untereinander austauschen. Dadurch entsteht neben der zentralen Steuerung durch den Orchestrator auch eine direkte Zusammenarbeit zwischen den Agents. Zusätzlich können die Agents auch hier auf gemeinsame Ressourcen wie Memory, Tools und Datenbanken zugreifen. Die Ergebnisse fließen anschließend wieder zum Orchestrator zurück, der sie zusammenführt und daraus die finale Antwort für den Benutzer erstellt.
Vorteile und Grenzen von AI Agents
AI Agents bieten vor allem dann Vorteile, wenn Aufgaben nicht mit einem einzelnen Verarbeitungsschritt erledigt werden können. Mit ihrer Fähigkeit, komplexere Aufgaben in mehrere Schritte aufzuteilen, Tools zu verwenden und ihren weiteren Ablauf abhängig von den bisherigen Ergebnissen anzupassen, können sie umfangreiche Prozesse automatisieren und zahlreiche Datenquellen oder Systeme in die Bearbeitung einer Aufgabe einbeziehen.
Auf der anderen Seite bringt die Verwendung agentischer Workflows auch Herausforderungen mit sich. Mit zunehmender Autonomie und einer größeren Anzahl an Tools oder beteiligten Agents steigt die Komplexität des Systems. Entscheidungen und Tool-Aufrufe müssen nachvollziehbar bleiben, Berechtigungen klar geregelt und mögliche Fehler berücksichtigt werden. Auch die Kosten eines agentischen oder multi-agentischen Systems müssen von Unternehmen berücksichtigt werden. Je komplexer das System ist und je mehr LLM-Aufrufe für die Bearbeitung einer Aufgabe erforderlich sind, desto höher können die Kosten ausfallen.
Fazit und Ausblick
Agentische Workflows erweitern klassische LLM-Anwendungen um die Möglichkeit, Aufgaben über mehrere Schritte hinweg zu bearbeiten und den weiteren Ablauf abhängig von bisherigen Ergebnissen anzupassen. Je nach Anwendungsfall können dabei sowohl Single-Agent- als auch Multi-Agent-Architekturen zum Einsatz kommen. Bei Multi-Agent-Systemen können die einzelnen Agents wiederum unterschiedlich organisiert sein, beispielsweise in vertikalen, horizontalen oder hybriden Strukturen.
AI Agents sind jedoch nicht für jede Aufgabe gleichermaßen geeignet. Bei einfachen und klar definierten Abläufen kann ein klassischer Workflow sehr effizient und häufig einfacher umzusetzen sein. Der Einsatz eines agentischen Systems sollte deshalb zunächst geprüft werden. Dabei sollte bewertet werden, ob eine solche Architektur für die jeweilige Aufgabe sinnvoll ist und wie sie effizient umgesetzt werden kann
Agentische Systeme werden heute schon in vielen KI-Anwendungen eingesetzt und unterstützen bei der Bearbeitung komplexerer und mehrstufiger Aufgaben. Gleichzeitig werden bestehende Ansätze und Architekturen kontinuierlich weiterentwickelt. Es ist daher zu erwarten, dass AI Agents in den kommenden Jahren in noch mehr Bereichen eingesetzt werden.
