LLM-Agenten bauen: Unser Praxisbericht aus dem Unternehmensalltag

Jedes Unternehmen kennt sie: diese manuellen, zeitaufwändigen Aufgaben, die immer wiederkehren. Einen LLM-Agenten zu bauen, der genau diese Aufgaben eigenständig übernimmt, klingt nach Zukunftsmusik – ist es aber nicht. In unserem Learning-Friday-Projekt haben wir evaluiert, wie man einen KI-Agenten baut, der E-Mail-Inhalte wie Produkt-News und Events vollautomatisch recherchiert, aufbereitet und ins E-Mail-System überträgt. Dabei haben wir verschiedene Plattformen verglichen – von Vertex AI über n8n bis hin zu Claude Code – und zeigen, warum Security-Prinzipien wie Least Privilege bei der KI-Integration unverzichtbar sind.

Bei Gepardec nutzen wir unseren „Learning Friday“, um Herausforderungen mit neuesten Technologien zu begegnen. Unser Projektteam – bestehend aus Christoph, Egor, Florian, Günter, Sascha und Veronika – widmete sich im Projekt „Lama 007“ dem Aufbau eines automatisierten Agenten. Als Härtetest wählten wir die automatisierte Erstellung von E-Mail-Inhalten wie Produkt-News und Event-Ankündigungen – ein klassischer und wiederkehrender Prozess aus Recherche, Zusammenfassung, Formatierung und Übertragung in ein E-Mail-System.

Der Markt für KI-Tools ist unübersichtlich. Um die beste Lösung zu finden, haben wir verschiedene Ansätze evaluiert:

• Java Agents (ZSmith): Ein spannender Zero-Dependency-Ansatz.
• Vertex AI Agent Builder: Googles mächtige Plattform – für Nicht-Entwickler:innen aktuell noch etwas zu komplex.
• HubSpot Breeze Studio: Ein toller KI-Assistent im Editor, der aber den Gesamtprozess nicht eigenständig von Anfang bis Ende automatisiert.
• n8n Agent Builder: Eine großartige Open-Source-Plattform, die sich für unseren Use Case aber eher wie ein starres Workflow-Tool als nach adaptiver KI anfühlte.

Unsere Erkenntnis: Ein echter KI-Agent muss Kontext verstehen, selbstständig Werkzeuge nutzen und eigene Korrekturschleifen ziehen können – den sogenannten Agentic Loop aus Planung, Ausführung und Korrektur.

Um die verschiedenen Tools und Frameworks beurteilen zu können, mussten wir sie natürlich erst einmal ausprobieren. Während sich Florian und Sascha mit ZSmith befasst haben und damit einen Deep-Dive in die „Mechanik“ von Agenten gemacht haben, starteten Chris und Veronika mit den auf den ersten Blick anwenderfreundlichen Tools n8n Agent Builder und HubSpot Breeze Studio. Egor beschäftigte sich von Anfang an mit seinem aktuellen Lieblingstool: Claude Code.

Die Wahl fiel schließlich auf Claude Code. Das Interessante daran: Es ist ein Framework, das explizit für komplexe Software-Engineering-Aufgaben auf der Kommandozeile entwickelt wurde – nicht für Marketing-Automatisierung.

Dennoch funktionierte es hervorragend! Die Hypothese: Wenn ein Agent komplexe Software-Probleme analysieren und Code schreiben kann, kann er auch Informationen recherchieren, formatieren und API-Strukturen befüllen. Genau hier liegt der große Mehrwert: Die Prinzipien, nach denen wir diesen LLM-Agenten gebaut haben, lassen sich nahtlos auf unzählige allgemeine Aufgaben im Unternehmen übertragen. Ob Reports, Support-Tickets oder Datenpflege – die Architektur bleibt im Kern gleich.

Ein autonom handelnder KI-Agent birgt Risiken. Was passiert, wenn er halluziniert oder in der Zielplattform (hier HubSpot) Dinge löscht?

Hier haben wir ein wesentliches Security-Prinzip angewandt: Least Privilege (Begrenzung der Handlungsfähigkeit). Anstatt dem Agenten vollen API-Zugriff auf HubSpot zu geben, haben wir ein maßgeschneidertes, isoliertes Werkzeug (ein Shell-Skript) gebaut. Dieses Skript kann exakt nur eines: ein bestehendes E-Mail-Template klonen und mit dem vom Agenten generierten JSON-Entwurf aktualisieren.

Der Agent hat keinerlei Berechtigungen, andere E-Mails zu lesen oder Kontakte zu bearbeiten. So stellt man auf Enterprise-Level sicher, dass die KI ihre Aufgabe erfüllt, das Schadenspotenzial bei einem Fehler aber gegen null geht.

Das Ergebnis ist ein voll funktionsfähiger Prototyp. Der Agent recherchiert automatisiert Produkt-News und Events in definierten Quellen, befüllt ein komplexes JSON-Template und pusht den Entwurf über unser sicheres Tool direkt in das E-Mail-System. Was vorher mühsame Handarbeit war, passiert nun in wenigen Minuten. Dem Team bleibt lediglich der abschließende fachliche Review.

Da es sich um ein Learning Friday Projekt handelte, stand natürlich auch hier das Lernen im Vordergrund. Was also haben wir in diesem Projekt gelernt?

ZSmith hat uns gezeigt, wie LLM-Agenten intern funktionieren: Im Grunde genommen sind es nur endlos erscheinende Feedback-Schleifen mit einem LLM. Der Agent gibt den Benutzerauftrag gemeinsam mit den Beschreibungen der verfügbaren Tools an das LLM weiter. Das LLM antwortet mit dem Wunsch nach Tool-Aufrufen – der Agent führt diese durch und schickt den gesamten Chat gemeinsam mit den Ergebnissen des Tool-Aufrufs wieder an das LLM zurück. Das wird so lange wiederholt, bis das LLM entscheidet, dass sein Auftrag erfüllt ist, oder bis im Agent codierte Abbruchkriterien erfüllt wurden.

KI-Agenten sind im realen Unternehmenseinsatz angekommen. Als Bergführer für Software-Modernisierung verstehen wir bei Gepardec nicht nur, wie man Prompts schreibt. Wir wissen, wie man die Technologie bewertet, Agenten-Prinzipien auf deine spezifischen Workflows überträgt und diese Systeme sicher und kontrolliert in deine bestehende Architektur integriert.