Zwischen Chaos und Kontrolle: Stabile Agenten mit Large Language Models
Stabile Agenten auf Basis von Large Language Models (LLMs) zu entwickeln, ist anspruchsvoll: Komplexe Aufgaben, wechselnde Anforderungen und unvorhersehbare Eingaben stellen hohe Anforderungen an Zuverlässigkeit und Transparenz.In diesem Vortrag teile ich praxisnahe Strategien, um Agenten robuster und präziser zu machen – von gezielter Kontextsteuerung über iterative Verfeinerung bis hin zu Caching. Ich zeige, was sich in der Praxis bewährt hat (und was nicht), und wie man Vertrauen in automatisierte Ergebnisse schafft.
Der Talk bietet konkrete Tipps und hart erlernte Muster für alle, die LLM-Agenten produktiv und stabil einsetzen wollen.
Vorkenntnisse
Ein generelles Verständnis wie man im Code LLMs steuern kann. Außerdem sollte Function Calling ein Begriff sein.
Die meisten Ergebnisse sind nicht nur für Agenten relevant, sondern beziehen sich auf LLM Entwicklung im Allgemeinen
Lernziele
Ziel ist es, Lessons Learned aus den vergangenen Projekten zu teilen und so die Programmierung von Software mit LLMs im Inneren zu vereinfachen:
- Context Engineering und Context Rot
- Chain of Thought Prompting
- Caching von LLM aufrufen
- Structured Output
- und ein paar andere Kleinigkeiten
Speaker
Daniel Töws Schon früh faszinierten Daniel die Möglichkeiten, wie Daten und Algorithmen unser Verständnis von Software verändern können. Nach seiner Zeit in der Forschung an der RWTH Aachen bringt er diese Neugier heute als GenAI Consultant bei der codecentric AG ein. Aktuell beschäftigt er sich vor allem mit LLM-basierten Agenten, mit denen er neue Wege der Prozessautomatisierung erschließt.
Marcus Hanhart entwickelt als GenAI-Consultant methodisch individuelle GenAI-Lösungen für und mit Kunden der codecentric AG. Sein Fokus liegt dabei auf der Automatisierung, dem Software Engineering und der Architektur. Python ist dabei meist die Sprache der Wahl und DevOps die Kultur