Die Entwicklung von produktionsreifen KI-Agenten ist eine der bedeutendsten Herausforderungen in der modernen Software- und KI-Entwicklung. Paul Iusztin, ein Experte auf diesem Gebiet, hat sich intensiv mit der Architektur von KI-Agenten beschäftigt und einen detaillierten Einblick in den Tech-Stack gegeben, der notwendig ist, um KI-Systeme in die Produktion zu bringen. Das Verständnis dieses Tech-Stacks ist essenziell für Entwickler und Unternehmen, die skalierbare und robuste KI-Anwendungen realisieren möchten. Im Zentrum jeder KI-Anwendung stehen Daten. Daten sind die Grundlage für Trainingsverfahren, Modelloptimierungen und für die Fähigkeit eines Agenten, sinnvoll auf Anfragen zu reagieren.
Iusztin betont, dass selbst die besten Algorithmen ohne qualitativ hochwertige und saubere Daten kaum Erfolg versprechen. Um diesen Anforderungen gerecht zu werden, müssen Datenpipelines sorgfältig geplant und umgesetzt werden. Ein besonders interessanter Anwendungsfall ist die Datenarchitektur für sogenannte Retriever-Augmented Generation (RAG)-Modelle oder systembasierte Agenten, die mit großen Sprachmodellen (LLMs) interagieren. Die Datensammlung bildet den Ausgangspunkt. Unterschiedliche Quellen wie Notion, Web-Crawling, externe APIs und andere Datenbanken liefern das Rohmaterial.
Für die Aufbereitung empfiehlt sich die Nutzung eines einheitlichen Datenformats wie Markdown. Markdown ist nicht nur weit verbreitet, sondern wird auch von den meisten großen Sprachmodellen gut verarbeitet. Durch diese Standardisierung wird gewährleistet, dass der Inhalt konsistent und einfach zu verarbeiten ist. Zusätzlich ist es sinnvoll, Rohdaten als einen Snapshot in einem sogenannten Data Lake, beispielsweise auf Amazon S3, zu speichern. Dadurch bleibt die Originalquelle unverändert und dient als Referenz für spätere Verarbeitungsschritte.
Nach der Erfassung folgt der Transformationsprozess. Diese ETL-Phase (Extract, Transform, Load) ist das Herzstück der Datenpipeline. Hier werden Daten heruntergeladen, in speicherfreundliche Objekte umgewandelt und mit Metadaten versehen. Besonders spannend ist die Erweiterung durch das Crawlen von in den Dokumenten enthaltenen Links. So kann das System nicht nur die Ausgangsdokumente auswerten, sondern auch verknüpfte Ressourcen analysieren.
Dies erhöht die Breite und Tiefe der Grundlage, auf der der KI-Agent seine Antworten generiert. Eine weitere wichtige Komponente ist die Bewertung der Datenqualität. Da der Aufruf von LLMs teuer ist, empfiehlt Iusztin eine Kombination aus heuristischen Methoden und LLM-basierten Verfahren zur Qualitätsbewertung der Dokumente. Damit lassen sich die wertvollsten Inhalte priorisieren. Die Dokumente samt Qualitätsmetrik werden in einer dokumentenorientierten Datenbank, beispielweise MongoDB, gespeichert.
MongoDB zeigt seine Stärke als vielseitiger Speicherort für unstrukturierte Daten sowie für Embeddings, die in Retrieval-Systemen für RAG genutzt werden. Diese Plattform fungiert somit auch als logischer Feature Store und ermöglicht später effektive Filter- und Statistikfunktionen. Zur Organisation und Verwaltung der Datenpipelines ist der Einsatz eines MLOps-Frameworks wie ZenML ratsam. ZenML erleichtert das Versionieren, Nachvollziehen und Ausrollen von Pipelines, was gerade in produktiven Einsatzszenarien entscheidend ist. Dadurch bleibt der Entwicklungsprozess transparent und skalierbar.
Iusztin weist darauf hin, dass fundierte Kenntnisse im Bereich Datenengineering heutzutage zur Grundausstattung eines KI-Ingenieurs gehören und neben Modellierungsfähigkeiten zunehmend an Bedeutung gewinnen. Neben den Daten-Frameworks stellt die orchestrierende Komponente für KI-Agenten eine weitere Herausforderung dar. Im Projekt PhiloAgents hat Paul Iusztin gemeinsam mit seinem Kollegen Miguel Otero Pedrido ein interaktives Dorf geschaffen, in dem Philosophen-Non-Player-Characters (NPCs) als KI-Agenten funktionieren. Diese Umgebung dient als technisches Lehrbeispiel für eine skalierbare, interaktive KI-Architektur. Im Zentrum der Agenten liegt LangGraph – ein Framework, das die Agentenlogik, Zustandsverwaltung und von RAG-Mechanismen unterstützt.
Diese Struktur ermöglicht es, komplexe Agenten zu bauen, die auf unterschiedliche Umgebungsreize reagieren und dabei kontextbezogen agieren können. Für die Anbindung von Modellen kommt ein API-Service von Groq mit dem Llama 3.3 70B-Modell zum Einsatz, der besonders durch geringe Latenzzeiten und schnelle Reaktion im Streaming-Modus überzeugt. Gerade bei interaktiven Anwendungen ist dies essenziell, um eine natürliche Nutzererfahrung zu erzeugen. Den Speicher für das Blitzlicht des Agentengedächtnisses bilden ebenfalls MongoDB-Datenbanken.
Diese speichern Dialoghistorien, Wissensbasen der verschiedenen Philosophen und die Retrieval-Indizes, die für kontextualisierte Antworten unabdingbar sind. Kommunikationsseitig übernimmt FastAPI in Kombination mit WebSockets die Schnittstelle zwischen Backend und Frontend. Dieses Setup ermöglicht Echtzeit-Interaktion inklusive Streaming von Token-zu-Token-Antworten – vergleichbar dem bekannten ChatGPT-Verhalten. Die visuelle Darstellung der Agentenwelt erfolgt durch Phaser, einer JavaScript-basierten Spiele-Engine. Dadurch können Nutzer auf einfache Weise im Browser durch eine immersive Umgebung navigieren und mit den KI-Agenten agieren.
Zur Qualitätssicherung und Leistungsüberwachung wird das System durch Opik von Comet ergänzt. Es übernimmt das Versionsmanagement der Prompt-Vorlagen, überwacht das Nutzerverhalten und sorgt für ein transparentes Monitoring mittels automatisierter und menschlich abgestimmter Metriken. Solche Instrumente sind wichtig, um eine kontinuierliche Verbesserung der Agenten-Performance zu gewährleisten und Fehler frühzeitig zu erkennen. Ein ergänzendes, aber nicht minder wichtiges Element ist die Datenaufbereitung für Wissensquellen. Paul Iusztin beschreibt eine Pipeline, die philosophische Daten aus Quellen wie Wikipedia oder der Stanford Encyclopedia of Philosophy (SEP) crawlt, bereinigt, in handliche Text-Chunks aufteilt, doppelte Inhalte entfernt und diese anschließend mittels Embeddings indiziert.
Dies bildet die Grundlage für hybride RAG-Systeme, die aus indizierten und generierten Antworten ihre Erkenntnisse schöpfen. Die wichtige Botschaft des Experten ist, dass trotz des allgegenwärtigen Hypes um KI-Agenten die größte Herausforderung darin liegt, alle technischen Komponenten sinnvoll zu integrieren. Das richtige Zusammenspiel von Dateninfrastruktur, Modellmanagement, Speicherlösungen und Echtzeitkommunikation entscheidet über den Erfolg. Iusztin empfiehlt daher, sich nicht in einer Flut von Tools zu verlieren, sondern durchdachte, erprobte Stacks zu nutzen und schrittweise zu erweitern. Auf seiner Plattform stellt er neben ausgesuchten Kursen und offenen Ressourcen zahlreiche Lektionen bereit, um Interessierten den Einstieg in die komplexe Welt produktionsfähiger KI-Anwendungen zu erleichtern.
Wer aktiv Agenten bauen möchte, findet hier neben Theorien auch praktische Anleitungen, wie man solche Systeme end-to-end umsetzt – von der Datensammlung über die Pipeline bis hin zum Einsatz der Agenten in realen Anwendungen. Zusammenfassend lässt sich sagen, dass der Tech-Stack für produktionsreife KI-Agenten eine vielschichtige Kombination verschiedener Technologien ist, die nahtlos aufeinander abgestimmt sein müssen. Datenpipelines bilden die Grundlage für Informationsgewinnung und -aufbereitung, während robuste Frameworks und Datenbanken das Rückgrat für Speicherung und Retrieval darstellen. Moderne API-Services sorgen für schnelle Modellinferenz, und mit Echtzeit-Kommunikation und interaktiven Frontends entsteht eine Benutzererfahrung, die Menschen mit künstlicher Intelligenz natürlich interagieren lässt. Die Innovationskraft und Komplexität solcher Systeme sind enorm, doch mit einer klaren Architektur und einem erfahrenen Tech-Stack eröffnen sich vielfältige Möglichkeiten – von virtuellen Assistenten bis hin zu interaktiven Bildungsspielen und darüber hinaus.
Paul Iusztins Arbeit stellt hier eine wertvolle Ressource dar, die Entwickler befähigt, leistungsfähige KI-Agenten erfolgreich in die Praxis zu überführen und zukunftsweisende Anwendungen zu schaffen.
