Die rasante Entwicklung von Software hat die Anforderungen an Performance und Skalierbarkeit in den letzten Jahren drastisch erhöht. Besonders in der Profilerstellung und Performance-Analyse von Anwendungen, die komplexe und heterogene Workloads verarbeiten, stoßen viele bestehende Tools an ihre Grenzen. Zymtrace, ein innovatives Unternehmen im Bereich Performance-Optimierung, hat mit seiner AI Flamegraph-Technologie einen bedeutenden Schritt gemacht, um diese Herausforderungen zu meistern. Der Wechsel von TypeScript zu Rust und die Integration von WebAssembly (WASM) markieren dabei eine technologische Neuorientierung, die weit über reine Optimierungen hinausgeht. Doch wie kam es zu diesem Entschluss und was macht das neue System so besonders? Zunächst war das ursprüngliche System von Zymtrace, das auf einer modifizierten Version des Open-Source-Projekts Speedscope basierte, ausreichend für die ersten Veröffentlichungen und frühes Kundenfeedback.
Die Priorität lag damals auf einer schnellen Markteinführung. Allerdings zeigten sich bald Probleme mit der Skalierbarkeit und Performance, insbesondere bei der Darstellung großer und komplexer Flamegraphs. Die Performance litt unter Verzögerungen und Stottern, die Benutzererfahrung wurde dadurch erheblich beeinträchtigt. Zudem erschwerte die Nutzung von TypeScript intensive Anpassungen und Erweiterungen des Systems. Daher entschieden sich die Entwickler, den Renderer von Grund auf neu zu entwickeln – diesmal in Rust.
Dafür sprachen mehrere Gründe: Rust verspricht nicht nur eine bessere Kontrolle über Speicher und CPU-Ressourcen, sondern ermöglicht auch die Erstellung von hochperformanten, sicheren Systemkomponenten. Die Kompilierung nach WebAssembly erlaubt es, Rust-Code effizient im Browser auszuführen und so die Vorteile moderner Webtechnologien zu nutzen, ohne Performanceeinbußen durch ein interpretiertes JavaScript. Die Umsetzung erfolgte mit Rust als Kernsprache für die Backend-Logik, welche als WASM-Modul in eine React-Frontend-Umgebung eingebunden wurde. Zur visuellen Darstellung der Flamegraphs werden technologiespezifische Bibliotheken wie egui und WebGL eingesetzt. Ein zentrales Element der neuen Architektur ist die stringbasierten Dateninternierung, also das gezielte Einsparen von duplizierten Strings in den Flamegraph-Daten.
In einer Flamegraph-Struktur machen Strings wie Funktionsnamen, Dateipfade oder ausführbare Module oft einen großen Teil der gespeicherten Informationen aus. Da sich viele dieser Strings wiederholen, nutzt Zymtrace ein System, das diese mehrfach vorkommenden Werte dedupliziert und per Referenz hält. Diese Maßnahme reduziert den Speicherbedarf drastisch und beschleunigt gleichzeitig die Verarbeitung. Unterstützt wird dies durch die Serialisierungsbibliothek rkyv, die Zero-Copy-Deserialisierung ermöglicht. So werden große Datenmengen nahezu ohne zusätzliche Speicherbelegung direkt an die Frontend-Komponente übergeben.
Der Unterschied zu klassischen JSON-formatierten Daten ist enorm: Ein Vergleich zeigte eine Reduzierung der Dateigröße von mehreren Megabyte auf wenige Kilobyte. Eine weitere Innovation ist die Implementierung eines kompakt angeordneten, unveränderlichen Graphlayouts, das optimal für schnelle Iterationen und Zugriffe auf die Flamegraph-Daten strukturiert ist. Im Speicher werden alle Knoten des Graphen in einem zusammenhängenden Array abgelegt. Dadurch entfällt das häufige Nachverfolgen von Zeigern, was enorme CPU-Cache-Vorteile mit sich bringt. Mit Hilfe von speziellen Offset-Werten kann beim Rendering schnell über Unterbäume innerhalb des Graphen gesprungen werden, was das Ein- und Ausblenden von Knoten und das effiziente Ausfiltern nicht sichtbarer Teile ermöglicht.
Genau diese Optimierungen bewirken, dass das System bei der visuellen Darstellung von Flamegraphs mit tausenden von Knoten selten mehr als wenige hundert davon aktiv verarbeiten muss. Das erlaubt ein flüssiges Nutzererlebnis auch bei sehr komplexen Profilingszenarien. Das konsequente Prinzip weniger zu tun – also nur die zwingend notwendigen Knoten zu rendern und zu verarbeiten – wurde konsequent umgesetzt. Berechnungen, die auf große Datenmengen zugreifen müssten, werden ausgeschlossen, sobald sich abzeichnet, dass der betreffende Knoten nicht sichtbar sein wird. Ebenso werden unnötige Rechenzyklen für Knoten abgeschnitten, deren Breite zu klein ist, um sinnvolle Informationen darzustellen.
Die Ergebnisse dieser Neuentwicklung sprechen für sich. Der Codeumfang des Flamegraph-Renderers reduzierte sich von etwa 19.000 Zeilen TypeScript-Code auf nur noch rund 3.000 Zeilen Rust-Code. Neben der offensichtlichen Wartungsfreundlichkeit führte die neue Implementierung zu einer mehr als sechsfachen Steigerung der Rendering-Geschwindigkeit.
Die gefürchteten Lags und Stottererscheinungen, die bei früheren Lösungen bei großen Datensätzen auftraten, wurden vollständig eliminiert. Zudem wissen die Entwickler die verbesserte Kontrolle über Speicherressourcen und Algorithmusgestaltung sehr zu schätzen. Rust bietet im Vergleich zu JavaScript nicht nur eine sichere, sondern auch eine predictable Speicherverwaltung, was in einem hochperformanten Profiling-Tool entscheidend ist. Aber Zymtrace geht mit seinem Flamegraph-Renderer noch über den reinen Performance-Zuwachs hinaus. Die optimierte Architektur erlaubt es, neue Features einfacher umzusetzen und bestehende Komponenten leichter zu warten.
Dadurch bleibt das Produkt flexibel für zukünftige Anforderungen im Bereich heterogener Workloads, die sich zunehmend durch die Kombination von CPUs, GPUs und spezialisierten AI-Beschleunigern auszeichnen. Wer in der Praxis die Leistungsfähigkeit von Zymtrace erleben möchte, kann heute bereits die kostenlose Testversion nutzen und von der hohen Geschwindigkeitsperformance profitieren. Die Technologie ist auf dem neuesten Stand und zeigt, wie moderne Profiling-Lösungen künftig gestaltet sein müssen, um den stetig wachsenden Anforderungen von Entwicklern und Unternehmen gerecht zu werden. Letztlich ist die Umstellung von TypeScript auf Rust und die Integration von WebAssembly ein Paradebeispiel dafür, wie sich durch gezielte technologische Entscheidungen und den konsequenten Fokus auf effiziente Datenstrukturen und Rendering-Strategien deutliche Verbesserungen in Software-Performance erzielen lassen. Gleichzeitig zeigt es den Trend zu sprachen- und plattformübergreifenden Lösungen, die das Beste aus unterschiedlichen Welten verbinden.
In einer Zeit, in der AI und heterogene Rechenlasten immer wichtiger werden, liefert Zymtrace mit seinem AI Flamegraph-Ansatz ein überzeugendes Praxisbeispiel für Innovation und technische Exzellenz.
