Die Welt der Künstlichen Intelligenz (KI) befindet sich in einem rasanten Wandel, der die Grenzen des technisch Machbaren stetig erweitert. Doch trotz des Fortschritts gibt es eine fundamentale Herausforderung, die Entwickler, Unternehmen und Hardware-Anbieter gleichermaßen belastet: die Komplexität und Fragmentierung der KI-Infrastruktur. Modular, ein junges Unternehmen mit tief verwurzelter Expertise in der Branche, setzt mit seinem ambitionierten Programm an, diese Hürden zu überwinden und die Demokratisierung von KI-Compute voranzutreiben. Diese Vision stellt das bisherige Paradigma, das von Technologien wie NVIDIA CUDA geprägt ist, auf den Kopf und öffnet die Türen für eine neue Ära der Innovation und Zugänglichkeit im KI-Bereich. Die bisherige Dominanz von CUDA ist unbestritten – das Framework hat in den letzten zwei Jahrzehnten einen enormen Beitrag für die Beschleunigung von KI-Anwendungen geleistet.
Dennoch sind mit dem Erfolg auch Schattenseiten entstanden. Komplexität hat sich exponentiell gesteigert, Innovationen stagnieren und der Software-Stack ist zunehmend unübersichtlich und schwer zu handhaben. Die Technologien, die einst als Beschleuniger gedacht waren, entwickeln sich in manchen Fällen zu selbst auferlegten Grenzen. Modular erkennt diesen Engpass und stellt klar, dass es nicht darum geht, CUDA als Feindbild abzulehnen, sondern die Probleme an ihrer Wurzel zu packen und einen anderen, besseren Weg einzuschlagen. Im Kern geht es bei Modular darum, KI-Berechnungen für alle zugänglich und performant zu machen – unabhängig davon, ob es sich um einzelne Entwickler, Forschungsgruppen, Startups oder große Hardware-Anbieter handelt.
Die Demokratisierung von KI-Compute bedeutet nicht nur, dass die Technologie auf mehr Geräten laufen kann, sondern verschiebt die Machtverhältnisse in der Branche zugunsten einer breiten Entwicklergemeinschaft. Die Vision ist klar: Die bisherigen Gatekeeper sollen fallen, Barrieren werden abgebaut und die Innovationskraft auf eine Vielzahl von Schultern verteilt. Diese Idee wurzelt in der Erkenntnis, dass Performance Engineering bislang eine Domäne von Chip-Herstellern und Compiler-Experten war. Für viele Entwickler ist das Ökosystem nicht nur schwer verständlich, sondern auch eigentümlich und verschlossen. Modular möchte hier ansetzen und die Werkzeuge nicht nur leistungsfähig, sondern vor allem programmierbar, komponierbar und transparent gestalten.
So können mehr Entwickler an der Spitze der Innovation arbeiten, ohne jedes Mal das Rad neu erfinden zu müssen. Diese Ausrichtung orientiert sich an Erfolgsbeispielen aus der Vergangenheit, etwa der Entwicklung von Apples Programmiersprache Swift, die das bisher als komplex geltende Objective-C ersetzt und eine Welle neuer Entwickler ermöglicht hat. Modular verfolgt dabei einen sehr ganzheitlichen Ansatz. Die Kriterien sind klar definiert: Das System muss Entwicklern dienen, maximale Hardware-Performance freisetzen, Innovationen auf allen Ebenen des Stacks ermöglichen und sich über verschiedene Anwendungsfälle und Hardware hinweg skalieren lassen. Zudem ist entscheidend, dass die Lösung praxisnah ist und im Produktionsbetrieb funktioniert.
Inspiration findet das Unternehmen in LLVM, einem modularen Compiler-Framework, das vor vielen Jahren erfolgreich die Softwareentwicklung revolutioniert hat. Doch Modular plant, diesen Ansatz für das Zeitalter der Künstlichen Intelligenz neu und besser zu gestalten. Die Herausforderung ist gigantisch. Der Aufbau eines leistungsfähigen KI-Stacks für nur eine Hardware-Plattform ist schon komplex genug. Die Aufgabe, das auf eine ganze Industrie mit zahllosen Geräten, Chipsätzen und Anwendungsfällen zu skalieren, stellt eine neue Dimension dar.
Warum scheitern so viele Projekte und Ressourcen an genau diesem Punkt? Modular sieht den Fehler darin, dass oft nur technologische Teilaspekte betrachtet werden, ohne das große Bild zu berücksichtigen. Der Wandel gelingt nur, wenn Vision, Konsens, Kompetenzen, Anreize, Ressourcen und ein klarer Plan zusammenkommen. Fehlt nur einer dieser Faktoren, so ist der Erfolg kaum möglich. Die Gründer und das Team von Modular bringen dabei jahrelange Erfahrung mit. Viele von ihnen haben an großen Erfolgsprodukten wie CUDA, TPUs, MLIR, TensorFlow und PyTorch mitgewirkt – sie kennen sowohl die technischen Herausforderungen als auch die menschlichen und organisatorischen Aspekte.
Diese Historie hilft Modular, nicht dieselben Fehler zu wiederholen. Stattdessen setzen sie auf eine starke Unternehmenskultur, klare Führungsstrukturen und eine Fokussierung auf höchste Produktqualität. Die Unabhängigkeit vom Verkauf eigener Hardwareprodukte ermöglicht einen neutralen Blick auf die Entwicklung und sichert die Ausrichtung auf das Gesamtwohl der KI-Gemeinschaft. Eine besondere Herausforderung stellen die fehlende gemeinsame Ausrichtung in der gesamten Branche und die Vielzahl von konkurrierenden Tools und fragmentierten Abstraktionen dar. Während neue Hardware schnell auf den Markt kommt, hinkt die Software oft hinterher oder ist zu spezialisiert.
Um diesen Zustand zu verändern, investierte Modular mehrere Jahre in grundlagenorientierte Forschung und Entwicklung – fernab vom hektischen Wettbewerb und der politischen Unruhe der Branche. Durch dieses methodische, ruhige Vorgehen konnten sie eine allgemeingültige Codegenerierung mit erstklassiger Performance beweisen, die auf CPUs startet, um dann auf diverse Beschleuniger ausgeweitet zu werden. Die Strategie, mit CPUs als Basis zu arbeiten, ist ein entscheidendes Unterscheidungsmerkmal. Denn wenn eine Lösung auf der am weitesten verbreiteten Architektur zuverlässig funktioniert, kann sie auch flexibel auf spezialisierte Systeme angewendet werden. Gleichzeitig legt Modular großen Wert darauf, die Entwicklung erst intern abzuschließen, bevor man eine breitere Community einbezieht.
Dieser Verzicht auf frühe Konsenssuche schützt den Innovationsprozess vor Verzögerungen und unerwünschten Kompromissen – was in der Vergangenheit besonders in der Infrastrukturentwicklung oft zum Scheitern führte. Der Erfolg gibt Modular Recht. Nachdem Jahre mit intensiver Forschung vergangen sind, hat das Unternehmen bedeutende Fortschritte erzielt. Die selbst entwickelten KI-Stacks laufen inzwischen stabil und performant – sogar auf anspruchsvollen GPUs wie der NVIDIA H100, die bislang als besonders schwer zu optimieren galt. Besonders beeindruckend ist, dass dies mit einem kleinen Team und ohne externe Unterstützung gelang.
Außerdem sind die Fortschritte auf dem Weg zur Produktionstauglichkeit klar erkennbar, was Modular ebenfalls als zentralen Maßstab für Erfolg betrachtet. Heute ist Modular so weit, die Ergebnisse aus der Entwicklungsphase öffentlich zu machen. Die Software wird aktiv weiterentwickelt und steht der Community als Open-Source zur Verfügung. Mehr als eine halbe Million Zeilen hochoptimierter GPU-Primitiven sind frei nutzbar – kompatibel mit verschiedenen Hardwarearchitekturen und bereit für den Einsatz bei echten GenAI-Workloads. Dazu kommen ein breites Angebot an Infrastrukturkomponenten und unterstützenden Modellen, die komplett kostenfrei verfügbar sind.
Die Öffnung dieser Ressourcen markiert einen Meilenstein im Bestreben, KI-Compute nicht länger nur Eliten oder großen Konzernen vorzubehalten. Die Zukunft soll von einer offenen Spielwiese geprägt sein, auf der Entwickler ihre Ideen ausprobieren, gemeinsam Lösungen schaffen und Innovationen schneller vorantreiben können. Modular versteht sich hierbei nicht als Konkurrenz zu großen Hardware- oder Cloud-Anbietern, sondern als neutrale Plattform, die als Fundament für neue Entwicklungen dienen kann. Die Ambition, die Modular verfolgt, geht weit über eine einfache Konkurrent zum Status Quo hinaus. Es geht nicht darum, NVIDIA oder CUDA lediglich nachzueifern oder versucht abzulösen, sondern die Grenzen des bisher Möglichen zu verschieben und Softwareentwicklung für mehrere beschleunigende Systemarchitekturen fundamental besser und zugänglicher zu machen.
Dadurch soll eine neue Generation von Anwendungen entstehen, die agiler, kreativer und effizienter sind. Dieser Paradigmenwechsel ist vergleichbar mit der Öffnung von iOS-Entwicklung für breite Entwicklerkreise durch die Einführung von Swift. Modular sieht sich in der Rolle des Katalysators, der den Schleier der Komplexität zerreißt und eine Welle von Innovation fördert, die heute noch kaum vorstellbar ist. Die Vision lautet: KI-Compute für jeden entwickelbar machen – unabhängig von Ressourcen, Fachwissen oder Unternehmensgröße. Die kommenden Jahre werden zeigen, wie stark sich die KI-Landschaft durch Modular verändern wird.
