Die Entwicklung fortschrittlicher Algorithmen zählt zu den zentralen Herausforderungen in Wissenschaft und Technik. Mit der Einführung von AlphaEvolve, einem von den Gemini-Sprachmodellen angetriebenen KI-Agenten, eröffnet sich eine neue Ära der algorithmischen Innovation. AlphaEvolve verbindet die leistungsstarken kreativen Fähigkeiten großer Sprachmodelle mit einer rigorosen automatisierten Evaluierung und setzt dabei auf einen evolutionären Prozess, der Algorithmen kontinuierlich verbessert. Dieses System ermöglicht es, komplexe mathematische und technische Probleme effizient zu lösen und neue Lösungen zu entdecken, die zuvor außerhalb der menschlichen Reichweite lagen. AlphaEvolve basiert auf der Zusammenarbeit zweier Varianten der Gemini-Sprachmodelle.
Das schnellere Gemini Flash-Modell erforscht eine breite Palette innovativer Ideen, während das kraftvolle Gemini Pro-Modell tiefgreifende Einsichten liefert, die für die Verfeinerung der Algorithmen unerlässlich sind. Diese Kombination aus Breite und Tiefe erlaubt es AlphaEvolve, neue Programme zu generieren und diese anhand automatisierter Bewertungsmethoden objektiv zu prüfen. Die so gewonnenen Daten werden in einer Datenbank abgelegt, die wiederum einen evolutionären Algorithmus mit optimierenden Rückkopplungen steuert. Auf diese Weise lernt und verbessert sich das System kontinuierlich. Ein besonders bemerkenswerter Aspekt von AlphaEvolve ist sein Beitrag zur Optimierung der Infrastruktur von Google.
In den letzten Jahren wurde der KI-Agent erfolgreich eingesetzt, um verschiedene Bereiche zu verbessern – von der Verwaltung riesiger Rechenzentren über die Entwicklung von Chipdesigns bis hin zur Beschleunigung von KI-Trainingsprozessen. So half AlphaEvolve beispielsweise dabei, eine elegante Heuristik für die Borg-Orchestrierungssoftware zu entwickeln, die in den weltweiten Datenzentren von Google durchschnittlich 0,7 Prozent der Rechenkapazität einspart. Diese Effizienzgewinne bedeuten, dass mehr Aufgaben mit dem gleichen Energie- und Hardwareeinsatz erledigt werden können, was nicht nur Kosten senkt, sondern auch ökologische Vorteile mit sich bringt. Darüber hinaus unterstützte AlphaEvolve das Design von Hardwarekomponenten durch Verbesserung von Verilog-Codes. Speziell wurde ein hochoptimierter arithmetischer Schaltkreis für Matrixmultiplikationen modifiziert, wobei die funktionale Korrektheit mithilfe rigoroser Verifikationsmethoden bestätigt wurde.
Diese Anpassungen flossen direkt in die Entwicklung der neuesten Tensor Processing Units (TPUs) ein – spezialisierte KI-Beschleunigerchips, die eine Schlüsselrolle in Googles KI-Infrastruktur spielen. Die Fähigkeit von AlphaEvolve, Vorschläge in der Standardsprache der Chipdesigner zu machen, erleichtert die Zusammenarbeit zwischen KI-Systemen und Hardwareingenieuren und beschleunigt die Innovationszyklen. Ein besonders beeindruckendes Anwendungsgebiet von AlphaEvolve ist die Optimierung von KI-Trainingskernel, insbesondere bei der Matrixmultiplikation, die eine Kernoperation in neuronalen Netzen darstellt. AlphaEvolve entdeckte eine effizientere Unterteilung der Berechnungen, die eine Beschleunigung um 23 Prozent ermöglichte und so die Trainingszeit des Gemini-Modells um etwa ein Prozent reduzierte. Für die Entwicklung großer Sprachmodelle bedeutet dies eine erhebliche Reduktion des ökologischen Fußabdrucks und der Kosten.
Zusätzlich konnte AlphaEvolve die Ausführung von GPU-nahen Anweisungen für den FlashAttention-Kernel optimieren und eine Steigerung der Ausführungsgeschwindigkeit um bis zu 32,5 Prozent erzielen. Solche Verbesserungen sind besonders wertvoll, da sie oft eine Herausforderung darstellen und bisherige Compileroptimierungen an ihre Grenzen stoßen. Neben praktischen technischen Anwendungen zeichnet sich AlphaEvolve auch durch seine Fähigkeit aus, bedeutende Fortschritte in der Mathematik zu erzielen. Das System übernahm eine Vielzahl offener mathematischer Probleme aus Bereichen wie Analysis, Geometrie, Kombinatorik und Zahlentheorie und konnte in etwa 75 Prozent der Fälle bekannte optimale Algorithmen reproduzieren. Beeindruckenderweise verbesserte AlphaEvolve zudem in rund 20 Prozent der Experimente bestehende Lösungen und machte somit substanzielle Fortschritte.
Ein Beispiel hierfür ist der Kissing-Number-Problem, ein seit über 300 Jahren ungelöstes geometrisches Rätsel, das sich mit der maximalen Anzahl nicht-überlappender Kugeln beschäftigt, die an eine zentrale Einheit anstoßen. AlphaEvolve fand eine Konfiguration mit 593 äußeren Kugeln in 11 Dimensionen und setzte so einen neuen unteren Schrankenwert. Die evolutionäre Natur des Systems erlaubt es, nicht nur einzelne Funktionen, sondern komplette Algorithmenkomplexe zu entwickeln. AlphaEvolve kann einen minimal vorgegebenen Codegerüst übernehmen und diesen iterativ mit neuen Komponenten, wie Optimierern, Gewichtinitialisierungen, Verlustfunktionen und Hyperparametern, erweitern. Dies führt zu einer Art algorithmischer Evolution, bei der die erfolgreichsten Varianten selektiert und weiterentwickelt werden.
Für Matrixmultiplikationen führte AlphaEvolve so zu einer bedeutenden Verbesserung: Ein Algorithmus zur Multiplikation von 4x4 komplexwertigen Matrizen benötigte nun nur noch 48 Skalarmultiplikationen und übertraf damit das seit Jahrzehnten als Optimal erachtete Strassen-Verfahren. Die breite Anwendbarkeit von AlphaEvolve erstreckt sich über alle Gebiete, in denen Lösungen als algorithmische Prozesse formuliert und automatisiert verifiziert werden können. So eröffnen sich Potenziale in der Materialwissenschaft, in der Wirkstoffentwicklung, in Nachhaltigkeitslösungen und in vielfältigen technologischen wie wirtschaftlichen Anwendungsfeldern. Die Kombination aus kreativen KI-Modellen und systematischer Evaluierung stärkt die Forschungsbeschleunigung und ermöglicht es Experten, sich auf die Interpretation und Anwendung der Ergebnisse zu konzentrieren. Parallel zu den technischen Entwicklungen wurde mit Unterstützung der People + AI Research Gruppe eine benutzerfreundliche Oberfläche geschaffen, um die Interaktion mit AlphaEvolve zu erleichtern.
