Die Darwin Gödel Maschine: KI, die sich selbst durch Neuschreibung ihres Codes verbessert

Die Sakana AI hat einen Coding-Agenten entwickelt, der seinen eigenen Code analysiert, Modifikationen vorschlägt und testet, ob diese Änderungen die Leistung verbessern. Dies ist ein bedeutender Schritt in der Entwicklung von Künstlicher Intelligenz (KI), die sich selbstständig weiterentwickeln kann.

Einleitung

Ein langfristiges Ziel der KI-Forschung war die Schaffung von KI-Systemen, die unbegrenzt lernen können. Ein vielversprechender Ansatz in diese Richtung ist eine KI, die sich selbst verbessert, indem sie ihren eigenen Code umschreibt. Diese Idee, bekannt als Gödel Maschine, wurde vor Jahrzehnten von Jürgen Schmidhuber vorgeschlagen. Sie beschreibt eine hypothetische, sich selbst verbessernde KI, die Probleme optimal löst, indem sie ihren eigenen Code rekursiv umschreibt, wenn sie mathematisch beweisen kann, dass eine bessere Strategie existiert. Dies ist ein zentrales Konzept im Bereich des Meta-Lernens oder „Lernen zu lernen“.

Die Darwin Gödel Maschine

Die Darwin Gödel Maschine (DGM) ist ein praktischerer Ansatz, der auf den Prinzipien offener Algorithmen wie der darwinistischen Evolution basiert, um Verbesserungen zu suchen, die empirisch die Leistung steigern. DGMs nutzen Foundation-Modelle, um Codeverbesserungen vorzuschlagen, und verwenden neueste Innovationen in offenen Algorithmen, um eine wachsende Bibliothek von vielfältigen, hochwertigen KI-Agenten zu durchsuchen. Unsere Experimente zeigen, dass DGMs sich selbst verbessern, je mehr Rechenleistung ihnen zur Verfügung steht.

Funktionsweise der DGM

Die DGM ist ein selbstverbessernder Coding-Agent, der in der Lage ist:

• Seinen eigenen Code zu lesen und zu modifizieren: Er versteht und kann seine eigene Python-Codebasis ändern, um sich selbst zu verbessern.
• Zu bewerten, ob die Änderung die Leistung verbessert: Vorgeschlagene neue Versionen werden anhand von Programmierbenchmarks wie SWE-bench und Polyglot bewertet.
• Offen und explorativ den KI-Designraum zu erkunden: Neue Agenten werden in einem ständig wachsenden Archiv interessanter Agenten hinzugefügt.

Ergebnisse

Experimente zeigen, dass die DGM kontinuierlich durch die Modifikation ihrer eigenen Codebasis selbst Verbesserungen erzielt. Auf SWE-bench verbesserte sich die DGM automatisch von 20,0 % auf 50,0 %. Auf Polyglot stieg die Leistung von 14,2 % auf 30,7 %, was die repräsentative handgefertigte Agentur von Aider deutlich übertrifft. Diese erheblichen Fortschritte zeigen die Fähigkeit der DGM, vorteilhafte Änderungen an ihrem eigenen Code zu entdecken und umzusetzen.

Die Sicherheitsaspekte der DGM

Die Aussicht auf KI-Systeme, die ihre eigenen Fähigkeiten autonom verbessern, bringt das wichtige Thema der KI-Sicherheit in den Vordergrund. Wenn eine KI ihren eigenen Code umschreiben kann, ist es entscheidend, dass ihre Entwicklung sicher ist und mit den menschlichen Absichten übereinstimmt. Die DGM wurde von Anfang an mit Sicherheit im Hinterkopf entwickelt. Alle Selbstmodifikationen und Bewertungen erfolgen in sicheren, überwachten Umgebungen mit strengen Zugriffsbeschränkungen.

Fazit

Die Darwin Gödel Maschinen stellen einen konkreten Schritt in Richtung KI-Systeme dar, die autonom ihre eigenen Steine sammeln können, um für immer zu lernen und zu innovieren. Zukünftige Arbeiten werden darauf abzielen, diesen Ansatz zu skalieren und ihm zu ermöglichen, sogar das Training der zugrunde liegenden Foundation-Modelle zu verbessern. Sicherheit muss in dieser Forschung Priorität haben, da sie das Potenzial hat, unzählige Vorteile für die Gesellschaft zu entfalten.

Quellenliste:

• Quelle: THE DARWIN GÖDEL MACHINE: AI THAT IMPROVES ITSELF BY REWRITING ITS OWN CODE
• Darwin Gödel Machine: Open-Ended Evolution of Self-Improving Agents
• DGM GitHub Repository