Digitale Rote Königin: Adversariale Programm-Evolution im Core War mit LLMs

In einer Welt, in der künstliche Intelligenz (KI) zunehmend an Bedeutung gewinnt, ist es faszinierend zu beobachten, wie sich Programme in einem adversarialen Umfeld entwickeln. Der Begriff der “Digitalen Roten Königin” bezieht sich auf die Evolution von Programmen im Spiel Core War, bei dem große Sprachmodelle (LLMs) eine entscheidende Rolle spielen. Diese Studie untersucht, was passiert, wenn LLMs eine evolutionäre Waffenentwicklung antreiben, bei der Programme kontinuierlich angepasst werden, um gegen eine wachsende Geschichte von Gegnern zu bestehen.

Einführung in Core War

Core War ist ein wettbewerbsorientiertes Programmier-Spiel, das 1984 eingeführt wurde. In diesem Spiel kämpfen sogenannte “Krieger” – Programme, die in einer speziellen Assemblersprache namens Redcode geschrieben sind – um die Kontrolle über einen virtuellen Computer. Die Krieger verwenden raffinierte Strategien, einschließlich gezielter Selbstreplikation und Datenbombardierung, um andere Programme zum Absturz zu bringen und die Maschine zu dominieren.

Die Rolle der LLMs in der evolutionären Dynamik

In dieser Arbeit wird untersucht, wie LLMs in der Lage sind, Krieger zu entwickeln, die sich gegen andere Krieger behaupten. Die Dynamik, die durch die ständige Anpassung an die Strategien der Gegner entsteht, führt zur Entstehung immer robusterer Strategien. Diese Prozesse spiegeln biologische Evolution wider, bei der Agenten sich ständig anpassen müssen, um gegen sich ständig ändernde Bedrohungen zu überleben.

Die Red Queen Hypothese

Die Red Queen Hypothese besagt, dass Arten sich ständig weiterentwickeln müssen, um einfach nur zu überleben. Diese Hypothese wird in der Studie als Grundlage verwendet, um zu verstehen, wie LLMs in einem sich ständig verändernden Umfeld agieren. Der Name stammt aus Lewis Carrolls Durch den Spiegel, in dem die Rote Königin zu Alice sagt: “Um hier zu bleiben, musst du so schnell laufen, wie du kannst.”

Methodik: Digital Red Queen (DRQ)

Die Methode, die in dieser Studie verwendet wird, heißt Digital Red Queen (DRQ). DRQ nutzt LLMs, um Krieger unter ständigem Umweltwechsel zu entwickeln. Der Prozess beginnt mit einem anfänglichen Krieger, gefolgt von der Evolution eines zweiten Kriegers, der den ersten besiegen soll. Diese Vorgehensweise führt zu einer Linie von Kriegern, die an eine sich verändernde Umgebung angepasst sind.

Ergebnisse der Simulation

Die Ergebnisse zeigen, dass die Krieger im Laufe der Runden immer robuster werden, was durch ihre Leistung gegen unbekannte, von Menschen gestaltete Krieger gemessen wird. Überraschenderweise konvergieren unabhängige DRQ-Läufe, die jeweils mit unterschiedlichen Kriegern gestartet wurden, im Laufe der Zeit zu Kriegern mit ähnlichem Verhalten. Dies deutet darauf hin, dass die Funktion der Krieger konvergiert, nicht jedoch der Quellcode.

Diskussion und Ausblick

Die Entstehung konvergenter Evolution aus den Dynamiken der Roten Königin deutet darauf hin, dass der DRQ-Algorithmus und die Core War-Domain vielversprechende Ansätze bieten, um andere Eigenschaften von adversarialen Waffenrennen zu untersuchen. Die Erkenntnisse aus dieser Simulation könnten dazu beitragen, zu verstehen, wie sich die Waffenrennen zwischen LLMs in der realen Welt entwickeln könnten.

Fazit

Die Forschung in einer Sandbox wie Core War ermöglicht es, adversariale Dynamiken zu erkunden, die in der realen Welt riskant sein könnten. Die Ergebnisse zeigen, dass selbst einfache Selbstspiel-Algorithmen komplexe und robuste Strategien offenbaren können. Zukünftige Arbeiten könnten reichhaltigere Setups untersuchen, in denen Agenten gleichzeitig ko-evolvieren, was die Realität besser widerspiegelt.

Quellenliste:

• Quelle: Digital Red Queen: Adversarial Program Evolution in Core War with LLMs
• Core War – Wikipedia
• Red Queen Hypothesis – Wikipedia
• arXiv: Digital Red Queen
• GitHub: DRQ Code Repository