Wie Peter Thiel und Eliezer Yudkowsky versehentlich das KI-Rüstungsrennen starteten

Die Beziehung zwischen Peter Thiel und Eliezer Yudkowsky hat einen tiefgreifenden Einfluss auf die Entwicklung der Künstlichen Intelligenz (KI) gehabt. In einem neuen Buch über Sam Altman beschreibt der Journalist Keach Hagey, wie diese beiden einander beeinflussten und damit die Grundlage für die heutige KI-Revolution legten.

Der Einfluss von Peter Thiel auf Sam Altman

Es wäre schwer, den Einfluss von Peter Thiel auf die Karriere von Sam Altman zu überschätzen. Nachdem Altman 2012 sein erstes Startup verkauft hatte, finanzierte Thiel seinen ersten Venture-Fonds, Hydrazine Capital. Thiel sah in Altman einen unermüdlichen Optimisten, der im “absoluten Epizentrum, vielleicht nicht von Silicon Valley, aber von einem Silicon-Valley-Zeitgeist” stand. Thiel bemerkte: “Wenn man nach der einen Person suchen müsste, die einen millennialen Tech-Menschen repräsentiert, wäre es Altman.”

Jedes Jahr wies Altman Thiel auf die vielversprechendsten Startups bei Y Combinator hin – Airbnb 2012, Stripe 2013, Zenefits 2014 – und Thiel investierte, obwohl er manchmal das Gefühl hatte, in einem Hype-Zyklus mitgerissen zu werden. Altman hatte Thiels Kritik an der “technologischen Stagnation” internalisiert und Y Combinator umgestaltet, um in “Hard-Tech”-Moonshots wie Kernenergie, Überschallflugzeuge und Künstliche Intelligenz zu investieren.

Eliezer Yudkowskys Einfluss auf die KI-Investitionen von Thiel

Wenn es schwierig ist, Thiels Einfluss auf Altman zu übertreiben, ist es ebenso einfach, den Einfluss des KI-begeisterten Autodidakten Eliezer Yudkowsky auf Thiels frühe Investitionen in KI zu unterschätzen. Yudkowsky, der mittlerweile als einer der führenden AI-Doomsday-Propheten gilt, begann als magnetischer, techno-optimistischer Wunderkind, der Investoren, Forscher und Exzentriker um sich versammelte, um die “Singularität” zu beschleunigen.

In einem Auszug aus dem bevorstehenden Buch “The Optimist” beschreibt Hagey, wie Thiels Beziehung zu Yudkowsky die Bühne für die generative KI-Revolution bereitete. Yudkowsky inspirierte einen der Gründer von DeepMind, eine “Superintelligenz” zu entwickeln, und stellte die Gründer von DeepMind Thiel vor, einen ihrer ersten Investoren.

Die Entstehung von DeepMind und OpenAI

Die Gespräche zwischen Thiel und Altman über DeepMind halfen, die Gründung von OpenAI zu inspirieren. Thiel, als einer von Yudkowskys wichtigsten Unterstützern, säte unbeabsichtigt die KI-apokalyptischen Subkulturen, die letztlich eine Rolle bei Altmans Absetzung als CEO von OpenAI spielten.

Yudkowsky, der als “Algernon” bezeichnet wurde, war ein früher Verfechter der Idee, dass Superintelligenzen eine große Verbesserung gegenüber Menschen darstellen könnten. Im Jahr 1996 argumentierte er, dass diese Superintelligenzen bis 2020 Realität werden könnten. Diese Ideen fanden Anklang bei Investoren, und 2000 wurde das Singularity Institute for Artificial Intelligence gegründet, um Yudkowskys Visionen zu fördern.

Die Herausforderung der KI-Sicherheit

Im Laufe der Zeit erkannte Yudkowsky jedoch, dass KI auch katastrophale Folgen haben könnte. Er entwickelte ein neues intellektuelles Rahmenwerk, das er “Rationalismus” nannte, und argumentierte in einem Papier von 2004, dass freundliche KI entwickelt werden sollte, die nicht nur auf dem basiert, was wir wollen, sondern auch auf dem, was in unserem besten Interesse wäre.

Yudkowskys Warnungen über die Gefahren von KI wurden immer eindringlicher, als die Entwicklung von OpenAI und anderen KI-Initiativen an Fahrt gewann. Er veröffentlichte Essays, in denen er vor den existenziellen Risiken warnte, die von KI ausgehen könnten. Thiel, der Yudkowsky als “extrem schwarzseherisch” empfand, warnte Altman, dass Yudkowskys Ideen in der KI-Community weit verbreitet waren.

Fazit

Die Beziehung zwischen Peter Thiel und Eliezer Yudkowsky hat nicht nur die Entwicklung von KI beeinflusst, sondern auch die Art und Weise, wie wir über die Risiken und Chancen dieser Technologie denken. Während Thiel als Investor und Mentor fungierte, wurde Yudkowsky zu einer Stimme der Vorsicht, die uns daran erinnert, dass der Fortschritt in der KI auch mit erheblichen Gefahren verbunden ist.

Quellenliste:

• Quelle: HOW PETER THIEL AND ELIEZER YUDKOWSKY ACCIDENTALLY STARTED THE AI ARMS RACE
• Peter Thiel
• Eliezer Yudkowsky
• OpenAI
• DeepMind