Sam Altman skizziert den Weg zur Superintelligenz

In einem seltenen Blogbeitrag erklärt Sam Altman, dass wir den ‘Ereignishorizont’ überschritten haben. Systeme wie GPT-4 und o3 übertreffen bereits in vielen Aspekten die menschlichen Fähigkeiten.

Der Beginn der Superintelligenz

Wir haben den Ereignishorizont überschritten; der Startschuss ist gefallen. Die Menschheit steht kurz davor, digitale Superintelligenz zu entwickeln, und bisher scheint es viel weniger seltsam zu sein, als es sein sollte. Roboter laufen noch nicht auf den Straßen, und die meisten von uns sprechen nicht den ganzen Tag mit KI. Krankheiten fordern weiterhin Menschenleben, und es gibt viele Dinge im Universum, die wir nicht verstehen.

Dennoch haben wir kürzlich Systeme entwickelt, die in vielen Bereichen intelligenter sind als Menschen und die Fähigkeit besitzen, die Produktivität der Menschen, die sie nutzen, erheblich zu steigern. Der schwierigste Teil der Arbeit liegt hinter uns; die wissenschaftlichen Erkenntnisse, die uns zu Systemen wie GPT-4 und o3 geführt haben, waren hart erkämpft, aber sie werden uns sehr weit bringen.

Die Auswirkungen von KI auf die Lebensqualität

Die KI wird auf viele Arten zur Welt beitragen, aber die Gewinne für die Lebensqualität durch eine schnellere wissenschaftliche Fortschritte und erhöhte Produktivität werden enorm sein; die Zukunft kann weit besser sein als die Gegenwart. Wissenschaftlicher Fortschritt ist der größte Treiber des allgemeinen Fortschritts; es ist äußerst aufregend, darüber nachzudenken, wie viel mehr wir erreichen könnten.

In gewissem Sinne ist ChatGPT bereits mächtiger als jeder Mensch, der je gelebt hat. Hunderte Millionen Menschen verlassen sich täglich auf es und nutzen es für zunehmend wichtige Aufgaben; eine kleine neue Fähigkeit kann einen enorm positiven Einfluss haben, während eine kleine Fehlanpassung, multipliziert mit Hunderten Millionen von Menschen, große negative Auswirkungen haben kann.

Die Zukunft der KI und der menschlichen Arbeit

Im Jahr 2025 werden Agenten erwartet, die echte kognitive Arbeit leisten können; das Schreiben von Computer-Code wird sich für immer verändern. 2026 wird wahrscheinlich die Ankunft von Systemen sehen, die neuartige Erkenntnisse gewinnen können. 2027 könnte die Ankunft von Robotern bedeuten, die Aufgaben in der realen Welt ausführen können.

Immer mehr Menschen werden in der Lage sein, Software und Kunst zu schaffen. Aber die Welt verlangt nach viel mehr von beidem, und Experten werden wahrscheinlich immer noch viel besser sein als Anfänger, solange sie die neuen Werkzeuge annehmen. Generell wird die Fähigkeit einer Person, im Jahr 2030 viel mehr zu erreichen als im Jahr 2020, eine auffällige Veränderung darstellen, von der viele Menschen profitieren werden.

Die 2030er Jahre: Ein Wendepunkt

In den wichtigsten Aspekten könnten die 2030er Jahre nicht wild anders sein. Die Menschen werden weiterhin ihre Familien lieben, ihre Kreativität ausdrücken, Spiele spielen und in Seen schwimmen. Aber in immer noch sehr wichtigen Aspekten werden die 2030er Jahre wahrscheinlich ganz anders sein als alles, was zuvor war. Wir wissen nicht, wie weit über menschliche Intelligenz wir hinausgehen können, aber wir sind kurz davor, es herauszufinden.

In den 2030er Jahren werden Intelligenz und Energie – Ideen und die Fähigkeit, Ideen in die Tat umzusetzen – extrem reichlich vorhanden sein. Diese beiden Faktoren waren lange Zeit die grundlegenden Begrenzungen des menschlichen Fortschritts; mit reichlich vorhandener Intelligenz und Energie (und guter Regierungsführung) können wir theoretisch alles andere haben.

Die Rolle der KI in der Forschung

Bereits jetzt leben wir mit unglaublicher digitaler Intelligenz, und nach einem anfänglichen Schock sind die meisten von uns ziemlich daran gewöhnt. Sehr schnell gehen wir von der Bewunderung, dass KI einen schön geschriebenen Absatz generieren kann, zu der Frage, wann sie einen schön geschriebenen Roman erstellen kann; oder von der Bewunderung, dass sie lebensrettende medizinische Diagnosen stellen kann, zu der Frage, wann sie die Heilmittel entwickeln kann.

Die Rate des technologischen Fortschritts wird weiterhin beschleunigt, und es wird weiterhin der Fall sein, dass die Menschen in der Lage sind, sich fast an alles anzupassen. Es wird sehr schwierige Aspekte geben, wie das Verschwinden ganzer Klassen von Arbeitsplätzen, aber andererseits wird die Welt so schnell reicher werden, dass wir neue politische Ideen ernsthaft in Betracht ziehen können, die wir zuvor nie hätten annehmen können.

Herausforderungen und Chancen

Es gibt ernsthafte Herausforderungen, die wir zusammen mit den enormen Vorteilen konfrontieren müssen. Wir müssen die Sicherheitsprobleme sowohl technisch als auch gesellschaftlich lösen, aber es ist entscheidend, den Zugang zu Superintelligenz weit zu verteilen, angesichts der wirtschaftlichen Implikationen. Der beste Weg nach vorne könnte folgendermaßen aussehen: 1. Lösen Sie das Ausrichtungsproblem, was bedeutet, dass wir robust garantieren können, dass wir KI-Systeme dazu bringen, langfristig zu lernen und zu handeln, was wir kollektiv wirklich wollen. 2. Konzentrieren Sie sich dann darauf, Superintelligenz billig, weit verbreitet und nicht zu konzentriert bei einer Person, einem Unternehmen oder einem Land zu machen.

Die Gesellschaft ist widerstandsfähig, kreativ und passt sich schnell an. Wenn wir den kollektiven Willen und die Weisheit der Menschen nutzen können, dann werden wir, obwohl wir viele Fehler machen und einige Dinge wirklich schiefgehen werden, schnell lernen und uns anpassen können, um diese Technologie zu nutzen, um maximalen Nutzen und minimale Nachteile zu erzielen.

Die Zukunft der Ideen

Wir (die gesamte Branche, nicht nur OpenAI) bauen ein Gehirn für die Welt. Es wird extrem personalisiert und für jeden einfach zu bedienen sein; wir werden durch gute Ideen begrenzt sein. Lange Zeit haben technische Menschen in der Startup-Branche über die „Ideenleute“ gelacht; Menschen, die eine Idee hatten und ein Team suchten, um sie zu verwirklichen. Jetzt sieht es so aus, als ob sie bald ihren großen Auftritt haben werden.

OpenAI ist jetzt vieles, aber vor allem sind wir ein Forschungsunternehmen für Superintelligenz. Wir haben viel Arbeit vor uns, aber der größte Teil des Weges vor uns ist jetzt beleuchtet, und die dunklen Bereiche ziehen sich schnell zurück. Wir sind äußerst dankbar, das tun zu dürfen, was wir tun.

Ein Ausblick auf die Zukunft

Intelligenz, die zu billig ist, um sie zu messen, ist gut in Reichweite. Das mag verrückt klingen, aber wenn wir Ihnen 2020 gesagt hätten, dass wir heute dort sein würden, wo wir sind, hätte das wahrscheinlich verrückt geklungen im Vergleich zu unseren aktuellen Vorhersagen für 2030. Mögen wir sanft, exponentiell und ohne Zwischenfälle durch die Superintelligenz skalieren.