Yoshua Bengios AI Safety Lab: LawZero

Yoshua Bengio, einer der Pioniere im Bereich der künstlichen Intelligenz und Träger des Turing Awards, hat ein gemeinnütziges AI-Sicherheitslabor namens LawZero ins Leben gerufen. Dieses neue Labor wird mit 30 Millionen US-Dollar unterstützt, die von bedeutenden philanthropischen Geldgebern bereitgestellt wurden. In einem Interview mit der Financial Times äußerte Bengio seine Bedenken hinsichtlich der Sicherheitsprioritäten von großen Unternehmen wie OpenAI und Google, die in einem Wettlauf um immer intelligentere KI-Systeme stehen.

Die Gründung von LawZero

Die Gründung von LawZero ist ein bedeutender Schritt in der AI-Sicherheitsbewegung. Das Labor hat sich zum Ziel gesetzt, sicherere KI-Systeme zu entwickeln und zu fördern. Die Finanzierung stammt von namhaften Unterstützern wie Jaan Tallinn, einem der Gründer von Skype, und Eric Schmidt, dem ehemaligen CEO von Google. Weitere Geldgeber sind Open Philanthropy und das Future of Life Institute.

Der Zeroth Law of Robotics

Der Name LawZero bezieht sich auf ein Konzept aus der Science-Fiction, das als Zeroth Law of Robotics bekannt ist. Dieses Gesetz stellt den Schutz der Menschheit über alles andere. Bengio und sein Team wollen sicherstellen, dass KI-Systeme nicht nur leistungsfähig, sondern auch sicher und verantwortungsvoll eingesetzt werden.

Die Herausforderungen der KI-Sicherheit

Bengio hat sich als einer der lautesten Verfechter der AI-Sicherheitsbewegung etabliert. Er hat öffentlich die umstrittene kalifornische Gesetzgebung SB1047 unterstützt, die darauf abzielt, katastrophale Szenarien durch KI-Systeme zu verhindern. In der heutigen schnelllebigen Technologiewelt ist es von entscheidender Bedeutung, dass Sicherheitsaspekte nicht vernachlässigt werden, während die Entwicklung neuer Technologien vorangetrieben wird.

Die Vision von LawZero

Die Vision von LawZero ist es, eine Plattform zu schaffen, die es Forschern und Entwicklern ermöglicht, sicherere KI-Systeme zu entwerfen und zu implementieren. Bengio betont, dass es wichtig ist, ethische Überlegungen in den Entwicklungsprozess von KI einzubeziehen, um potenzielle Risiken zu minimieren.

Fazit

Mit der Gründung von LawZero setzt Yoshua Bengio ein starkes Zeichen für die Bedeutung von Sicherheit in der KI-Entwicklung. In einer Zeit, in der KI-Technologien rasant voranschreiten, ist es unerlässlich, dass Sicherheitsaspekte und ethische Überlegungen im Vordergrund stehen. Die Unterstützung durch bedeutende philanthropische Geldgeber zeigt, dass es ein wachsendes Bewusstsein für die Notwendigkeit sicherer KI-Systeme gibt.

Quellenliste:

• Quelle: Yoshua Bengio launches LawZero, a nonprofit AI safety lab
• Financial Times über LawZero
• Zeroth Law of Robotics
• California AI Bill SB1047