Anthropic aktiviert fortschrittliche Sicherheitsprotokolle für Claude Opus 4

Anthropic hat die AI Safety Level 3 (ASL-3) Sicherheitsprotokolle für Claude Opus 4 aktiviert. Diese Sicherheitsmaßnahmen umfassen verbesserte Sicherheitsvorkehrungen, um den Diebstahl von Modellgewichten zu verhindern, sowie Bereitstellungskontrollen, die speziell auf die Unterstützung bei biologischen und chemischen Waffen abzielen.

Einführung der ASL-3 Sicherheitsstandards

Am 22. Mai 2025 hat Anthropic die ASL-3 Sicherheitsstandards im Rahmen ihrer Responsible Scaling Policy (RSP) aktiviert. Diese Standards beinhalten erhöhte interne Sicherheitsmaßnahmen, die es erschweren, Modellgewichte zu stehlen, während die entsprechenden Bereitstellungsstandards eine gezielte Reihe von Maßnahmen abdecken, die darauf abzielen, das Risiko zu minimieren, dass Claude für die Entwicklung oder den Erwerb von chemischen, biologischen, radiologischen und nuklearen (CBRN) Waffen missbraucht wird.

Hintergrund und Notwendigkeit

Die zunehmenden Fähigkeiten von KI-Modellen erfordern immer stärkere Bereitstellungs- und Sicherheitsmaßnahmen. Dies ist ein zentrales Prinzip der RSP von Anthropic. Die Bereitstellungsmaßnahmen zielen darauf ab, spezifische Kategorien des Missbrauchs zu verhindern, insbesondere im Hinblick auf die gefährlichsten Waffenarten. Die Sicherheitskontrollen sollen den Diebstahl von Modellgewichten verhindern, die das Wesen der Intelligenz und Fähigkeit der KI ausmachen.

Rationale für die Implementierung

Obwohl noch nicht festgestellt wurde, ob die Fähigkeiten von Claude Opus 4 tatsächlich die ASL-3 Schutzmaßnahmen erfordern, hat Anthropic entschieden, diese Sicherheitsmaßnahmen proaktiv zu implementieren. Diese Entscheidung wurde getroffen, um sich auf die Entwicklung, das Testen und die Verfeinerung dieser Schutzmaßnahmen zu konzentrieren, bevor sie benötigt werden.

Bereitstellungsmaßnahmen

Die neuen ASL-3 Bereitstellungsmaßnahmen sind eng darauf ausgerichtet, das Modell daran zu hindern, bei CBRN-Waffen bezogenen Aufgaben zu helfen. Dazu gehört die Begrenzung universeller Jailbreaks, die es Angreifern ermöglichen, die Schutzmechanismen zu umgehen und kontinuierlich Informationen zu extrahieren, die für CBRN-bezogene Arbeitsabläufe nützlich sind.

Ansatz zur Verbesserung der Sicherheit

• Schwieriger zu jailbreaken: Implementierung von Constitutional Classifiers, die in Echtzeit schädliche CBRN-bezogene Eingaben und Ausgaben überwachen.
• Jailbreaks erkennen: Einführung eines umfassenden Überwachungssystems, einschließlich eines Bug-Bounty-Programms zur Identifizierung potenzieller Jailbreaks.
• Iterative Verbesserung: Schnelle Remedierung von Jailbreaks durch die Generierung synthetischer Jailbreaks zur Schulung neuer Klassifizierer.

Sicherheitsmaßnahmen

Die gezielten Sicherheitskontrollen konzentrieren sich auf den Schutz der Modellgewichte, die, wenn sie kompromittiert werden, den Zugriff auf die Modelle ohne Bereitstellungsschutz ermöglichen könnten. Anthropic hat über 100 verschiedene Sicherheitskontrollen implementiert, die präventive Kontrollen mit Erkennungsmechanismen kombinieren, um Bedrohungen durch nichtstaatliche Akteure zu bekämpfen.

Schlussfolgerungen

Die Frage, welche Bereitstellungs- und Sicherheitsmaßnahmen für fortschrittliche KI-Modelle anzuwenden sind, ist nach wie vor nicht gelöst. Anthropic wird weiterhin introspektiv arbeiten, iterieren und verbessern. Die praktische Erfahrung mit den ASL-3 Standards wird helfen, neue und möglicherweise unerwartete Probleme und Chancen zu entdecken.

Quellenliste:

• Quelle: Activating AI Safety Level 3 Protections
• Strategic Warning for AI Risk: Progress and Insights
• Constitutional Classifiers
• Testing Our Safety Defenses with a New Bug Bounty Program
• ASL-3 Deployment Safeguards Report