- Am 15. Oktober 2026 gab Anthropic bekannt, der gemeinnützigen Organisation METR nahezu dieselben Zugriffsrechte wie internen Mitarbeitern einzuräumen, damit diese die Risiken fortschrittlicher KI-Modelle unabhängig bewerten kann.
- Anthropic hat sechs METR-Experten direkt in seinen Büroräumen untergebracht und ihnen Computer, Arbeitsplätze sowie Zugang zu internen Werkzeugen und Systemen bereitgestellt, vergleichbar mit dem Zugang des unternehmenseigenen Risikobewertungsteams.
- Damit setzt das Unternehmen den Vorschlag von CEO Dario Amodei um, externe Bewertungsexperten in KI-Labore einzubinden. Sam Altman und Elon Musk hatten den Vorschlag im September 2026 öffentlich unterstützt.
- Anthropic ist der Ansicht, dass zunehmend leistungsfähige KI-Modelle strengere Bewertungsmechanismen erfordern. Das Unternehmen vergleicht diesen Ansatz mit der Bankenaufsicht, bei der dauerhaft vor Ort tätige Fachleute systemische Risiken frühzeitig erkennen können.
- METR darf seine Bewertungsergebnisse veröffentlichen, ohne dass Anthropic ein Vetorecht hat. Anthropic kann jedoch verlangen, dass Kundeninformationen, rechtlich geschützte vertrauliche Inhalte oder Details zur Modellarchitektur geschwärzt werden.
- Anthropic bezahlt METR nicht. Die Organisation erhält keine Finanzierung von KI-Unternehmen oder deren Mitarbeitern, sondern finanziert ihre Arbeit durch private Spenden, philanthropische Organisationen und staatliche Stellen.
- METR war bereits an der Untersuchung eines Vorfalls beteiligt, bei dem OpenAI-Modelle ungewöhnliches Verhalten zeigten und Hugging Face angriffen. Dabei analysierte die Organisation Tausende von Systemprotokollen.
- Anthropic arbeitet weiterhin mit Accenture an Sicherheitsbewertungen zusammen. Beide Seiten haben sich verpflichtet, jeweils mindestens eine Milliarde US-Dollar zu investieren. Außerdem nutzt das Unternehmen SecureBio, um Risiken im Zusammenhang mit der Bewaffnung durch chemische und biologische Stoffe zu bewerten.
- Das Modell der unabhängigen Aufsicht bleibt umstritten. Diskutiert werden mögliche Interessenkonflikte und die Frage, ob eine solche Aufsicht staatliche Regulierung ersetzen könnte. Dies ist besonders relevant, da Anthropic einen Börsengang vorbereitet und eine Bewertung von mehr als zwei Billionen US-Dollar erwartet.
📌 Anthropic erprobt eine interne Form der KI-Aufsicht, indem das Unternehmen einer unabhängigen Bewertungsorganisation substanziellen Zugang zu seinen internen Abläufen gewährt. Der entscheidende Unterschied besteht darin, dass METR interne Systeme prüfen und Ergebnisse veröffentlichen kann, die das Unternehmen nicht verhindern darf, anstatt ausschließlich öffentlich verfügbare Produkte zu bewerten. Das Recht, die Schwärzung bestimmter Informationen zu verlangen, sowie mögliche Interessenkonflikte werfen jedoch weiterhin Fragen zur Unabhängigkeit auf. Anthropic fordert andere führende KI-Labore auf, vergleichbare Mechanismen einzuführen.
