- Dario Amodei, CEO von Anthropic, hat soeben den Artikel „Policy on the AI Exponential“ veröffentlicht, in dem er den Aufbau eines KI-Regulierungsmechanismus fordert, der dem der US-Bundesluftfahrtbehörde (FAA) ähnelt.
- Er argumentiert, dass fortschrittliche KI-Modelle unabhängige Prüfungen und Bewertungen durchlaufen müssen, bevor sie auf den Markt gebracht werden dürfen.
- Anthropic schlägt vor, dass Regierungen das Recht haben sollten, KI-Modelle zu verzögern, zu blockieren oder zurückzurufen, wenn sie erhebliche Risiken für die Cybersicherheit, biologische Gefahren oder eine unkontrollierbare Autonomie darstellen.
- Das Unternehmen veröffentlichte zudem einen neuen „Advanced AI Governance Framework“ sowie einen neuen „AI Economic Policy Framework“.
- Modelle, die in einer Größenordnung von über 1025 FLOPs trainiert wurden oder zu Unternehmen mit einem KI-Umsatz von über 500 Millionen USD gehören, könnten obligatorischen Überprüfungsanforderungen unterliegen.
- Anthropic ist der Ansicht, dass die bloße Forderung nach Transparenz wie in der Vergangenheit nicht mehr ausreicht, um Risiken zu kontrollieren.
- Ein Haupttreiber ist die rasche Zunahme von Cybersicherheitsbedrohungen, die durch KI generiert werden.
- Das Unternehmen gab an, dass Claude Mythos die Fähigkeit bewiesen hat, kritische Sicherheitslücken in mehreren Betriebssystemen zu erkennen.
- Anthropic schlägt vor, dem Schutz von Modellgewichten (model weights) als strategischem Gut, das streng geschützt werden muss, hohe Priorität einzuräumen.
- Das Unternehmen warnt außerdem vor dem Risiko, dass durch Techniken der „Modelldestillation“ (model distillation) unbefugte Kopien von Modellen entstehen.
- In wirtschaftlicher Hinsicht räumt Anthropic ein, dass KI zu einer Technologie werden könnte, die Arbeitsplätze in großem Stil ersetzt, anstatt nur ein Werkzeug zur Produktivitätssteigerung zu sein.
- Das Unternehmen stellt 350 Millionen USD bereit, um politische Maßnahmen zur Bewältigung der Auswirkungen der KI auf den Arbeitsmarkt zu erforschen und zu unterstützen.
- Darunter befinden sich 200 Millionen USD für den Forschungsfonds „Economic Futures“ und 150 Millionen USD für ein nationales Stipendienprogramm.
- Anthropic zieht Szenarien in Betracht, in denen die Arbeitslosigkeit aufgrund von KI auf 5 %, 10 % oder höher ansteigt.
- Zu den erwähnten Lösungen gehören Lohnversicherungen, das bedingungslose Grundeinkommen (UBI) und Staatsfonds.
- Das Unternehmen empfiehlt Unternehmen, sich auf die Umschulung und den internen Neueinsatz von Personal zu konzentrieren, anstatt einfach Stellen abzubauen, um KI-Projekte zu finanzieren.
- 📌 Fazit: Der Vorschlag von Anthropic markiert eine tiefgreifende Wende in der KI-Debatte. Statt sich nur auf Innovation und Wachstum zu konzentrieren, fordert eines der weltweit führenden KI-Unternehmen öffentlich einen Kontrollmechanismus für die leistungsstärksten KI-Modelle nach dem Vorbild der Luftfahrt. Sollten diese Vorschläge umgesetzt werden, müssen sich Unternehmen auf ein KI-Umfeld einstellen, das weitaus mehr Verifizierungs-, Sicherheits- und soziale Verantwortungsanforderungen stellt, und gleichzeitig langfristige Personalstrategien entwickeln, um sich an die durch KI verursachten Veränderungen anzupassen.
