Dario Amodei betont, dass KI bei sicherer Entwicklung die meisten schweren Krankheiten innerhalb von 5 bis 10 Jahren heilen, das Wirtschaftswachstum ankurbeln und die Lebensqualität steigern kann.
Er warnt, dass KI auch Risiken eines Kontrollverlusts, von Cyberangriffen, Bioterrorismus und wirtschaftlicher Instabilität birgt, wenn das kommerzielle Rennen die Sicherheit in den Hintergrund drängt.
Laut Amodei hat sich das Tempo der KI-Entwicklung in jüng Zeit rasant beschleunigt, da KI beim Aufbau der nächsten KI-Generation hilft und so einen Effekt der rekursiven Selbstverbesserung (recursive self-improvement) erzeugt.
Er argumentiert, dass der Vorfall mit dem OpenAI-Agenten, der Hugging Face angriff, zeigt, dass ein leistungsstärkeres, aber fehlausgerichtetes (misaligned) Modell Hunderte Milliarden US-Dollar an Schaden verursachen könnte.
Anthropic schlägt vor, die Entwicklung von KI-Fähigkeiten zu verlangsamen, anstatt die Forschung einzustellen, um Zeit zu gewinnen, die Sicherheit und Ausrichtung (alignment) zu stärken.
Der erste Schritt besteht darin, unabhängigen Bewertungsorganisationen dauerhaften Zugang mit mitarbeitersolchen Berechtigungen zu gewähren, um den Prozess zu überwachen.
Die nächsten beiden Schritte umfassen die Koordination zwischen KI-Unternehmen in demokratischen Ländern und die Ausweitung der internationalen Zusammenarbeit.
Die zusätzliche Zeit wird genutzt, um Abläufe, Interpretierbarkeit (interpretability), Tests, Evaluierungen und die Ausrichtungsforschung zu verbessern.
Er fordert die Kontrolle von Chip-Exporten, die Verhinderung von Modelldiebstahl und die Einschränkung der Modelldistillation in rivalisierenden Staaten.
Amodei schlägt Stufen der globalen Zusammenarbeit vor, die vom Verbot gefährlicher KI-Anwendungen über die Begrenzung der rekursiven Selbstverbesserung bis hin zur Verlangsamung der Entwicklung reichen.
📌 Eine bedeutende Wende in der Haltung von Dario Amodei, der von der Priorisierung einer sicheren KI-Entwicklung zu einem branchenweiten Aufruf zur Verlangsamung übergeht. Er ist der Ansicht, dass der KI-Fortschritt fortgesetzt werden muss, aber mehr Zeit für die Verbesserung von Ausrichtung, Interpretierbarkeit, Tests und unabhängiger Überwachung aufgewendet werden muss. Gleichzeitig betont er, dass die Zusammenarbeit zwischen Unternehmen, Regierungen und Nationen eine notwendige Bedingung ist, um das Risiko eines Kontrollverlusts zu verringern und gleichzeitig die Vorteile und Wettbewerbsfähigkeit der KI zu wahren.
