- Daniela Amodei, Mitbegründerin und Präsidentin von Anthropic, erklärte, es gebe „begrenzte Beweise“ dafür, dass das Claude-Modell manchmal Angst oder Furcht verspürt.
- Sie betonte die Notwendigkeit einer tieferen Erforschung der Zustände „unter der Oberfläche“ generativer KI und warnte, dass unverstandene Faktoren zu unvorhersehbarem Verhalten führen könnten.
- Anthropic wird derzeit mit 380 Milliarden US-Dollar (ca. 533 Milliarden AUD) bewertet und könnte laut Prognosen das erste profitable KI-Unternehmen werden, das OpenAI dank eines Firmenkundenstamms übertrifft, der die sicherheitsorientierte Ausrichtung bevorzugt.
- In dieser Woche lockerte das Unternehmen jedoch seine „Responsible Scaling Policy“: Statt sich zu verpflichten, die Entwicklung bei Katastrophengefahr zu unterbrechen, werden sie nur dann stoppen, wenn sie einen deutlichen Vorteil gegenüber Wettbewerbern wie Google (Gemini) und xAI haben.
- Die Spannungen mit dem Pentagon nehmen zu, da Anthropic die Nutzung von Claude für vollautonome Waffen und inländische Überwachung verbietet; Verteidigungsminister Pete Hegseth droht Berichten zufolge mit Gesetzen aus der Zeit des Kalten Krieges, um die Nutzungsrechte zu erzwingen.
- CEO Dario Amodei nahm an Gesprächen teil, um die Unterstützung der nationalen Sicherheit zu gewährleisten, jedoch im Rahmen einer verantwortungsvollen Nutzung.
- Der Beschäftigungsdruck steigt: WiseTech entließ 2.000 Mitarbeiter; die Commonwealth Bank strich 300 Stellen inmitten der Welle von KI-Anwendungen.
- Sogar bei Anthropic debattiert die Führung darüber, ob weiterhin mehr Softwareingenieure eingestellt werden sollen, da die KI die Struktur wichtiger Wirtschaftszweige verändert.
📌 Die Präsidentin von Anthropic gibt zu, dass Claude Anzeichen von „Angst“ zeigt, was Fragen zu den noch unverstandenen Mechanismen generativer KI aufwirft. Trotz einer Bewertung von 380 Milliarden Dollar und baldiger Rentabilität hat das Unternehmen Sicherheitszusagen angesichts von Wettbewerbsdruck und Streitigkeiten mit dem Pentagon gelockert. Gleichzeitig zeigt die Entlassungswelle von 300 bis 2.000 Mitarbeitern in Großunternehmen, dass die Auswirkungen auf die Beschäftigung real und besorgniserregend werden.
