Reuters berichtete unter Berufung auf den Threat-Intelligence-Bericht von Anthropic, dass Claude von verschiedenen Organisationen und Einzelpersonen für Aktivitäten im Zusammenhang mit Waffenentwicklung, Cyberangriffen, Überwachung und Betrug missbraucht wurde, bevor die Konten entdeckt und gesperrt wurden.
Anthropic beschuldigte bestimmte Akteure in China, Claude zur Entwicklung von Software für die elektronische Kriegsführung, zur Simulation von Radastörungen und zur Planung von Luftabwehrunterdrückung eingesetzt zu haben, einschließlich der Simulation von 12 Zielen in Taiwan wie Frühwarnradar, Patriot- und Sky Bow-Raketenstellungen, Luftwaffenstützpunkten und Kommando-Bunkern.
Eine andere Gruppe soll Claude genutzt haben, um einen über 200 Seiten langen technischen Vorschlag für das U-Boot-Abwehrsystem der chinesischen Marine zu verfassen und diesen mit der Technologie der US Navy zu vergleichen.
Der Bericht beschreibt auch den Einsatz von Claude zur Erforschung von Hochleistungsmikrowellenwaffen, zur Rückverfolgung von Lieferketten für Komponenten und zur Erstellung von Berichten für chinesische Behörden.
Im Jemen entdeckte Anthropic eine Gruppe, die Claude nutzte, um Lenkflugkörper, ballistische Raketen mit einer Reichweite von über 2.000 km und eine Variante mit einem Hyperschall-Gleitflugkörper zu programmieren, zu simulieren und Fehler zu beheben. Das Unternehmen erklärte, dass viele Anfragen blockiert wurden und es keine Beweise dafür gibt, dass diese Waffen praktisch eingesetzt wurden.
Bestimmte Akteure in Russland wurden beschuldigt, Claude zur Entwicklung von Steuersoftware für autonome FPV-Drohnenschwärme eingesetzt zu haben und versucht zu haben, Komponenten mit dualem Verwendungszweck über Vermittler in China und Hongkong zu beschaffen, um Sanktionen zu umgehen.
Anthropic verzeichnete zahlreiche Versuche, Claude zur Unterstützung der biologischen Forschung im Zusammenhang mit dem Chikungunya-Virus, hochpathogener Avianer Influenza (Vogelgrippe), Orthopoxviren und neuartigen Toxinen einzusetzen, und wies darauf hin, dass diese Aktivitäten in Regionen stattfanden, in denen seine Dienste nicht angeboten werden.
Im Bereich der Cybersicherheit erklärte das Unternehmen, Claude sei verwendet worden, um Software-Schwachstellen zu finden, Exploit-Code zu entwickeln und beim Einbruch in die Netzwerke von etwa 50 Organisationen, darunter ausländische Regierungsbehörden, zu helfen.
Der Bericht beschrieb außerdem den Einsatz von Claude bei Geheimdienstbeschaffungsoperationen, der Überwachung von Uiguren, Tibetern, Aktivisten, jüdischen Organisationen und US-Seestreitkräften sowie beim Aufbau von Social-Media-Überwachungsplattformen und einem Verfolgungssystem für rund 25 Millionen SIM-Karten in Mali.
Anthropic entdeckte zudem eine Kampagne in China, bei der über 20 Dating-Apps mit mehr als 4.700 interaktiven KI-Persönlichkeiten entwickelt wurden, die auf mindestens 25.000 Nutzer abzielten, um Betrugsaktivitäten zu erleichtern.
📌 Der Bericht von Anthropic zeigt, dass generative KI zunehmend für verschiedene Sicherheits- und Militärzwecke ausgenutzt wird – von der Waffenentwicklung und biologischen Forschung bis hin zu Cyberangriffen, Überwachung und Betrug. Dies sind Vorwürfe und Einschätzungen von Anthropic auf der Grundlage von Erkennungsaktivitäten in den eigenen Systemen; einige der betroffenen Regierungen und Organisationen haben die Anschuldigungen zurückgewiesen oder noch nicht darauf reagiert. Der Inhalt unterstreicht die Notwendigkeit, die Überwachung der Nutzung fortschrittlicher KI-Modelle zu verstärken, um das Risiko eines Missbrauchs einzuschränken.
