Anthropic hat einen Bericht veröffentlicht, in dem es heißt, dass mehrere Regierungsbehörden Claude zur Automatisierung von Überwachungsaktivitäten, Datenanalysen und Geheimdienstunterstützung eingesetzt haben.
Die genannten Fälle betreffen Mali, China und den Iran und zeigen, dass KI die Kosten und den Personalbedarf für Überwachungsoperationen erheblich reduziert.
In Mali nutzte ein Berater, der für eine Sicherheitsbehörde arbeitete, Claude, um ein System zur Datenerfassung von Telekommunikationsanbietern und zur Erstellung von Profilen über Einzelpersonen aufzubauen.
Im Iran entdeckte Anthropic Akteure, die Claude nutzten, um bösartige Firefox-Erweiterungen zu entwickeln, die darauf abzielten, Nutzeridentitäten aus sozialen Netzwerken abzufischen.
Dem Bericht zufolge reduzierte eine Behörde für religiöse Angelegenheiten in China ihre Operationen von mehreren Analyseteams auf ein einziges Büro und nutzte KI, um jeden Monat Tausende von Untersuchungsberichten zu erstellen.
Claude wurde auch verwendet, um Social-Media-Beiträge zu analysieren, den Grad der politischen Sensibilität zu bewerten und zu überwachende oder zu kontrollierende Ziele zu identifizieren.
Im Juni sperrte Anthropic ein Konto, das eine kommerzielle Überwachungsplattform zur Verfolgung von Bürgern im Iran und in der Golfregion entwickelte, bevor das System betriebsbereit wurde.
In allen entdeckten Fällen wurden Claude-Haiku-, Sonnet- oder Opus-Modelle verwendet, anstatt der neueren Fable- oder Mythos-Linien.
Anthropic erklärte, dass es alle zugehörigen Konten gesperrt und die Schutzmechanismen verstärkt habe, warnte jedoch davor, dass Akteure zu Open-Source-KI-Modellen wechseln könnten, falls sie den Zugriff auf Claude verlieren.
📌 KI ist längst kein reines experimentelles Werkzeug mehr, sondern wurde in die Überwachungsprozesse einiger Regierungsbehörden integriert. Anstatt die Überwachungsziele zu verändern, hilft KI dabei, Aufgaben zu automatisieren, die zuvor viele Analysten erforderten, von der Datenerfassung bis zur Zielauswahl. Anthropic stellt fest, dass sich dieser Trend bereits in der Realität vollzieht und weiter zunehmen wird, da die Fähigkeiten von KI-Modellen immer mächtiger werden.
