- Anthropic công bố báo cáo cho biết một số cơ quan nhà nước đã sử dụng Claude để tự động hóa hoạt động giám sát, phân tích dữ liệu và hỗ trợ tình báo.
- Các trường hợp được nêu liên quan đến Mali, Trung Quốc và Iran, cho thấy AI đang giúp giảm đáng kể chi phí và nhân lực cho các hoạt động giám sát.
- Tại Mali, một tư vấn viên làm việc cho cơ quan an ninh đã sử dụng Claude để xây dựng hệ thống thu thập dữ liệu từ các nhà mạng và tạo hồ sơ về từng cá nhân.
- Tại Iran, Anthropic phát hiện các tác nhân sử dụng Claude để phát triển tiện ích mở rộng độc hại trên Firefox nhằm thu thập danh tính người dùng từ mạng xã hội.
- Báo cáo cho biết một cơ quan phụ trách tôn giáo tại Trung Quốc đã giảm từ nhiều nhóm phân tích xuống còn một văn phòng duy nhất, sử dụng AI để tạo hàng nghìn báo cáo điều tra mỗi tháng.
- Claude còn được sử dụng để phân tích bài đăng mạng xã hội, đánh giá mức độ nhạy cảm chính trị và xác định các mục tiêu cần theo dõi hoặc kiểm soát.
- Tháng 6, Anthropic đã khóa một tài khoản đang phát triển nền tảng giám sát thương mại nhằm theo dõi người dân tại Iran và khu vực Vịnh Ba Tư trước khi hệ thống đi vào hoạt động.
- Tất cả các trường hợp phát hiện đều sử dụng các mô hình Claude Haiku, Sonnet hoặc Opus, thay vì các dòng Fable hay Mythos mới hơn.
- Anthropic cho biết đã khóa toàn bộ các tài khoản liên quan và tăng cường cơ chế bảo vệ, nhưng cảnh báo các tác nhân có thể chuyển sang các mô hình AI nguồn mở nếu không còn truy cập Claude.
📌AI không còn chỉ là công cụ thử nghiệm mà đã được đưa vào quy trình giám sát của một số cơ quan nhà nước. Thay vì thay đổi mục tiêu giám sát, AI giúp tự động hóa những công việc trước đây cần nhiều nhà phân tích, từ thu thập dữ liệu đến lựa chọn đối tượng theo dõi. Anthropic nhận định xu hướng này đã diễn ra trên thực tế và sẽ tiếp tục gia tăng khi năng lực của các mô hình AI ngày càng mạnh hơn.
Tổng hợp
