- Reuters dẫn báo cáo tình báo mối đe dọa của Anthropic cho biết Claude đã bị nhiều tổ chức và cá nhân lợi dụng trong các hoạt động liên quan đến phát triển vũ khí, tấn công mạng, giám sát và lừa đảo trước khi các tài khoản bị phát hiện và xử lý.
- Anthropic cáo buộc một số tác nhân tại Trung Quốc sử dụng Claude để phát triển phần mềm tác chiến điện tử, mô phỏng gây nhiễu radar và lập kế hoạch chế áp phòng không, trong đó có mô phỏng 12 mục tiêu tại Đài Loan như radar cảnh báo sớm, trận địa Patriot,
- Thiên Cung, căn cứ không quân và hầm chỉ huy.
- Một nhóm khác bị cho là dùng Claude để xây dựng đề xuất kỹ thuật hơn 200 trang cho hệ thống chống ngư lôi của hải quân Trung Quốc và so sánh với công nghệ Hải quân Mỹ.
- Báo cáo cũng mô tả việc Claude bị sử dụng để nghiên cứu vũ khí vi sóng công suất cao, truy vết chuỗi cung ứng linh kiện và chuẩn bị báo cáo cho các cơ quan Trung Quốc.
- Tại Yemen, Anthropic phát hiện một nhóm sử dụng Claude để lập trình, mô phỏng và khắc phục lỗi cho tên lửa dẫn đường, tên lửa đạn đạo tầm bắn trên 2.000 km và biến thể sử dụng phương tiện lướt siêu vượt âm. Công ty cho biết nhiều yêu cầu đã bị chặn và chưa có bằng chứng các vũ khí này được triển khai thực tế.
- Một số tác nhân tại Nga bị cáo buộc dùng Claude để phát triển phần mềm điều khiển đàn máy bay không người lái FPV tự hành và tìm cách mua linh kiện lưỡng dụng thông qua các trung gian tại Trung Quốc và Hong Kong nhằm né lệnh trừng phạt.
- Anthropic ghi nhận nhiều nỗ lực sử dụng Claude để hỗ trợ nghiên cứu sinh học liên quan đến virus chikungunya, cúm gia cầm độc lực cao, orthopoxvirus và độc tố mới, đồng thời cho biết các hoạt động này diễn ra tại những nơi dịch vụ của hãng không được cung cấp.
- Trong lĩnh vực an ninh mạng, công ty cho biết Claude bị dùng để tìm lỗ hổng phần mềm, phát triển mã khai thác và hỗ trợ xâm nhập mạng của khoảng 50 tổ chức, bao gồm cả cơ quan chính phủ nước ngoài.
- Báo cáo còn mô tả Claude bị sử dụng trong các hoạt động thu thập tình báo, giám sát người Duy Ngô Nhĩ, người Tây Tạng, các nhà hoạt động, tổ chức Do Thái, lực lượng hải quân Mỹ, cũng như xây dựng nền tảng giám sát truyền thông xã hội và hệ thống theo dõi khoảng 25 triệu SIM tại Mali.
- Anthropic cũng phát hiện một chiến dịch tại Trung Quốc phát triển hơn 20 ứng dụng hẹn hò với trên 4.700 nhân vật AI tương tác với ít nhất 25.000 người dùng nhằm phục vụ các hoạt động lừa đảo.
📌 Báo cáo của Anthropic cho thấy AI tạo sinh ngày càng bị khai thác cho nhiều mục đích an ninh và quân sự, từ phát triển vũ khí, nghiên cứu sinh học, tấn công mạng đến giám sát và lừa đảo. Đây là các cáo buộc và đánh giá do Anthropic đưa ra dựa trên hoạt động phát hiện trong hệ thống của mình; một số chính phủ và tổ chức liên quan đã bác bỏ hoặc chưa phản hồi. Nội dung nhấn mạnh nhu cầu tăng cường giám sát việc sử dụng các mô hình AI tiên tiến để hạn chế nguy cơ bị lạm dụng.
Tổng hợp
