- OpenAI giới thiệu hệ thống Private Safety Processing, cho phép phát hiện hành vi lạm dụng trên các mô hình AI tiên tiến mà không cần lưu trữ dữ liệu của khách hàng.
- Công nghệ đang được thử nghiệm với một số khách hàng doanh nghiệp trước khi phát hành rộng rãi cùng tài liệu kỹ thuật vào tháng 9.
- Hệ thống chỉ gửi các tín hiệu an toàn đã được giới hạn cho OpenAI thay vì truyền toàn bộ câu lệnh hoặc phản hồi của người dùng.
- Dữ liệu có thể tiếp tục nằm trên hạ tầng do khách hàng kiểm soát hoặc được OpenAI lưu trữ bằng khóa mã hóa do chính khách hàng quản lý.
- OpenAI cho biết việc theo dõi nhiều phiên tương tác theo thời gian giúp phát hiện các cuộc tấn công phức tạp, chẳng hạn người dùng thu thập từng phần thông tin để chuẩn bị tấn công an ninh mạng.
- Anthropic lại yêu cầu khách hàng doanh nghiệp sử dụng các mô hình Fable 5 và Mythos 5 phải chấp nhận lưu dữ liệu trong 30 ngày để phục vụ giám sát an toàn.
- Anthropic thừa nhận chính sách này có thể không được khách hàng ủng hộ và gây bất lợi cạnh tranh nếu đối thủ vẫn duy trì mô hình không lưu dữ liệu.
- Hai công ty đang theo đuổi hai chiến lược an toàn khác nhau khi các mô hình AI ngày càng mạnh và xuất hiện nhiều rủi ro mới.
- OpenAI cũng vừa tạm dừng một phần quá trình huấn luyện các mô hình mới để xử lý các vấn đề an toàn, trong khi Anthropic cho biết chưa thấy cần áp dụng biện pháp tương tự.
- Hệ thống không lưu dữ liệu của OpenAI hiện chỉ dành cho khách hàng doanh nghiệp và API đủ điều kiện, chưa áp dụng cho người dùng ChatGPT Free, Go, Plus hoặc Pro.
📌 Cạnh tranh giữa OpenAI và Anthropic đang mở rộng sang cách cân bằng giữa quyền riêng tư và an toàn AI. OpenAI hướng tới phát hiện rủi ro mà vẫn duy trì cơ chế không lưu dữ liệu cho khách hàng doanh nghiệp, trong khi Anthropic chấp nhận lưu nhật ký 30 ngày để theo dõi các cuộc tấn công tinh vi. Hai cách tiếp cận phản ánh những lựa chọn khác nhau về quản trị AI khi các mô hình ngày càng có năng lực và rủi ro cao hơn.
Tổng hợp.
