- Dario Amodei, CEO Anthropic, vừa công bố bài viết “Policy on the AI Exponential”, kêu gọi xây dựng cơ chế quản lý AI tương tự Cục Hàng không Liên bang Mỹ (FAA).
- Ông cho rằng các mô hình AI tiên tiến cần trải qua kiểm tra, đánh giá độc lập trước khi được phát hành ra thị trường.
- Anthropic đề xuất chính phủ có quyền trì hoãn, chặn hoặc thu hồi các mô hình AI nếu chúng gây rủi ro lớn về an ninh mạng, sinh học hoặc tự chủ ngoài tầm kiểm soát.
- Công ty cũng công bố Khung Quản lý AI Tiên tiến và Khung Chính sách Kinh tế AI mới.
- Các mô hình được huấn luyện với quy mô trên 10²⁵ FLOPs hoặc thuộc các công ty có doanh thu AI trên 500 triệu USD có thể phải chịu các yêu cầu kiểm định bắt buộc.
- Anthropic cho rằng việc chỉ yêu cầu minh bạch như trước đây không còn đủ để kiểm soát rủi ro.
- Một động lực chính là sự gia tăng nhanh chóng của các mối đe dọa an ninh mạng do AI tạo ra.
- Công ty cho biết Claude Mythos đã thể hiện khả năng phát hiện các lỗ hổng bảo mật nghiêm trọng trên nhiều hệ điều hành.
- Anthropic đề xuất coi trọng bảo vệ trọng số mô hình (model weights) như một tài sản chiến lược cần được bảo vệ nghiêm ngặt.
- Công ty cũng cảnh báo nguy cơ xuất hiện các mô hình sao chép trái phép thông qua kỹ thuật “model distillation”.
- Về kinh tế, Anthropic thừa nhận AI có thể trở thành công nghệ thay thế lao động ở quy mô lớn chứ không chỉ là công cụ tăng năng suất.
- Công ty cam kết 350 triệu USD để nghiên cứu và hỗ trợ các chính sách ứng phó với tác động lao động của AI.
- Trong đó có 200 triệu USD cho quỹ nghiên cứu Economic Futures và 150 triệu USD cho chương trình học bổng quốc gia.
- Anthropic đang xem xét các kịch bản thất nghiệp tăng lên 5%, 10% hoặc cao hơn do AI.
- Các giải pháp được đề cập gồm bảo hiểm tiền lương, thu nhập cơ bản phổ quát (UBI) và các quỹ tài sản quốc gia.
- Công ty khuyến nghị doanh nghiệp tập trung đào tạo lại và tái bố trí nhân sự thay vì chỉ cắt giảm lao động để tài trợ cho các dự án AI.
📌 Đề xuất của Anthropic đánh dấu sự thay đổi lớn trong cuộc tranh luận về AI. Thay vì chỉ tập trung vào đổi mới và tăng trưởng, một trong những công ty AI hàng đầu thế giới đang công khai kêu gọi cơ chế kiểm soát tương tự ngành hàng không đối với các mô hình AI mạnh nhất. Nếu các đề xuất này được áp dụng, doanh nghiệp sẽ phải chuẩn bị cho một môi trường AI có nhiều yêu cầu kiểm định, bảo mật và trách nhiệm xã hội hơn, đồng thời xây dựng chiến lược nhân sự dài hạn để thích ứng với những thay đổi do AI tạo ra.
Tổng hợp
