- Dario Amodei khẳng định AI có thể chữa hầu hết bệnh lớn trong 5-10 năm, thúc đẩy tăng trưởng kinh tế và nâng cao chất lượng sống nếu được phát triển an toàn.
- Ông cảnh báo AI cũng tạo ra rủi ro mất kiểm soát, tấn công mạng, khủng bố sinh học và biến động kinh tế nếu cuộc đua thương mại lấn át an toàn.
- Theo Amodei, tốc độ phát triển AI gần đây tăng mạnh nhờ AI hỗ trợ xây dựng thế hệ AI tiếp theo, tạo hiệu ứng recursive self-improvement.
- Ông cho rằng sự cố Agent của OpenAI tấn công Hugging Face cho thấy mô hình mạnh hơn nhưng lệch alignment có thể gây thiệt hại hàng trăm tỷ USD.
- Anthropic đề xuất giảm tốc phát triển năng lực AI chứ không dừng nghiên cứu, nhằm tạo thời gian củng cố an toàn và alignment.
- Bước đầu tiên là cho tổ chức đánh giá độc lập quyền truy cập thường trực với mức quyền tương đương nhân viên để giám sát quy trình.
- Hai bước tiếp theo gồm phối hợp giữa các công ty AI tại các nước dân chủ và mở rộng hợp tác quốc tế.
- Thời gian bổ sung sẽ được dùng để nâng cao vận hành, interpretability, kiểm thử, đánh giá và nghiên cứu alignment.
- Ông kêu gọi kiểm soát xuất khẩu chip, ngăn đánh cắp mô hình và hạn chế chưng cất mô hình tại các quốc gia đối thủ.
- Amodei đề xuất các cấp độ hợp tác toàn cầu, từ cấm ứng dụng AI nguy hiểm đến giới hạn recursive self-improvement và thậm chí giảm tốc phát triển.
📌 Sự thay đổi quan trọng trong lập trường của Dario Amodei khi chuyển từ ưu tiên phát triển AI an toàn sang kêu gọi giảm tốc toàn ngành. Ông cho rằng tiến bộ AI vẫn cần tiếp tục nhưng phải dành thêm thời gian để cải thiện alignment, interpretability, kiểm thử và giám sát độc lập. Đồng thời, ông nhấn mạnh hợp tác giữa các doanh nghiệp, chính phủ và quốc tế là điều kiện cần để giảm nguy cơ mất kiểm soát trong khi vẫn duy trì lợi ích và năng lực cạnh tranh của AI.
Tổng hợp
