- Năm 1832, hệ thống London Clearing House giải quyết vấn đề thanh toán giữa 31 ngân hàng bằng cơ chế uy tín và loại trừ, không cần luật pháp
- Cốt lõi không phải công nghệ mà là “kiến trúc niềm tin” gồm danh tính rõ ràng, tiêu chuẩn hành vi và hậu quả khi vi phạm
- Ngày nay, AI agent đang bước vào môi trường tương tự khi phải tự đàm phán với nhau mà không có con người giám sát
- Các framework hiện tại chưa có kiến trúc niềm tin để hỗ trợ agent-to-agent negotiation giữa các bên cạnh tranh
- AI hiện chỉ giỏi tuân thủ “rules” nhưng đàm phán thực tế cần “standards” mang tính linh hoạt và phán đoán
- Các model hiện tại chưa được huấn luyện để giữ lập trường, đánh giá rủi ro hay hiểu hệ quả tài chính và pháp lý
- Xuất hiện hiện tượng “echoing behavior” khi 2 agent quá “dễ chịu”, dẫn đến quyết định phi lý trong giao dịch
- AI có tính xác suất nên cùng một tình huống có thể cho kết quả khác nhau, gọi là “wriggling problem”
- Để giải quyết cần 4 yếu tố: danh tính & uy tín, ranh giới thay vì kịch bản, trách nhiệm rõ ràng và cơ chế escalation
- Ứng dụng thực tế đang xuất hiện trong y tế, tài chính và chuỗi cung ứng, nơi agent có thể tự đàm phán hàng nghìn lần mỗi ngày
- Các tổ chức cần xây dựng tiêu chuẩn, hệ thống audit và hạ tầng uy tín trước khi triển khai agent ở quy mô lớn
📌 Bài toán AI hiện nay không còn là sức mạnh tính toán mà là xây dựng “kiến trúc niềm tin” giống hệ thống ngân hàng năm 1832. Khi hàng triệu AI agent bắt đầu tự đàm phán trong tài chính, y tế và thương mại, các vấn đề như sai lệch kết quả, thiếu trách nhiệm và hành vi phi lý sẽ trở nên nghiêm trọng. Nếu không có tiêu chuẩn, danh tính và cơ chế kiểm soát rõ ràng, hệ thống AI có thể làm suy yếu niềm tin thay vì thúc đẩy nền kinh tế.
