- 싱가포르는 2026년 1월 22일, 독립적으로 행동하고 여러 시스템에 동시에 접근할 수 있는 AI 에이전트의 위험을 줄이기 위해 ‘에이전틱 AI를 위한 모델 AI 거버넌스 프레임워크’를 발표했습니다.
- 에이전틱 AI는 자연어를 이해하고 추론하며 인간을 대신해 자율적으로 작업을 완료한다는 점에서 기존 AI와 다릅니다. 예를 들어 스스로 코드를 작성, 테스트 및 수정하는 프로그래밍 어시스턴트가 있습니다.
- 이러한 능력은 반복적인 업무 자동화라는 이점을 제공하지만, 무단 결제, 개인 정보 유출 또는 권한을 초과하는 행동과 같은 새로운 위험도 수반합니다.
- 예를 들어, AI가 의료 예약을 잘못 예약하여 환자의 건강에 영향을 미치거나 인간의 승인 없이 디지털 시스템을 변경할 수 있습니다.
- 거버넌스 프레임워크는 기업이 각 AI 에이전트가 접근할 수 있는 도구와 시스템의 수를 제한하도록 요구합니다. 모든 에이전트가 모든 권한을 가질 필요는 없기 때문입니다.
- 조직은 특히 데이터 영구 삭제와 같이 되돌릴 수 없는 행동에 대해 인간의 개입이 필수적인 ‘체크포인트’를 명확히 정의해야 합니다.
- AI 에이전트가 점점 더 자율화되더라도, 인간과 조직은 역할과 책임을 명확히 구분함으로써 최종적인 책임을 져야 합니다.
- 이번 새 프레임워크는 2020년에 발표된 기존 AI 거버넌스 버전을 기반으로 구축되었으며 공공 및 민간 부문의 기여가 포함되었습니다.
- 싱가포르 정부는 기업들이 에이전틱 AI 아키텍처를 설계하는 단계에서 가이드라인을 제시하기 위해 조기 발표를 결정했습니다.
- 다보스 세계경제포럼(WEF)에서의 발표는 싱가포르 고객에게 서비스를 제공하는 글로벌 공급업체들에게 신호를 보내기 위한 목적도 있습니다.
- 또한 중소기업(SME)이 안전한 에이전틱 AI 구현을 위한 지식에 보다 공평하게 접근할 수 있도록 돕는 것을 목표로 합니다.
결론: 싱가포르는 2026년 1월 22일 다보스 포럼에서 에이전틱 AI 거버넌스 프레임워크를 발표하며, 사고가 난 후 대처하는 것이 아니라 선제적으로 대응하는 모습을 보였습니다. 접근 제한 설정, 인간 개입 요구, 조직 책임 강조를 통해 신뢰를 희생하지 않으면서 자동화의 이점을 누리고자 합니다. 이는 AI 자율성이 높아짐에 따라 발생할 수 있는 되돌리기 어려운 결과를 방지하기 위해 낮은 위험 시나리오부터 점진적으로 신뢰를 구축하려는 전략적 행보입니다.
