- 이 기사는 중요한 질문이 ‘AI가 신뢰할 수 있는가’가 아니라, AI와 인간 모두의 실수를 통제하기 위해 시스템이 어떻게 설계되었는가라고 주장한다.
- 저자는 거대 언어 모델이 정보를 조작하고 가정을 통해 공백을 채울 수 있지만, 인간의 기억 또한 정확한 저장보다는 기억을 재구성하는 경우가 많다고 지적한다.
- 고등학교 뮤지컬 공연에 참여했다고 기억하지만 실제로는 무대 세트만 만들었던 저자의 개인적 사례는 인간 기억의 부정확성을 잘 보여준다.
- 항공 산업은 체크리스트, 예비 메커니즘, 블랙박스 및 아차 사고 조사를 통해 매우 높은 안전 수준을 달성했다.
- 의학 또한 개인의 경험에만 의존하지 않고 표준화된 진단 절차와 독립적인 평가를 통해 치료 결과를 개선했다.
- 기업에서는 여전히 많은 결정이 교육, 경험 및 직관에 의존하고 있어 오류를 추적하기가 어렵다.
- 2024년 Science Advances 에 발표된 77개의 연구를 분석한 체계적 검토 결과에 따르면 편향 방지 교육의 효과는 제한적이다.
- 더 효과적인 요소로는 명확한 프로세스, 표준화된 기준, 재량권 축소 및 의사 결정 시점의 알림 등이 있으며, 이는 효과적인 AI 거버넌스의 토대이기도 하다.
📌 AI와 인간 모두 완벽하지 않으므로 어느 쪽에도 절대적인 신뢰를 두어서는 안 된다. AI의 정확성에만 집중하는 대신, 조직은 항공 및 의학 분야와 유사하게 투명한 절차, 일관된 표준, 감시 체계 및 오류 통제 메커니즘을 구축해야 한다. 77개의 프로젝트를 분석한 2024년 연구는 개인의 인식을 바꾸는 것보다 효과적인 시스템 설계가 더 중요하다는 점을 뒷받침한다.
