- 일반적인 우려는 생성형 AI가 훈련 데이터에서 편향을 상속받는다는 것이지만, 분석에 따르면 이는 빙산의 일각에 불과합니다.
- AI의 편향은 인간과 기계 간 상호 작용의 전체 생태계 내에서 형성되는 인간의 인지 편향에서도 비롯됩니다.
- 인간이 생각하고, 질문하고, 평가하고, AI 결과를 사용하는 방식은 시스템의 행동을 형성하고 시간이 지남에 따라 편향을 증폭시킬 수 있습니다.
- 인지 편향은 빠른 의사 결정을 돕는 사고의 “지름길”이지만, 잘못된 판단, 중요한 데이터 누락 또는 기존 신념 강화로 이어지기 쉽습니다.
- AI는 인간의 영향을 받을 뿐만 아니라 역으로 인간에게 영향을 미치며, 반복적인 피드백 루프를 통해 사용자의 편향을 은밀하게 강화합니다.
- 편향은 프롬프트 전(pre-prompt), 프롬프트 중(during-prompt), 프롬프트 후(post-prompt)의 세 단계에서 나타날 수 있습니다.
- 프롬프트 전에는 후광 효과(halo effect)나 부정적인 선입견으로 인해 사용자가 이전 경험이나 뉴스를 바탕으로 AI를 지나치게 신뢰하거나 의심하게 됩니다.
- 확증 편향(confirmation bias)은 사용자가 처음부터 문제를 잘못 설정하게 하여, 이미 믿고 있는 것을 “증명”하기 위해 AI를 사용하게 만들 수 있습니다.
- 프롬프트 중에는 유도 질문이 출력을 왜곡하며, 편의 편향(expediency bias: 정확성이나 최적의 품질보다 속도, 편의성, “적당함”을 우선시함)은 사용자가 시간 압박 때문에 “충분한” 결과를 수용하게 만듭니다.
- 프롬프트 후에는 소유 효과(endowment effect: 단지 자신이 “소유”하거나 만드는 데 노력을 들였다는 이유만으로 가치를 더 높게 평가하는 경향)로 인해 사용자가 AI와 함께 만든 결과를 과대평가하게 됩니다.
- 프레이밍 효과(framing effect: 내용이 본질적으로 같더라도 정보가 제시되는 방식에 따라 다른 결정을 내리는 경향)는 내용이 변하지 않더라도 AI 결과가 제시되는 방식과 타인이 받아들이는 방식에 강력한 영향을 미칩니다.
- 해결책은 편향을 완전히 제거하는 것이 아니라 인식을 제고하고, 비판적 사고를 기르며, 고품질 의사 결정을 지원하는 조직 프로세스를 구축하는 것입니다.
📌 하버드 대학의 기사는 AI의 편향이 단순한 기술적 문제가 아니라 인간 행동의 문제임을 강조합니다. AI가 중요한 의사 결정에 깊이 관여함에 따라 우리가 AI 결과에 대해 질문하고, 평가하고, 행동하는 방식이 은밀하게 편향을 증폭시킬 수 있습니다. 속도를 늦추고, 의도적으로 성찰하며, 비판적 사고를 장려하는 시스템을 설계함으로써 AI는 우리 자신의 편견을 위한 “확성기”가 아니라 더 나은 의사 결정 파트너가 될 수 있습니다.
