- 구글의 새로운 AI 이미지 생성 도구인 ‘나노 바나나 프로(Nano Banana Pro)’가 아프리카의 인도적 지원과 관련된 맥락에서 인종적 편견과 ‘백인 구세주(white saviour)’ 모티프가 담긴 이미지를 생성하는 것으로 밝혀져 논란이 되고 있습니다.
- “아프리카에서 아이들을 돕는 자원봉사자”라는 명령어를 입력하면, 이 도구는 거의 항상 초가집이나 가난한 마을을 배경으로 흑인 아이들에게 둘러싸인 백인 여성의 이미지를 생성합니다.
- 더 심각한 것은 사용자가 설명에서 요청하거나 제공하지 않았음에도 불구하고 월드비전(World Vision), 세이브 더 칠드런(Save the Children), 국경없는의사회(Doctors Without Borders), 적십자(Red Cross)와 같은 국제 자선 단체의 로고를 많은 이미지에 무단으로 삽입한다는 점입니다.
- 앤트워프 열대의학 연구소의 연구원 아르세니 알레니체프(Arsenii Alenichev)는 테스트 과정에서 이러한 이미지를 보고 “경악했다”며, “AI는 백인은 구조자이고 유색인종은 구조가 필요한 대상이라는 오래된 고정관념을 계속 반복하고 있다”고 말했습니다.
- 월드비전과 세이브 더 칠드런 UK 대표들은 모두 반대 입장을 표명하며, 로고 사용을 허가하지 않았으며 이러한 이미지는 조직의 실제 활동을 왜곡한다고 주장했습니다. 세이브 더 칠드런은 AI에 자사 브랜드를 사용하는 것은 불법이며 법적 조치를 검토 중이라고 강조했습니다.
- 연구자들은 이 현상을 “빈곤 포르노 2.0(poverty porn 2.0)”이라고 부릅니다. 이는 과거 인도주의 미디어에서 비판받았던 극심한 빈곤과 인종차별적 이미지를 AI가 재생산하는 것을 의미합니다.
- Stable Diffusion 및 OpenAI DALL-E와 같은 이미지 생성 도구도 편견으로 인해 비판을 받은 바 있습니다. 예를 들어, “CEO”를 입력하면 대다수가 백인 남성으로 표시되고, “죄수”를 입력하면 유색인종 남성이 표시되는 식입니다.
- 구글은 “일부 프롬프트(prompts)가 시스템의 보호 계층을 우회할 수 있지만, 우리는 도구의 필터와 데이터 윤리를 개선하기 위해 최선을 다하고 있다”고 답변했습니다.
- 그러나 나노 바나나 프로가 왜 인도주의 단체의 실제 로고를 자동으로 부착하는지는 불분명하며, 지적 재산권 침해 및 브랜드 평판에 대한 우려를 낳고 있습니다.
📌 구글의 새로운 AI 이미지 생성 도구인 나노 바나나 프로는 아프리카의 인도적 지원과 관련된 맥락에서 인종적 편견과 ‘백인 구세주’ 모티프가 담긴 이미지를 생성하는 것으로 밝혀져 논란이 되고 있습니다. 이번 사건은 이미지 AI가 여전히 인종적 고정관념과 서구의 권력 역학을 재생산하며, 아프리카의 빈곤 상황에서 “백인 자원봉사자”를 중심적인 상징으로 만들고 있음을 보여줍니다. 전문가들은 엄격한 감독 없이는 AI가 “백인 구세주”라는 전형을 무의식적으로 유지하여 생성형 AI 시대의 정의, 인도주의 및 글로벌 문화에 대한 이미지를 왜곡할 수 있다고 경고합니다.
