- 딜로이트(Deloitte)는 최근 가짜 인용문과 사례가 포함된 규정 준수 보고서를 작성하기 위해 ChatGPT를 사용한 것이 발각되어 호주 정부에 29만 1천 달러를 반환해야 했습니다. AI는 “틀린” 것이 아닙니다. 단순히 요청을 수행할 뿐입니다. 실수는 생각을 멈추고 지성을 기계에 위임한 인간에게 있습니다.
- 문제는 기술이 아니라 인간이 그것을 사용하는 방식에 있습니다. 파울로 프레이리(Paulo Freire)의 “은행식 교육” 개념과 유사하게, 학습자가 단순히 “질문을 예금하고 – 답변을 인출”하는 것처럼, 딜로이트의 전문가들은 요청을 제출하고 전문적인 형식으로 포장된 쓰레기를 인출했습니다.
- 교육의 위선: 앤트로픽(Anthropic) 2025년 보고서에 따르면 교수 48.9%가 AI로 채점을 자동화하면서도, 똑같이 AI를 사용하는 학생에게는 낮은 점수를 줍니다. 교사는 AI를 사용하여 수업 계획을 작성하고, 학생은 에세이를 작성하는 데 사용하지만, 후자만이 부정 행위로 간주됩니다. 결과적으로 학생들은 AI 사용을 숨기는 법을 배우지 않고, AI를 책임감 있게 사용하는 법을 배우지 않습니다.
- 인지 부채(cognitive debt): MIT 연구에 따르면 LLM(대규모 언어 모델)을 자주 사용하는 사용자들은 신경 연결이 약하고, 자신이 작성한 내용을 잊어버리며, 지적 소유권에 대한 인식이 낮습니다. 그들의 뇌는 “AI가 이미 다 해줬으니까” 생각할 필요가 없다고 학습합니다. 4개월 후, 이 그룹은 언어, 사고 및 행동 능력에서 저하를 보였습니다.
- 결과: 학생들은 자신의 선택을 설명하지 못하고, 이유를 물었을 때 방어적인 반응을 보이며, 학습 과정과의 연결성을 잃습니다. 겉으로는 글이 세련되지만, 내면은 텅 비어 있습니다.
- 대화식 프롬프팅(dialogic prompting) 해결책: 학생들이 AI를 “대화 파트너”로 간주할 때 모든 것이 바뀝니다. 그들은 비판적인 질문을 하고, 개인적인 증거로 스스로 검증하며, 서로 토론하고, 자신의 한계를 인식합니다.
- 예: “위대한 개츠비의 상징성을 분석하라”고 요청하는 대신, “AI가 먼저 분석하게 한 다음, 그 분석을 비판하고 수정하라. AI는 어떤 가정을 하는가? 어디에서 틀릴 수 있는가? 그것을 당신의 실제 경험과 연결하라”고 요청하십시오.
- 이 과정은 시간이 더 걸리지만, 질문하기, 검증하기, 종합하기, 해석하기와 같은 고차원적 사고 기술을 훈련시킵니다.
- 교사의 역할: 몰래 자동 채점을 하면서 AI 윤리를 설교할 수는 없습니다. 투명성이 필요합니다. 학생들에게 교사가 AI를 어떻게 사용하는지, 결과물을 거부하는 이유, 인간적인 요소를 추가하는 방법을 보여주십시오. 목표는 기술을 숨기는 것이 아니라, 기술을 사용할 때 비판적 사고를 시연하는 것입니다.
📌 딜로이트의 29만 1천 달러 실수는 우연이 아니라 경고입니다. 인간이 생각을 멈추고 AI에게 대신 생각하게 할 때, 우리는 “데이터 쓰레기” 전문가 세대를 만들고 있습니다. 오늘날 비판적 사고를 가르치는 것은 더 이상 “AI에 반대하는” 것이 아니라, AI와 함께 대화하고, 검증하고, 의사 결정을 내리는 방법을 가르치는 것입니다. 다음 세대가 명령을 입력하는 방법뿐만 아니라 생각하는 방법을 계속 알 수 있도록 말입니다.
