- 변호사와 본인 소송 당사자들의 생성형 AI 사용이 늘어나면서 법원 서류에 조작된 내용이 포함되는 사례가 잇따르고 있습니다.
- 2024년부터 인디애나주에서는 AI가 판례를 조작하거나 잘못된 법률 정보를 생성한 사건이 최소 34건 기록되었습니다.
- ‘AI 환각 사례(AI Hallucination Cases)’ 데이터베이스에 따르면 현재 전 세계적으로 약 2,000건의 사례가 집계되었으며, 대부분 미국에서 발생했습니다.
- 2025년 이전에는 한 달에 2~3건에 불과했으나, 현재는 하루 약 5건으로 급증했습니다.
- 인디애나주의 34건 사례 중 25건은 본인 소송 당사자가, 9건은 변호사가 AI가 조작한 내용이 포함된 서류를 제출한 경우였습니다.
- 조 에조틱(Joe Exotic)의 변호사는 잘못된 서류 제출 건당 500달러의 벌금을 부과받았으며, 부정확한 법적 인용으로 인해 소송이 기각되었습니다.
- 또 다른 변호사는 존재하지 않는 사건을 세 차례 인용한 혐의로 6,000달러의 벌금을 부과받은 후 사임했습니다.
- 다른 사례에서는 AI가 만든 가짜 판례 3개를 사용한 이유로 10,000달러의 벌금이 제안되기도 했습니다.
- 인디애나주에서 AI 조작과 관련된 총 벌금액은 약 20,000달러에 달하며, 주로 변호사들에게 부과되었습니다.
- 인디애나주 법원은 지난 8월부터 규정을 개정하여 AI의 도움을 받은 모든 서류는 제출자가 직접 완전히 검증해야 한다고 명시했습니다.
- 인디애나 남부 연방지방법원은 제출자가 제출 전 모든 인용구와 법적 근거를 독립적으로 확인했음을 입증하도록 요구하고 있습니다.
- 리걸 테크 허브(Legal Tech Hub)에 따르면 2026년 6월 기준 법률 분야를 위한 생성형 AI 제품은 1,000개가 넘습니다.
- 많은 판사는 AI가 사법 접근성을 높이는 데 도움이 되지만, 전문적인 책임과 인간의 판단을 대체할 수는 없다고 판단하고 있습니다.
📌 AI는 법률 서비스에 대한 접근성을 넓히는 동시에 사법 체계에 큰 도전 과제를 던지고 있습니다. AI가 판례를 조작하는 사례가 빠르게 증가함에 따라 법원은 권고를 넘어 처벌과 의무 검증을 요구하고 있습니다. AI가 변호사와 시민들의 시간을 절약해 줄 수는 있지만, 정보를 검증하고 법적 판단을 내리는 책임은 여전히 인간의 몫입니다.
