TL;DR
- 규모: 법원이 시범 운영하는 재판지원 AI에 2월부터 8월까지 약 27만 건의 질의가 쌓였어요.
- 빈틈: 환각(AI가 그럴듯한 거짓을 지어내는 현상)을 막을 계약상 성능 기준은 없어요.
- 안전장치: 남은 건 답변 속 사건번호와 법 조항이 실제로 있는지 직접 확인하라는 사용자 설명서의 당부예요.
"AI가 판례를 찾아주면 편하긴 한데, 틀리면 누가 잡아요?" 이 걱정을 이번엔 법원이 받고 있어요.
9월 20일 뉴스1이 국회 법제사법위원회 이성윤 의원실이 대법원에서 받은 자료를 보도했어요.
🔙 예전엔
판례와 법령을 찾고 긴 문서를 요약하는 일은 결국 사람이 읽고 맞춰 보는 몫이었어요. 느리고 번거로웠지만, 이 사건번호가 진짜인지 확인하는 과정이 일하는 방식 안에 자연스럽게 들어 있었죠.
🔜 지금은
올해 2월 7일부터 재판지원 AI(법관과 법원 직원의 판례·법령 검색, 문서 요약을 돕는 내부망 전용 도구)가 시범 운영 중이에요. 8월 말까지 법관 3,178명이 13만 536건을 물었고, 누적 질의와 답변은 각각 27만 1,839건이에요. 가장 많이 쓴 법관은 혼자 749건을 물었다고 해요.
🤔 그런데 빈틈이 있어요
대법원은 정확도, 환각, 개인정보, 보안에 대한 계약상 성능 기준은 없다고 밝혔어요. 작은 언어모델이라 오류를 완벽히 통제하기 어렵다는 이유예요. AI 결과를 판결문 작성에 직접 썼는지도 따로 관리하지 않는다고 했고요. 오류가 실제 재판에 반영된 사례는 확인되지 않았다는 답이 붙었지만, 애초에 기록이 없다면 확인할 방법도 마땅치 않아요. 법원행정처는 2월에 낸 법관용 AI 가이드북에서 별도 검증을 거쳤는지 점검하라고 안내하고 있고, 대법원도 잘못된 사건번호 처리 같은 오류를 줄이는 작업을 하겠다고 했어요. 다만 지금 안전장치는 결국 쓰는 사람의 확인에 기대고 있어요.
📎 예시
워싱턴주 변호사협회 블로그 NWSidebar가 8월 31일 소개한 미국 사건이에요. 연방법원이 8월 18일 결정에서 AI가 지어낸 논문 인용이 든 전문가 보고서를 증거에서 아예 빼 버렸어요. 원고 측 변호사는 AI 도구 두 개를 쓸 줄 몰랐다고 인정했고, 증거를 잃은 원고의 청구는 그대로 기각됐어요. 인용 몇 줄의 실수가 소송 전체를 끝낸 셈이에요.
💡 Tip
AI가 준 사건번호나 인용은 원문 사이트에서 직접 열어 보는 걸 기본값으로 두세요. 그럴듯한 형식일수록 더 의심해 볼 만해요.
✅ 예전엔 사건번호를 사람이 직접 찾아 확인하는 게 기본이었어요.
✅ 지금은 AI가 먼저 답하고, 확인은 설명서 속 당부로 남아 있어요.
✅ 그래서 27만 번 물을수록, 몇 번을 확인했는지가 더 중요해져요.
참고자료
'AI에 속은 인간' 카테고리의 다른 글
| 몇 주 통화한 대출 담당자 목소리, AI가 SNS에서 복제한 거였다 (0) | 2026.09.25 |
|---|---|
| 등산객 3명이 구글 AI 말만 믿고 산에서 밤을 지새운 사연 (0) | 2026.09.24 |
| AI가 쓴 걸 안 읽고 보냈다고 답한 직장인이 69%예요 (0) | 2026.09.21 |
| AI가 골라준 장례 날짜 때문에 소송까지 갔어요, 짚어볼 3가지 (0) | 2026.09.21 |
| 매체 여러 곳이 30번 넘게 인용한 심리 전문가, AI가 만든 사람이었다 (0) | 2026.09.20 |
