27년 차 변호사도 속았다, AI가 지어낸 판례 8건

TL;DR

• 최근 여러 법원에서 AI가 지어낸 "존재하지 않는 판례" 인용 사건이 잇따라 적발됨
• 27년 경력 변호사가 검증 없이 제출한 서면에서 허위 판례 8건이 무더기로 발견됨
• 법원이 아예 판결문에 "AI 생성 허위 판례"라고 명시하기 시작

"원고가 들고 있는 판결들은 모두 허위의 판결로 보인다" — 이번 달 한 법원 판결문에 실제로 적힌 문장이에요. 재판부가 판결문에까지 이런 문구를 남길 정도로, AI가 지어낸 가짜 판례가 법정을 어지럽히고 있습니다.

💬 이 말이 왜 중요한가

법조계에서 AI 환각(존재하지 않는 정보를 그럴듯하게 만들어내는 현상)은 새삼스러운 얘기가 아니에요. 그런데 이젠 판사가 판결문에 직접 "AI 이용으로 인한 허위 판결"이라고 못박는 단계까지 왔습니다. 당사자들에게 "이 서면 내용이 사실과 다르다"는 걸 공식적으로 알리기 위해서라는 게 재판부 설명이에요.

📎 예시

특허법원에서 벌어진 등록무효 소송이 특히 눈에 띄어요. 27년 차 베테랑 변호사가 대리한 사건이었는데, 제출한 서면에서 인용한 판례 중 상당수가 아예 존재하지 않는 판결이었습니다. AI가 만들어낸 허위 판례 8건을 그대로, 검증 한 번 없이 법원에 낸 거예요. 경력이 아무리 길어도 "AI가 찾아줬으니 맞겠지"라는 믿음 앞에서는 무너질 수 있다는 걸 보여준 사례죠.

🤔 왜 이런 일이 반복될까

AI는 판례번호나 법원명, 날짜까지 형식은 완벽하게 맞춰서 답을 내놓아요. 실제로 있을 법한 형태로 지어내다 보니, 바쁜 실무자일수록 "형식이 맞으니 진짜겠지" 하고 그냥 넘어가기 쉽습니다. 사법연수원이 이달 초 "AI 활용 허위 법령 인용 대응"을 주제로 별도 연수까지 연 이유예요.

🙃 내 생각엔

전문가일수록 오히려 검증을 건너뛰기 쉬운 것 같아요. "내가 이 바닥 몇 년인데" 하는 자신감이, AI가 내놓은 그럴듯한 답을 다시 확인하는 습관을 밀어내 버리니까요.

출처

• "허위 판결" "법원 기망" "불법성 중대"…'AI 소설' 뿔난 판사들 판결문에 써