/그래픽=신재민 편집위원


재판을 위해 서류를 검토하던 A 판사는 눈을 의심했다. 재판 당사자가 자신에게 유리한 근거라며 제출한 판례가 애초 존재하지 않는 허위 판례였기 때문이다. 결국 A 판사는 "원고가 제시한 대법원 판결은 존재하지 않는다. 함께 인용한 다른 판결도 원고 주장과 달리 소멸시효 중단에 관한 내용이 아니다"고 판시했다. 이는 서울북부지법의 한 민사재판 판결문에 실제 담긴 내용이다.

생성형 AI의 법률 분야 활용이 확산하면서 허위 판례와 법령이 재판부에 제출되는 사례가 잇따르고 있다. 재판 당사자뿐 아니라 변호사도 AI가 제시한 정보를 검증 없이 인용하면서 재판부와 소송 상대방의 확인 부담이 커지고 있다.

법원행정처가 지난 2일 공개한 법관 360명을 대상으로 한 설문조사(복수 응답)에서 196명(80.7%)은 존재하지 않는 판례의 인용을 경험했다고 답했다. 판결 번호는 존재하지만, 실제와 다른 내용의 판례 인용을 경험한 법관도 159명(65.4%)에 달했다. 허위 판례 등의 인용 주체로 당사자 본인을 꼽은 응답은 69.5%(164명)였고, 소송대리인·변호인을 꼽은 응답도 57.6%(136명)에 이르렀다.

당사자가 직접 허위 판례를 제시한 사례는 여럿 확인됐다. 부산지법의 즉결심판 사건에서는 피고인이 챗GPT를 활용해 도로교통법상 휴대전화 '사용'의 의미에 관한 허위 판례를 제시했다. 전주지법에서는 법관이 영장을 심사하며 수사 기록을 살펴보다가 피해자인 진정인이 제출한 자료에서 존재하지 않는 판례를 발견했다. 서울에서 활동하는 한 민사 전문 변호사는 "의뢰인이 AI가 제시한 허위 법률 조항을 근거로 처벌 가능성을 문의하는 일이 빈번하다"고 전했다.

소송대리인·변호인의 AI 인용도 정확성을 담보하지 못하고 있다. 울산지법에서는 소송대리인이 구글 AI로 검색한 판결 내용을 제대로 확인하지 않고 인용한 사례가 드러났다. 또 대구고법에서는 재판부가 소송대리인에게 존재하지 않는 판결의 사건번호를 확인하도록 요구했지만, 대리인이 또 다른 허위 판결을 제시하기도 했다.

생성형 AI에게 얻은 사건번호를 사법정보공개포털 허위 사건번호 확인란에 직접 입력해봤다. 허위 정보일 수 있으니 주의 바란다는 경고창이 뜬다./사법정보공개포털 캡처


법원행정처의 설문에서 법관의 91.7%는 제도적 대응이 필요하다고 응답했다. 앞서 법원행정처는 'AI 활용 허위 주장·증거 제출 대응 TF'를 구성해 대응 방안을 논의해 지난 2월 대법원 사법정보공개포털에 '허위 사건번호 확인 기능'을 도입한 바 있다. 기자가 직접 생성형 AI에 가상의 사건번호를 만들어 달라고 요청한 뒤 해당 번호를 입력하자 허위 정보일 수 있다는 경고문이 떴다.

법원행정처는 대응 방안으로 허위 판례 제출 시 소송비용을 부담하게 하거나, 변호사 징계를 의뢰하는 등의 조치를 제시했다. 대한변호사협회 관계자는 동행미디어 시대에 "아직 법원으로부터 관련 비위 사실이 통보된 적은 없다. 관련 사안이 접수되면 대응책을 적극 마련할 계획"이라고 밝혔다. 변협은 변호사법 및 회규에 근거해 변호사 징계를 할 수 있다. 국회에는 지난 8월 허위 법령·판례 인용 시 과태료를 부과하는 동시에 AI 활용 사실을 기재하고, 주요 내용의 검증을 의무화하는 민사소송법·형사소송법 개정안이 발의됐다.

부장판사 출신 강민구 변호사(법무법인 도울)는 "가짜 판례 검증에 재판부와 상대방의 시간과 비용이 낭비된다. 허위 법리에 현혹되면 재판의 공정성과 정확성이 훼손될 위험이 있다"고 지적했다. 이어 "전자소송 시스템에서 판례의 진위를 자동으로 검증하도록 하고, AI 결과물에 대한 (사용자의) 최종 검증 책임을 명확히 해야 한다"고 말했다.