'인공지능 법관' 사람을 심판하다

"피고인 재범 가능성 높아" 판사에 중형 선고 근거 제시

'AI 판사' 믿을 수 있을까
미국 법원 "유용한 정보 제공"…알고리즘 공개 안해 논란



[ 추가영 기자 ] 미국 위스콘신주(州) 대법원이 인공지능(AI)이 분석한 자료를 근거로 형사재판 피고인에게 중형을 선고한 지방법원의 판결이 ‘타당하다’고 인정했다. 미국 법원은 재판의 효율성과 일관성을 위해 AI를 재판에 활용하고 있지만 실제 이를 인정한 판결이 나온 것은 이번이 처음이다.

위스콘신주 대법원은 총격 사건에 사용된 차량을 운전한 혐의로 체포된 에릭 루미스(34)의 재판에서 주 검찰이 AI 솔루션인 컴퍼스(Compas)를 활용해 중형을 구형하고, 법원이 이를 받아들여 판결한 것은 부당하다는 피고인 측 항소를 기각했다고 뉴욕타임스(NYT)가 1일(현지시간) 보도했다.

리걸테크(법률+기술) 스타트업(신생 벤처기업)인 노스포인트가 개발한 컴퍼스는 피고인의 법 준수 여부를 분석해 루미스가 추가 범죄를 저지를 가능성이 있다는 보고서를 냈다.

검찰 측은 “컴퍼스의 보고서는 피고인이 폭력성이 있고 재범 가능성이 높다는 것을 보여준다”고 주장했다. 루미스는 성폭력으로 유죄 판결을 받은 전력이 있다.

판사는 이를 인정해 “컴퍼스의 평가에 따르면 루미스는 공동체에 큰 위협이 되는 인물”이라며 징역 6년을 선고했다. 루미스는 자신이 경찰관을 기만하고 소유주 동의 없이 차량을 운전한 혐의만 인정했는데 AI 분석을 통해 중형을 선고한 것은 부당하다고 항소했다.

이번 판결에서 인공지능(AI) ‘컴퍼스’가 어떤 요인을 어떻게 분석했는지 공개되지 않았다는 점은 논란거리로 남았다. 대부분의 리걸테크(법률+기술) 업체는 회사 기밀이란 이유로 AI 알고리즘(문제 해결 절차·과정)을 비밀에 부치고 있다.

피고인 에릭 루미스 측은 “판사가 공개되지 않은 컴퍼스의 알고리즘을 기반으로 작성된 보고서를 참고해 이의를 제기하기 어려웠다”며 “적법한 절차에 대한 권리를 침해당한 것”이라고 주장했다.

앤 월시 브래들리 위스콘신주 대법원 대법관은 “알고리즘의 한계도 염두에 둬야 하지만 소프트웨어가 양형에 참고할 만한 정보를 제공해 법원에 도움을 주는 것은 사실”이라고 말했다. 또 “루미스는 도주한 것을 포함한 범행 사실과 범죄 전력 등 일반적인 요인만 고려하더라도 같은 형량을 받았을 것”이라고 항소를 기각한 이유를 설명했다.

뉴욕타임스(NYT)는 전자개인정보센터의 보고서를 인용, “비공개 AI 알고리즘이 보석금을 설정하고 판결문을 다듬고 심지어 유무죄 결정에까지 관여하는 등 미국 여러 주의 사법 시스템에서 중요한 역할을 하고 있다”고 전했다. 지난해 미국 대형 로펌은 정보기술(IT)기업 IBM이 개발한 ‘로스(ROSS)’를 도입해 법률과 판례를 정리하는 변호사 보조 역할을 맡기기도 했다. 미국 스탠퍼드대는 지식재산권(IP) 소송 관련 재판부의 성향, 쟁점 등을 분석해주는 서비스 ‘렉스마키나(Lex Machina)’를 개발했다.

특정 사기업 이익을 보호하기 위해 알고리즘을 공개하지 못한다는 것에 대해선 의문이 제기되고 있다고 NYT는 지적했다. 루미스 사건에서 그의 변호인이 지적한 것처럼 AI 알고리즘을 통해 형이 결정된 피고인이 알고리즘을 파악할 수 없다는 한계가 있기 때문이다.

NYT는 연방정부가 자체적으로 알고리즘을 개발하고, 형사 피고인과 변호인이 알고리즘이 분석한 내용을 평가할 수 있도록 공개하는 것도 대안이 될 수 있다고 설명했다.

추가영 기자 gychu@hankyung.com