오픈AI도 챗GPT 잡아내는 AI 내놨다

인공지능(AI) 챗봇 '챗GPT'를 제작한 스타트업 '오픈AI'가 챗GPT로 작성한 글인지 아닌지를 구별하는 툴을 31일(현지시간) 자사 블로그를 통해 공개했다.

오픈AI는 "인간이 작성한 텍스트와 AI가 작성한 텍스트를 구별하는 훈련을 받았다"며 "사람이 쓴 텍스트와 AI 텍스트 데이터를 모두 학습해 이를 구별할 수 있다"고 했다. 사용자가 판별을 원하는 텍스트를 이 툴에 집어넣으면 시스템은 AI가 글을 썼는지에 대해 판단한다.

오픈AI가 이러한 툴을 출시한 이유는 챗GPT가 사기, 스팸 발송, 표절 등에 악용될 우려가 있다는 지적에 따른 것이다. 챗GPT가 공개된 후 학교에서는 학생들이 과제물 작성 등을 챗GPT로 할 수 있다는 우려가 커졌다. 지난해 12월에는 챗GPT가 미국 의사면허 필기시험의 3개 부분 모두에서 합격 점수를 받기도 했다.

다만 오픈 AI는 시스템의 한계를 인정했다. 회사는 "모든 AI가 작성한 텍스트를 확실하게 판별하는 것은 불가능하다"며 "아직 진행 중인 작업"이라고 했다.

실제로 이 도구는 AI가 작성한 텍스트 중 26%만을 "AI 작성 가능성 높음"이라고 판단했다. 사람이 쓴 글인데도 AI가 썼다고 잘못 판단하는 경우도 9%였다. 오픈 AI는 "AI가 쓴 텍스트를 모두 탐지해내는 것은 불가능하지만, 교육자나 고용주 등이 텍스트의 소스를 가려내는 데에 보조 수단으로 쓰일 수 있을 것"이라고 했다.

챗GPT는 오픈AI가 지난해 12월 출시한 딥러닝 기반 언어 생성 프로그램이다. 대화창에 텍스트를 입력하면 그에 걸맞은 대답을 도출한다.

박주연 기자 grumpy_cat@hankyung.com