인공지능(AI) 챗봇인 챗GPT가 만든 콘텐츠를 잡아내는 AI 기술이 나왔다. 챗GPT의 성능이 너무 뛰어나 각종 논란이 커지면서다. 챗GPT 같은 일명 생성AI 기술이 사람을 속이는 데 악용될 수 있다는 우려에서 나온 기술이다. '최고의 창'과 '최고의 방패' 간 다툼처럼 관련 AI 기술 간 경쟁도 치열해질 것이라는 전망도 나온다.
30일 정보기술(IT)업계에 따르면 세계적인 AI 전문가로 꼽히는 미국 스탠퍼드대의 크리스토퍼 매닝 교수와 첼시 핀 교수 등이 참여한 연구팀은 지난 26일 챗GPT의 바탕인 AI 언어모델 GPT3로 만들어진 문장 찾아내는 기술(디텍트GPT·DetectGPT)을 공개했다. 연구팀은 “학생들이 (GPT 같은) LLM(대규모 언어 모델) 사용해 과제를 끝낼 수 있는데 이런 경우 선생은 학생의 학습 내용을 정확하게 평가할 수 없다”며 해당 기술을 만든 배경을 설명했다.
하정우 네이버 AI랩 소장은 29일 온라인 세미나에서 “생성 모델을 잡아내는 AI 모델이 업계의 구루(스승)급 연구자에서 처음 나왔다”며 “이런 연구에서 의미 있는 스타트”라고 설명했다. 전병곤 서울대 컴퓨터공학과 교수는 “거대 언어 모델에 대한 탐지도 가능한지 확인이 필요하지만 앞으로 초거대 모델에서 쓰일 수 있도록 연구도 계속될 것”이라고 말했다.
디텍트GPT는 나온 이유는 단순하다. 챗GPT 등 최근에 주목받은 생성AI의 기술 수준과 관련 서비스 성능이 너무 뛰어나기 때문이다. GPT3는 미국 펜실베이니아대 와튼스쿨에서 경영학석사(MBA) 과정의 필수 교과목인 ‘운영관리’ 기말시험을 B학점을 받았다. 챗GPT는 미국 의사면허시험(USMLE)의 모든 과목에서 50% 이상의 정답률을 보여줬다. AI 이미지 생성기인 미드저니가 만든 미술 작품은 지난해 미국 콜로라도 주립 박람회에서 열린 미술대회에서 1등상을 수상하기도 했다.
생성 AI가 주목을 받으면서 관련 투자도 급증했다. 시장조사업체 피치북에 따르면 벤처캐피털(VC)이 지난해 생성 AI 관련 기업에 투자한 자금은 13억7000만달러(약 1조7300억원)로 나타났다. 이전 5년간의 투자금과 맞먹는 규모다. 글을 입력하면 그림을 그려주는 AI(스테이블 디퓨전)를 개발한 업체로 유명한 미국 스타트업 '스태빌리티 AI'은 작년 10월 코아투매니지먼트, 라이트스피드 벤처파트너스 등으로부터 1억100만달러 규모 투자를 유치했다. 2018년에 설립된 '스태빌리티 AI'는 시드 투자 유치로 단숨에 유니콘기업 반열에 올랐다.
AI가 인간을 대체하는 범위가 넓어지면서 관련 서비스를 제한하는 사례도 늘고 있다. 뉴욕시 교육부는 최근 모든 공립학교에서 챗GPT 사용을 금지했다. 국제기계학습학회(ICML)도 AI 도구로 논문을 작성하는 것은 금지한다고 밝혔다. 각종 유료 이미지 등을 제공하는 미국의 게티이미지는 최근 이미지 생성 AI ‘스테이블 디퓨전’을 개발한 스태빌리티 AI가 수백만 장의 사진을 무단으로 이용했다며 저작권 침해 소송을 제기기하도 했다. 업계 관계자는 “사람이 만든 결과물을 제대로 평가하는데 AI가 방해할 수 있기 때문에 관련 콘텐츠를 찾아내는 디텍트GPT 같은 기술의 수요도 커질 수 밖에 없다”고 말했다.
AI가 AI로 생성된 결과물을 찾으려는 시도가 이번이 처음은 아니다. AI로 사진, 동영상 등을 조작해 사람 얼굴 등을 바꿔치기하는 기술인 딥페이크가 여론 조작과 인권 침해 등으로 악용되자 페이스북, 마이크로소프트(MS), 아마존 등은 2020년 세계 최대 AI 개발자 커뮤니티인 캐글에서 상금 100만달러를 걸고 딥페이크를 감지하는 AI 기술을 찾았다. 지난해에는 미국 컬럼비아대 연구팀이 AI 스피커 등의 도청을 원천 차단하는 AI 기술을 개발했다. 국방 분야에서도 AI를 활용한 사이버 공격을 AI로 막는 기술이 계속 만들어지고 있다.
AI 간 공수 대결은 계속될 전망이다. 해킹과 해킹을 막는 기술이 계속 발전하는 것처럼 관련 AI 기술 수준도 높아질 것이라는 분석이 나온다. 어느 순간에는 AI 생성물에 대한 막연한 거부감이 없어질 것이라는 의견도 있다. AI챗봇 이루다의 개발사인 스캐터랩의 이주홍 리서치팀 리드는 “AI 생성물을 찾아내는 기술이 당장은 연구할 가치가 있겠지만 AI를 활용하는 곳이 늘어나면서 AI 생성 여부에 관심이 없는 시대가 올 것“이라고 예상했다.
투자업계에서도 생성AI의 활용 범위가 대폭 커질 것으로 전망이 나온다. 미국 실리콘밸리 벤처캐피털(VC) 세쿼이아캐피털은 최근 보고서를 통해 “앞으로 2년 안에 AI는 평균적인 사람보다 작문, 상업적인 코드 작성, 이미지와 게임 초안 제작 등에서 더 좋은 성과를 내놓을 것”이라고 전망했다. 시장조사업체 가트너는 2025년까지 대기업에서 내보내는 메시지의 30%가 생성 AI 기술을 통해 만들어질 것이라고 분석하기도 했다.
김주완/최다은 기자 kjwan@hankyung.com
관련뉴스
