챗GPT의 아버지도 "AI, 재앙 초래할 수 있다"

“범용인공지능(AGI)의 위험이 허구라는 생각이 맞다면 좋겠습니다. 하지만 우리는 이런 위험이 실제 있는 것처럼 인공지능(AI)을 운영할 것입니다.”

글로벌 열풍을 일으키고 있는 AI 챗봇 ‘챗GPT’를 개발한 미국 오픈AI의 샘 올트먼 최고경영자(CEO·사진)가 최근 AI 기술 개발에 속도 조절이 필요하다는 주장을 내놨다.

올트먼 CEO는 이런 내용을 담은 ‘AGI를 위한 계획과 그 너머’라는 제목의 글을 최근 자사 홈페이지에 올렸다. AGI는 인간이 하는 모든 지적 업무를 처리할 수 있는 AI다. 인간의 명령 없이 스스로 학습하고 사고하며 행동할 수 있는 수준이다.

올트먼 CEO는 “AGI는 모든 사람에게 놀랍도록 새로운 능력을 제공할 잠재력이 있다”면서도 “한편으로 오용, 심각한 사고, 사회적 혼란 등을 초래할 수 있다”고 우려했다. 이어 “잘못 조정된 AGI는 세계에 심각한 해를 끼칠 수 있으며 독재 정권이 이를 이용할 수도 있다”고 덧붙였다.

그는 이런 문제가 발생하지 않도록 AI 활용 범위를 천천히 확대해야 한다고 강조했다. 이 과정에서 각국 정부가 AI를 충분히 이해하고 관련 규제를 마련해야 한다고 지적했다. 올트먼 CEO는 AI 부작용을 막기 위해 AI 개발 속도를 조정할 필요가 있다는 의견도 내놨다.

그는 “새로운 AI 모델을 만드는 데 사용되는 컴퓨팅 증가 속도를 제한하고 AI 학습을 중단할 수도 있다”고 말했다. 이어 “(오픈AI) 주주들이 얻을 수 있는 수익에 상한선을 두고 재앙을 초래할 행위는 하지 않겠다”고 했다.

최근 챗GPT가 놀라운 성능을 보여주면서 AI에 대한 우려는 커지고 있다. 오픈AI의 공동 창업자인 일론 머스크 테슬라 CEO는 지난달 “AI는 인간 문명의 미래에 가장 큰 위험 중 하나”라며 관련 규제를 신속히 도입해야 한다고 주장했다. 지난달 한국, 미국, 일본, 중국 등 60개국은 ‘군사적 영역에 책임이 있는 AI에 관한 장관급 회의(REAIM 2023)’에서도 AI 사용에 신중할 것을 권고하는 내용의 공동 행동 촉구서를 채택하기도 했다.

AI 스타트업 올거나이즈코리아의 이창수 대표는 “AGI 상용화는 약 5년 안에 가능할 것”이라고 전망했다.

김주완/최다은 기자 kjwan@hankyung.com