32세에 현대전자에서 반도체 설계1실장을 맡아 256메가 SD램(1994년)을 개발했다. 이후 KAIST로 자리를 옮겨 휴대폰용 게임 칩(1999년), 웨어러블 컴퓨터 개발(2008년), 신경망처리장치(NPU·2015년) 등을 세계 최초로 내놨다. ‘반도체 설계 올림픽’으로 불리는 국제고체회로학회(ISSCC)에서 그가 발표한 논문은 모두 63편. 세계 5위에 해당하는 기록이다.
지난 2월엔 김상진 박사과정 학생과 함께 ‘재구성형 지능형 반도체(PIM)’를 발표해 주목받았다. 당시 학계에선 “메모리와 연산장치를 분리 운영하는 현대 컴퓨터의 방식(폰 노이만 구조)을 완전히 흔드는 방식”이라는 평가가 나왔다. 하나의 셀에서 메모리 기능과 연산, 아날로그-디지털 데이터 변환 기능을 모두 지원하는 것이 특징이다. 한마디로 D램을 AI 반도체처럼 활용할 수 있다는 뜻이다.
그는 새 칩과 관련, “집적도가 기존 아날로그형 D램의 27배, 아날로그형 S램 PIM의 2.3배에 달한다”며 “칩당 처리량도 기존 디지털 PIM보다 15배가량 많다”고 설명했다. 이어 “기존에 나온 여러 모델이 이론적인 설명에 비해 실제 AI 연산 효율은 높지 않은 경우가 많았던 것과 달리, 이 칩은 AI를 돌렸을 때 연산 효율이 종전 방식보다 2.5배 높다”고 덧붙였다.
이런 성과가 갑자기 나온 것은 아니다. 1999년 그가 LG전자·현대전자(이후 하이닉스로 합병)와 함께 개발한 휴대폰 게임용 칩은 메모리와 프로세서를 합친 방식이다. 현재의 지능형 반도체 원형과 형태가 같다. 유 교수는 “2000년 이 칩을 들고 엔비디아에 찾아갔는데 다소 회의적이던 엔비디아가 수년 후 그래픽처리장치(GPU) 개발에 나서서 지금의 위상을 갖게 됐다”고 말했다.
그는 2006년께부터 ‘두뇌와 닮은’ 반도체를 본격적으로 연구하기 시작해 2016년 나온 K-글라스 3에 세계 최초로 심층신경망(DNN)을 가속화한 NPU를 넣을 수 있었다. 당시 미국 국방부에서도 조종사용 고글에 적용할 수 있겠느냐며 관심을 보였다는 후문이다.
유 교수는 최근 챗GPT 열풍을 AI 반도체에 대한 투자 기회로 삼아야 한다고 강조했다. 그는 “AI 경쟁력을 결정하는 세 가지 요인은 빅데이터·알고리즘·반도체인데 한국이 잘할 수 있는 것은 반도체”라고 했다. “구글 등 빅테크의 빅데이터를 네이버가 따라잡는 것도 쉽지 않고, 일론 머스크와 마이크로소프트(MS)의 대규모 투자가 뒷받침된 챗GPT와 같은 알고리즘을 만들기도 쉽지 않기 때문”이라는 논리다.
유 교수는 “조만간 인간의 뉴런과 닮은 방식의 반도체를 선보이기 위해 연구 중”이라며 “전력을 덜 쓰고 일은 더 많이 할 수 있는 반도체가 될 것”이라고 전했다.
대전=이상은 기자 selee@hankyung.com
관련뉴스