챗GPT와 같은 생성형 인공지능(AI) 수요가 늘어나면서 이 기술에 들어가는 비용을 낮출 수 있는 특화 반도체에 벤처캐피털(VC)들의 관심이 커지고 있다.30일 VC업계에 따르면 AI 스타트업 하이퍼엑셀은 미래에셋벤처투자와 KB인베스트먼트 등으로부터 60억원 규모 시드(초기) 투자를 유치했다. 김주영 KAIST 전기및전자공학부 교수(사진)가 올초 창업한 이 회사는 초거대AI 특화 반도체인 ‘하이퍼엑셀 오리온’을 세계 최초로 개발했다. 챗GPT처럼 연산 비용이 많이 드는 거대언어모델(LLM)에 적용해 메모리 대역폭 사용을 극대화하고 비용 효율성을 높이는 AI 반도체다. 기존 최고 성능의 그래픽처리장치(GPU)로 꼽히는 엔비디아의 A100보다 처리 속도는 50% 빠르고 가격 대비 성능은 최대 2.4배 뛰어나는 게 회사 측 설명이다.
하이퍼엑셀은 지난달 이 기술을 담은 연구 결과를 미국 국제반도체설계자동화학회(DAC)에 발표해 공학 부문 최고 발표상을 받았다. DAC는 인텔, 엔비디아, AMD, 구글, 마이크로소프트, 삼성, TSMC 같은 글로벌 반도체회사가 참여하는 학회다. 김 대표는 “LLM의 추론에 필요한 비용을 획기적으로 절감할 수 있는 AI 반도체 솔루션이 세계적으로 인정받았다는 의미”라며 “전 과정을 책임지는 엔드투엔드 방식으로 시스템을 구동할 수 있는 서버를 제작하고 있고, 이를 바탕으로 향후 반도체 실리콘 지식재산권(IP)을 개발할 계획”이라고 설명했다.
창업자인 김 대표는 2012~2019년 미국 마이크로소프트(MS)에서 하드웨어 엔지니어로 일했다. MS의 클라우드 서비스인 애저데이터레이크의 하드웨어 가속화 작업을 했다. 지금은 KAIST의 AI반도체시스템연구센터(AISS) 센터장을 맡고 있다.
이번 투자 라운드에 참여한 서재민 미래에셋벤처투자 선임심사역은 “하이퍼엑셀은 기존 GPU가 독점하던 추론 시장에서 이를 대체할 수 있는 추론용 AI 가속기 시장을 타깃으로 하는 회사로, LLM의 전력이나 비용 측면에서 효율성을 입증했다”며 “프로그래머블반도체(FPGA)에 기반해 실현 가능성이 높은 솔루션”이라고 평가했다.
김종우 기자 jongwoo@hankyung.com
관련뉴스
