SK하이닉스가 생성형 인공지능(AI)에 특화된 가속기 카드 시제품(사진)을 공개했다. 그래픽처리장치(GPU)로 가동했을 때보다 AI 반응속도가 10배 이상 빠르지만 전력 사용량은 대폭 감축한 제품이다.SK하이닉스는 지난 12일부터 사흘간 미국 캘리포니아에서 열린 ‘AI 하드웨어&에지 AI 서밋 2023’에서 GDDR6-AiM(액셀러레이터 인 메모리)을 활용한 생성형 AI 가속기 카드 시제품을 처음으로 내놨다. 제품 이름은 AiMX다.
이번에 공개한 가속기 카드는 중앙처리장치(CPU)나 GPU의 속도를 높여주는 가속기 칩인 GDDR6-AiM을 여러 개 연결해 만든 제품이다. GDDR6-AiM 칩은 초당 16기가비트 속도로 데이터를 처리하는 GDDR6 메모리에 연산 기능을 더한 제품이다. 데이터를 기억하는 역할만 맡던 기존 메모리의 한계를 벗어나 연산까지 가능한 ‘차세대 스마트 메모리’다. 지난해 2월 처음 공개했다.
SK하이닉스는 이번 행사에서 제품 시연도 했다. 이 칩을 여러 개 적용한 AiMX 시스템에서 메타의 생성형 AI인 OPT 모델을 직접 시연했다.
GPU만 장착한 시스템보다 반응속도는 10배 빠르고, 전력소모는 5분의 1 수준이었다. 생성형 AI는 대량의 데이터를 다루기 때문에 전력은 적게 쓰면서도 고속으로 작동하는 메모리가 필요하다.
임의철 SK하이닉스 메모리 솔루션 담당(부사장)은 “SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 성능을 높이면서도 비용을 절감할 수 있는 솔루션”이라며 “AI 시대를 이끌어갈 메모리 기술 개발을 이어 나갈 것”이라고 말했다.
최예린 기자 rambutan@hankyung.com
관련뉴스
