"허깅페이스 테스트서 인텔 AI 가속기 추론 가장 빨라"

"허깅페이스 테스트서 인텔 AI 가속기 추론 가장 빨라"

(서울=연합뉴스) 조성미 기자 = 인텔은 "AI 플랫폼 허깅 페이스가 시중엔 나온 어떤 GPU(그래픽처리장치)보다 인텔 AI 하드웨어 가속기에서 더 빠른 추론이 가능했다는 테스트 결과를 냈다"고 4일 밝혔다.
허깅 페이스는 챗GPT 개발의 바탕이 된 트랜스포머 기술을 대중화시킨 플랫폼으로 알려져 있다.
허깅 페이스 테스트 결과 인텔 프로세서 하바나 가우디2는 매개변수 1천760억 개를 사용한 '블룸즈 모델'(트랜스포머 기반 다국어 거대 언어 모델)에서 엔비디아 A100 대비 20% 빠른 추론 성능을 보였다.
또 가우디2 서버에서 컴퓨터 비전 작업을 실행할 때 동급 A100 기반 서버 대비 1.8배 높은 와트당 처리량을 나타냈다.

에마드 모스타크 스테빌리티 AI 설립자 겸 최고경영자(CEO)는 "인텔은 4세대 사파이어 래피즈 CPU(중앙처리장치)부터 가우디와 같은 가속기에 이르기까지 AI 대중화를 위한 훌륭한 파트너"라고 말했다.
csm@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>