퀄컴은 2024년부터 스냅드래곤 등 자사 애플리케이션프로세서(AP)가 적용된 스마트폰과 PC에서 메타(옛 페이스북)의 경량급 인공지능(AI) 모델인 '라마-2'를 구현할 수 있도록 지원한다고 19일 발표했다.
퀄컴은 라마-2와 같은 생성형 AI 모델을 클라우드에만 의지하지 않고 스마트폰, PC, 가상·증강현실(VR·AR) 헤드셋, 차량 등의 기기에서 구동할 수 있도록 AP 성능을 최적화할 예정이다. 개발자는 클라우드 비용을 절약할 수 있을 뿐 아니라 이용자 맞춤형이고 보안을 강화한 AI 기능을 제공할 수 있을 것으로 예상된다.
개발자들은 ‘퀄컴 AI 스택’을 활용해 온디바이스 AI 앱을 최적화할 수 있다. 퀄컴 AI 스택은 스냅드래곤에서 AI를 더 효율적으로 처리하여 얇고 가벼운 소형 기기에서도 온디바이스 AI 구현을 가능하게 하는 전용 도구 모음이다. 스냅드래곤으로 구동되는 AI는 인터넷 연결이 없는 곳에서나 비행기 모드에서도 사용이 가능하다.
두르가 말라디 퀄컴 수석 부사장은 "생성형 AI의 효과적인 대중화를 위해서는 클라우드뿐 아니라 스마트폰, 노트북, 차량, 사물인터넷(IoT) 등의 엣지 디바이스에서도 AI를 작동할 수 있어야 한다"고 말했다.
황정수 기자 hjs@hankyung.com
관련뉴스
