업스테이지, 프렌들리AI와 솔라 번역모델 인프라 구축

업스테이지, 프렌들리AI와 솔라 번역모델 인프라 구축



(서울=연합뉴스) 노재현 기자 = 인공지능(AI) 기업 업스테이지는 프렌들리AI와 자사 거대언어모델(LLM)인 '솔라' 기반 번역 모델의 인프라 구축 계약을 체결했다고 10일 밝혔다.
앞서 업스테이지는 솔라 LLM의 파인튜닝(미세조정)을 통해 한국어-영어 번역 특화 모델을 API(응용프로그램 인터페이스) 형태로 공개했다.
이에 업스테이지는 일일 최대 10만여 건에 달하는 번역 트래픽을 효율적으로 처리하기 위해 프렌들리AI의 인프라 관리 설루션 '프렌들리 전용 엔드포인트'를 도입했다.
업스테이지는 트래픽 부하에 따라 그래픽처리장치(GPU) 할당량을 조정하는 '자동 스케일링' 기능을 통해 GPU 비용을 크게 절감했다고 설명했다.
업스테이지 김성훈 대표는 "생성형 AI 인프라의 수행 리더 기업인 프렌들리AI와 협력함으로써 솔라 번역 모델의 서비스 비용을 효율화하게 돼 기쁘다"고 밝혔다.

nojae@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>