구글이 기업용 인공지능(AI) 플랫폼에 새로운 모델을 추가하고 기능을 개선했다.
구글 클라우드는 8일 기업용 AI 플랫폼 ‘버텍스 AI’를 업데이트했다고 발표했다. 이 회사는 "기업들이 AI 에이전트를 더 빠르게 구축할 수 있도록 지원하는 데 초점을 뒀다"고 설명했다.
구글 클라우드는 새로운 자체 모델 2개를 정식 출시했다. 버텍스 AI ‘제미나이 1.5 플래시’는 지연 시간과 비용을 낮춘 AI 모델이다. 최대 100만개의 토큰을 처리할 수 있다. 경쟁 제품인 오픈AI의 GPT-3.5보다 60배 큰 처리량이다. 처리 속도도 더 빠르다. 1만자 입력 기준 GPT-3.5보다 평균 40% 더 빠르게 처리한다.
대규모멀티모달모델(LMM)인 ‘제미나이 1.5 프로’도 버텍스 AI에 추가했다. 일반적인 대규모언어모델(LLM)에서 처리하기 어려운 다양한 분야의 작업을 효율적으로 수행한다. 코드 안의 오류를 잡아낼 뿐만 아니라 오디오, 동영상의 분석도 가능하다.
기업들의 비용 절감과 운영 효율 개선을 위한 기능도 공개했다. 버텍스 AI에 미리보기로 추가된 ‘컨텍스트 캐싱’ 기능은 자주 사용하는 프롬프트의 임시 저장 데이터를 활용할 수 있다. 모델의 응답 시간을 높이고 비용을 최대 76% 절감할 수 있다. 사용량에 따른 AI 모델의 성능을 예측해주는 ‘프로비저닝 처리량’ 기능도 일부 고객을 대상으로 도입한다. 서비스 사용량의 증감에 따라 기업이 모델 사용량을 조절할 수 있다.
‘그라운딩 위드 구글 서치’ 기능도 개선했다. 지난 5월 출시된 그라운딩 위드 구글 서치는 AI 모델을 구글 검색 엔진을 통해 인터넷상의 최신 정보와 연결하는 기능이다. 이번 업데이트에서는 금융, 의료, 보험 등 특정 산업에서 일반 지식이 아닌 특정 맥락만을 활용해야 하는 경우를 위한 ‘그라운딩 위드 하이 피델리티 모드’를 시험 버전으로 공개했다. 구글 클라우드는 3분기부터 기업들이 자체 AI 에이전트를 특정 업체의 데이터로 학습시킬 수 있는 새로운 서비스를 출시할 계획이다.
황동진 기자 radhwang@hankyung.com
관련뉴스
