페이스북의 모회사 메타가 새로운 오픈소스 생성형 인공지능(AI)을 공개했다. 파라미터(매개변수) 700억 개의 중형 모델로 ‘가성비’(가격 대비 성능)를 높인 게 특징이다.
메타는 지난 6일 글로벌 AI 플랫폼 ‘허깅페이스’를 통해 새로운 텍스트 전용 AI 모델 ‘라마 3.3 70B’를 출시했다. 아메드 알달 메타 생성형AI 담당 부사장은 X(옛 트위터)에 “라마 3.3 70B는 실행이 쉽고 비용은 더 효율적”이라고 강조했다.
이번 모델은 ‘고성능 저비용’을 무기로 내세웠다. 메타는 이 버전이 코딩 능력을 평가하는 ‘휴먼이밸(HumanEval)’에서 자사 모델 중 가장 대형인 ‘라마 3.1 405B’, 오픈AI의 최신 모델 ‘GPT-4o’, 구글의 ‘제미나이 1.5’ 등과 비슷한 성능을 보였다고 밝혔다. 반면 이용 가격은 입력 토큰(단어 또는 문장 기본 단위) 100만 개당 0.1달러, 출력 토큰은 100만 개당 0.6달러로 책정됐다. 비슷한 성능을 가진 다른 최신 모델과 비교해 가격이 8분의 1 수준이라는 설명이다.
메타는 내년 성능을 더 업그레이드한 차기 시리즈 ‘라마 4’를 내놓을 계획이다.
실리콘밸리=송영찬 특파원 0full@hankyung.com
메타는 지난 6일 글로벌 AI 플랫폼 ‘허깅페이스’를 통해 새로운 텍스트 전용 AI 모델 ‘라마 3.3 70B’를 출시했다. 아메드 알달 메타 생성형AI 담당 부사장은 X(옛 트위터)에 “라마 3.3 70B는 실행이 쉽고 비용은 더 효율적”이라고 강조했다.
이번 모델은 ‘고성능 저비용’을 무기로 내세웠다. 메타는 이 버전이 코딩 능력을 평가하는 ‘휴먼이밸(HumanEval)’에서 자사 모델 중 가장 대형인 ‘라마 3.1 405B’, 오픈AI의 최신 모델 ‘GPT-4o’, 구글의 ‘제미나이 1.5’ 등과 비슷한 성능을 보였다고 밝혔다. 반면 이용 가격은 입력 토큰(단어 또는 문장 기본 단위) 100만 개당 0.1달러, 출력 토큰은 100만 개당 0.6달러로 책정됐다. 비슷한 성능을 가진 다른 최신 모델과 비교해 가격이 8분의 1 수준이라는 설명이다.
메타는 내년 성능을 더 업그레이드한 차기 시리즈 ‘라마 4’를 내놓을 계획이다.
실리콘밸리=송영찬 특파원 0full@hankyung.com
관련뉴스
