MS "업무용 챗봇에 한국어 넣었다…토큰 부담도 줄여"

입력 2024-04-30 15:38   수정 2024-05-02 14:52


마이크로소프트(MS)가 기업용 앱인 M365 코파일럿에서 한국어를 지원하기 시작했다. 영어 대비 비용이 높았던 한국어 데이터 처리 문제도 개선했다.

MS는 30일 서울 서초구 양재동에 있는 aT센터에서 개발자 커뮤니티 행사인 ‘마이크로소프트 AI 투어 서울’을 열었다. MS는 올해 세계 14개 도시를 돌며 인공지능(AI) 개발자들을 위해 AI 상품 개발을 홍보하는 행사를 열고 있다. 키노드 세션을 이끈 스콧 한셀만 MS 개발자커뮤니티 부사장은 “AI는 기술 도구를 넘어서 조직 내 협업을 강화하고 사고 혁신을 촉진해 사업 성과를 극대화하는 역할을 하고 있다”며 “어떤 배경을 가진 개발자든 자신만의 창의적인 아이디어를 실현할 수 있는 AI 앱을 쉽게 만들 수 있다”고 말했다.

MS는 이번 행사에서 M365 코파일럿에서 한국어를 지원하겠다고 알렸다. M365 코파일럿은 기업의 업무를 도와주는 앱으로 지난해 12월 국내 출시됐다. MS의 챗봇인 코파일럿이 거대언어모델(LLM) 기반으로 다양한 질문에 답하는 범용 서비스라면 M365 코파일럿은 MS가 지원하는 오피스 프로그램에 챗봇이 AI 비서로 탑재된 형태다. 그간 M365 코파일럿의 국내 서비스는 영어로만 온전한 활용이 가능했다.


한국 시장에 맞춰 생성 AI 성능을 개선하고 있다는 점도 개발자들의 이목을 끌었다. MS에 따르면 오픈AI의 생성 AI 모델에서 한국어는 같은 내용을 표시하는 경우 영어 대비 토큰 수가 평균 2.36배 많다. 토큰은 AI가 연산에서 처리하게 되는 언어 단위다. 같은 내용의 데이터를 얼마나 적은 수의 토큰으로 처리하느냐는 비용 절감의 핵심이기도 하다. 그간 한국에서 LLM을 구축하던 기업들은 풍부한 한국어 학습을 통해 토큰 수를 줄일 수 있다는 점을 경쟁력으로 내세우곤 했다.

MS는 한국어에 쓰이는 토큰 수를 기존 대비 40% 수준으로 줄였다. GPT-3.5와 GPT-4에서 영어로 ‘Welcome everyone to Microsoft Ai Tour Seoul’을 처리하는 경우엔 토큰 7개가 쓰인다. 한국어로 ‘마이크로소프트 인공지능 서울 행사에 오신 여러분 환영합니다’를 처리할 땐 75개가 필요하다. MS는 이 문장의 토큰 사용 개수를 최근 30개까지 줄이는데 성공했다.


개발자의 생산성을 높여줄 AI 도구들도 함께 소개됐다. MS는 ‘깃허브 코파일럿’, ‘마이크로소프트 코파일럿 스튜디오’의 데모 등을 통한 AI 기술의 활용 방안에 대해 홍보했다. 고객사로는 LG전자와 SK이노베이션이 MS의 플랫폼 서비스(PaaS)인 ‘애저 오픈AI 서비스’를 활용해 앱을 개발한 사례를 알렸다.

MS는 오는 6월 25일까지 ‘AI 오디세이 이니셔티브’를 진행해 AI 부문 개발자들을 지원할 계획이다. 이 프로그램 참여자들은 MS 응용 기술 자격증을 취득해 이 분야 전문 개발자로서 자신의 경쟁력을 공고히 할 수 있다는 게 MS의 설명이다. MS는 서울시와 협업해 스타트업을 지원하는 ‘서울 AI 허브’ 사업도 하고 있다.

조원우 한국마이크로소프트 대표는 “AI는 전 세계 모든 산업의 중요한 변화를 앞당기고 있으며 그 중심엔 개발자들이 있다”며 “개발자들이 나온 미래를 설계할 수 있도록 전방위적인 지원을 아끼지 않겠다”고 했다.

이주현 기자 deep@hankyung.com


관련뉴스

    top
    • 마이핀
    • 와우캐시
    • 고객센터
    • 페이스 북
    • 유튜브
    • 카카오페이지

    마이핀

    와우캐시

    와우넷에서 실제 현금과
    동일하게 사용되는 사이버머니
    캐시충전
    서비스 상품
    월정액 서비스
    GOLD 한국경제 TV 실시간 방송
    GOLD PLUS 골드서비스 + VOD 주식강좌
    파트너 방송 파트너방송 + 녹화방송 + 회원전용게시판
    +SMS증권정보 + 골드플러스 서비스

    고객센터

    강연회·행사 더보기

    7일간 등록된 일정이 없습니다.

    이벤트

    7일간 등록된 일정이 없습니다.

    공지사항 더보기

    open
    핀(구독)!