네트워크를 연결하고 전원만 켜면 누구나 생성형 AI솔루션을 경험할 수 있는 서비스가 나왔다.
솔트룩스는 이런 내용의 세계 최초의 생성 AI어플라이언스 '루시아 온'을 20일 공개했다. 온프레미스 환경에서 정보 유출 걱정 없이 누구나 내부 문서를 학습시킨 맞춤형 챗GPT를 만들 수 있다는 설명이다. 온프레미스 환경은 클라우드와 반대되는 개념으로 모든 IT자원을 사용자가 자체 인프라로 운영하는 환경을 말한다.
IBM의 2023년 글로벌 AI도입 지수 보고서에 따르면 인공지능 도입을 검토 중인 기업은 약 82%인 반면, 실제 AI를 활용하는 기업은 42%에 불과했다. 막대한 투자비용과 함께 기업에 특화된 답변을 얻기 어렵고, 내부 데이터 유출 우려가 있다는 점이 실질적인 어려움으로 풀이된다.
솔트룩스의 루시아 온은 이런 한계를 극복한 서비스라는 게 솔트룩스의 설명이다. 도서 약 420만 권 분량의 한국어 데이터를 학습했을 뿐 아니라 최근 오픈 LLM 리더보드에서 35B 이하 기준 1위를 기록하며 우수한 성능을 인정받은 솔트룩스의 자체 개발 거대언어모델 루시아(LUXIA)를 기본 탑재했다.
여기에 다양한 API 세트를 제공해 추가 프로그램 개발과 기능 확장이 용이하고, OpenAI의 ‘ChatGPT’와 미스트랄의 ‘Mistral’, 메타의 'LLaMA’ 등 타 오픈모델까지 연동할 수 있다. 특히 RAG(Retrieval Augmented Generation)와 데이터를 벡터화하는 임베딩(Embedding) 기능을 지원해 챗GPT의 단점으로 꼽히는 환각 현상을 최소화하고 질문에 신뢰도 높은 답변을 얻을 수 있다.
아울러 노코드 방식의 웹 기반 관리 도구를 채택해 코딩을 몰라도 기본 관리와 모니터링이 가능할 뿐 아니라, 루시아 온 추가 구입으로 사용량 증가에도 유연하게 대처할 수 있어 도입 후 발생하는 운용 방안과 비용에 대한 우려까지 크게 낮췄다. 고객 서비스 자동화, 문서 요약 및 분석, 언어 번역, 콘텐츠 생성, 개인화 추천 시스템 구축 등에서 다양하게 활용될 수 있다는 게 솔트룩스의 설명이다.
현재 루시아 온에 탑재된 루시아 13B 모델은 영어와 한국어를 지원하며 약 50명 정도가 활용할 수 있는 규모다. 대규모 시스템 구축 등 커스터마이징이 필요할 경우 확장도 가능하다.
솔트룩스 관계자는 “하드웨어 가격의 수준으로 도입 즉시 생성 AI를 활용할 수 있는 루시아 온은 20년 이상 축적된 솔트룩스의 모든 기술력이 총집약된 제품”이라며 “생성 AI의 도입을 고민하고 있으나 비용과 전문가 부족 및 보안 문제로 어려움을 겪던 전 세계 기업 및 기관들의 니즈를 빠르게 해결할 수 있을 것으로 기대한다”라고 말했다.
관련뉴스
