데이터 보안 문제 해결, ’DIAGPT’의 첫 번째 혁신
챗GPT(ChatGPT)의 등장과 함께 생성형 AI(인공지능)를 활용하려는 기업 및 기관이 점차 늘어나면서, 내부 데이터 보안 위협에 관한 우려의 목소리가 높아지고 있다.
올해 8월, 보안 소프트웨어 기업 파수가 발표한 설문조사 결과에 따르면 국내 기업 및 기관의 76.4%가 생성형 AI 기술을 활용하고 있거나 활용 예정인 것으로 나타났다. 그 중 보안 문제로 프라이빗 AI를 검토 또는 사용 중인 기업은 51.7%로 집계됐다.
지난 5월 삼성전자는 보안 우려로 사내에서 챗GPT를 비롯한 생성형 AI의 사용을 금지한다고 밝힌 바 있다. AI의 발전과 함께 기업 경쟁력 강화를 위해 필요하지만, 데이터 유출과 같은 보안 위협은 다양하고 예측하기 어려운 문제이다.
챗GPT와 같은 생성형AI를 데이터 유출 걱정 없이 사용할 수는 없을까. 기업의 데이터 보안 고민에 대한 해결책으로, 최신형 AI모델들을 기업의 데이터가 외부로 유출될 걱정 없이 사용할 수 있는 대화형 AI(인공지능) 솔루션 ‘DIAGPT’가 주목받고 있다. Microsoft의 솔루션 파트너 덱스컨설팅(대표 정성철)이 개발한 이 솔루션은 기업 내부의 독자적 데이터 관리 환경을 제공한다.
올해 1월 출시된 Microsoft(이하 MS)의 Azure OpenAI(AOAI)는 다양한 AI모델(GPT-3.5, Codex, DALL-E 등)을 MS 클라우드 Azure 상에서 사용할 수 있는 서비스이다. 덱스컨설팅은 AOAI를 활용해 완결형 AI 업무 시스템 챗봇 ‘DIAGPT’를 개발했다. 정성철 덱스컨설팅 대표는 “DIAGPT는 한마디로 보안뿐만 아니라 업무 효율성도 보장해 주는 ‘나만의 Full-Time 전문비서’이다. 자연어로 질의응답하며 업무에 필요한 문서와 데이터베이스 검색을 할 수 있기 때문”이라고 밝혔다.
DIAGPT 솔루션은 MS Azure 기반 다양한 AI 기능을 개인의 업무에 맞게 최적화하여 활용 가능하다. 예를 들어, 문서검색을 할 때 자연어로 질문하더라도 내가 한 질문의 의도와 맥락에 맞는 답변을 얻을 수 있다. DIAGPT에 내재되어 있는 ‘의미 검색’ 기술 ’Semantic Search’가 작용했기 때문이다. 텍스트를 지식데이터베이스로 만들고, 그 안에서 질문의 의도와 유사한 부분을 검색하는 AI기능을 활용한 것이다.
SaaS(서비스형 소프트웨어) 기반 클라우드 서비스인 Microsoft 365(M365) 또는 Dynamics 365(D365) 사용자는 해당 서비스의 아키텍처를 통해 만들어진 DIAGPT를 도입함으로써 업무에 필요한 서비스를 통합적으로 이용할 수 있다. 예를 들어, CRM 상에서 DIAGPT를 통해 영업 기회를 등록하거나, 데이터베이스에 저장되어 있는 재고/가격 정보 등을 실시간으로 조회할 수 있다.
비용 문제 극복, ‘DIAGPT’의 두 번째 혁신
많은 기업들이 생성형 AI 도입에 있어 데이터 보안과 함께 데이터 학습에 투입되는 고비용을 우려한다. Microsoft가 보유한 대규모의 데이터와 OpenAI의 최신 모델을 이용한다는 것의 최대 장점은 시간과 비용을 절약할 수 있다는 점이다.
직접 AI모델을 개발하는 과정에서 엄청난 비용이 들고, 사용을 위해 데이터를 학습시키는데 많은 시간이 소모된다. 많은 시간과 비용을 들여 자체 솔루션을 개발하더라도 보유 데이터의 규모에서 상대적으로 큰 차이가 발생하므로, 과연 직접 개발하는 것이 합리적인지 따져봐야 한다.
반면, MS 제공 기술로만 이루어진 완결형 AI 솔루션 ‘DIAGPT’는 최대 3일 안에 구축이 가능하여 빠르게 도입해서 사용할 수 있다. 기업 데이터를 업로드하여 챗봇으로 질의응답 하는 것도 5~10분이내로 가능하다. 정성철 대표는 “DIAGPT를 통해 기업은 합리적인 혁신을 경험할 수 있다” 고 말했다.
현재 DIAGPT는 △정유 △유통 △건설 등 다양한 업종의 기업들이 설치하여 사용 중에 있다.
정대표는 “DIAGPT가 추후에는 문서 검색을 넘어 고객사의 다양한 데이터를 바탕으로 분석, 생성등이 가능한 일종의 에이전트GPT가 될 수 있도록 할 것”이라고 밝혔다.
한경닷컴 뉴스룸 open@hankyung.com
관련뉴스
