IBM, AI 안전관리 도구 '왓슨x. 거버넌스' 공개

IBM, AI 안전관리 도구 '왓슨x. 거버넌스' 공개
"신뢰할 수 있는 AI 활용 지원"



(서울=연합뉴스) 오규진 기자 = IBM이 기업들이 신뢰할 수 있는 인공지능(AI)을 구축할 수 있도록 AI 플랫폼 '왓슨x.'에 안전관리 도구(툴킷)를 추가한다.
IBM은 14일 서울 영등포구 여의도 국제금융센터(IFC)에서 기자간담회를 열어 이런 내용을 담은 인공지능 활용 설루션 '왓슨x. 거버넌스'를 국내 시장에 공개했다.
먼저 회사는 환각 현상(할루시네이션), 지식재산권 침해, 민감정보 유출 등 위험 요소에 따라 인공지능을 사업에 활용하기 쉽지 않다는 점을 꼬집었다.
김현정 한국IBM 컨설팅 대표는 "생성 인공지능 기술은 급속도로 발전하고 있으나, 위험 요소들도 점점 커지고 있다"면서 "인공지능을 도입하고 확장하는 과정에서 신뢰성을 확보하는 'AI 거버넌스'를 처음부터 고려해야 한다"고 설명했다.



왓슨x. 거버넌스는 인공지능의 생애주기에 따라 모델을 관리하고, 위험 요소들의 영향을 줄이는 한편, 기업 내부 정책과 업계 표준 등 규제를 준수할 수 있도록 관련 기술을 지원한다.
이지은 한국IBM 최고기술책임자(CTO·전무)는 왓슨x. 거버넌스에 대해 "거대언어모델(LLM)과 기계학습(머신로닝) 모델을 배포·관리하는 데 어려움을 겪는 기업을 위한 원스톱 설루션"이라고 소개했다.
아울러 최근 페이스북 모회사 메타플랫폼(메타) 등 기업·연구기관 50곳과 결성한 오픈소스 커뮤니티 'AI 얼라이언스'를 통해 인공지능 기술을 더 많은 사람이 활용하도록 돕는 데 방점을 두고 있다고 강조했다.
이 전무는 미국 항공우주국(NASA)의 위성 데이터로 구축한 지리 공간 기반(파운데이션) 모델을 오픈소스로 공유한 사례를 언급하며 "얼라이언스는 더 많은 사람이 인공지능을 민주적으로 사용하게 하는 데 근간이 될 것"이라고 전망했다.
이어 "IBM 모델에 대해서는 신뢰도 보증을 하지만, 오픈소스 모델은 그렇지 못하다"면서 "테스트 오픈소스 모델을 가져오기도 하고, IBM 오픈소스를 미세조정(파인튜닝)해서 다시 기여하는 등 왓슨x. 거버넌스의 기능이 중요한 이유"라고 했다.
김 대표도 "대형 모델 하나가 모든 것을 다 해결할 수 있지 않다"면서 "(인공지능을) 경제적이고 유의미하게 활용하기 위해선 생태계 파트너십이 중요하고, (자체 모델과 함께) 같이 가져가는 가는 형태로 전략적 선택을 하고 있다"고 덧붙였다.
왓슨x. 거버넌스 정식 버전은 한국을 포함해 전 세계에서 사용할 수 있다.

acdc@yna.co.kr


(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>