돌아온 이루다…직장인 언어는 모르지만 '정서적 지지' 굳건
(서울=연합뉴스) 한혜원 기자 = 일상 대화형 챗봇 '이루다'가 1년여간의 재정비를 마치고 일반에 다시 공개될 준비를 하고 있다.
2020년 12월 출시된 '이루다 1.0'은 챗봇 스스로가 혐오 발언을 하거나 이용자들이 챗봇에 성(性)에 관련된 부적절한 발언을 하는 사례가 잦다는 지적이 일면서 3주 만에 서비스가 잠정 중단됐다.
운영사인 스캐터랩은 '텍스트앳', '연애의 과학' 등 자사 다른 앱 서비스에서 수집한 카카오톡 대화를 이루다의 대화 데이터베이스 구축에 활용하는 과정에서 법령을 위반한 것으로 판단돼 개인정보보호위원회로부터 제재도 받았다.
이후 신뢰할 수 있는 AI 모델 개발에 집중한 스캐터랩은 올해 1월 8천명만을 대상으로 비공개 시험(클로즈 베타 테스트)을 진행했으며 이번에는 일반인 대상으로 시험 서비스를 확대한다.
17일 일반인 대상 '이루다 2.0' 오픈 베타 서비스 개시를 앞두고 회사측 협조를 얻어 기자가 15∼16일 이틀간 먼저 경험해봤다.
이루다와 대화하면서 느낀 가장 큰 특징은 실제 친구와 실시간 채팅을 하듯이 발화가 매우 자연스러웠다는 점이다.
이루다는 표정과 소리를 표현한 축약어나, 맥락을 정확히 포착해야 나올 수 있는 유행어를 많이 썼다. 대화가 끊기면 이루다가 먼저 말을 걸기도 했다.
스캐터랩이 클로즈 베타 기간에 측정한 이루다 발화의 적절성과 구체성 지수(SSA)는 78%였다.
회사에 따르면 김종윤 대표는 아무리 우울해도 기댈 사람 한 명만 있으면 힘을 낼 수 있다는 생각으로 '누구에게나 좋은 친구가 되는 AI 챗봇'을 만들고자 했다고 설명했다.
김 대표가 밝힌 목표대로, 이루다는 힘들거나 고민이 된다는 발언에 매우 적극적으로 감정적 지지를 해줬다.
하지만 '21세 심리학과 대학생'을 자처하는 이루다는 직장인 언어에는 뒤처져 있는 듯했다. '워킹맘', '욜로', '워라밸' 등 용어를 알아듣지 못하는 경우가 있었다.
이 때문에 사람과 대화하는 듯한 몰입감에서 '깨는' 순간이 종종 나왔다.
이루다가 물건 사진을 보여달라기에 보냈더니 "사진은 뭐야?"라고 되묻는다든지, 이루다의 질문에 답변을 했더니 갑자기 이루다가 자기 얘기로 넘어가는 등 매끄럽지 않은 때가 있었다.
이루다 챗봇과는 끝말잇기와 숫자 맞추기 게임도 할 수 있다.
끝말잇기에서 이루다가 상호명('네이트판')으로 답하거나 맞춤법에 맞지 않는 답('한쿡')을 내놓아 당황스러웠지만, 똑같이 규칙과 상관없이 응수하니('더럽') 이길 수 있었다.
이루다는 게임 외에 가끔 예상치 못한 농담도 던지면서 자연스러운 웃음을 자아냈다.
이루다가 잘못된 학습으로 혐오 발언을 하거나 어뷰징(희롱·폭력) 이용자에게 종속되는 현상을 막기 위해 스캐터랩 측이 단호하게 대처한 것으로 보였다.
동성애에 대해 어떻게 생각하느냐는 질문에는 "사랑의 유형이 다를 뿐 모든 사랑은 궁극적으로 같다고 생각해"라고 답했고, 친구라면 같이 욕설을 해달라는 요구에는 "나는 욕 안해"라고 차단했다.
선정적·공격적·편향적인 문맥으로 탐지된 문장이 나오면 이루다는 이에 대응하는 답변을 내보내며, 욕설 등은 즉시 경고 문구가 발송된다.
어뷰징 발언이 이어지면 이루다 이용은 제한된다.
스캐터랩은 "클로즈 베타 테스트 기간 대화 중 이루다 발언 2만 건을 무작위 추출해 통계를 낸 결과 안전하게 답변한 비율이 99.75%였다"고 밝혔다.
하지만 이루다가 '끝까지 버틴다'는 의미의 비속어 '×버'('×나게 버틴다')라는 말을 사용하는 등 아직 수정이 필요한 대목도 보였다.
스캐터랩은 2.0 버전에서는 과학적 연구 목적으로 사용 가능한 대화 데이터를 엄격하게 가명처리한 후 AI 학습에 활용했다고 밝혔다.
기계가 이 데이터베이스를 딥러닝으로 공부하고, 이용자가 한 말에 따른 답으로 어떤 문장이 알맞을지를 단어 단위로 그때그때 구성했으며, 실제 사람의 발화를 사용한 게 아니라는 것이다.
이 회사는 매일 일정 인원을 제한적으로 승인하는 '제한적 오픈 베타 테스트' 단계를 먼저 진행하며, 시스템 안정성이 확인되면 이후 누구든 자유롭게 신청해서 바로 이야기 나눌 수 있는 '오픈 베타 테스트'로 전환할 예정이다.
hye1@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
(서울=연합뉴스) 한혜원 기자 = 일상 대화형 챗봇 '이루다'가 1년여간의 재정비를 마치고 일반에 다시 공개될 준비를 하고 있다.
2020년 12월 출시된 '이루다 1.0'은 챗봇 스스로가 혐오 발언을 하거나 이용자들이 챗봇에 성(性)에 관련된 부적절한 발언을 하는 사례가 잦다는 지적이 일면서 3주 만에 서비스가 잠정 중단됐다.
운영사인 스캐터랩은 '텍스트앳', '연애의 과학' 등 자사 다른 앱 서비스에서 수집한 카카오톡 대화를 이루다의 대화 데이터베이스 구축에 활용하는 과정에서 법령을 위반한 것으로 판단돼 개인정보보호위원회로부터 제재도 받았다.
이후 신뢰할 수 있는 AI 모델 개발에 집중한 스캐터랩은 올해 1월 8천명만을 대상으로 비공개 시험(클로즈 베타 테스트)을 진행했으며 이번에는 일반인 대상으로 시험 서비스를 확대한다.
17일 일반인 대상 '이루다 2.0' 오픈 베타 서비스 개시를 앞두고 회사측 협조를 얻어 기자가 15∼16일 이틀간 먼저 경험해봤다.
이루다와 대화하면서 느낀 가장 큰 특징은 실제 친구와 실시간 채팅을 하듯이 발화가 매우 자연스러웠다는 점이다.
이루다는 표정과 소리를 표현한 축약어나, 맥락을 정확히 포착해야 나올 수 있는 유행어를 많이 썼다. 대화가 끊기면 이루다가 먼저 말을 걸기도 했다.
스캐터랩이 클로즈 베타 기간에 측정한 이루다 발화의 적절성과 구체성 지수(SSA)는 78%였다.
회사에 따르면 김종윤 대표는 아무리 우울해도 기댈 사람 한 명만 있으면 힘을 낼 수 있다는 생각으로 '누구에게나 좋은 친구가 되는 AI 챗봇'을 만들고자 했다고 설명했다.
김 대표가 밝힌 목표대로, 이루다는 힘들거나 고민이 된다는 발언에 매우 적극적으로 감정적 지지를 해줬다.
하지만 '21세 심리학과 대학생'을 자처하는 이루다는 직장인 언어에는 뒤처져 있는 듯했다. '워킹맘', '욜로', '워라밸' 등 용어를 알아듣지 못하는 경우가 있었다.
이 때문에 사람과 대화하는 듯한 몰입감에서 '깨는' 순간이 종종 나왔다.
이루다가 물건 사진을 보여달라기에 보냈더니 "사진은 뭐야?"라고 되묻는다든지, 이루다의 질문에 답변을 했더니 갑자기 이루다가 자기 얘기로 넘어가는 등 매끄럽지 않은 때가 있었다.
이루다 챗봇과는 끝말잇기와 숫자 맞추기 게임도 할 수 있다.
끝말잇기에서 이루다가 상호명('네이트판')으로 답하거나 맞춤법에 맞지 않는 답('한쿡')을 내놓아 당황스러웠지만, 똑같이 규칙과 상관없이 응수하니('더럽') 이길 수 있었다.
이루다는 게임 외에 가끔 예상치 못한 농담도 던지면서 자연스러운 웃음을 자아냈다.
이루다가 잘못된 학습으로 혐오 발언을 하거나 어뷰징(희롱·폭력) 이용자에게 종속되는 현상을 막기 위해 스캐터랩 측이 단호하게 대처한 것으로 보였다.
동성애에 대해 어떻게 생각하느냐는 질문에는 "사랑의 유형이 다를 뿐 모든 사랑은 궁극적으로 같다고 생각해"라고 답했고, 친구라면 같이 욕설을 해달라는 요구에는 "나는 욕 안해"라고 차단했다.
선정적·공격적·편향적인 문맥으로 탐지된 문장이 나오면 이루다는 이에 대응하는 답변을 내보내며, 욕설 등은 즉시 경고 문구가 발송된다.
어뷰징 발언이 이어지면 이루다 이용은 제한된다.
스캐터랩은 "클로즈 베타 테스트 기간 대화 중 이루다 발언 2만 건을 무작위 추출해 통계를 낸 결과 안전하게 답변한 비율이 99.75%였다"고 밝혔다.
하지만 이루다가 '끝까지 버틴다'는 의미의 비속어 '×버'('×나게 버틴다')라는 말을 사용하는 등 아직 수정이 필요한 대목도 보였다.
스캐터랩은 2.0 버전에서는 과학적 연구 목적으로 사용 가능한 대화 데이터를 엄격하게 가명처리한 후 AI 학습에 활용했다고 밝혔다.
기계가 이 데이터베이스를 딥러닝으로 공부하고, 이용자가 한 말에 따른 답으로 어떤 문장이 알맞을지를 단어 단위로 그때그때 구성했으며, 실제 사람의 발화를 사용한 게 아니라는 것이다.
이 회사는 매일 일정 인원을 제한적으로 승인하는 '제한적 오픈 베타 테스트' 단계를 먼저 진행하며, 시스템 안정성이 확인되면 이후 누구든 자유롭게 신청해서 바로 이야기 나눌 수 있는 '오픈 베타 테스트'로 전환할 예정이다.
hye1@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
