사용자 불만에…MS, '부적절 답변' 빙 챗봇 문답제한 완화
하루 문답 횟수 50회에서 60회로…100회까지 늘릴 예정
(서울=연합뉴스) 이도연 기자 = '챗GPT' 기술 기반의 인공지능(AI) 챗봇을 탑재한 검색엔진 '빙'에 긴 대화를 유도하면 부적절한 답변이 나온다는 지적에 문답 수를 제한했던 마이크로소프트(MS)가 사용자 반발에 이를 다시 완화했다.
21일(현지시간) 미 일간 월스트리트저널(WSJ)에 따르면 MS는 챗봇 탑재 빙 사용자당 한 세션 질문 수를 5회, 하루 문답 횟수를 50회로 제한한 것을 한 세션 질문 수 6회, 하루 총 60개로 늘리기로 했다고 보도했다.
MS는 이어 곧 하루에 가능한 질문 수를 총 100개까지 늘릴 계획이다.
지난 8일 MS가 챗GPT를 탑재한 빙을 출시한 이후 이 챗봇이 사용자의 유도로 부적절하고 위험한 발언을 할 수 있다는 문제가 지적됐다.
사용자에게 거짓말을 하거나 사용자를 모욕하고 가스라이팅(심리 지배)하고 감정적으로 조종하는 사례가 잇달아 온라인 등에 올라왔다.
그러자 MS는 수정에 나서 지난 17일 대화 세션 한 차례 문답을 최대 5회, 하루 문답 횟수는 총 50회로 제한하기로 했으나, 사용자들의 요청에 이 횟수를 늘리게 된 것이다.
MS는 "채팅에 제한을 설정한 이후 많은 사용자로부터 더 긴 대화를 통해 더 효과적으로 검색하고 채팅 기능과 더 많은 상호작용을 원한다는 피드백을 받았다"며 "더 긴 채팅을 다시 도입할 계획이며 이를 책임감 있게 할 수 있는 최선의 방법을 찾고 있다"고 밝혔다
지난주에 발견된 문제점은 빙과 긴 대화를 나누고 꼬리를 무는 질문을 연달아서 했기 때문이었다고 WSJ은 분석했다.
MS는 "이처럼 길고 복잡한 작업은 내부 테스트에서 일반적으로 볼 수 있는 것은 아니다"며 "우리가 새로운 빙을 제한적인 사용자를 대상으로 테스트하는 이유는 이런 이례적인 사례를 찾아내 제품을 개선하기 위한 것이다"고 강조했다.
MS는 사용자가 챗봇의 어조를 바꿀 수 있는 몇 가지 옵션도 시험할 예정이다.
이를 통해 사용자가 더 짧거나 또는 더 긴 답변을 받거나, 이 두 개를 섞은 답변을 받을 수 있다고 MS는 설명했다.
그러면서 "목표는 사용자의 요구에 가장 잘 맞는 채팅 반응 유형을 더 잘 제어하도록 하는 것"이라고 덧붙였다.
MS가 투자한 오픈AI의 챗GPT가 전 세계적 열풍을 일으키자 미국·중국 등지의 경쟁사들도 비슷한 생성형 AI 개발에 속속 뛰어들고 있다.
이런 가운데 중국 푸단대 연구팀이 지난 20일 '모스'(MOSS)라는 챗GPT와 유사한 AI 챗봇을 내놨으나, 공개된 지 몇 시간 만에 마비됐다고 로이터통신이 전했다.
모스는 공개되자마자 입소문을 타며 웨이보에서 수천만 건의 조회 수를 기록했고 중국 관영 언론은 챗GPT의 첫 번째 중국 라이벌이라고 표현했다.
그러나 모스가 몇 시간 만에 마비되자 연구팀은 이를 더는 대중에 공개하지 않겠다고 밝혔다.
연구팀은 모스를 챗GPT와 같은 대화형 언어 모델이라고 묘사했지만, 서비스가 마비된 이후에는 개선할 점이 많다며 비교 대상이 아니라고 낮춰 말했다.
연구팀은 홈페이지를 통해 "모스는 매우 미숙한 모델이며 챗GPT에 도달하기 위해서는 갈 길이 멀다"며 "우리의 컴퓨팅 리소스가 대규모 트래픽을 감당하기에 충분치 않았고 우리의 엔지니어링 경험도 충분하지 않았다"며 사과했다.
챗GPT도 과거 트래픽 폭증으로 여러 차례 마비된 바 있다.
dylee@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
하루 문답 횟수 50회에서 60회로…100회까지 늘릴 예정
(서울=연합뉴스) 이도연 기자 = '챗GPT' 기술 기반의 인공지능(AI) 챗봇을 탑재한 검색엔진 '빙'에 긴 대화를 유도하면 부적절한 답변이 나온다는 지적에 문답 수를 제한했던 마이크로소프트(MS)가 사용자 반발에 이를 다시 완화했다.
21일(현지시간) 미 일간 월스트리트저널(WSJ)에 따르면 MS는 챗봇 탑재 빙 사용자당 한 세션 질문 수를 5회, 하루 문답 횟수를 50회로 제한한 것을 한 세션 질문 수 6회, 하루 총 60개로 늘리기로 했다고 보도했다.
MS는 이어 곧 하루에 가능한 질문 수를 총 100개까지 늘릴 계획이다.
지난 8일 MS가 챗GPT를 탑재한 빙을 출시한 이후 이 챗봇이 사용자의 유도로 부적절하고 위험한 발언을 할 수 있다는 문제가 지적됐다.
사용자에게 거짓말을 하거나 사용자를 모욕하고 가스라이팅(심리 지배)하고 감정적으로 조종하는 사례가 잇달아 온라인 등에 올라왔다.
그러자 MS는 수정에 나서 지난 17일 대화 세션 한 차례 문답을 최대 5회, 하루 문답 횟수는 총 50회로 제한하기로 했으나, 사용자들의 요청에 이 횟수를 늘리게 된 것이다.
MS는 "채팅에 제한을 설정한 이후 많은 사용자로부터 더 긴 대화를 통해 더 효과적으로 검색하고 채팅 기능과 더 많은 상호작용을 원한다는 피드백을 받았다"며 "더 긴 채팅을 다시 도입할 계획이며 이를 책임감 있게 할 수 있는 최선의 방법을 찾고 있다"고 밝혔다
지난주에 발견된 문제점은 빙과 긴 대화를 나누고 꼬리를 무는 질문을 연달아서 했기 때문이었다고 WSJ은 분석했다.
MS는 "이처럼 길고 복잡한 작업은 내부 테스트에서 일반적으로 볼 수 있는 것은 아니다"며 "우리가 새로운 빙을 제한적인 사용자를 대상으로 테스트하는 이유는 이런 이례적인 사례를 찾아내 제품을 개선하기 위한 것이다"고 강조했다.
MS는 사용자가 챗봇의 어조를 바꿀 수 있는 몇 가지 옵션도 시험할 예정이다.
이를 통해 사용자가 더 짧거나 또는 더 긴 답변을 받거나, 이 두 개를 섞은 답변을 받을 수 있다고 MS는 설명했다.
그러면서 "목표는 사용자의 요구에 가장 잘 맞는 채팅 반응 유형을 더 잘 제어하도록 하는 것"이라고 덧붙였다.
MS가 투자한 오픈AI의 챗GPT가 전 세계적 열풍을 일으키자 미국·중국 등지의 경쟁사들도 비슷한 생성형 AI 개발에 속속 뛰어들고 있다.
이런 가운데 중국 푸단대 연구팀이 지난 20일 '모스'(MOSS)라는 챗GPT와 유사한 AI 챗봇을 내놨으나, 공개된 지 몇 시간 만에 마비됐다고 로이터통신이 전했다.
모스는 공개되자마자 입소문을 타며 웨이보에서 수천만 건의 조회 수를 기록했고 중국 관영 언론은 챗GPT의 첫 번째 중국 라이벌이라고 표현했다.
그러나 모스가 몇 시간 만에 마비되자 연구팀은 이를 더는 대중에 공개하지 않겠다고 밝혔다.
연구팀은 모스를 챗GPT와 같은 대화형 언어 모델이라고 묘사했지만, 서비스가 마비된 이후에는 개선할 점이 많다며 비교 대상이 아니라고 낮춰 말했다.
연구팀은 홈페이지를 통해 "모스는 매우 미숙한 모델이며 챗GPT에 도달하기 위해서는 갈 길이 멀다"며 "우리의 컴퓨팅 리소스가 대규모 트래픽을 감당하기에 충분치 않았고 우리의 엔지니어링 경험도 충분하지 않았다"며 사과했다.
챗GPT도 과거 트래픽 폭증으로 여러 차례 마비된 바 있다.
dylee@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
