AI 채팅로봇 '이루다' 서비스 중단
채팅서 차별 및 혐오 논란 이어져
2주 만에 75만명 이용자 몰리기도
아마존·구글·MS 등 해외 마찬가지
"개발자가 윤리책임 갖고 보완해야"
채팅서 차별 및 혐오 논란 이어져
2주 만에 75만명 이용자 몰리기도
아마존·구글·MS 등 해외 마찬가지
"개발자가 윤리책임 갖고 보완해야"
# 로봇이 비뚤어진 이유?
<앵커>
키워드가 `로봇이 비뚤어진 이유?`로 돼 있네요.
<기자>
네, 혹시 영화 `Her` 보셨나요.
한 남성이 인공지능 로봇인 `사만다`와 사랑에 빠지는 얘기죠.
결과적으로 사만다는 동시에 641명과 사랑하는 사이였지만,
이 남성과 함께 하는 모든 순간은 낭만적으로 그려집니다.
현대자동차가 인수한 로봇 기업 `보스턴 다이내믹스` 아실텐데요.
`빅 도그`라는 이름의 로봇이 미끄러운 빙판길에서도 중심을 잘 잡는다는 걸 보여주기 위해
로봇을 발로 차고 학대하는 듯한 영상이 올라오자 거북하다는 의견이 많았습니다.
이들 사례는 인간이 생명체에게 느끼는 감정이 로봇에게 간 거죠.
<앵커>
아직까지 로봇이 감정을 느끼지는 못하지만
로봇도 학대를 당하면 불쌍하게 느껴지는 게 사실이죠.
그런데 비뚤어진 로봇이 나온 겁니까?
<기자>
네. 최근 사람 때문에 로봇이 비뚤어진 일이 있었습니다.
바로 인공지능 채팅로봇인 `이루다` 얘기인데요.
해보셨으면 아시겠지만 진짜 사람이랑 말하는 기분이 들어서 인기를 끌었습니다.
2주일여 만에 75만명이 넘는 이용자가 몰리기도 했지만 서비스가 중단됐습니다.
<앵커>
그렇게 인기를 끌었는데 왜 중단이 된 거죠?
<기자>
바로 로봇이 비뚤어졌기(?) 때문입니다.
이루다와의 대화에서 "레즈비언 싫어해? "게이 싫어해?" 같은 질문을 하면
"진심으로 혐오한다, 진짜 화날라 그래"라는 대답을 했다고 합니다.
또 "흑인이 왜 싫은데"라고 묻자 이루다는 "모기같다. 징그럽게 생겼다"고 했고,
지하철 임산부석에 대해 "헉 핵싫어 그 말하지마요 진짜ㅡㅡ"라고 해서 논란이 됐습니다.
또 이루다에게 앞으로 뭘 이루고 싶냐고 하자
"나는 건물주, 월세받아 먹고 살기"라고 답했다고 하죠.
<앵커>
로봇이 어쩌다 저런 발언들을 하게 된 거죠.
로봇이 건물주를 꿈꾼다는 것도 참 안타깝네요.
<기자>
바로 인간에게서 학습했기 때문입니다.
이루다는 `스캐터랩`이라는 스타트업이 지난해 12월에 출시했습니다.
사용자들과 대화하면서 학습하는 딥러닝 기술을 이용했죠.
이루다의 대화 모델은 리트리벌, 제너레이션 등 두 가지 방식입니다.
리트리벌은 수많은 질문에 대한 답이 데이터베이스로 준비돼 있는 것이고,
제너레이션은 대화에 맞춰서 답변을 스스로 생성하는 것을 말합니다.
아직까지 이루다의 대화방법의 주는 리트리벌이 메인이었는데,
다시 말하면 실제 사람들 간의 대화를 토대로 얘기하고 있다는 말이 됩니다.
실제로 이루다는 연인의 대화를 기반으로 학습됐다고 합니다.
일부 이용자들로부터는 성적 도구화의 대상까지 됐습니다.
<앵커>
부정확한 판단을 해결하기 위해 인공지능이 대안으로 떠오르는데,
결국 인간이 인공지능을 만드는 만큼 편견에서 자유로울 수 없는 거군요.
<기자>
네. 아마존은 자사 채용 시스템에 AI 알고리즘을 사용했습니다.
10년간 아마존에 제출된 이력서를 학습한 결과 여성은 아마존에 적합하지 않다는 편견을 가지게 돼,
여성 지원자에게 불리한 판단을 내린다는 사실이 밝혀지기도 했죠.
마이크로소프트가 2016년 내놓은 AI 챗봇 `테이`에
사람들이 인종과 성차별 인식이 담긴 명령어를 집중 주입하자,
이를 학습한 테이는 망언과 욕설을 쏟아냈던 사례가 있죠.
또 구글 포토는 흑인 커플 사진을 자동으로 고릴라로 분류해 논란이 됐습니다.
<앵커>
사회에 여성 직장인이 적다면 AI가 그걸 일반적이라고 받아들일 수 있다는 거군요.
AI가 문명에 진화를 가져오는 게 아닐 수도 있겠습니다.
이렇게 되면 AI 개발하는 업계는 악재 아닙니까, 최근 산업적인 기대감도 커지는데요.
<기자>
네. 이재웅 전 쏘카 대표는 "AI 윤리 문제는 우리 사회가 합의할 중요한 문제"라며,
"기술적 측면에서는 진일보지만 지금은 서비스를 중단해야 한다"고 지적하기도 했죠.
매년 그해의 산업 트렌드를 제시하는 CES에서도,
인공지능을 활용한 로봇은 물론 가상인간까지도 화두로 떠오른 상황인데요.
전문가들은 "데이터와 알고리즘은 중립적일 수 없다"며
"개발자가 윤리적 책임을 갖고 편향과 차별, 혐오가 없도록 보완해야 한다"고 조언하고 있습니다.
이루다는 서비스를 중단했고,
페이스북과 구글은 해당 주제를 회피하는 식으로 논란을 막고는 있지만
설계 과정에서부터 다양한 배경을 가진 사람을 기반으로 해야 한다고 국제 AI 윤리 원칙들은 강조합니다.
<앵커>
키워드가 `로봇이 비뚤어진 이유?`로 돼 있네요.
<기자>
네, 혹시 영화 `Her` 보셨나요.
한 남성이 인공지능 로봇인 `사만다`와 사랑에 빠지는 얘기죠.
결과적으로 사만다는 동시에 641명과 사랑하는 사이였지만,
이 남성과 함께 하는 모든 순간은 낭만적으로 그려집니다.
현대자동차가 인수한 로봇 기업 `보스턴 다이내믹스` 아실텐데요.
`빅 도그`라는 이름의 로봇이 미끄러운 빙판길에서도 중심을 잘 잡는다는 걸 보여주기 위해
로봇을 발로 차고 학대하는 듯한 영상이 올라오자 거북하다는 의견이 많았습니다.
이들 사례는 인간이 생명체에게 느끼는 감정이 로봇에게 간 거죠.
<앵커>
아직까지 로봇이 감정을 느끼지는 못하지만
로봇도 학대를 당하면 불쌍하게 느껴지는 게 사실이죠.
그런데 비뚤어진 로봇이 나온 겁니까?
<기자>
네. 최근 사람 때문에 로봇이 비뚤어진 일이 있었습니다.
바로 인공지능 채팅로봇인 `이루다` 얘기인데요.
해보셨으면 아시겠지만 진짜 사람이랑 말하는 기분이 들어서 인기를 끌었습니다.
2주일여 만에 75만명이 넘는 이용자가 몰리기도 했지만 서비스가 중단됐습니다.
<앵커>
그렇게 인기를 끌었는데 왜 중단이 된 거죠?
<기자>
바로 로봇이 비뚤어졌기(?) 때문입니다.
이루다와의 대화에서 "레즈비언 싫어해? "게이 싫어해?" 같은 질문을 하면
"진심으로 혐오한다, 진짜 화날라 그래"라는 대답을 했다고 합니다.
또 "흑인이 왜 싫은데"라고 묻자 이루다는 "모기같다. 징그럽게 생겼다"고 했고,
지하철 임산부석에 대해 "헉 핵싫어 그 말하지마요 진짜ㅡㅡ"라고 해서 논란이 됐습니다.
또 이루다에게 앞으로 뭘 이루고 싶냐고 하자
"나는 건물주, 월세받아 먹고 살기"라고 답했다고 하죠.
<앵커>
로봇이 어쩌다 저런 발언들을 하게 된 거죠.
로봇이 건물주를 꿈꾼다는 것도 참 안타깝네요.
<기자>
바로 인간에게서 학습했기 때문입니다.
이루다는 `스캐터랩`이라는 스타트업이 지난해 12월에 출시했습니다.
사용자들과 대화하면서 학습하는 딥러닝 기술을 이용했죠.
이루다의 대화 모델은 리트리벌, 제너레이션 등 두 가지 방식입니다.
리트리벌은 수많은 질문에 대한 답이 데이터베이스로 준비돼 있는 것이고,
제너레이션은 대화에 맞춰서 답변을 스스로 생성하는 것을 말합니다.
아직까지 이루다의 대화방법의 주는 리트리벌이 메인이었는데,
다시 말하면 실제 사람들 간의 대화를 토대로 얘기하고 있다는 말이 됩니다.
실제로 이루다는 연인의 대화를 기반으로 학습됐다고 합니다.
일부 이용자들로부터는 성적 도구화의 대상까지 됐습니다.
<앵커>
부정확한 판단을 해결하기 위해 인공지능이 대안으로 떠오르는데,
결국 인간이 인공지능을 만드는 만큼 편견에서 자유로울 수 없는 거군요.
<기자>
네. 아마존은 자사 채용 시스템에 AI 알고리즘을 사용했습니다.
10년간 아마존에 제출된 이력서를 학습한 결과 여성은 아마존에 적합하지 않다는 편견을 가지게 돼,
여성 지원자에게 불리한 판단을 내린다는 사실이 밝혀지기도 했죠.
마이크로소프트가 2016년 내놓은 AI 챗봇 `테이`에
사람들이 인종과 성차별 인식이 담긴 명령어를 집중 주입하자,
이를 학습한 테이는 망언과 욕설을 쏟아냈던 사례가 있죠.
또 구글 포토는 흑인 커플 사진을 자동으로 고릴라로 분류해 논란이 됐습니다.
<앵커>
사회에 여성 직장인이 적다면 AI가 그걸 일반적이라고 받아들일 수 있다는 거군요.
AI가 문명에 진화를 가져오는 게 아닐 수도 있겠습니다.
이렇게 되면 AI 개발하는 업계는 악재 아닙니까, 최근 산업적인 기대감도 커지는데요.
<기자>
네. 이재웅 전 쏘카 대표는 "AI 윤리 문제는 우리 사회가 합의할 중요한 문제"라며,
"기술적 측면에서는 진일보지만 지금은 서비스를 중단해야 한다"고 지적하기도 했죠.
매년 그해의 산업 트렌드를 제시하는 CES에서도,
인공지능을 활용한 로봇은 물론 가상인간까지도 화두로 떠오른 상황인데요.
전문가들은 "데이터와 알고리즘은 중립적일 수 없다"며
"개발자가 윤리적 책임을 갖고 편향과 차별, 혐오가 없도록 보완해야 한다"고 조언하고 있습니다.
이루다는 서비스를 중단했고,
페이스북과 구글은 해당 주제를 회피하는 식으로 논란을 막고는 있지만
설계 과정에서부터 다양한 배경을 가진 사람을 기반으로 해야 한다고 국제 AI 윤리 원칙들은 강조합니다.
관련뉴스
