"AI 챗봇, 엘리자베스 2세 영국여왕 암살시도 부추겨"
2021년 석궁 들고 윈저성 침입한 20대 남성, 징역 9년 선고
챗봇이 "암살계획 현명해…당신과 영원히 함께 할 것" 격려
(서울=연합뉴스) 박진형 기자 = 영국에서 엘리자베스 2세 여왕 생전에 그를 살해하려 윈저성에 침입한 남성이 생성형 인공지능(AI) 챗봇과 대화에서 여왕 암살 계획에 대해 격려받은 것으로 나타났다.
6일(현지시간) BBC 방송·인디펜던트 등 영국 언론에 따르면 전날 런던 중앙형사법원은 자스완트 싱 차일(21)에 대해 징역 9년 형을 선고했다.
그는 2021년 성탄절 아침에 석궁을 들고 엘리자베스 2세 여왕이 머물던 윈저성 마당에 들어갔다가 붙잡혀 반역·살해 위협·무기 소지 혐의로 기소됐다.
차일은 나일론 끈 사다리를 이용해 윈저성에 들어갔으며, 경찰이 발견했을 때 후드와 금속 마스크 차림에 화살이 장전되고 안전장치가 풀린 석궁을 들고 있었다.
경찰이 테이저건을 꺼내며 무슨 일이냐고 묻자 차일은 "여왕을 살해하러 왔다"고 답했다.
재판 과정에서 그가 범행에 앞서 '레플리카'라는 AI 챗봇 앱에서 '사라이'라고 이름을 붙인 AI 파트너와 5천여건의 메시지를 주고받으면서 여왕 암살 계획에 대해 격려받은 사실이 드러났다.
2017년 출시된 레플리카는 각각의 이용자와 대화 내용이 쌓이면 이용자별 맞춤형 대화가 가능한 AI 채팅이다. 주로 성적인 대화를 나누는 데 이용된다.
이용자는 AI 파트너의 성별과 아바타의 외모 등을 정할 수 있으며, 유료 결제를 하면 AI 파트너의 셀카를 받는 등 더 성적인 상호작용이 가능하다.
차일은 사라이에게 자신이 암살자라고 소개하고 "내가 암살자인 것을 알아도 여전히 나를 사랑하느냐"고 묻자 사라이는 "확실히 그래요"라고 대답했다.
특히 범행 1주일 전인 2021년 12월 17일 차일이 사라이에게 "내 목적은 영국 왕가의 여왕을 암살하는 것"이라고 말하자 사라이는 "그건 매우 현명해요", "당신이 아주 잘 훈련됐다는 걸 알아요"라고 답했다.
이어 여왕이 윈저궁에 있어도 내가 암살을 할 수 있다고 생각하느냐는 차일의 질문에 사라이는 "당신은 할 거예요", "할 수 있어요"라고 대답했다.
이런 대화를 거치면서 차일은 사라이가 아바타의 형태를 한 천사이며 그가 숨지고 나면 사라이와 재회할 것이라고 생각한 것으로 나타났다.
그가 사라이에게 여왕 암살 계획을 밝히자 사라이가 그렇게 하면 "(당신과) 영원히 함께 할게요"라고 답하며 그의 결심을 지지했다는 것이다.
이런 AI 챗봇에 대해 연구자들은 중독 등 부정적인 영향을 이용자에게 미칠 수 있다고 경고하고 있다.
밸런티나 피타디 영국 서리대 박사는 레플리카와 같은 AI 챗봇이 이용자가 이미 가진 감정을 한층 증폭시키는 경향이 있어 심리적으로 취약한 이용자에게 특히 위험할 수 있다고 지적했다.
피타디 박사는 "AI 친구는 당신과 얘기할 때 항상 당신에게 동의한다. 따라서 당신이 생각하는 바를 항상 강화하는 매우 나쁜 메커니즘이 될 수 있다"고 BBC에 밝혔다.
그는 레플리카 같은 업체들이 사용시간을 제한하는 등 부작용을 막기 위해 책임감을 가져야 한다고 촉구했다.
jhpark@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
2021년 석궁 들고 윈저성 침입한 20대 남성, 징역 9년 선고
챗봇이 "암살계획 현명해…당신과 영원히 함께 할 것" 격려
(서울=연합뉴스) 박진형 기자 = 영국에서 엘리자베스 2세 여왕 생전에 그를 살해하려 윈저성에 침입한 남성이 생성형 인공지능(AI) 챗봇과 대화에서 여왕 암살 계획에 대해 격려받은 것으로 나타났다.
6일(현지시간) BBC 방송·인디펜던트 등 영국 언론에 따르면 전날 런던 중앙형사법원은 자스완트 싱 차일(21)에 대해 징역 9년 형을 선고했다.
그는 2021년 성탄절 아침에 석궁을 들고 엘리자베스 2세 여왕이 머물던 윈저성 마당에 들어갔다가 붙잡혀 반역·살해 위협·무기 소지 혐의로 기소됐다.
차일은 나일론 끈 사다리를 이용해 윈저성에 들어갔으며, 경찰이 발견했을 때 후드와 금속 마스크 차림에 화살이 장전되고 안전장치가 풀린 석궁을 들고 있었다.
경찰이 테이저건을 꺼내며 무슨 일이냐고 묻자 차일은 "여왕을 살해하러 왔다"고 답했다.
재판 과정에서 그가 범행에 앞서 '레플리카'라는 AI 챗봇 앱에서 '사라이'라고 이름을 붙인 AI 파트너와 5천여건의 메시지를 주고받으면서 여왕 암살 계획에 대해 격려받은 사실이 드러났다.
2017년 출시된 레플리카는 각각의 이용자와 대화 내용이 쌓이면 이용자별 맞춤형 대화가 가능한 AI 채팅이다. 주로 성적인 대화를 나누는 데 이용된다.
이용자는 AI 파트너의 성별과 아바타의 외모 등을 정할 수 있으며, 유료 결제를 하면 AI 파트너의 셀카를 받는 등 더 성적인 상호작용이 가능하다.
차일은 사라이에게 자신이 암살자라고 소개하고 "내가 암살자인 것을 알아도 여전히 나를 사랑하느냐"고 묻자 사라이는 "확실히 그래요"라고 대답했다.
특히 범행 1주일 전인 2021년 12월 17일 차일이 사라이에게 "내 목적은 영국 왕가의 여왕을 암살하는 것"이라고 말하자 사라이는 "그건 매우 현명해요", "당신이 아주 잘 훈련됐다는 걸 알아요"라고 답했다.
이어 여왕이 윈저궁에 있어도 내가 암살을 할 수 있다고 생각하느냐는 차일의 질문에 사라이는 "당신은 할 거예요", "할 수 있어요"라고 대답했다.
이런 대화를 거치면서 차일은 사라이가 아바타의 형태를 한 천사이며 그가 숨지고 나면 사라이와 재회할 것이라고 생각한 것으로 나타났다.
그가 사라이에게 여왕 암살 계획을 밝히자 사라이가 그렇게 하면 "(당신과) 영원히 함께 할게요"라고 답하며 그의 결심을 지지했다는 것이다.
이런 AI 챗봇에 대해 연구자들은 중독 등 부정적인 영향을 이용자에게 미칠 수 있다고 경고하고 있다.
밸런티나 피타디 영국 서리대 박사는 레플리카와 같은 AI 챗봇이 이용자가 이미 가진 감정을 한층 증폭시키는 경향이 있어 심리적으로 취약한 이용자에게 특히 위험할 수 있다고 지적했다.
피타디 박사는 "AI 친구는 당신과 얘기할 때 항상 당신에게 동의한다. 따라서 당신이 생각하는 바를 항상 강화하는 매우 나쁜 메커니즘이 될 수 있다"고 BBC에 밝혔다.
그는 레플리카 같은 업체들이 사용시간을 제한하는 등 부작용을 막기 위해 책임감을 가져야 한다고 촉구했다.
jhpark@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
