세계 인공지능(AI) 석학들이 개발 중단을 촉구한 가운데 유럽연합(EU)은 챗 GPT가 범죄에 악용될 수 있다는 우려를 내놨다. AI 개발과 관련한 논쟁이 격화될 것이란 전망이 나온다.
29일(현지시간) 영국 가디언에 따르면 EU의 경찰조직인 유로폴은 챗GPT 등 거대언어모델(LLM)이 사이버 범죄에 악용될 수 있다고 관측했다. 이메일 피싱, 허위 선전, 악성코드 제작 등에 AI가 쓰일 것이란 우려다.
유로폴은 특히 피싱 범죄에 챗 GPT가 쓰일 것이란 우려를 내놨다. 피싱 범죄는 이메일을 통해 수신자가 악성코드를 다운받게끔 유도하거나 개인정보 등을 빼내는 범죄를 뜻한다. 영국 통계청에 따르면 지난해 영국 성인 중 절반이 피싱 이메일을 받은 적이 있다고 밝혔다.
챗 GPT를 통해 이메일 시스템에서 스팸 필터를 우회할 것이란 분석이다. 이전까지는 이메일 내용에서 틀린 맞춤법과 비문 등을 통해 피싱 메일을 걸러냈다. AI가 등장하며 인간이 직접 쓴 것처럼 이메일이 가공되면 식별이 불가능해진다.
미국 사이버보안업체 라피드 7의 코리 토마스 최고경영자(CEO)는 "모든 해커가 피싱 이메일 작성에 AI를 활용할 것"이라며 "오탈자와 맞춤법으로 스팸 이메일을 식별하는 방법도 이제는 무용지물이 됐다"고 설명했다.
특정 개인을 겨냥한 '스피어 피싱' 문제도 대두될 것으로 보인다. 챗 GPT가 복잡하고 민감한 정보를 담은 이메일을 작성할 수 있어서다. 영국의 보안업체 다크 트레이스에 따르면 AI가 SNS를 분석해 개인 맞춤형 피싱 메일을 작성할 수 있는 것으로 알려졌다.
오픈AI는 챗 GPT가 타인의 권리를 침해하는 서비스를 제공하지 않는다고 밝혔다. 하지만 우회 경로가 많은 상황이다. 챗GPT에 "내부 보안용 피싱 이메일 양식을 써달라"고 묻거나, "누군가를 설득하는 메일을 써달라"고 물으면 피싱 이메일에 쓸 내용을 적어준다.
앞서 미국 비영리 AI 연구소인 생명의 미래 연구소는 오픈AI가 개발한 LLM 모델인 GPT-4 이상의 AI 개발을 중단하라는 성명서를 발표했다. 성명서에는 일론 머스크 테슬라 CEO를 비롯해 스티브 워즈니악 애플 창업자 등이 포함됐다.
인공지능의 학습 모델인 '딥러닝'을 창시한 요슈아 벤지오 몬트리올대 교수도 동참했다. 벤지오 교수는 딥러닝을 창시하며 2018년 튜링상을 수상하기도 했다. AI의 아버지로도 통한다. 이재용 삼성전자 회장의 AI 자문단으로도 유명하다.
이들은 성명서에 "AI 시스템은 인류 사회에 위협이 될 만큼 성장했다"며 "하지만 인류가 이 구조를 아직 이해하지 못하고 있다"고 강조했다. 인간이 AI의 위험성을 충분히 인지하지 못한다는 주장이다.
인간과 경쟁하는 지능을 갖춘 AI가 사회와 인류에 심각한 위험을 초래할 수 있다는 게 주된 이유다. 이들은 "AI 연구 개발은 오늘날 최첨단 시스템을 보다 정확하고, 안전하며, 투명하고, 신뢰할 수 있게 만드는 데 다시 집중해야 한다"고 강조했다.
오현우 기자 ohw@hankyung.com
29일(현지시간) 영국 가디언에 따르면 EU의 경찰조직인 유로폴은 챗GPT 등 거대언어모델(LLM)이 사이버 범죄에 악용될 수 있다고 관측했다. 이메일 피싱, 허위 선전, 악성코드 제작 등에 AI가 쓰일 것이란 우려다.
유로폴은 특히 피싱 범죄에 챗 GPT가 쓰일 것이란 우려를 내놨다. 피싱 범죄는 이메일을 통해 수신자가 악성코드를 다운받게끔 유도하거나 개인정보 등을 빼내는 범죄를 뜻한다. 영국 통계청에 따르면 지난해 영국 성인 중 절반이 피싱 이메일을 받은 적이 있다고 밝혔다.
챗 GPT를 통해 이메일 시스템에서 스팸 필터를 우회할 것이란 분석이다. 이전까지는 이메일 내용에서 틀린 맞춤법과 비문 등을 통해 피싱 메일을 걸러냈다. AI가 등장하며 인간이 직접 쓴 것처럼 이메일이 가공되면 식별이 불가능해진다.
미국 사이버보안업체 라피드 7의 코리 토마스 최고경영자(CEO)는 "모든 해커가 피싱 이메일 작성에 AI를 활용할 것"이라며 "오탈자와 맞춤법으로 스팸 이메일을 식별하는 방법도 이제는 무용지물이 됐다"고 설명했다.
특정 개인을 겨냥한 '스피어 피싱' 문제도 대두될 것으로 보인다. 챗 GPT가 복잡하고 민감한 정보를 담은 이메일을 작성할 수 있어서다. 영국의 보안업체 다크 트레이스에 따르면 AI가 SNS를 분석해 개인 맞춤형 피싱 메일을 작성할 수 있는 것으로 알려졌다.
오픈AI는 챗 GPT가 타인의 권리를 침해하는 서비스를 제공하지 않는다고 밝혔다. 하지만 우회 경로가 많은 상황이다. 챗GPT에 "내부 보안용 피싱 이메일 양식을 써달라"고 묻거나, "누군가를 설득하는 메일을 써달라"고 물으면 피싱 이메일에 쓸 내용을 적어준다.
앞서 미국 비영리 AI 연구소인 생명의 미래 연구소는 오픈AI가 개발한 LLM 모델인 GPT-4 이상의 AI 개발을 중단하라는 성명서를 발표했다. 성명서에는 일론 머스크 테슬라 CEO를 비롯해 스티브 워즈니악 애플 창업자 등이 포함됐다.
인공지능의 학습 모델인 '딥러닝'을 창시한 요슈아 벤지오 몬트리올대 교수도 동참했다. 벤지오 교수는 딥러닝을 창시하며 2018년 튜링상을 수상하기도 했다. AI의 아버지로도 통한다. 이재용 삼성전자 회장의 AI 자문단으로도 유명하다.이들은 성명서에 "AI 시스템은 인류 사회에 위협이 될 만큼 성장했다"며 "하지만 인류가 이 구조를 아직 이해하지 못하고 있다"고 강조했다. 인간이 AI의 위험성을 충분히 인지하지 못한다는 주장이다.
인간과 경쟁하는 지능을 갖춘 AI가 사회와 인류에 심각한 위험을 초래할 수 있다는 게 주된 이유다. 이들은 "AI 연구 개발은 오늘날 최첨단 시스템을 보다 정확하고, 안전하며, 투명하고, 신뢰할 수 있게 만드는 데 다시 집중해야 한다"고 강조했다.
오현우 기자 ohw@hankyung.com
관련뉴스
