"킬러로봇 규제, 시간이 없다"…'오펜하이머 순간' 맞은 AI 무기
오스트리아서 AI 자율살상무기 규제 방안 논의
"AI 기술, 화학·생물학·핵 공격 더 쉽게 만들어" 美정부 보고서 공개
(서울=연합뉴스) 신재우 기자 = 스스로 판단해 적을 살상하는 인공지능(AI) 무기, 이른바 '킬러 로봇'의 출현이 임박한 가운데 전 세계 군사, 기술 전문가들이 한자리에 모여 킬러 로봇을 규제할 수 있는 시간이 얼마 남지 않았다고 우려를 쏟아냈다.
블룸버그 통신에 따르면 오스트리아가 29일(현지시간)부터 빈에서 이틀간의 일정으로 개최한 자율무기시스템 관련 콘퍼런스에는 100여개국 출신의 군사, 기술 관계자들이 참석해 AI와 군사기술의 결합을 경제적으로 제재할 수 있는 방안에 관해 토론했다.
알렉산더 샬렌베르크 오스트리아 외교장관은 1945년 원자폭탄 개발을 주도한 후 핵무기 확산 통제를 주장했던 로버트 오펜하이머를 언급하며 "지금이 우리 시대의 오펜하이머 순간"이라며 규제 필요성을 강조했다.
알파벳의 AI 플랫폼 '딥마인드'의 초기 투자자인 얀 탈린은 기업들이 AI 사업을 키우기 위해 자금을 투입하는 가운데 전쟁이 확산하고 있기 때문에 킬러 로봇을 통제할 필요성이 더욱 커졌다고 지적했다.
그는 "실리콘밸리의 인센티브가 나머지 인류와 합치되지 않을 수 있다"고 강조했다.
전장에서의 AI 활용은 이미 현실이다.
이스라엘·팔레스타인의 독립 매체인 '＋972 매거진'은 지난달 이스라엘군이 '라벤더'라는 AI 프로그램을 사용해 암살 대상을 찾아내고 있다고 보도했다.
가자지구 군사 작전에서 AI가 사용됐다는 이같은 보도에 안토니오 구테흐스 유엔 사무총장은 "깊은 우려를 표한다"며 생사를 결정하는 어떤 부분도 비정한 알고리즘의 산출에 맡겨서는 안 된다고 강조했다.
정보를 수집해 인간의 생사를 스스로 결정하는 AI 자율살상 무기의 출현은 무력 충돌 양상을 근본적으로 변화시킬 수 있다.
AI 무기가 인간의 통제를 벗어나 오작동, 제동 불능 상태에서 전쟁을 수행하면 전쟁이 더욱 참혹해질 수 있기 때문에 불안은 더욱 커지고 있다.
이런 배경 속에 지난해 12월 세계 150여개국은 '무기체계의 AI와 자동화' 등 새로운 군사 기술이 "심각한 도전과 우려"를 야기한다는 내용의 유엔 결의안을 지지했다.
다만 법적 구속력이 있는 규정을 자율살상무기에 부과하자는 제안은 각국의 입장 차이 때문에 추진되지 않고 있다.
오스트리아의 최고위 군축 당국자인 악렌산더 크멘트도 이번 콘퍼런스에서 외교적 해결이 단기적으로는 요원할 것이라고 전망했다.
한편, AI 기술과 세계 무기 시장을 주도하는 미국에서는 이날 새로운 AI 기술이 공중 보건과 국가 안보 등에 위험을 초래할 수 있다는 내용의 정부 보고서가 일부 공개됐다.
국토안보부가 석달 전 조 바이든 대통령에게 제출한 보고서의 일부 발췌본에 따르면, 미 정부는 미국의 생물학적, 화학적 안보에 대한 규제 부족과 AI 활용 증가가 나쁜 행위자의 화학, 생물, 방사선, 핵 공격 수행을 더욱 쉽게 만들어 줄 수 있다고 전망했다.
국토안보부 산하 사이버·인프라보안국(CISA)도 지난주 공개한 별도의 보고서에서 중요한 인프라를 겨냥한 공격 등 일부 공격이 AI를 이용해 수행될 수 있다고 경고했다.
withwit@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
오스트리아서 AI 자율살상무기 규제 방안 논의
"AI 기술, 화학·생물학·핵 공격 더 쉽게 만들어" 美정부 보고서 공개
(서울=연합뉴스) 신재우 기자 = 스스로 판단해 적을 살상하는 인공지능(AI) 무기, 이른바 '킬러 로봇'의 출현이 임박한 가운데 전 세계 군사, 기술 전문가들이 한자리에 모여 킬러 로봇을 규제할 수 있는 시간이 얼마 남지 않았다고 우려를 쏟아냈다.
블룸버그 통신에 따르면 오스트리아가 29일(현지시간)부터 빈에서 이틀간의 일정으로 개최한 자율무기시스템 관련 콘퍼런스에는 100여개국 출신의 군사, 기술 관계자들이 참석해 AI와 군사기술의 결합을 경제적으로 제재할 수 있는 방안에 관해 토론했다.
알렉산더 샬렌베르크 오스트리아 외교장관은 1945년 원자폭탄 개발을 주도한 후 핵무기 확산 통제를 주장했던 로버트 오펜하이머를 언급하며 "지금이 우리 시대의 오펜하이머 순간"이라며 규제 필요성을 강조했다.
알파벳의 AI 플랫폼 '딥마인드'의 초기 투자자인 얀 탈린은 기업들이 AI 사업을 키우기 위해 자금을 투입하는 가운데 전쟁이 확산하고 있기 때문에 킬러 로봇을 통제할 필요성이 더욱 커졌다고 지적했다.
그는 "실리콘밸리의 인센티브가 나머지 인류와 합치되지 않을 수 있다"고 강조했다.
전장에서의 AI 활용은 이미 현실이다.
이스라엘·팔레스타인의 독립 매체인 '＋972 매거진'은 지난달 이스라엘군이 '라벤더'라는 AI 프로그램을 사용해 암살 대상을 찾아내고 있다고 보도했다.
가자지구 군사 작전에서 AI가 사용됐다는 이같은 보도에 안토니오 구테흐스 유엔 사무총장은 "깊은 우려를 표한다"며 생사를 결정하는 어떤 부분도 비정한 알고리즘의 산출에 맡겨서는 안 된다고 강조했다.
정보를 수집해 인간의 생사를 스스로 결정하는 AI 자율살상 무기의 출현은 무력 충돌 양상을 근본적으로 변화시킬 수 있다.
AI 무기가 인간의 통제를 벗어나 오작동, 제동 불능 상태에서 전쟁을 수행하면 전쟁이 더욱 참혹해질 수 있기 때문에 불안은 더욱 커지고 있다.
이런 배경 속에 지난해 12월 세계 150여개국은 '무기체계의 AI와 자동화' 등 새로운 군사 기술이 "심각한 도전과 우려"를 야기한다는 내용의 유엔 결의안을 지지했다.
다만 법적 구속력이 있는 규정을 자율살상무기에 부과하자는 제안은 각국의 입장 차이 때문에 추진되지 않고 있다.
오스트리아의 최고위 군축 당국자인 악렌산더 크멘트도 이번 콘퍼런스에서 외교적 해결이 단기적으로는 요원할 것이라고 전망했다.
한편, AI 기술과 세계 무기 시장을 주도하는 미국에서는 이날 새로운 AI 기술이 공중 보건과 국가 안보 등에 위험을 초래할 수 있다는 내용의 정부 보고서가 일부 공개됐다.
국토안보부가 석달 전 조 바이든 대통령에게 제출한 보고서의 일부 발췌본에 따르면, 미 정부는 미국의 생물학적, 화학적 안보에 대한 규제 부족과 AI 활용 증가가 나쁜 행위자의 화학, 생물, 방사선, 핵 공격 수행을 더욱 쉽게 만들어 줄 수 있다고 전망했다.
국토안보부 산하 사이버·인프라보안국(CISA)도 지난주 공개한 별도의 보고서에서 중요한 인프라를 겨냥한 공격 등 일부 공격이 AI를 이용해 수행될 수 있다고 경고했다.
withwit@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
관련뉴스
