노벨물리학상 힌턴 "빅테크들, AI 위협 대비 연구투자 늘려야"(종합)
"역사적 분기점에 있어…AI 위협 다룰 방법 수년 내 알아내야"
"평소 챗GPT4 유용하게 써…거짓정보 가능성에 완전히 믿지는 않아"
(서울·뉴욕=연합뉴스) 이도연 기자 이지헌 특파원 = 올해 노벨 물리학상을 받은 '인공지능(AI)의 대부' 제프리 힌턴(76) 캐나다 토론토대 교수는 AI의 잠재적인 위협에 대비하기 위해 빅테크(거대 기술기업)들이 AI를 통제하는 이슈에 더 많은 연구 자원을 쏟아부어야 한다고 촉구했다.
힌턴 교수는 AI 머신러닝(기계학습)의 기초를 확립한 공로로 존 홉필드(91) 미국 프린스턴대 교수와 8일(현지시간) 발표된 올해 노벨 물리학상을 공동 수상했다.
힌턴 교수는 이날 수상 직후 노벨위원회와의 전화 인터뷰에서 "AI가 통제에서 벗어나 생존 위협을 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다"며 이처럼 말했다.
그는 "기후변화 문제는 우리가 무엇을 해야할지 알고 있다. 바로 탄소연료를 태우는 것을 멈추는 것"이라며 "이는 정치적 의지의 문제일 뿐"이라고 했다.
이어 "반면 AI는 무슨 일이 벌어지고 있는지, 무엇을 해야할지에 관해 알고 있는 게 훨씬 적다"면서 "앞으로 수년 내에 AI의 위협을 다룰 방법이 있는지를 알아내야 한다"라고 말했다.
힌턴 교수는 "정부가 할 수 있는 일은 대기업들이 AI 안전 연구에 훨씬 많은 자원을 사용하도록 강제하는 것"이라며 "예를 들어 오픈AI와 같은 회사들이 안전 연구를 뒷전으로 미루지 않도록 해야 한다"라고 덧붙였다.
그는 1975년 미 캘리포니아주 애실로마에서 열린 국제회의에서 생물학자들이 유전공학 연구의 규제 필요성을 제안한 것을 의미 있는 업적이라고 평가하면서 "유감스럽게도 AI는 응용 분야가 훨씬 더 많아 통제가 더 어려울 것"이라고 경고했다.
한편 힌턴 교수는 이날 수상자 발표 현장에서 전화 연결로 이뤄진 회견에서 자신의 연구로 개발된 AI가 앞으로 우리 사회에 "큰 영향력"을 미칠 것이라며 "산업혁명에 비견될 것"이라고 강조했다.
힌턴은 AI가 "인간을 체력 면에서 뛰어넘는 것이 아니라, 지적 능력 면에서 넘어서게 될 것"이라며 "우리는 우리보다 똑똑한 것이 있다는 것을 경험한 적이 없다"고 부연했다.
힌턴은 AI 기술이 의료 등의 분야에 혁명을 일으켜 "생산성에 있어서 엄청난 향상"을 가져올 것이며 "여러 면에서 멋진 일이 될 것"이라면서도 그 부작용을 우려했다.
그는 "우리는 여러 가지 가능한 나쁜 결과, 특히 이것들이 통제 불능 상태가 될 수 있는 위협에 대해서 우려해야 한다"라고 말했다.
그는 수상 전화를 받았을 당시 미국 캘리포니아에 있는 저렴한 호텔에 머물고 있었다면서 수상 소식을 전혀 예상하지 못했다고 했다. 그러면서 "오늘 MRI 검사를 받으러 가기로 했는데, 취소해야 할 것 같다"라고 말하기도 했다.
한편 힌턴 교수는 챗GPT와 같은 거대언어모델(LLM)이 "언어를 실제로 이해한다"라는 자신의 주장에 더욱 신뢰성을 부여할 것으로 기대한다고 언급했다.
세계적인 석학이자 언어학자인 노엄 촘스키 매사추세츠공대(MIT) 명예교수는 AI는 인간처럼 언어를 구사하지 않으며 챗GPT가 실제로는 언어를 이해하지 못한다고 비판한 바 있다. 이에 대해 힌턴 교수는 "촘스키 학파는 틀렸다"라고 말했다.
개인적으로 애용하는 AI 도구가 있느냐는 기자 질문에는 "챗GPT-4를 실제로 많이 사용한다. 궁금한 게 있을 때면 GPT-4에 물어본다"라고 답했다.
이어 "다만, 이를 완전히 신뢰하지는 않는데, 이는 할루시네이션(그럴듯한 거짓 정보 생성) 때문"이라며 "하지만 대부분의 분야에서 GPT-4는 훌륭한 전문가이고 매우 유용하다"라고 평가했다.
구글에서 부사장을 지낸 힌턴 교수는 지난해 4월 구글을 떠난 후 언론 인터뷰에서 구글과 결별한 이유가 AI의 위험성 때문이라고 밝힌 바 있다. 그러면서 빅테크가 주도하는 AI 연구에 국제적인 규제가 도입돼야 한다고 주장해왔다.
dylee@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
"역사적 분기점에 있어…AI 위협 다룰 방법 수년 내 알아내야"
"평소 챗GPT4 유용하게 써…거짓정보 가능성에 완전히 믿지는 않아"
(서울·뉴욕=연합뉴스) 이도연 기자 이지헌 특파원 = 올해 노벨 물리학상을 받은 '인공지능(AI)의 대부' 제프리 힌턴(76) 캐나다 토론토대 교수는 AI의 잠재적인 위협에 대비하기 위해 빅테크(거대 기술기업)들이 AI를 통제하는 이슈에 더 많은 연구 자원을 쏟아부어야 한다고 촉구했다.
힌턴 교수는 AI 머신러닝(기계학습)의 기초를 확립한 공로로 존 홉필드(91) 미국 프린스턴대 교수와 8일(현지시간) 발표된 올해 노벨 물리학상을 공동 수상했다.
힌턴 교수는 이날 수상 직후 노벨위원회와의 전화 인터뷰에서 "AI가 통제에서 벗어나 생존 위협을 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다"며 이처럼 말했다.
그는 "기후변화 문제는 우리가 무엇을 해야할지 알고 있다. 바로 탄소연료를 태우는 것을 멈추는 것"이라며 "이는 정치적 의지의 문제일 뿐"이라고 했다.
이어 "반면 AI는 무슨 일이 벌어지고 있는지, 무엇을 해야할지에 관해 알고 있는 게 훨씬 적다"면서 "앞으로 수년 내에 AI의 위협을 다룰 방법이 있는지를 알아내야 한다"라고 말했다.
힌턴 교수는 "정부가 할 수 있는 일은 대기업들이 AI 안전 연구에 훨씬 많은 자원을 사용하도록 강제하는 것"이라며 "예를 들어 오픈AI와 같은 회사들이 안전 연구를 뒷전으로 미루지 않도록 해야 한다"라고 덧붙였다.
그는 1975년 미 캘리포니아주 애실로마에서 열린 국제회의에서 생물학자들이 유전공학 연구의 규제 필요성을 제안한 것을 의미 있는 업적이라고 평가하면서 "유감스럽게도 AI는 응용 분야가 훨씬 더 많아 통제가 더 어려울 것"이라고 경고했다.
한편 힌턴 교수는 이날 수상자 발표 현장에서 전화 연결로 이뤄진 회견에서 자신의 연구로 개발된 AI가 앞으로 우리 사회에 "큰 영향력"을 미칠 것이라며 "산업혁명에 비견될 것"이라고 강조했다.
힌턴은 AI가 "인간을 체력 면에서 뛰어넘는 것이 아니라, 지적 능력 면에서 넘어서게 될 것"이라며 "우리는 우리보다 똑똑한 것이 있다는 것을 경험한 적이 없다"고 부연했다.
힌턴은 AI 기술이 의료 등의 분야에 혁명을 일으켜 "생산성에 있어서 엄청난 향상"을 가져올 것이며 "여러 면에서 멋진 일이 될 것"이라면서도 그 부작용을 우려했다.
그는 "우리는 여러 가지 가능한 나쁜 결과, 특히 이것들이 통제 불능 상태가 될 수 있는 위협에 대해서 우려해야 한다"라고 말했다.
그는 수상 전화를 받았을 당시 미국 캘리포니아에 있는 저렴한 호텔에 머물고 있었다면서 수상 소식을 전혀 예상하지 못했다고 했다. 그러면서 "오늘 MRI 검사를 받으러 가기로 했는데, 취소해야 할 것 같다"라고 말하기도 했다.
한편 힌턴 교수는 챗GPT와 같은 거대언어모델(LLM)이 "언어를 실제로 이해한다"라는 자신의 주장에 더욱 신뢰성을 부여할 것으로 기대한다고 언급했다.
세계적인 석학이자 언어학자인 노엄 촘스키 매사추세츠공대(MIT) 명예교수는 AI는 인간처럼 언어를 구사하지 않으며 챗GPT가 실제로는 언어를 이해하지 못한다고 비판한 바 있다. 이에 대해 힌턴 교수는 "촘스키 학파는 틀렸다"라고 말했다.
개인적으로 애용하는 AI 도구가 있느냐는 기자 질문에는 "챗GPT-4를 실제로 많이 사용한다. 궁금한 게 있을 때면 GPT-4에 물어본다"라고 답했다.
이어 "다만, 이를 완전히 신뢰하지는 않는데, 이는 할루시네이션(그럴듯한 거짓 정보 생성) 때문"이라며 "하지만 대부분의 분야에서 GPT-4는 훌륭한 전문가이고 매우 유용하다"라고 평가했다.
구글에서 부사장을 지낸 힌턴 교수는 지난해 4월 구글을 떠난 후 언론 인터뷰에서 구글과 결별한 이유가 AI의 위험성 때문이라고 밝힌 바 있다. 그러면서 빅테크가 주도하는 AI 연구에 국제적인 규제가 도입돼야 한다고 주장해왔다.
dylee@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
관련뉴스
