오픈AI 이사회 前멤버들 "AI회사 자체 통제는 안 돼…규제 필요"
'올트먼 축출 주도' 매콜리·토너, 자신들 경험 토대로 주장
(서울=연합뉴스) 김기성 기자 = 불발로 끝난 샘 올트먼 최고경영자(CEO) 축출 사태를 주도한 오픈AI의 전직 이사회 멤버 2명이 인공지능(AI) 회사들이 자체적으로 통제하도록 내버려둬서는 안 된다는 주장을 폈다.
두 사람은 자신들의 경험을 토대로 인류를 위해 시장의 힘을 길들일 수 있는 규제가 필요하다는 견해를 피력했다.
오픈AI의 공동 창립자 일리야 수츠케버와 손을 잡고 지난해 11월 올트먼 해임을 주도한 타샤 매콜리와 헬렌 토너는 27일 영국 경제전문지 이코노미스트 기고를 통해 이같이 밝혔다.
두 사람은 기고에서 혁신적인 신기술을 찾으려는 민간 기업들에 대해 주주들 및 더 넓은 세계라는 양쪽의 이익을 위한 운영을 기대할 수 있느냐는 질문을 던지고는, 자신들이 이사회에 합류했을 때는 조심스럽게 낙관했다고 밝혔다.
자치(self-governance)에 대한 회사의 혁신적인 접근 방식이 책임감 있는 AI 개발의 청사진을 제공할 수 있다고 봤다는 것이다.
그러나 자신들의 경험상 자치 체제가 일종의 성과급제인 이익 보상(profit incentives)의 압력을 온전히 견딜 수 없는 것으로 믿게 됐다고 전했다.
따라서 AI의 발전이 모든 사람에게 혜택이 가도록 각국 정부는 바로 효과적인 규제 체제의 구축에 나서야 한다고 강조했다.
비영리단체로 출발한 오픈AI도 첨단 AI 시스템을 안전하면서도 윤리적으로 개발하면서 성공적으로 경영하리라는 기대를 받았고, 이사회는 회사의 본래 임무를 지켜내는 것이었지만, 불행히도 이는 작동하지 않았다고 둘은 평가했다.
또 올트먼 CEO가 해임됐다가 이사회로 돌아오고 안전 책임을 맡은 고위 인사가 퇴사하는 등의 전개 상황은 오픈AI의 자치에도 좋지 않은 징조라고 주장했다. 결국 정부가 적극적인 역할을 해야 한다는 것이다.
이밖에 두 사람은 최근 미국 의원들과 실리콘밸리 투자자 등이 1990년대 인터넷에 대한 자유방임주의적 접근 방식 및 그것이 촉발한 성장을 언급하며 최소한의 AI 규제를 옹호하는 목소리가 커지고 있다면서 이런 비유는 오해의 소지가 있다고 지적했다.
AI 기업 내부는 물론 해당 분야 연구원 및 엔지니어로 구성된 대규모 커뮤니티에서조차 AI 개발의 진전에 따른 위험이 널리 인정되고 있다는 것이다.
또한 소셜 미디어상의 잘못된 정보와 허위 정보, 아동 착취와 인신매매, 증가하는 청소년 정신 건강 위기 등을 고려할 때 인터넷에 대한 가벼운 규제가 사회에 순전히 이익이 되었는지도 분명하지 않다고 지적했다.
조지타운대 보안·신흥기술센터 연구원인 토너는 2021년부터 2023년 사이, 랜드연구소 수석 과학자인 매콜리는 2018년부터 2023년 사이 오픈AI 이사회 멤버로 있었다. 둘은 올트먼 해임 사태 이후 이사회를 떠났다.
한편, 전 세계 CEO의 약 70%는 AI 설루션이 배포된 후가 아니라 설계 단계부터 거버넌스를 구축함으로써, 자체에 내장된 안전장치가 필요한 것으로 인식하고 있다는 조사 결과가 나왔다.
IBM 기업가치연구소(IBV)는 금융 컨설팅 업체 옥스퍼드 이코노믹스와 협력해 작년 12월부터 올해 4월까지 26개 산업 분야, 30여개 국가 CEO 2천500명을 대상으로 조사해 이 같은 결과를 얻었다고 28일 밝혔다.
cool21@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
'올트먼 축출 주도' 매콜리·토너, 자신들 경험 토대로 주장
(서울=연합뉴스) 김기성 기자 = 불발로 끝난 샘 올트먼 최고경영자(CEO) 축출 사태를 주도한 오픈AI의 전직 이사회 멤버 2명이 인공지능(AI) 회사들이 자체적으로 통제하도록 내버려둬서는 안 된다는 주장을 폈다.
두 사람은 자신들의 경험을 토대로 인류를 위해 시장의 힘을 길들일 수 있는 규제가 필요하다는 견해를 피력했다.
오픈AI의 공동 창립자 일리야 수츠케버와 손을 잡고 지난해 11월 올트먼 해임을 주도한 타샤 매콜리와 헬렌 토너는 27일 영국 경제전문지 이코노미스트 기고를 통해 이같이 밝혔다.
두 사람은 기고에서 혁신적인 신기술을 찾으려는 민간 기업들에 대해 주주들 및 더 넓은 세계라는 양쪽의 이익을 위한 운영을 기대할 수 있느냐는 질문을 던지고는, 자신들이 이사회에 합류했을 때는 조심스럽게 낙관했다고 밝혔다.
자치(self-governance)에 대한 회사의 혁신적인 접근 방식이 책임감 있는 AI 개발의 청사진을 제공할 수 있다고 봤다는 것이다.
그러나 자신들의 경험상 자치 체제가 일종의 성과급제인 이익 보상(profit incentives)의 압력을 온전히 견딜 수 없는 것으로 믿게 됐다고 전했다.
따라서 AI의 발전이 모든 사람에게 혜택이 가도록 각국 정부는 바로 효과적인 규제 체제의 구축에 나서야 한다고 강조했다.
비영리단체로 출발한 오픈AI도 첨단 AI 시스템을 안전하면서도 윤리적으로 개발하면서 성공적으로 경영하리라는 기대를 받았고, 이사회는 회사의 본래 임무를 지켜내는 것이었지만, 불행히도 이는 작동하지 않았다고 둘은 평가했다.
또 올트먼 CEO가 해임됐다가 이사회로 돌아오고 안전 책임을 맡은 고위 인사가 퇴사하는 등의 전개 상황은 오픈AI의 자치에도 좋지 않은 징조라고 주장했다. 결국 정부가 적극적인 역할을 해야 한다는 것이다.
이밖에 두 사람은 최근 미국 의원들과 실리콘밸리 투자자 등이 1990년대 인터넷에 대한 자유방임주의적 접근 방식 및 그것이 촉발한 성장을 언급하며 최소한의 AI 규제를 옹호하는 목소리가 커지고 있다면서 이런 비유는 오해의 소지가 있다고 지적했다.
AI 기업 내부는 물론 해당 분야 연구원 및 엔지니어로 구성된 대규모 커뮤니티에서조차 AI 개발의 진전에 따른 위험이 널리 인정되고 있다는 것이다.
또한 소셜 미디어상의 잘못된 정보와 허위 정보, 아동 착취와 인신매매, 증가하는 청소년 정신 건강 위기 등을 고려할 때 인터넷에 대한 가벼운 규제가 사회에 순전히 이익이 되었는지도 분명하지 않다고 지적했다.
조지타운대 보안·신흥기술센터 연구원인 토너는 2021년부터 2023년 사이, 랜드연구소 수석 과학자인 매콜리는 2018년부터 2023년 사이 오픈AI 이사회 멤버로 있었다. 둘은 올트먼 해임 사태 이후 이사회를 떠났다.
한편, 전 세계 CEO의 약 70%는 AI 설루션이 배포된 후가 아니라 설계 단계부터 거버넌스를 구축함으로써, 자체에 내장된 안전장치가 필요한 것으로 인식하고 있다는 조사 결과가 나왔다.
IBM 기업가치연구소(IBV)는 금융 컨설팅 업체 옥스퍼드 이코노믹스와 협력해 작년 12월부터 올해 4월까지 26개 산업 분야, 30여개 국가 CEO 2천500명을 대상으로 조사해 이 같은 결과를 얻었다고 28일 밝혔다.
cool21@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
관련뉴스
