MS "중요 인프라 제어 AI에 '안전 브레이크' 장착 의무화 필요"

MS "중요 인프라 제어 AI에 '안전 브레이크' 장착 의무화 필요"
"끄거나 감속할 수 있어야"…AI 규제 위한 5가지 원칙 제시
"정부 주도 AI 기술 가드레일 제안…美표준기술연구소서 마련 가능"



(샌프란시스코=연합뉴스) 김태종 특파원 = 인공지능(AI) 기술이 급속히 발전하면서 규제 목소리가 커지는 가운데 마이크로소프트(MS)는 25일(현지시간) AI 규제를 위해 고려돼야 할 5가지 원칙을 제시했다.
생성 AI 챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자(CEO)는 지난 16일 미 의회 청문회에 출석해 AI의 위험을 완화하기 위해 정부 규제 개입을 강조했다. 오픈AI도 국제원자력기구(IAEA)와 같은 국제기구가 필요하다고 주장한 바 있다.
MS는 이날 블로그를 통해 중요 인프라에 사용되는 특정 AI 시스템에 '안전 브레이크'를 의무적으로 장착할 것을 제안했다.
이는 열차 비상 브레이크와 유사한 것으로, 유사시에 대비해 중요 인프라 시설에 사용되는 AI를 완전히 끄거나 감속할 수 있도록 해야 한다는 것이다.
MS는 "일각에서는 AI가 더욱 강력해짐에 따라 이를 잘 제어할 수 있는지 우려하고 있다"며 "전기, 수도, 교통과 같은 중요 인프라의 AI 제어 관련 필요성이 제기된다"고 설명했다.
이어 이런 브레이크 장치는 오랫동안 엘리베이터나 스쿨버스, 고속 열차와 같은 다른 기술에도 내장돼 왔다고 덧붙였다.
MS는 또 정부 주도의 AI 기술 사용에 대한 가드레일 구축을 제안하며, 상무부 산하 미국표준기술연구소(NIST) 등이 마련할 수 있다고 설명했다.
아울러 앱이나 고급 기초 모델 및 AI 인프라에 대한 법적인 틀 구축, AI에 대한 학술 및 비영리 연구에 대한 자금 지원도 강조했다.
AI가 사회에 미칠 영향을 해결하기 위해 민관 협력 관계 구축도 제안했다.
MS는 발전된 AI 시스템을 만들거나 사용하는 모든 조직은 자체 거버넌스 시스템을 개발하고 구현해야 한다며 MS는 지난 6년간 이를 구축했다고 설명했다.
MS는 오픈AI에 100억 달러 이상을 투자하며 전 세계 AI 기술 경쟁에 불을 지폈다. 검색 엔진 빙과 문서 도구 등 모든 자사 제품에 AI 챗봇을 탑재하며 오픈AI와 함께 이 경쟁에서 가장 앞서 있다는 평가를 받고 있다.
taejong75@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>