AI의 역습? 부작용 '발등의 불'에…美·中·유럽 등 규제 속도
인간의 AI 악용·AI의 인류 추월 등 '두갈래 견제'
美의회 규제 착수…간판 개발자마저 규제 지지
中, 기업에 채찍 준비…EU, 인공지능법 내달 본회의 표결
(서울=연합뉴스) 권수현 기자 = 미국과 중국을 비롯한 주요국이 인공지능(AI)의 위험을 통제하고 부작용을 막을 규제 마련에 나섰다.
사람이 AI를 악용하거나 스스로 진화하는 AI가 인류의 미래에 예측 불가능한 영향을 미칠 수 있다는 진단에 따른 대응이다.
미국은 16일(현지시간) 처음으로 의회에서 AI 청문회를 개최했다.
이날 상원 법제사법위원회 사생활·기술·법소위가 개최한 청문회에서 의원들은 가짜 정보 등 AI의 잠재적 위험성을 지적하며 적절한 규제가 필요하다는 데에 의견을 모았다.
중국 등 경쟁국이 AI를 악용할 경우 발생할 해악을 우려하면서 별도의 규제 기구를 설립하자는 데에 초당적으로 무게를 실었다.
이날 청문회에 증인으로 출석한 챗GPT의 창시자 샘 올트먼 오픈AI 최고경영자(CEO)도 AI의 위험을 완화하기 위해 정부 차원의 규제와 개입, 국제 표준 마련이 필요하다고 말했다.
미국에서는 일부 주에서 AI 기술과 관련법을 마련했거나 논의 중이다.
일리노이주는 기업이 영상면접에 AI기술을 이용하는 경우 면접 참가자의 동의를 받도록 하는 'AI영상면접법'을 통과시켰고, 워싱턴주는 AI가 공공기관에 영향을 미칠 가능성이 있는 경우 해당 기업의 최고정보책임자(CIO)가 규제 체계를 마련하도록 했다.
연방 차원에서는 AI 규제법이 없고 조 바이든 행정부가 지난해 마련한 법적 구속력 없는 지침인 'AI 권리장전(AI Bill of Rights)' 정도가 있었는데, 이번 청문회를 계기로 관련법 제정과 규제기관 설립 논의가 급물살을 탈 것으로 보인다.
AI 분야에서 약진하고 있는 중국은 관련 규제정책 마련에도 앞서가고 있다.
중국 국가인터넷정보판공실(CAC)은 지난달 11일 AI 기업들이 따라야 할 규정과 이를 어길 경우 벌칙 규정을 담은 가이드라인 초안을 발표했다.
초안에 따르면 모든 회사는 AI 관련 서비스 출시 전에 당국의 보안 평가를 받아야 하며, 서비스 이용자들에게도 실명 제출을 요구해야 한다.
AI 서비스 공급업자들은 또 AI를 학습시키는 데에 사용되는 데이터의 합법성에 책임을 져야 하고, 알고리즘 설계와 데이터 훈련 시 차별을 방지하는 조치와 허위 정보 생성을 방지하는 조치를 취해야 한다.
AI 소프트웨어를 통해 부적절한 콘텐츠가 생성될 경우 해당 기업은 유사 콘텐츠 생성 등 재발을 방지하기 위해 3개월 안에 기술을 업데이트해야 한다.
해당 규정을 준수하지 않을 경우 서비스 공급업자들은 벌금 부과, 서비스 정지, 형사 조사 등에 직면할 수 있다.
유럽연합(EU)에서는 2년 전부터 논의돼온 '인공지능법(AI Act)' 초안이 지난 11일 유럽의회 상임위원회를 통과해 다음 달 본회의에서 표결에 부쳐진다.
이 법안은 AI 응용프로그램을 위험도에 따라 '최소 위험 또는 위험하지 않음', '제한된 위험', '높은 위험', '용납불가 위험' 등 4개 등급으로 평가·분류하고 가장 위험한 '용납불가' 등급은 배포·사용을 금지했다.
AI 시스템이 인간이 인식하지 못하는 기술로 인간을 교묘하게 조종하거나, 어린이나 장애인 등 개인이나 특정 그룹의 취약점을 악용하는 방식으로 인간의 행동을 왜곡해 당사자나 다른 사람을 해칠 가능성이 있는 경우 등이 '용납불가' 등급에 해당한다.
마이크로소프트(MS) 소속 과학자들은 최근 보고서에서 AI가 인간처럼 추론하는 능력을 보이기 시작했다고 진단했다. 이는 AI가 인간의 능력을 추월할 능력을 갖춘 특이점에 다가서고 있다는 것을 의미한다.
이번 EU 법안은 내달 유럽의회 본회의를 통과하면 약 2년의 유예기간을 두고 시행될 전망이라고 로이터통신은 전했다.
캐나다도 지난해 6월 '인공지능 및 데이터법(AIDA)'의 초안을 마련했다.
이 법안은 불법적으로 입수한 개인정보로 AI 시스템을 설계·개발·사용하거나 대중을 속여 상당한 경제적 손실을 입힐 목적으로 AI 시스템을 사용하는 행위 등을 범죄로 규정했으며, 관련 기업에 투명성과 차별방지 조치 등을 요구하는 내용을 담았다.
현재 하원에서 논의 중인 이 법안이 일정대로 처리될 경우 2025년께 발효될 것으로 캐나다 연방정부는 예상하고 있다.
inishmore@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
인간의 AI 악용·AI의 인류 추월 등 '두갈래 견제'
美의회 규제 착수…간판 개발자마저 규제 지지
中, 기업에 채찍 준비…EU, 인공지능법 내달 본회의 표결
(서울=연합뉴스) 권수현 기자 = 미국과 중국을 비롯한 주요국이 인공지능(AI)의 위험을 통제하고 부작용을 막을 규제 마련에 나섰다.
사람이 AI를 악용하거나 스스로 진화하는 AI가 인류의 미래에 예측 불가능한 영향을 미칠 수 있다는 진단에 따른 대응이다.
미국은 16일(현지시간) 처음으로 의회에서 AI 청문회를 개최했다.
이날 상원 법제사법위원회 사생활·기술·법소위가 개최한 청문회에서 의원들은 가짜 정보 등 AI의 잠재적 위험성을 지적하며 적절한 규제가 필요하다는 데에 의견을 모았다.
중국 등 경쟁국이 AI를 악용할 경우 발생할 해악을 우려하면서 별도의 규제 기구를 설립하자는 데에 초당적으로 무게를 실었다.
이날 청문회에 증인으로 출석한 챗GPT의 창시자 샘 올트먼 오픈AI 최고경영자(CEO)도 AI의 위험을 완화하기 위해 정부 차원의 규제와 개입, 국제 표준 마련이 필요하다고 말했다.
미국에서는 일부 주에서 AI 기술과 관련법을 마련했거나 논의 중이다.
일리노이주는 기업이 영상면접에 AI기술을 이용하는 경우 면접 참가자의 동의를 받도록 하는 'AI영상면접법'을 통과시켰고, 워싱턴주는 AI가 공공기관에 영향을 미칠 가능성이 있는 경우 해당 기업의 최고정보책임자(CIO)가 규제 체계를 마련하도록 했다.
연방 차원에서는 AI 규제법이 없고 조 바이든 행정부가 지난해 마련한 법적 구속력 없는 지침인 'AI 권리장전(AI Bill of Rights)' 정도가 있었는데, 이번 청문회를 계기로 관련법 제정과 규제기관 설립 논의가 급물살을 탈 것으로 보인다.
AI 분야에서 약진하고 있는 중국은 관련 규제정책 마련에도 앞서가고 있다.
중국 국가인터넷정보판공실(CAC)은 지난달 11일 AI 기업들이 따라야 할 규정과 이를 어길 경우 벌칙 규정을 담은 가이드라인 초안을 발표했다.
초안에 따르면 모든 회사는 AI 관련 서비스 출시 전에 당국의 보안 평가를 받아야 하며, 서비스 이용자들에게도 실명 제출을 요구해야 한다.
AI 서비스 공급업자들은 또 AI를 학습시키는 데에 사용되는 데이터의 합법성에 책임을 져야 하고, 알고리즘 설계와 데이터 훈련 시 차별을 방지하는 조치와 허위 정보 생성을 방지하는 조치를 취해야 한다.
AI 소프트웨어를 통해 부적절한 콘텐츠가 생성될 경우 해당 기업은 유사 콘텐츠 생성 등 재발을 방지하기 위해 3개월 안에 기술을 업데이트해야 한다.
해당 규정을 준수하지 않을 경우 서비스 공급업자들은 벌금 부과, 서비스 정지, 형사 조사 등에 직면할 수 있다.
유럽연합(EU)에서는 2년 전부터 논의돼온 '인공지능법(AI Act)' 초안이 지난 11일 유럽의회 상임위원회를 통과해 다음 달 본회의에서 표결에 부쳐진다.
이 법안은 AI 응용프로그램을 위험도에 따라 '최소 위험 또는 위험하지 않음', '제한된 위험', '높은 위험', '용납불가 위험' 등 4개 등급으로 평가·분류하고 가장 위험한 '용납불가' 등급은 배포·사용을 금지했다.
AI 시스템이 인간이 인식하지 못하는 기술로 인간을 교묘하게 조종하거나, 어린이나 장애인 등 개인이나 특정 그룹의 취약점을 악용하는 방식으로 인간의 행동을 왜곡해 당사자나 다른 사람을 해칠 가능성이 있는 경우 등이 '용납불가' 등급에 해당한다.
마이크로소프트(MS) 소속 과학자들은 최근 보고서에서 AI가 인간처럼 추론하는 능력을 보이기 시작했다고 진단했다. 이는 AI가 인간의 능력을 추월할 능력을 갖춘 특이점에 다가서고 있다는 것을 의미한다.
이번 EU 법안은 내달 유럽의회 본회의를 통과하면 약 2년의 유예기간을 두고 시행될 전망이라고 로이터통신은 전했다.
캐나다도 지난해 6월 '인공지능 및 데이터법(AIDA)'의 초안을 마련했다.
이 법안은 불법적으로 입수한 개인정보로 AI 시스템을 설계·개발·사용하거나 대중을 속여 상당한 경제적 손실을 입힐 목적으로 AI 시스템을 사용하는 행위 등을 범죄로 규정했으며, 관련 기업에 투명성과 차별방지 조치 등을 요구하는 내용을 담았다.
현재 하원에서 논의 중인 이 법안이 일정대로 처리될 경우 2025년께 발효될 것으로 캐나다 연방정부는 예상하고 있다.
inishmore@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
