'인공지능 생성물에 워터마크' AI 기본법…업계, 실효성 '갸웃'
불법 딥페이크물엔 가시적 워터마크 붙여야…규제 각론 추후 대통령령 지정
AI 업계, 딥페이크 범죄 방지 실효성에 의문…"사업성 저해" 우려도
(서울=연합뉴스) 조성미 기자 = 지난 21일 국회 과학기술정보방송통신위원회 법안소위원회를 통과하며 연내 제정에 힘이 실리게 된 인공지능(AI) 기본법은 AI 사업자에 불법 딥페이크물 생성을 막을 의무를 강화한 것이 주요 내용이다.
여기서 AI 사업자란 오픈AI, 네이버처럼 AI 기본 모델을 제공하거나 AI 모델에서 파생된 다양한 AI 기능을 서비스하는 소프트웨어 업체들을 말한다.
챗GPT 등장 이후로 생성형 AI 기술과 서비스가 우후죽순처럼 쏟아졌지만, 지금까지는 AI로 만든 생성물인지를 알릴 표식(워터마크)에 관한 의무가 법적으로 규정되지 않았다.
AI 기본법이 국회 본회의를 통과하면 AI 사업자는 이용자가 인공지능 기술로 합성 이미지·영상 등을 만들 때 AI 생성물임을 알리는 워터마크를 넣도록 기술적 기반을 제공하고 안내할 의무를 진다.
여기서 워터마크는 눈에 보이는 가시적 표식과 사람 눈에는 보이지 않고 주파수, 메타데이터 등을 활용한 비가시적 표식으로 나뉜다.
AI 기본법은 성 착취 딥페이크물과 같은 타인의 권리 침해 가능성이 큰 합성물에는 눈에 보이는 워터마크를 달도록 했다.
이미지를 합성한 생성물이라도 불법 요소가 없고 문화적·창작적인 가치가 높은 경우에는 비가시적인 워터마크를 붙여 AI 사용으로 인한 문제가 사후 발견됐을 경우 구별만 할 수 있도록 했다.
실제로 콘텐츠 업계에서는 생성형 AI 합성 기술을 이미 널리 쓰고 있는데, AI 생성물이라고 해서 가시적인 표식이 붙게 되면 업계의 생산적인 AI 기술 활용까지 지장을 받을 수 있다는 이유에서다.
다만, AI 생성물 중에 보호가 필요한 창의적·예술적인 콘텐츠의 범위가 어디까지인지 등 세부 사항은 AI 기본법 제정안에 포함되지 않았다. 심도 있는 논의를 거쳐 추후 대통령령을 통해 기준을 정할 방침이다.
한편, AI 기본법에 플랫폼 기업들이 표식이 없는 AI 생성물을 바로 삭제할 것을 의무화하는 내용을 넣는 방안도 논의됐지만 최종 제정안에는 포함되지 않은 것으로 알려졌다.
성 착취, 선거법 위반 등 불법 소지가 있는 AI 생성물은 현행 형법, 선거법으로 처벌하거나 정보통신망법에 따라 플랫폼이 삭제하도록 규제할 수 있다는 이유에서다.
AI 기본법은 오픈AI 등 해외 대형 AI 기업이 국내에서 영업할 때는 정부와 소통할 수 있는 국내 대리인을 지정하도록 했고 인간의 생명이나 신체 안전과 관련한 AI 기술은 '고영향 인공지능'으로 분류해 정부가 관련 사업자에 신뢰성·안전성 확보 조치를 요구할 수 있게 했다.
법을 위반했을 경우 과학기술정보통신부 장관이 사실 조사에 나서 시정명령 및 최대 3천만원 과태료를 부과할 수 있도록 했다.
AI 기본법 제정안에 대해 한국인터넷기업협회 관계자는 "규제 대상이 넓어져 영향을 받는 사업자가 늘어날 것으로 보인다"며 "딥페이크 범죄 방지 취지에는 동의하지만, 타인에게 피해를 주지 않는 합성 콘텐츠에까지 표시 의무를 하도록 한 것은 비용 측면에서 사업자에게 부담이 될 수 있다"고 우려했다.
다른 관계자는 "앞으로 AI가 조금이라도 기여하지 않은 콘텐츠가 거의 없게 될 텐데 워터마크라는 하나의 방식을 모든 생성물에 부착하는 것이 딥페이크 범죄 방지에 얼마나 실효성이 있을지, 서비스 경쟁력을 떨어트리지는 않을지 고민되는 부분이 많다"고 말했다.
업계에서는 향후 막대한 영향을 끼칠 수 있는 AI 기본법 논의에 국회가 할애한 시간이 너무 짧았다는 지적도 나왔다.
한 AI 업계 관계자는 "지난 9월 국회가 AI 기본법 공청회를 열었을 때는 법안이 6개에 불과했는데 공청회 뒤 2개월 새 법안이 16개로 늘어났다. 그런데도 과방위 법안소위에서 법안을 상정한 지 한 시간 만에 통과시켰는데, 깊이 있는 논의가 있었을지 의문"이라고 꼬집었다.
csm@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
불법 딥페이크물엔 가시적 워터마크 붙여야…규제 각론 추후 대통령령 지정
AI 업계, 딥페이크 범죄 방지 실효성에 의문…"사업성 저해" 우려도
(서울=연합뉴스) 조성미 기자 = 지난 21일 국회 과학기술정보방송통신위원회 법안소위원회를 통과하며 연내 제정에 힘이 실리게 된 인공지능(AI) 기본법은 AI 사업자에 불법 딥페이크물 생성을 막을 의무를 강화한 것이 주요 내용이다.
여기서 AI 사업자란 오픈AI, 네이버처럼 AI 기본 모델을 제공하거나 AI 모델에서 파생된 다양한 AI 기능을 서비스하는 소프트웨어 업체들을 말한다.
챗GPT 등장 이후로 생성형 AI 기술과 서비스가 우후죽순처럼 쏟아졌지만, 지금까지는 AI로 만든 생성물인지를 알릴 표식(워터마크)에 관한 의무가 법적으로 규정되지 않았다.
AI 기본법이 국회 본회의를 통과하면 AI 사업자는 이용자가 인공지능 기술로 합성 이미지·영상 등을 만들 때 AI 생성물임을 알리는 워터마크를 넣도록 기술적 기반을 제공하고 안내할 의무를 진다.
여기서 워터마크는 눈에 보이는 가시적 표식과 사람 눈에는 보이지 않고 주파수, 메타데이터 등을 활용한 비가시적 표식으로 나뉜다.
AI 기본법은 성 착취 딥페이크물과 같은 타인의 권리 침해 가능성이 큰 합성물에는 눈에 보이는 워터마크를 달도록 했다.
이미지를 합성한 생성물이라도 불법 요소가 없고 문화적·창작적인 가치가 높은 경우에는 비가시적인 워터마크를 붙여 AI 사용으로 인한 문제가 사후 발견됐을 경우 구별만 할 수 있도록 했다.
실제로 콘텐츠 업계에서는 생성형 AI 합성 기술을 이미 널리 쓰고 있는데, AI 생성물이라고 해서 가시적인 표식이 붙게 되면 업계의 생산적인 AI 기술 활용까지 지장을 받을 수 있다는 이유에서다.
다만, AI 생성물 중에 보호가 필요한 창의적·예술적인 콘텐츠의 범위가 어디까지인지 등 세부 사항은 AI 기본법 제정안에 포함되지 않았다. 심도 있는 논의를 거쳐 추후 대통령령을 통해 기준을 정할 방침이다.
한편, AI 기본법에 플랫폼 기업들이 표식이 없는 AI 생성물을 바로 삭제할 것을 의무화하는 내용을 넣는 방안도 논의됐지만 최종 제정안에는 포함되지 않은 것으로 알려졌다.
성 착취, 선거법 위반 등 불법 소지가 있는 AI 생성물은 현행 형법, 선거법으로 처벌하거나 정보통신망법에 따라 플랫폼이 삭제하도록 규제할 수 있다는 이유에서다.
AI 기본법은 오픈AI 등 해외 대형 AI 기업이 국내에서 영업할 때는 정부와 소통할 수 있는 국내 대리인을 지정하도록 했고 인간의 생명이나 신체 안전과 관련한 AI 기술은 '고영향 인공지능'으로 분류해 정부가 관련 사업자에 신뢰성·안전성 확보 조치를 요구할 수 있게 했다.
법을 위반했을 경우 과학기술정보통신부 장관이 사실 조사에 나서 시정명령 및 최대 3천만원 과태료를 부과할 수 있도록 했다.
AI 기본법 제정안에 대해 한국인터넷기업협회 관계자는 "규제 대상이 넓어져 영향을 받는 사업자가 늘어날 것으로 보인다"며 "딥페이크 범죄 방지 취지에는 동의하지만, 타인에게 피해를 주지 않는 합성 콘텐츠에까지 표시 의무를 하도록 한 것은 비용 측면에서 사업자에게 부담이 될 수 있다"고 우려했다.
다른 관계자는 "앞으로 AI가 조금이라도 기여하지 않은 콘텐츠가 거의 없게 될 텐데 워터마크라는 하나의 방식을 모든 생성물에 부착하는 것이 딥페이크 범죄 방지에 얼마나 실효성이 있을지, 서비스 경쟁력을 떨어트리지는 않을지 고민되는 부분이 많다"고 말했다.
업계에서는 향후 막대한 영향을 끼칠 수 있는 AI 기본법 논의에 국회가 할애한 시간이 너무 짧았다는 지적도 나왔다.
한 AI 업계 관계자는 "지난 9월 국회가 AI 기본법 공청회를 열었을 때는 법안이 6개에 불과했는데 공청회 뒤 2개월 새 법안이 16개로 늘어났다. 그런데도 과방위 법안소위에서 법안을 상정한 지 한 시간 만에 통과시켰는데, 깊이 있는 논의가 있었을지 의문"이라고 꼬집었다.
csm@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
관련뉴스
