미국의 빅테크들이 ‘눈에 보이지 않는’ 워터마크를 자사의 생성 AI 서비스에 적용하고 나섰다. 자사 AI 생성물의 추적하기 위해서다. 반면 우리 정부는 생성 AI 출력물로 인한 피해를 막기 위해 눈에 보이는 워터마크 도입 제도화를 추진 중이다.
C2PA는 미디어의 출처와 관련 정보 확인을 위한 메타 데이터를 미디어에 포함하는 개방형 기술 표준이다. 마이크로소프트를 비롯해 어도비, 인텔, BBC 등의 기업들이 주도하고 있다. AI 생성 이미지의 식별을 비롯해 기타 미디어 콘텐츠의 출처 인증을 위해서도 사용된다.
오픈AI가 생성 이미지에 적용하는 C2PA는 비가시적 워터마크로 분류된다. 메타데이터 형태로 이미지에선 볼 수 없다. 워터마크를 확인할 수 있는 특정한 웹사이트나 프로그램을 통해서만 확인이 가능하다.
구글도 지난 1일 자사 AI 챗봇 서비스인 바드에 이미지 생성 기능을 추가하면서 구글 딥마인드가 개발한 ‘SythID’ 기반 워터마크를 적용했다. 눈에 보이지 않는다는 점은 C2PA와 같지만 이미지 자체에 식별을 위한 기술이 적용된다는 점이 다르다. 별도 메타데이터가 아니라 이미지 자체에 워터마크가 입혀지는 만큼 워터마크 제거가 더 어렵다는 설명이다.
비가시적 워터마크는 각 기업이 자사의 서비스를 통해 만들어낸 이미지를 추적하기 위한 용도로 주로 사용된다. 이미지가 AI 훈련 등에 사용되는 일을 막으려는 것이다.
이용자들이 비가시적 워터마크를 통해 AI가 만든 이미지를 구분하기는 쉽지 않다. 특정한 프로그램을 거치지 않고서는 워터마크 식별이 불가능하기 때문이다. C2PA는 콘텐츠 자격 증명을 확인하는 웹사이트나 별도의 프로그램을 통해서만 이미지 정보를 확인할 수 있다. 구글도 마찬가지다. 자체 기술을 적용한 만큼 클라우드 제품을 사용하는 소비자들만 식별 기능을 쓸 수 있다.
가장 먼저 움직임을 보인 곳은 유럽이다. 지난 5일 EU 회원국들은 AI 규제법 최종 합의안을 만장일치로 승인했다. 오는 13일 유럽의회 표결과 3~4월 본회의 표결을 앞두고 있다. 2021년 발의된 이 법안은 이미지 생성 AI의 결과물에 ‘AI 생성 콘텐츠’란 표시를 넣어야 한다는 내용을 담고 있다.
미국은 지난해부터 관련 규제를 만들기 위한 움직임을 보이고 있다. 조 바이든 미국 대통령이 지난해 10월 서명한 행정명령에는 생성 AI의 출력물에 워터마크를 표시해야 한다는 내용이 포함됐다. 올해 상반기 중 관련 가이드라인이 공개될 전망이다.
한국 정부도 이용자 보호를 위한 워터마크 도입을 추진하고 있다. 과학기술정보통신부는 지난해 10월 제4차 인공지능 최고위 전략대화를 열고 ‘인공지능 윤리·신뢰성 확보 추진계획’을 발표했다. 계획에는 AI 생성물에 대한 워터마크 도입 제도화 검토 내용이 포함됐다. 전략대화에서도 가시적 워터마크 도입에 대한 논의가 있었던 것으로 알려졌다. 과학기술정보통신부 관계자는 "이용자 보호를 위해 워터마크가 필요하다는 취지로 제도화 진행 중"이라고 설명했다.
플랫폼 기업도 이용자 피해를 막기 위해 AI 생성물을 표기하기로 했다. 메타는 6일 자사의 소셜미디어 서비스에 게시되는 AI 생성 이미지에 대해 꼬리표를 표기할 것이라는 내용을 발표했다. 인스타그램과 페이스북, 스레드에 모두 적용된다. 오픈AI와 구글, 어도비, 미드저니 등 다양한 기업의 도구를 통해 생성한 AI 이미지를 인식할 수 있다.
황동진 기자 radhwang@hankyung.com
"안 보여도 추적할 수 있다"…오픈AI·구글 '비가시적' 워터마크 도입
오픈AI는 개인 정보 보호 및 정책을 갱신하며 자사의 이미지 생성 모델인 ‘DALL·E3’에 C2PA를 적용한다고 6일(현지시간) 발표했다. 앞으로 챗GPT의 이미지 생성 기능과 DALL·E3 API를 사용해 만든 이미지에 AI 생성 이미지임을 알리는 비가시적 워터마크가 포함된다.C2PA는 미디어의 출처와 관련 정보 확인을 위한 메타 데이터를 미디어에 포함하는 개방형 기술 표준이다. 마이크로소프트를 비롯해 어도비, 인텔, BBC 등의 기업들이 주도하고 있다. AI 생성 이미지의 식별을 비롯해 기타 미디어 콘텐츠의 출처 인증을 위해서도 사용된다.
오픈AI가 생성 이미지에 적용하는 C2PA는 비가시적 워터마크로 분류된다. 메타데이터 형태로 이미지에선 볼 수 없다. 워터마크를 확인할 수 있는 특정한 웹사이트나 프로그램을 통해서만 확인이 가능하다.
구글도 지난 1일 자사 AI 챗봇 서비스인 바드에 이미지 생성 기능을 추가하면서 구글 딥마인드가 개발한 ‘SythID’ 기반 워터마크를 적용했다. 눈에 보이지 않는다는 점은 C2PA와 같지만 이미지 자체에 식별을 위한 기술이 적용된다는 점이 다르다. 별도 메타데이터가 아니라 이미지 자체에 워터마크가 입혀지는 만큼 워터마크 제거가 더 어렵다는 설명이다.
비가시적 워터마크는 각 기업이 자사의 서비스를 통해 만들어낸 이미지를 추적하기 위한 용도로 주로 사용된다. 이미지가 AI 훈련 등에 사용되는 일을 막으려는 것이다.
이용자들이 비가시적 워터마크를 통해 AI가 만든 이미지를 구분하기는 쉽지 않다. 특정한 프로그램을 거치지 않고서는 워터마크 식별이 불가능하기 때문이다. C2PA는 콘텐츠 자격 증명을 확인하는 웹사이트나 별도의 프로그램을 통해서만 이미지 정보를 확인할 수 있다. 구글도 마찬가지다. 자체 기술을 적용한 만큼 클라우드 제품을 사용하는 소비자들만 식별 기능을 쓸 수 있다.
각국 정부·플랫폼 "AI 출력물이면 티 내라"
각국 정부는 AI 출력물 워터마크 규제를 도입했거나 준비 중이다. 생성 AI를 악용한 가짜 정보 유통을 우려해서다. 최근 홍콩에서는 딥페이크 영상을 활용한 340억원 규모 사기가 발생하는 등 실제 피해 사례가 잇따르고 있다.가장 먼저 움직임을 보인 곳은 유럽이다. 지난 5일 EU 회원국들은 AI 규제법 최종 합의안을 만장일치로 승인했다. 오는 13일 유럽의회 표결과 3~4월 본회의 표결을 앞두고 있다. 2021년 발의된 이 법안은 이미지 생성 AI의 결과물에 ‘AI 생성 콘텐츠’란 표시를 넣어야 한다는 내용을 담고 있다.
미국은 지난해부터 관련 규제를 만들기 위한 움직임을 보이고 있다. 조 바이든 미국 대통령이 지난해 10월 서명한 행정명령에는 생성 AI의 출력물에 워터마크를 표시해야 한다는 내용이 포함됐다. 올해 상반기 중 관련 가이드라인이 공개될 전망이다.
한국 정부도 이용자 보호를 위한 워터마크 도입을 추진하고 있다. 과학기술정보통신부는 지난해 10월 제4차 인공지능 최고위 전략대화를 열고 ‘인공지능 윤리·신뢰성 확보 추진계획’을 발표했다. 계획에는 AI 생성물에 대한 워터마크 도입 제도화 검토 내용이 포함됐다. 전략대화에서도 가시적 워터마크 도입에 대한 논의가 있었던 것으로 알려졌다. 과학기술정보통신부 관계자는 "이용자 보호를 위해 워터마크가 필요하다는 취지로 제도화 진행 중"이라고 설명했다.
플랫폼 기업도 이용자 피해를 막기 위해 AI 생성물을 표기하기로 했다. 메타는 6일 자사의 소셜미디어 서비스에 게시되는 AI 생성 이미지에 대해 꼬리표를 표기할 것이라는 내용을 발표했다. 인스타그램과 페이스북, 스레드에 모두 적용된다. 오픈AI와 구글, 어도비, 미드저니 등 다양한 기업의 도구를 통해 생성한 AI 이미지를 인식할 수 있다.
황동진 기자 radhwang@hankyung.com
관련뉴스
