인공지능(AI)이 인간의 독창적인 창작물을 무단 학습하지 않도록 AI 방지 기능을 도입하는 플랫폼이 늘고 있다.
서브컬처 플랫폼 크레페 운영사 쿠키플레이스는 ‘AI 학습 방해 필터’ 기능을 시범 적용한다고 8일 밝혔다. 크레페는 고객이 독창적인 창작물을 요청하면 작가가 그림, 글, 음악 등을 제작해주는 중개 플랫폼이다. 회사 관계자는 “사람 눈엔 보이지 않는 특수한 노이즈 필터를 창작물에 씌워서 AI가 학습하는 걸 막으려 한다”며 “창작자의 저작권을 보호한다는 취지”라고 설명했다.
웹툰·일러스트 창작 앱 클립스튜디오도 AI 학습을 방지하기 위한 워터마크와 노이즈 패턴 기능을 도입했다. 작가가 원하는 워터마크와 노이즈 강도를 정해 창작물에 적용할 수 있다. 클립스튜디오 측은 “노이즈 패턴을 적용한 창작물이 AI 학습에 활용되면 AI 화상의 품질이 떨어진다”며 “AI 추가 학습을 억제하는 효과가 있다”고 설명했다.
AI 무단 학습을 막는 전문 스타트업도 나왔다. 모리는 창작자가 이미지를 올리면 AI 학습 방지 기능을 넣어준다. 중국 상하이교통대에서 개발한 적대적 노이즈 기술을 창작물 데이터 위에 씌워 AI가 제대로 원본을 인식하지 못하게 한다.
아직 AI 학습 방지 기술이 완벽하지는 않다. AI 모델 알고리즘이 바뀌면 워터마크와 노이즈 패턴의 학습 억제 효과가 떨어질 수 있다. 노이즈 때문에 원본 이미지가 깨지거나 자글자글해지는 현상도 나타난다. 그런데도 창작자들이 AI 학습 방지 기능을 찾는 건 자신의 예술적 창작물이 별다른 보상 없이 빅테크의 기술 고도화에 쓰이고, 추후 일자리까지 위협받을 수 있다는 불안감이 크기 때문이다. 업계 관계자는 “데이터를 모으려는 AI 기업과 이를 막으려는 콘텐츠 플랫폼이 ‘창과 방패’ 싸움을 이어갈 것”이라고 말했다.
고은이 기자 koko@hankyung.com
서브컬처 플랫폼 크레페 운영사 쿠키플레이스는 ‘AI 학습 방해 필터’ 기능을 시범 적용한다고 8일 밝혔다. 크레페는 고객이 독창적인 창작물을 요청하면 작가가 그림, 글, 음악 등을 제작해주는 중개 플랫폼이다. 회사 관계자는 “사람 눈엔 보이지 않는 특수한 노이즈 필터를 창작물에 씌워서 AI가 학습하는 걸 막으려 한다”며 “창작자의 저작권을 보호한다는 취지”라고 설명했다.웹툰·일러스트 창작 앱 클립스튜디오도 AI 학습을 방지하기 위한 워터마크와 노이즈 패턴 기능을 도입했다. 작가가 원하는 워터마크와 노이즈 강도를 정해 창작물에 적용할 수 있다. 클립스튜디오 측은 “노이즈 패턴을 적용한 창작물이 AI 학습에 활용되면 AI 화상의 품질이 떨어진다”며 “AI 추가 학습을 억제하는 효과가 있다”고 설명했다.
AI 무단 학습을 막는 전문 스타트업도 나왔다. 모리는 창작자가 이미지를 올리면 AI 학습 방지 기능을 넣어준다. 중국 상하이교통대에서 개발한 적대적 노이즈 기술을 창작물 데이터 위에 씌워 AI가 제대로 원본을 인식하지 못하게 한다.
아직 AI 학습 방지 기술이 완벽하지는 않다. AI 모델 알고리즘이 바뀌면 워터마크와 노이즈 패턴의 학습 억제 효과가 떨어질 수 있다. 노이즈 때문에 원본 이미지가 깨지거나 자글자글해지는 현상도 나타난다. 그런데도 창작자들이 AI 학습 방지 기능을 찾는 건 자신의 예술적 창작물이 별다른 보상 없이 빅테크의 기술 고도화에 쓰이고, 추후 일자리까지 위협받을 수 있다는 불안감이 크기 때문이다. 업계 관계자는 “데이터를 모으려는 AI 기업과 이를 막으려는 콘텐츠 플랫폼이 ‘창과 방패’ 싸움을 이어갈 것”이라고 말했다.
고은이 기자 koko@hankyung.com
관련뉴스
