한국인터넷자율정책기구(KISO)는 지난해 청소년 보호를 위한 검색어 110개를 새로 추가했다고 22일 발표했다.지난해 KISO에서 추가한 검색어에는 불법 촬영물, 성 착취 관련 검색어, 마약류 매매, 신종 불법 사기대출 관련 검색어 등 불법 및 유해 콘텐츠 관련 검색어가 포함됐다. 특히 생성 인공지능(AI)을 활용한 콘텐츠 생성이 급증하면서 ‘지인능욕’, ‘지인합성’ 등 딥페이크 관련 검색어가 추가됐다. 일부 성인 콘텐츠를 검색에서 노출하게 하는 앱 ‘언드레스’ 관련 검색어도 지정했다.
KISO는 네이버, 카카오, SK커뮤니케이션즈 등 포털 사이트를 운영하는 회원사들과 공동으로 청소년 보호 검색어 데이터베이스(DB)를 구축하고 관리하고 있다. 현재 약 5만1000개의 청소년 보호 검색어 DB를 운영 중이다.
청소년 보호 검색어는 단어 자체만으로도 유해성이 있거나 검색어 입력 시 유해 결과를 노출한다고 판단될 경우 등록한다. 이번에 추가된 ‘언드레스’의 사전적 의미는 정장이 아닌 편안한 옷을 통틀어 이르는 말이지만 최근 사진 속 인물의 옷을 벗기는 딥페이크 앱이 등장하면서 이 단어를 검색하는 이용자가 폭증해 악용 우려를 낳았다는 설명이다.
청소년 보호 검색어로 지정되면 네이버, 다음, 네이트 등에서 해당 검색어를 입력할 때 청소년에게 부적합한 검색 결과의 노출이 제한된다. 일반 이용자는 연령 확인 절차를 거쳐 검색 결과를 확인할 수 있다.
황용석 KISO 자율규제DB위원회 위원장은 “딥페이크 관련 검색어 추가는 초상권 침해, 명예훼손, 기타 형법적 문제가 발생할 위험을 줄이고 성적 착취나 폭력으로의 연결 가능성을 예방하기 위해 필요한 조치”라고 말했다.
이승우 기자 leeswoo@hankyung.com
관련뉴스
