전 세계 모바일 앱 매출 1위인 틱톡이 추천 알고리즘을 공개했다. 인공지능(AI)으로 유해 콘텐츠가 공개되기 전에 차단하는 기술도 선보였다.
틱톡의 핵심 경쟁력은 다른 이용자가 올린 영상을 보여주는 ‘추천’ 탭이다. 이 탭에서 이용자는 영상을 순차적으로 하나씩 보게 된다. 하지만 틱톡이 실제론 8개씩 묶어 놓은 영상이다. 이 묶음에서 생성된 데이터를 반영해 틱톡은 새로운 묶음을 계속 제공한다. 틱톡 TAC 관계자는 “시청 시간, 좋아요 클릭, 즐겨찾기 등의 이용자 데이터를 반영해 시청자 취향에 더 가까운 영상 묶음을 개별로 계속 제공한다”고 설명했다.
이 알고리즘의 묘수는 다음 단계다. 영상 묶음이 이용자 취향에 맞춰가다 보면 특정 내용에 편향된 콘텐츠가 나올 가능성이 커진다. 이용자 입맛에 맞추느라 유행하는 콘텐츠가 빠질 수도 있다. 추천 기능이 독이 되는 순간이다. 이 문제를 해결하기 위해 틱톡이 취향 적중률 기준으로 정한 값이 ‘60%’다. 취향 적중 콘텐츠와 그렇지 않은 콘텐츠의 비율을 6 대 4로 맞췄다는 얘기다.
틱톡은 플랫폼의 신뢰도를 높이기 위해 AI 활용을 확대하고 있다. 영상 공개 전에 폭력, 음주, 흡연, 극단주의 등 4개 영역으로 나눠 AI로 유해성 여부를 판별한다. 틱톡 싱가포르 TAC에 마련된 영상 촬영용 사이니지 앞에서 기자가 담배를 입에 대는 시늉을 하자 유해성 수치가 2%에서 98%로 급등했다. 이런 방식으로 유해 콘텐츠 중 65%가 AI로 걸러진다. 나머지 유해 콘텐츠는 4만 명의 직원이 국가별로 찾아낸다.
다만 AI로 영상을 조작하는 딥페이크 기술을 가려내는 데는 시일이 걸릴 전망이다. 틱톡은 자체 기능으로 생성 AI 콘텐츠가 만들어진 경우엔 AI 제작 표식을 붙이고 있다. 틱톡 관계자는 “외부 도구로 만든 AI 영상을 식별해 표식을 부착하는 기능도 개발하고 있다”고 설명했다.
싱가포르=이주현 기자 deep@hankyung.com
관련뉴스