인공지능(AI) 기술이 발전하면서 인스타그램과 틱톡 등 소셜미디어(SNS)에 AI로 만든 성 노동자를 이용해 성적 호기심을 자극하는 광고가 넘쳐나고 있다고 미 NBC 방송이 1일(현지시간) 보도했다.
이들 SNS에서 직접적인 성매매 광고는 엄격한 단속 대상이지만, AI를 이용한 이러한 새로운 성적인 콘텐츠는 걸러지지 않고 있는 것이다.
보도에 따르면 최근 몇 달간 수십 개의 테크 스타트업이 '성(性)적으로 부적절한'(not-safe-for-work·NSFW) 경험을 조장하는 앱에 대한 노골적인 광고를 틱톡, 인스타그램, 페이스북 등에 올리고 있다.
광고에는 큰 가슴과 타이트한 옷을 입은 AI로 만든 '여자 친구'가 등장해 'NSFW 사진'이나 '맞춤형 핀업 걸', '검열이 안되는' 채팅을 약속하며 자극한다.
일부 광고는 네모바지 스폰지밥과 쿠키 몬스터 등 인기 어린이 TV 캐릭터가 포함된 밈을 사용해 'NSFW 사진'을 만드는 앱을 홍보하는가 하면, 다른 광고는 10대 이하로 보이는 소녀를 애니메이션으로 등장시킨다.
NBC 방송은 페이스북과 인스타그램 모회사 메타가 소유한 앱에서 이런 성적 광고를 올리는 앱 개발자 35명을 확인됐다고 밝혔다.
이들 개발자가 올린 광고는 모두 1천개를 웃돈다.
틱톡에서는 자극적인 AI 광고를 싣는 앱 개발자 14명이 확인됐다고 NBC는 전했다. 이들 광고 중 일부는 메타에 실린 광고와 같았고 일부는 수천 건의 조회수를 기록하기도 했다.
언제부터 이런 AI 성적 광고가 소셜미디어에 등장했는지는 알 수 없지만, 적어도 최근 수개월간 급증한 것으로 보인다고 이 방송은 분석했다.
이는 오픈AI가 개발한 챗GPT로 생성형 AI가 큰 인기를 끌면서 AI에 대한 관심이 급증한 것을 활용하려는 대규모 움직임의 하나라는 것이다.
또 이런 마케팅은 앱 개발자들이 대부분 해외에 기반을 두고 맞춤형 디지털 캐릭터와 성적 또는 연애에 관심이 있는 고객을 확보하고 있다고 전했다.
메타는 이에 대해 사람이 만든 콘텐츠와 AI가 생성한 콘텐츠에 동일하게 성인용 콘텐츠 금지가 적용된다고 밝혔고, 틱톡도 성(性)적으로 자극적인 광고는 금지하고 문제가 된 사례는 삭제하고 있다고 설명했다.
SNS 광고와 함께 앱 스토어 광고는 스타트업이 새 고객을 찾는 가장 일반적인 방법이기 때문에 애플과 구글 앱 스토어에도 비슷한 광고가 실릴 가능성이 있다.
다만, 어느 정도 광고가 실리는지는 확인되지 않았다.
이와 함께 이런 광고는 실제 성 노동자와 다르게 취급되는 이중적인 기준으로부터 이익을 얻고 있다는 지적도 나온다고 NBC 방송은 전했다.
영국 노섬브리아 대학교와 디지털 시민 센터의 캐롤리나 아레 연구원은 "실제 성 노동자들은 자신의 이미지로 돈을 벌 수 없는데, 비슷한 AI 이미지를 만드는 기술 기업은 돈을 번다"고 비판했다.
관련뉴스
