[싱가포르=디지털데일리 채성오기자] "틱톡은 안전 분야에만 연간 20억달러(약 2조8000억원) 이상 투자하는 기업입니다."

지난 2월25일 싱가포르에 위치한 틱톡 투명성 및 책임 센터(TAC)에서 만난 박상현 틱톡코리아 커뮤니케이션 총괄은 플랫폼의 '책임'을 숫자로 증명했다. 10억명 이상의 이용자가 교차하는 거대한 디지털 광장에서 틱톡이 내건 최우선 가치는 더 이상 '실험적인 자유'가 아닌 '실질적인 보호'로 요약할 수 있었다.

이날 틱톡은 콘텐츠의 89.7%를 조회수가 '0'인 상태에서 선제적으로 삭제한다는 파격적인 통계와 함께 미국 검사 출신 등 다양한 이력의 전문가들이 이끄는 신뢰와 안전(TNS) 팀의 전문성을 가감 없이 공개했다. 틱톡이 정의하는 '표현의 자유'와 '안전' 사이의 균형점은 무엇일까.

다음은 틱톡 TAC에서 진행한 박상현 틱톡코리아 커뮤니케이션 총괄 및 양수영 틱톡 동북아시아 신뢰와 안전팀 파트너십 매니저와의 일문일답.

Q. 성인에게 허용되는 콘텐츠가 국가별로 다르게 적용되나? 글로벌 공통인지 국가별로 차별화된 기준인지 궁금하다.

A. 틱톡의 커뮤니티 가이드라인은 전 세계 어디서나 동일하게 적용하는 것을 기본 원칙으로 하고 있다. 하지만 단 하나의 룰로 전 세계 콘텐츠를 모두 처리하는 것은 불가능에 가깝다. 해변에서 상의를 탈의하고 일광욕을 하는 것이 용인되는 나라에서부터 차도르로 눈을 빼고 모두를 가려야 하는 나라까지 모두 아울러야 하는 글로벌 플랫폼의 입장에서는 다양한 지역의 문화·법적 맥락을 반영하는 접근이 더 효과적일 수 있다고 생각한다.

그래서 틱톡은 각 콘텐츠에 맞는 가장 적합한 조치를 취하기 위해 노력하고 있다. 지역적 맥락이 중요한 콘텐츠의 경우, 각국 담당팀의 논의를 거쳐 심사 기준을 보완하거나 추가하기도 하고 특정 국가의 법규만을 위반하는 콘텐츠 등에 대해서는 해당 국가에서 노출을 제한하기도 한다.

Q. 안전 장치가 많아질수록 표현의 자유가 억압된다는 시각도 있는데. 이에 대해 어떻게 생각하나.

A. 틱톡 자체가 표현의 자유를 극대화할 수 있는플랫폼이다. 틱톡은 한국 크리에이터가 글로벌 무대에서 목소리를 낼 수 있는 창구가 돼준다. 플랫폼의 역할은 성장 단계에 따라 그 중요도가 달라진다.

초기에는 더 많은 사람이 더 많은 콘텐츠를 올릴 수 있도록 촉진하는 것이 중요하겠지만 영향력이 충분히 커진 플랫폼에게는 보호의 역할이 더 중요할 수 있다. 틱톡은 이미 오래전부터 전세계에서 10억 명 이상 이용하는 공간이며, 여기에는 그에 걸맞은 책임이 필요하다.

플랫폼이 모든 이용자에게 동일한 방식으로 콘텐츠를 노출하는 것이 항상 옳은 것은 아니다. 예를 들어 집회나 시위의 자유는 보장돼야 하지만 이 시위의 메시지나 표현들이 어린 아이들에게도 적합한가는 상황에 따라서 달라진다.

따라서 콘텐츠 자체보다도 누가 어떤 맥락에서 보는가에 따라 적용 기준이 달라질 수 있다. 틱톡은 이제 처음의 좀 더 자유롭고 실험적인 플랫폼의 시대를 지나 성숙하고 책임감 있는 플랫폼으로 역할이 더 필요한 시점이라고 생각한다.

Q. 메타나 구글 등 경쟁사 대비 커뮤니티 가이드라인에서 차별점이 있다면.

A. 전반적으로는 업계에서 사용되는 커뮤니티 가이드라인은 비슷한 내용을 담고 있다. 다만 커뮤니티 가이드라인에 대한 접근 방식을 논하자면 틱톡은 '이 콘텐츠를 시청하거나 공유하는 것이 실제 현실에서 어떤 피해를 야기할 수 있는가'를 핵심 판단 기준으로 삼는다.

이 철학이 가장 잘 드러나는 사례가 성적 콘텐츠의 분류 방식이다. 틱톡은 성학대와 성인 콘텐츠를 설계 단계부터 완전히 다른 카테고리로 분리했다. 성 학대는 '안전 및 시민 의식' 카테고리에 포함되며 이는 어떠한 상황에서도 용납되지 않는 범죄 행위로 분류해 글로벌 공통으로 즉시 삭제 조치한다.

반면 성인 테마는 '표현의 자유'를 존중해야 하는 영역으로 별도 분류해 지역별 문화·법적 기준에 따라 허용 수준을 차등 적용한다. 겉보기에 비슷해 보이는 콘텐츠도 그 본질적 성격에 따라 처음부터 다른 기준으로 다뤄지는 것이다.

Q. 가이드라인을 적용하기 가장 까다로운 분야가 있다면 어떤 부분인가. 특히 정치적 선동 콘텐츠가 폭력으로 이어질 수 있는 경우에는 어떻게 처리하나.

A. 경계선상의 모호한 콘텐츠는 현장에서 늘 마주칠 수밖에 없는 현실이다. 틱톡은 이에 대응하기 위해 NGO, 청소년 전문가 등 외부 전문가들과 상시 자문 체계를 구축하고 있다. 일선 현장 전문가들로부터 실질적 위해 여부에 대한 피드백을 지속적으로 받고 이를 정책 개선에 반영한다.

정치적 콘텐츠는 '정치'라는 테마 자체로 규정하기보다 그 안에 담긴 위해성의 유형(폭력 선동, 허위정보 등)에 따라 해당 가이드라인을 적용한다. 판단이 어려운 케이스는 국내 전문가 자문을 통해 실질적인 위험 여부를 파악한다. 또한 청소년 대상 괴롭힘의 경우, 경미한 수준이라도 위험도가 높다고 판단되면 삭제 조치가 가능하도록 2025년 9월 가이드라인을 업데이트했다.

Q. 한국은 허위조작정보 처벌 수위를 높이려는 상황인데 이게 틱톡 가이드라인에도 영향을 미치나.

A. 각국의 규제 변화는 틱톡의 운영 방침에서도 중요하게 고려되는 요소다. 다만 각국 규제에 수동적으로 따라가기보다는, 글로벌 원칙을 우선적으로 확립하고 지역별로 세밀하게 조율하는 방식을 취한다.

허위정보 대응은 세 가지 층위로 이루어진다. 가장 위험한 허위정보는 즉시 삭제하고 검증이 어려운 경계선상의 콘텐츠는 라벨링을 통해 확산을 제한하며, 팩트체커와의 협력을 통해 새롭게 등장하는 위험을 지속적으로 파악한다.

Q. 한국에서는 어떤 팩트체크 기관과 협력하고 있나.

A. 허위정보 심사는 내부 전문 인적 심사자가 1차로 검토하고, 새로운 유형이거나 판단이 어려운 경우에는 제3자 전문 기관과 협력한다. 한국어 허위정보의 경우 글로벌 팩트체크 기관인 리드 스토리즈(Lead Stories)와 협력하고 있으며, 이 기관은 한국어 허위정보를 전문적으로 다룰 수 있는 역량을 갖추고 있다. 이와 더불어 국내 허위정보 분야를 전공하는 미디어 학자들에게도 개별적으로 자문을 구하는 방식으로 한국 내 대응력을 강화하고 있다.

Q. 정부 규제와 가이드라인이 상충한 경우가 있었나.

A. 상충할 이유가 없다고 봐야 한다. (앞서 이야기한 것처럼 틱톡은 콘텐츠가 현실세계에서 미치는 영향을 중시하는 만큼 정부의 가이드라인에 부합하지 않는 콘텐츠를 굳이 용인해야 할 실익이 없다고 볼수 있음) 예를 들어 우리나라에서는 위법인 '사실 적시에 의한 명예훼손'은 틱톡 커뮤니티 가이드라인 위반이 아니며 다른 많은 나라에서 불법이 아니다.

하지만 한국에서는 위법일 수 있는 만큼 상황에 따라서 내부 심의를 통해 추가적인 판단이 이루어질 수도 있고, 정부 기관에서 협력을 요청해서 조치가 취해질 수도 있다. 모든 케이스는 행위의 성격과 경중, 사회적 영향력을 종합적으로 고려해서 판단하게 된다.

Q. 조회 전 삭제 비율이 89.7%라고 했는데 내부 목표치가 있나.

A. 궁극적인 목표는 모든 유해 콘텐츠가 조회 전에 차단되는 것이지만 이는 현실적으로 달성하기 어려운 이상적 기준이다. 그럼에도 불구하고 내부에서는 일정한 목표를 설정하고 지속적인 개선을 추구하고 있으며 실제로 관련 수치가 점진적으로 향상돼 왔다.

자동 기술 심사 단계에서의 가이드라인 위반 탐지 건수가 꾸준히 증가하고 있으며, 이는 시스템 효율이 높아지고 있다는 지표다. 인적 심사자들은 자동 심사 효율화 덕분에 보다 의미있고 복잡하고 판단이 어려운 콘텐츠의 심사에 더 많은 에너지를 쏟을 수 있다. 이와 관련한 국가별 상세 수치는 틱톡 투명성 보고서를 통해 모두 공개하고 있다.

Q. 올해 특히 신경 쓰는 콘텐츠 유형이 있나. 유튜브는 AI 슬롭 제어를 올해 주요 과제로 밝혔다.

A. 틱톡은 특정 주제를 미리 정해두고 대응하기보다 시시각각 변화하는 새로운 위험을 선제적으로 탐지하고 대응하는 방식을 취한다.다만 이중에서도 청소년 안전은 성인과 다른 기준으로 접근해야 하는 분야인 만큼 지속적으로 강화해 나가고 있다.

AI 분야 역시 기술 발전과 함께 새로운 위협이 계속 등장하고 있어 중점 대응 분야로 분류된다. AI 슬롭 관리는 콘텐츠의 위험도와 유통 규모를 기준으로 우선순위를 정해 대응하는 방식으로 운영된다.

Q. AI 음성을 입힌 파생 콘텐츠, 즉 타인의 창작물을 AI 기술로 변형해 수익을 내는 사례에 대한 틱톡의 입장은.

A. 틱톡의 지재권(IP) 보호 항목은 커뮤니티 가이드라인과는 별도로 운영된다. 이의 제기 채널도 별도로 존재하며 각국의 저작권법을 참고해 판단한다. 영향력이 크고 침해 정도가 심각한 경우, 예를 들어 K팝 아티스트 관련 사안은 외부 로펌의 자문을 받기도 한다.

과거 특정 유튜버가 고조회수 영상의 스크립트를 거대언어모델(LLM)로 재가공하는 AI 툴을 제작했다가 저작권 문제로 서비스를 종료한 사례처럼 AI 생성 파생 콘텐츠 분야는 아직 법·사회적으로 논의가 진행 중인 영역이다.

AI저작물의 저작권과 관련해 프롬프트를 입력한 창작자의 노력에 저작권을 부여하는 움직임이 있는 것 처럼 이 영역에 대한 가치판단은 쉽지 않고 현재 진행형이다. 다만 침해의 영향력과 범위가 커진다면 틱톡 역시 보다 면밀하게 검토할 것으로 예상한다.

Q. 최고 수위의 제재는 어디까지인가.

A. 콘텐츠 삭제를 시작으로 계정 정지나 해당 디바이스를 통한 신규 가입 제한 등 단계적 제재 체계가 마련돼 있다. 또한 이용자의 행동 패턴을 데이터로 분석해 기존에 제재를 받은 이용자가 새로운 기기로 다시 가입하는 경우에도 동일 인물로 식별할 수 있는 방법도 있다. 위반 이력이 있는 이용자는 신속하게 가중치가 부여돼 관리 대상으로 분류하기도 한다.

Q. 타 플랫폼 대비 틱톡은 AI 필터링 오류로 인한 소송이나 불만이 적어보인다. 어떻게 차별화 돼있나.

A. 틱톡은 기계학습(ML) 기반의 자동 심사와 인적 심사를 병행하는 구조를 채택하고 있다. 기계학습은 사전에 설정된 기준에 콘텐츠가 부합하는지를 판단하는 역할을 하고 콘텐츠의 맥락과 뉘앙스를 이해하는 것은 인적 심사자의 몫이다. 틱톡은 인적심사에도 상당한 투자를 하고 있다.

모더레이션 품질에 대한 내부 평가와 교차 검증도 정기적으로 이뤄진다. AI와 머신이 실수할 수 있는 것처럼 인적 심사에서도 오류가 발생할 수 있으며, 그런 사례는 내부 학습 자료로 활용해 전체 모더레이션 역량을 높이는 데 기여한다.

인적 심사자는 유해 콘텐츠를 지속적으로 검토해야 하는 환경에 놓이므로 정신 건강 관리도 중요한 과제다. 자동 심사 효율화를 통해 인적 심사자가 극도로 유해한 콘텐츠에 노출되는 빈도를 줄이는 방향으로도 꾸준히 개선하고 있다.

Q. 신뢰와 안전(Trust & Safety) 예산은 매년 증가 추세인가.

A. 추세는 대내외에 공개된 적은 없다. 다만 2024년 기준 틱톡의 안전 관련 투자액은 20억달러(약 2조8000억원)를 상회한다. 안전에 3조원 가까이 투자하는 다른 회사를 저는 알지 못한다. 이것이 플랫폼 운영에 있어 안전을 얼마나 중시하는지를 보여주는 지표다.

Q. AI 도입으로 비용 절감 효과가 있었나.

A. AI 효율화의 목표는 심사 정확도 향상과 안전 품질 개선이며 이는 비용이 아닌 결과물의 수준에 방점을 두고 있다. 전기차 개발이 내연기관 사업부를 줄이기 위한 수단이 아닌 것처럼 인적 심사와 자동화 기술의 관계도 같은 맥락에서 이해해주시기를 부탁드린다.

Q. 청소년 위원회 선발 기준이 있나.

A. 틱톡의 청소년 위원회는 지역별 안배를 고려해 구성된다. 같은 틱톡을 이용하더라도 지역마다 청소년의 경험이 다르기 때문이다. 청소년이 직접 목소리를 내는 것이 핵심 취지이므로 나이 제한이 적용되며 글로벌 협의체의 특성상 영어 소통이 가능한 청소년을 우선 선발한다. 현재 우리나라 학생중에도 동북아 대표 청소년로 참여해 우리의 시각과 경험을 반영하고 있다.

Q. 신뢰와 안전(TNS) 팀에는 어떤 경력을 가진 인력이 합류하나.

A. TNS 팀은 직무에 따라 요구되는 역량과 경력이 매우 다양하다. 콘텐츠 심사·정책 수립·파트너십·위기 대응 등 각 분야에 최적화된 전문가들로 구성된다. 온라인 안전 특화 NGO 출신·팩트체킹 전문가·정부 규제 경력자·경찰 공조 전문가 등 다양한 배경의 인력이 참여하고 있다.

예를 들어 글로벌 파트너십 총괄인 발리언트 리치(Valiant Richey)는 미국에서 13년간 성범죄·아동착취·인신매매를 전담한 검사 출신으로 이후 OSCE(유럽안보협력기구)에서 인신매매 담당 특별대표를 5년간 역임했다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지