말 많은 생성형 AI·허위 콘텐츠…틱톡은 어떻게 관리할까

실시간
뉴스

인터넷

말 많은 생성형 AI·허위 콘텐츠…틱톡은 어떻게 관리할까

디지털데일리 발행일 2024-02-06 15:53:39

이나연 기자

URL복사

틱톡, 6일 콘텐츠 심사 가이드라인 설명회 개최

양수영 틱톡 동북아 신뢰안전팀 파트너십 매니저가 2월6일 미디어 세이프티 워크숍에서 커뮤니티 가이드라인과 규정에 대해 설명하고 있다. [ⓒ 틱톡]

[디지털데일리 이나연기자] 최근 허위 정보와 정치적 가짜뉴스, 생성형 인공지능(AI) 기반 2차 가공물, 성 착취물 등 콘텐츠 확산에 따른 부차적 피해가 발생하면서 많은 사회관계망 서비스(SNS)가 골머리를 앓고 있다.

이러한 가운데 글로벌 인기 숏폼 플랫폼 틱톡(TikTok)이 플랫폼 안정성 차원에서 시행 중인 콘텐츠 심사 가이드라인을 공개하며 업계의 이목을 끌었다.

6일 틱톡은 안전한 인터넷의 날을 맞아 서울 강남구 본사에서 ‘미디어 세이프티 워크숍(Media Safety Workshop)’을 진행하고, 현재 ▲메시지 관리 ▲콘텐츠 관리 ▲댓글 관리 ▲댓글 필터링 ▲계정 차단 등을 통해 커뮤니티를 관리하고 있다고 밝혔다.

이날 양수영 틱톡 동북아 신뢰안전팀 파트너십 매니저는 “틱톡은 의도한 바와 상관없이 개인이나 사회에 상당한 위해를 미치는, 정확하지 않거나 오해 소지가 있거나 거짓된 콘텐츠를 불허한다”는 입장을 설명했다.

현재 유료형 정치 광고 콘텐츠를 금지하고 있는 틱톡은 가짜뉴스 문제에 적극 대응하고자 글로벌 팩트체크 파트너(IFCN)와 협업 중이다. 지난 2020년부터 50개 이상 언어를 지원하는 전 세계 17개 팩트체크 기관과 협력해 잘못된 정보를 식별하고 조치한다.

양 매니저는 “정부와 정당 관련 공식 계정은 별도 라벨을 지정해 관리 중”이라며 “영향력이 큰 크리에이터라도 공인이 아닌 일반인이라 라벨을 붙이지 않되, 허위 사실에 대해선 모두 동일하게 제재한다”라고 설명했다.

생성형 AI를 활용한 콘텐츠를 포함해 오해 소지가 있는 2차 가공물도 특정 라벨을 부착해 사용자들에 안내하고 있다. 다만, 일반인 얼굴을 활용한 생성형 AI 콘텐츠는 원천 차단한다.

아울러 틱톡은 안전센터를 운영해 주요 이슈별 유용한 가이드를 제공한다. 가이드라인을 수립하기 위해 학계와 법률 전문가 등으로 구성된 안전자문위원회를 운영 중이다. 청소년 이용자 보호도 강화 중이다. 가령 ‘세이프티 페어링’ 기능을 추가하면 부모, 가족 또는 보호자가 청소년 자녀의 틱톡 계정을 관리할 수 있다.

한편, 신뢰안전팀은 틱톡 플랫폼을 안전한 공간으로 만들기 위해 관련한 행동 규정을 개발하고, 이를 근거로 콘텐츠 심사를 하는 팀이다. 사용자가 이용할 수 있는 다양한 안전 기능들을 개발하는 동시에 긴급한 사안에 대해 즉각 대응도 이뤄진다.

전 세계에 약 4만명의 직원이 근무하고 있는 신뢰안전팀은 365일 24시간 체제로 중단 없이 선택 심사 등의 업무를 진행하고 있다.

지난달 틱톡이 공개한 ‘2023년 3분기 커뮤니티 가이드라인 집행 보고서’에 따르면 전 세계 상위 50여개국 기준 ‘민감한 성인 테마’ 등 문제 요건을 충족해 삭제된 동영상 수는 1억3653먼418건이다. 선제적 삭제는 96.1%, 24시간 내 삭제는 90.6%, 조회 전 삭제는 76.8%에 달하는 것으로 집계됐다.