[네이버 어벤저스] 악플계 역대급 비상사태…‘클린봇’ 등장이후 달라진 풍경

실시간
뉴스

시리즈

[네이버 어벤저스] 악플계 역대급 비상사태…‘클린봇’ 등장이후 달라진 풍경

디지털데일리 발행일 2020-07-29 13:23:03

이대호

URL복사

네이버가 지난해부터 모바일 메인 개편에 이어 동영상 중심의 사용자경험을 위한 체질 개선, 창작자가 검색의 주인공이 되는 ‘인플루언서 검색’ 등 여러 굵직한 변화를 추진하고 있다. 이용자가 보는 앞단의 변화가 이 정도라면 개발 뒷단에선 보다 과감하고 치열한 고민이 필요하다.

<디지털데일리>는 네이버를 움직이는 기술 리더들을 마블 캐릭터에 빗대 ‘네이버 어벤저스’라 이름 붙이고 이들의 연속 인터뷰를 통해 국내 최대 인터넷 기업의 속 깊은 고민과 핵심 경쟁력의 원천을 짚어보고자 한다. ▲빅데이터 & AI 플랫폼 ▲검색엔진 ▲엣지서버 ▲SRE ▲데브옵스 ▲음성인식 ▲클로바더빙에 이어 이번엔 ▲클린봇2.0 개발진을 만났다. <편집자 주>

왼쪽부터 네이버 이용자피드백플랫폼 이규호 리더와 김성민 연구원, 황태현 미디어운영 매니저

[디지털데일리 이대호기자] 국내 인터넷 태동과 함께 역사가 시작된 악플계가 전례 없는 위기를 겪고 있다. 도가 지나친 악플(악의적 댓글) 세례에 사건·사고가 끊이지 않자 포털들이 연예 댓글을 폐쇄하는 초강수를 뒀고 이제는 첨단 기술로도 악플을 탐지, 차단하는 중이다. 네이버가 출시한 ‘클린봇 2.0’이 대표적 사례다.

클린봇 2.0은 이미 혁혁한 성과를 올리고 있다. 악플 100개 중 95개를 자동 차단하는 수준에 이르렀다.

그러나 최근 <디지털데일리>와 만난 네이버 이용자피드백플랫폼 이규호 리더<사진 왼쪽부터>와 김성민 연구원, 황태현 미디어운영 매니저는 지금 성과에 만족하지 않는다. 악플이 진화하기 때문이다. 특수 이모티콘을 활용한 욕설과 함께 은유와 함축적 의미를 담은 악플이 계속 나오고 있다. 개발진은 회심의 대비책을 준비 중이다.

▲클린봇 2.0, 네이버 외부에서도 쓴다

이규호 리더는 “클린봇을 오픈 API화 하는 부분을 내부 검토하고 있다”고 밝혔다. 외부에서도 클린봇 기술을 가져다 쓸 수 있게 개방된 애플리케이션개발환경(API)을 갖추겠다는 의미다. 악플계 입장에선 역대급 악재라고 볼 수 있다.

이를 위해 개발진이 준비해야 할 것이 적지 않다. 클린봇 2.0이 놀랄만한 성과를 올리고 있지만, 지난달 막 적용된 까닭이다. 이 리더는 “더 들여다보고 더 좋은 곳에서 쓰일 수 있을까 고민하고 있다”며 “자동화와 성능향상 부분이 잘 갖춰지면 될 것”이라고 말했다.

지금도 신종 악플은 끊임없이 나오고 있다. 이 때문에 악플 여부 기준이 더욱 중요해졌다. 네이버는 방송통신심의위원회(방심위)와 TV방송 기준, 학계 논문 등을 참고해 ‘악플은 무엇인가’<이전 기사 참고>에 대한 기준을 세웠다.

물론 진화하는 악플에 맞춰 관련한 정의와 판단 기준이 바뀔 필요가 있다. 악플을 차단하면서도 표현의 자유를 침해해선 안 되는 까닭이다. 이 같은 일은 세계적으로도 전례가 없는 미개척 분야다.

이 리더는 “악플을 조금이라도 덜 놓치고 바로 잡기 위해 비속어, 음란어, 공격성이 다분한 말 등에 대한 세분화된 모델을 만드는 연구를 진행한다”며 “정밀하게 악플을 잡으면서 표현의 자유를 잃어버리지 않도록 하겠다”고 강조했다.

클린봇 2.0의 댓글 반응을 시각화한 이미지. 글자가 빨간색일수록 악플 탐지 조건의 임계값에 가까워짐을 뜻하고 검은색은 중립 수준, 검은색이 점점 흐려져 흰색에 가까워질수록 임계값으로부터 멀어짐을 뜻한다.

◆자신만만한 네이버? 매일 악플 보는 직원들은 힘들어

네이버가 클린봇 2.0을 앞세워 악플과의 전쟁에서 승기를 잡았지만, 마냥 좋아할 분위기는 아니다. 악플과의 전쟁은 콜센터 직원이 감정 노동을 하는 것과 비슷하다. 매일 음란물 유통을 단속하는 모니터링 요원들이 정신적 고통을 호소하는 것과 별반 다르지 않다.

황태현 미디어운영 매니저는 업무 특성상 매일 악플을 접한다. 네이버 이용자는 ‘클린봇이 부적절한 표현을 감지한 댓글입니다’라는 표시를 보게 되지만, 황 매니저는 차단 이전의 악플을 본다.

클린봇 도입 이전엔 악플 차단은 그야말로 손이 많이 가는 작업이었다. 클린봇 2.0이 나오면서 ‘기술의 시대가 시작됐다’고 말할 정도로 업무가 자동화됐지만, 물샐틈없는 차단으로 반발도 많아졌다. 예를 들어 강력사건이 발생하면 이용자들이 ‘욕이라도 하게 해줘야 하지 않냐’는 반응이 나온다.

이에 대해 황 매니저는 “건전한 비판을 막지는 않는다”면서 “칭찬하고 감동을 주는 댓글보다는 여전히 욕설과 비난하는 언어를 사용하는 경우를 많이 본다”고 현황을 전했다.

또 황 매니저는 “‘비판은 좋지만 상스러운 욕설이 포함돼야 하는가’, ‘우리 아이들한테 댓글을 어떻게 보여줘야 하는가’ 등의 얘기도 많이 듣고 있다”며 “최소한 누군가에게 보여주기 민망한 선을 지키면서 비판할 수 있는 댓글 공간을 만든다고 보면 될 것”이라고 업무를 설명했다.

◆앞으로 악플 달리는 기사와의 연관성까지 파악

클린봇 2.0은 문장의 맥락을 파악해 신종 악플까지 차단한다. 개발진은 이것만으로는 부족하다고 보고 있다. 이른바 클린봇 3.0으로 불릴 만한 기술을 준비 중이다.

이 리더는 “문장 문맥을 이해하고 댓글을 차단하고 있지만 그것만으론 부족한 부분이 있다”며 “악플이 달린 기사와의 연관성까지 파악해야 제대로 악플을 잡을 수 있다”고 조심스레 클린봇 개발 방향을 언급했다.

그는 “콘텐츠와 댓글의 연광성을 연구해서 좋은 댓글, 건설적이고 응원의 댓글을 잘 보이도록 노력하겠다”고 강조했다.

네이버 기업 홈페이지 갈무리

◆인터넷 생태계 같이 꾸릴 인재들 주목

이 리더와 김성민 연구원은 인터뷰 도중 인재 구인에 강한 의지를 보였다. 네이버는 악플과의 전쟁을 벌이는 동시에 다국적 기업부터 국내 대기업과는 인재 수급 전쟁을 벌이는 중이다.

김 연구원은 클린봇 2.0에 포함된 네이버 독자 기술인 ‘페르소나 임베딩(Persona Embedding)’을 고안한 젊은 인재다. 페르소나 임베딩은 댓글 유사도 학습 기술로 이용자의 댓글 스타일까지 학습해 악플 탐지력을 끌어올린다. 현재 특허 출원 중이다. 클린봇 2.0의 핵심 기술로 볼 수 있다.

그는 “학교와 연구소에 남는 길이 있었지만, 네이버라는 조직에 와서 많은 생각을 하고 느낀 바가 있다”며 “선택에 후회는 없다”고 말했다.

김 연구원은 “AI와 머신러닝 등 이론만으로 재미를 느끼는 학구적인 분들이 있겠지만, 현실 문제를 다루고 해결할 때 정말로 보람을 느낄 수 있다”고 자신의 소감을 전했다. 이어서 “저도 연구를 좋아하는데 현실문제를 다루고 해결하면서도 욕구를 채운다. 보람도 있고 성장도 할 수 있다”고 예비 입사자들에게 조언을 건넸다.

<이대호 기자>ldhdd@ddaily.co.kr