[NES 2017] “머신러닝에 대한 막연한 기대는 경계해야”…네이버 보안 리더의 조언

실시간
뉴스

침해사고/위협동향

[NES 2017] “머신러닝에 대한 막연한 기대는 경계해야”…네이버 보안 리더의 조언

디지털데일리 발행일 2017-04-20 15:55:34

이대호

URL복사

[디지털데일리 이대호기자] “머신러닝(기계학습)에 대한 기대를 버려야 한다”

네이버 서비스 보안을 이끄는 조상현 리더<사진>가 20일 신도림 디큐브시티 호텔에서 <디지털데일리>가 주최한 ‘차세대 기업보안 세미나(NES) 2017’를 통해 머신러닝과 딥러닝 등 인공지능(AI) 기술에 대한 조심스러운 접근을 제안했다.

조 리더는 AI 기술이 보안을 위한 하나의 도구이지, 만병통치약(Silver Bullet)이 될 수 없다는 주장이다. 그는 AI 기술 맹신에 대한 우려도 나타냈다.

조 리더는 “딥러닝 알고리즘이 몇몇 필드에선 효과적으로 쓰이지만 보안 쪽은 아직은 조심스러운 부분이 있다”며 “정확도 측면에서 100%가 없기 때문이다. 필드에서 90%만 나와도 우수하다고 얘기하지만 보안 쪽에 옮겨가면 로그 데이터 1000만줄 가운데 100만줄은 잘못 판정이 된다”고 말했다. 그는 “보안 쪽 AI 기술들은 보수적으로 접근해야 한다”고 강조했다.

보안 업계에선 공격자가 입력값을 해킹하려는 시도와 함께 머신러닝 알고리즘 자체를 개변조하려는 움직임까지 감지되고 있다. 머신러닝 과정에 의도적인 노이즈 데이터를 집어넣거나 스팸 탐지를 쉽게 회피하는 것에서 나아가 머신러닝 모듈까지 파괴하려는 시도가 나타나고 있는 것이다.

이와 관련해 조 리더는 “머신러닝 보안성 연구에 대한 얘기가 해외에서 나오고 있다”며 “알고리즘 자체의 안전성을 평가할 수 있는 방법도 고민해야 한다”고 조언했다.

또 조 리더는 “머신러닝이 도입돼 있으니 더는 문제가 없을 것이라는 맹신을 하게 되는데 그렇게 되면 차라리 도입하지 않는게 나을 것”이라며 “머신러닝 알고리즘은 실버 불렛이 아니라는 것을 명확하게 알고 이를 통해 얻을 수 있는 부분, 얻을 수 없는 부분을 구분해야 한다”고 재차 강조했다.

<이대호 기자>ldhdd@ddaily.co.kr