[전문가기고] `AI 명과 암` 당신의 얼굴과 목소리는 이제 당신 것이 아니다

실시간
뉴스

보안

[전문가기고] 'AI 명과 암' 당신의 얼굴과 목소리는 이제 당신 것이 아니다

디지털데일리 발행일 2024-02-19 16:26:45

조성우 노드VPN 한국 지사장

URL복사

바야흐로 인공지능(AI) 시대다. 대화형 인공지능인 챗GPT를 필두로 생성형 AI 프로그램들은 우리의 생활을 하루가 다르게 변화시키고 있다.

일례로 지난 1월 출시한 삼성전자 스마트폰 갤럭시 S24의 'AI 실시간 통역'은 이전에 없던 새로운 기능이다. 이 기능은 AI 기술을 이용해 통화 중 영어∙스페인어 등 14가지 언어를 실시간으로 통역해준다. 인류의 난제이던 '언어 장벽'이 허물어지자, 많은 사람들은 AI 기술의 적용 분야와 발전 속도에 놀라기 시작했다.

하지만 AI 기술이 가져올 순기능에 대한 기대와 함께, 부작용에 대한 우려의 목소리도 나오고 있다. 결과물을 내놓기 위해 필요한 정보 수집과 분석에 걸리는 시간을 극적으로 줄여 효율적인 시간 관리가 가능해졌지만, 이 장점으로 인해 단순 사무직은 AI로 빠르게 대체되어 많은 사람들이 일자리를 잃을 것이란 예측이 나온다.

일자리 감소∙창의력 상실 등의 다양한 부작용 중에서도 가장 우려가 되는 부분은 바로 이 기술이 범죄로 악용될 소지가 크다는 점이다. 노드VPN이 지난해 3월에 발표한 자료에 따르면 해커들은 온라인 암거래 시장 '다크 웹'에서 챗GPT를 활용해 악성 프로그램을 퍼뜨리는 방법을 공유하고 있다. 그중 대표적인 방법으로 현지 언어를 자연스럽게 구사해 피싱 이메일을 작성한 뒤 의심을 피하는 등 악용 사례가 늘어나고 있는 것으로 파악됐다.

이뿐만이 아니다. 생성형 AI는 가짜를 진짜처럼 만들어 사람들을 혼란스럽게 하고 피해자를 양산하고 있다. 지난해 5월 미국 사회를 떠들썩하게 했던 '펜타곤 검은 연기' 가짜 사진은, 빠른 시간에 소셜 네트워크를 통해 퍼져 실제로 미국 주가를 폭락시켜 충격을 안겼다. 도널드 트럼프 전 미국 대통령 체포 사진도 생성형 AI로 만든 가짜로 밝혀졌다. AI 기술이 가짜를 진짜처럼 보이게 만든다는 놀라움과 함께, 누구나 피해자가 될 수 있다는 섬뜩함을 보여준 대표적인 사례다.

미국은 생성형 AI로 쉽고 빠르게 가짜 음성과 사진을 무한대로 만들어낼 수 있다는 사안을 심각하게 받아들여 관련 규제를 발표하고 있다. 특히 페이스북∙인스타그램 모기업 메타, 챗GPT 모기업 오픈AI, 마이크로소프트 등 주요 회사들이 AI로 생성한 이미지에는 라벨(워터마크)을 의무적으로 부착해, 사용자에게 가짜 이미지라는 사실을 알리겠다고 밝혔다.

국내에서는 'AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(이하 AI 기본법)'이 발의돼, 가짜 이미지와 뉴스에 대비하려는 움직임이 활발하다. 현재 1년 넘게 계류 중이긴 하지만, AI를 이용한 사회적 혼란과 범죄에 대해 정치계 쪽에서도 인식하고 있다는 점에서 진일보했다고 볼 수 있다.

관련된 규제와 법적인 보호 이전에 교묘한 딥페이크로부터의 피해를 최소화하기 위한 개인 수칙을 지키는 것도 중요하다. 먼저, AI 기술을 악용하는 범죄자들이 개인 정보를 수집하는 창구로 알려진 소셜 네트워크에 게시물을 올릴 때는 신중해야 한다. 단순한 일상 사진이라고 생각하기 쉽지만 이를 악용하려는 범죄자들에게는 소셜 네트워크가 한 사람의 동선과 거주 지역, 가족 구성원, 영상을 통한 목소리와 얼굴 표정까지 가짜 음성과 이미지를 만들 수 있는 정보의 창고다. 실제로 최근 진화된 보이스 피싱은 자녀의 목소리를 그대로 구현하여 사람들을 속이고 있다.

둘째로, 보이스 피싱이 의심되면 바로 전화를 끊어야 한다. 때때로 범죄자들은 첫 번째 전화로 바로 금전적 탈취를 시도하지 않고, 전화를 교묘하게 이어나가며 음성 샘플을 채취하기 때문이다. 따라서 이상한 전화임을 감지하는 순간 말을 멈추고 즉시 끊어 목소리 샘플을 제공하지 않아야 한다.

마지막으로, 행동하기 전 확인이 필요하다. 가짜 이미지나 목소리로 속이려 들면 내가 듣고 보는 것이 완벽한 ‘가짜’일 수 있음을 먼저 인지하고, 즉시 전화를 끊고 통상적 방법으로 상대방의 안위를 확인해야 한다.

<조성우> 노드VPN 한국 지사장

<기고와 칼럼은 본지 편집방향과 무관합니다.>