AI 산업 진흥에만 목매는 시대... 메타인지 키우고 예견된 부작용 막아야

AI 대전환의 시대, 쏟아지는 이슈와 키워드 중 '꼭 알아야 할 것'과 '알아두면 좋은' 것을 구분하기란 쉽지 않습니다. 뜬구름 잡는 이야기도 많습니다. [real! AI Pro]는 이 고민을 현업 전문가들이 직접 선정한 주제와 인사이트를 담아 명쾌하게 정리해드립니다. <편집자주>

[디지털데일리 이건한 기자] 신년을 맞이해 요즘은 2025년 AI 트렌드 전망에 대한 이야기를 쉽게 찾아볼 수 있습니다. 그 대부분은 AI 기술 고도화에 초점을 맞추고 ‘AI 에이전트'나 '생성형 AI의 일상 보급 본격화' 같은 메시지에 집중하곤 합니다. 우리 정부도 지난해부터 ‘AI G3(주요 3개국) 도약'을 외치며 다각적인 AI 진흥 및 지원에 나서고 있습니다. 그런데 그 초점 역시 주로 기술 및 산업에 집중돼 있습니다. 물론 지금은 AI 산업 경쟁력이 곧 국가의 경제지표 향상, 기술패권 획득과 직결될 만큼 우선순위가 높은 건 사실입니다.

그러나 한편으로 그런 AI와 앞으로 더 밀접하게 살아갈 우리 개인과 사회가 마주할 '부작용'에 대해선 그만큼 진지한 고민이 이뤄지지 않는 것도 현실인데요. 이에 올해는 단순히 산업을 넘어 'AI와 건강하게 공존하는 사회란 무엇인가'에 대해서도 입체적으로 고민할 때가 되었다는 지적이 따릅니다. 오늘은 이 과제를 ‘AI 소셜 엣지(Social Edge)' 준비로 명명한 법무법인원 인공지능대응팀장 오정익 변호사에게 보다 구체적인 필요와 배경, 사례 중심의 설명을 들어보겠습니다.

※ AI 소셜 엣지

- AI 시대의 사회적 경쟁력 또는 우위. AI 사용자들의 사회적 관계, 소통 방식의 변화를 연구하고 대응함으로써 얻을 수 있는 기술 및 사회의 건강한 시너지 효과를 의미한다.

■ AI 사회의 부작용, 역사에서 미리 볼 수 있다면

안녕하세요, 오정익입니다. 현재 한국의 AI 성숙도는 전반적으로 준수해 보입니다. 그동안 우리 산업계가 AI 기술 트렌드 변화에 신속히 대응했고, 정부와 국회도 지난 12월 AI 기본법(인공지능 발전과 신뢰기반조성 등에 관한 기본법안)의 본회의 통과를 이끄는 등의 정책 지원 노력을 아끼지 않은 덕분인데요. 약간의 아쉬움이라면 아직 세부적인 입법이나 가이드라인 제시, 지침을 정하는 부분에선 다소 더딘 모습이 나타나기도 한다는 점입니다. 하지만 관련 주제들은 계속 수면 위에서 논의되고 있기에 그리 큰 문제가 아닐지도 모릅니다.

사실 그보다 중요한 건 아직 공론화조차 되지 못하고 있는 AI의 사회적 영향 관련 문제들입니다. 이는 AI가 지금 우리 사회에 미치고 있는 영향력, 앞으로 미칠 것이 예견된 부작용에 관한 이야기입니다. 혹자는 이런 우려는 실체가 아직 모호하다고 말할지도 모르겠습니다. 물론 대부분은 아직 수면 아래에 있는 이야기들이기에 그렇게 생각할 수 있다고 봅니다.

하지만 무슨 일이든 꼭 닥치고 나서야 대응할 수 있는 건 아닙니다. 우리에겐 늘 '역사'와 '선례'라는 좋은 데이터가 있습니다. 이를 토대로 예견되는 문제가 있다면, 충분히 앞서 준비하고 피해를 최소화할 수 있는 기회가 주어지기도 합니다.

저는 오늘 비슷한 선상에서 AI보다 앞서 등장한 첨단 기술들, 일상에 보편화된 디지털 서비스들을 선례를 바탕으로 AI 시대의 문제를 앞서 살펴보려 합니다. 이를 통해 우리가 지금부터 AI 소셜 엣지를 AI 산업진흥만큼 중요하게 준비해야 한다는 메시지에 공감대를 형성해 보고자 합니다.

■ 더디고 더딘 자율주행차 상용화... 기술이 문제?

먼저 자율주행 기술을 살펴봅시다. 벌써 10여년 가까이, 자율주행 기술 업계 및 연구자들은 자율주행의 교통사고 감소 효과와 이동 편의성 증대 등 긍정적인 영향에 대해 이야기하고 있습니다. 그런데 우리는 지금도 극히 일부 허용된 구간에서만 자율주행 택시나 셔틀버스를 시범적으로 경험해볼 수 있을 뿐인데요. 이는 완전자율주행 '기술'의 완성도 문제보다, 자율주행 자동차 사회를 준비하는 정책과 책임의 문제가 해결되지 않은 영향 또한 큽니다.

생각해 보면 우리는 여전히 자율주행차가 얼마나 복잡한 길을 달릴 수 있는지에 관심을 둘 뿐, 자율주행차 상용화에 앞서 운전면허 제도를 어떻게 다듬어야 할지는 상대적으로 관심을 두지 않고 있습니다. 사회 시스템이나 정서적 측면에서 우리는 분명 사용자에게 무면허는 허용하지 않을 텐데 말이지요. 이는 꽤 첨예한 논쟁이 될 수 있는데 기술만 준비된다고 해결될 문제는 아닙니다.

다소 단면적인 사례지만, 이를 통해 우선 말씀드리고 싶은 건 '기술적으로 가능하다고 해서, 사회가 이를 수용하여 활용할 수 있는지는 전혀 다른 문제'라는 것입니다.

■ 소통 혁신의 아이콘 'SNS'는 왜 마음의 적이 됐을까?

조금 더 피부에 와닿을 주제는 SNS입니다. 페이스북이나 트위터 같은 SNS는 초기만 해도 '디지털 시대 소통의 혁신'을 상징하는 아이콘이었습니다. 그러나 지금은 되려 ▲사이버 폭력 ▲허위정보 확산 ▲정신건강 악화 등 부작용이 더욱 부각되고 있으며, 특히 청소년이 대상일 경우 더욱 심각한 문제로 대두되고 있습니다. 최근 여러 선진국에서 청소년의 SNS 사용을 제한하거나 금지하는 입법이 다발적으로 이뤄지고 있는 점은 미봉책일지라도, 이러한 문제점을 모두가 인식하기 시작했다는 의미로 볼 수 있습니다.

나아가 스웨덴과 핀란드 등 북유럽 국가들은 디지털 제품 기반의 교육 환경을 누구보다 먼저 구축했지만 지난 1~2년 사이 철회하고, 종이책으로 회귀하는 정책을 펼치고 있습니다. 그것이 오히려 아이들의 교육 효과를 낮추고 집중력 감소 등의 부작용을 만든다는 이유 때문인데요. 최근 국내의 AI 디지털교과서 찬반 논쟁을 보듯, 이런 문제는 일방향적인 종이책보다 많은 정보와 선택지를 제공하는 디지털 콘텐츠로 교육 기반을 옮기려 했을 때부터 사전에 충분히 대응 방안을 연구해볼 수 있었던 문제였습니다.

여기서 추가로 말씀드리고 싶은 건 '기술 발전이 늘 긍정적인 결과만 가져오지 않으며, 각 기술이 도입되는 사회의 특성과 환경을 고려하지 않을 경우 부작용이 따를 수 있다'는 것입니다.

■ AI보다 무능력한 자신, 없으면 일 못하는 사회를 원하나요?

자, 위 사례들과 2가지 전제를 바탕으로 최근 과학저널인 '네이처 인간행동(Nature Human Behaviour)'에 실린 MIT의 논문을 보면 꽤 흥미로운 대목이 있습니다. 해당 논문에 따르면 사용자가 AI에 과도하게 의존하여 추가적인 판단을 생략할 경우, 혹은 AI의 제안을 무시하며 AI와 협업한 사람의 결과물은 AI의 단독적인 업무 수행 결과물보다 좋지 않은 성과를 보였다고 합니다. 반면 사용자의 AI 활용 및 협업 능력이 우수했던 경우는 더 좋은 결과물이 만들어졌습니다.

일견 당연해 보입니다. 하지만 조금 분리해 생각할 지점은 'AI의 독립적인 성능이나 그것을 단순히 사용하는 능력', 그리고 'AI를 잘 활용하는 역량'은 철저히 다른 관점에서 접근해야 한다는 점입니다. 더 쉽게 말하면 아무런 준비 없이 우리 사회의 AI 의존도가 높아지는 문제를 미리 경계하고 대응해야 한다는 이야기입니다.

제가 몸담고 있는 법조계에서도 AI 기반의 '리걸테크(Legal Tech)' 솔루션들이 많이 도입되고 있습니다. 주로 변호사들의 반복적인 업무나, 자료 분석 및 처리를 도와주는 리걸테크 솔루션들은 전통적인 법률 업무에 대한 경험과 숙련도가 높은 시니어 변호사들에게 충분한 효율을 제공할 수 있습니다. 그들은 어떤 AI 솔루션이 주어졌을 때 어디에 어떻게 활용하면 생산성이 극대화되며, 어떤 업무에 적합하지 않은지 쉽게 구분할 수 있기 때문입니다.

반면 업무 경험 및 숙련도가 낮은 주니어 변호사들에게 처음부터 AI 솔루션만 주어진다면? 앞서 MIT 논문의 일면처럼 그들은 단지 '주어진 AI를 사용할 수는 있는 사람'에 그칠 가능성이 높아집니다. 무엇이 AI를 잘 활용하는 것인지 이해할 경험과 기준이 부족하기 때문이며, 비교군이 없으니 애초에 AI를 더 적절하고 효율적으로 사용할 역량조차 기르지 못할 수 있습니다. 그저 AI가 제공하는 편의 안에 머물게 되고 의존도는 그만큼 높아지게 된다는 의미지요.

■ SNS의 전철 밟지 말아야... AI 메타인지의 중요성

이처럼 우리가 AI 기술 고도화, AI 제품 활용을 장려해 얻을 수 있는 산업 성장에만 집중한다면, 곧 다방면에서 'AI 메타인지'가 부족한 이들로 채워진 사회가 우리를 기다리고 있을 수 있습니다. 메타인지는 '생각에 대한 생각'을 의미하며 남의 지시 이전에 스스로 생각하는 능력이기도 합니다.

앞서 SNS 이야기를 했는데요. 만약 'SNS 메타인지'에 대한 논의가 도입 초기부터 이뤄졌다면? 단순히 시공간을 초월한 SNS 소통의 강점만 추켜세우지 않았을 것이고, 아날로그 소통과 비교해 사용자들이 주의할 점이나 부작용은 무엇일지 고민하고 선제적으로 가르쳤을 것입니다. 이런 아쉬움을 지금 AI 도입과 활용에만 주목하고 있는 현실과 비교할 때 시사하는 바가 느껴지지 않나요?

■ 10년 후 국가 AI 브랜드, 기술 수준만으로 평가될까?

결과적으로, 우리는 AI 산업진흥만큼이나 예견 가능한 AI 사회의 문제에도 촉각을 세우고 준비할 필요가 있습니다. 그 결과는 당장 드러나지 않더라도 10년 후 전세계의 AI 사회화가 이뤄졌을 때, 그 부작용에 시달리며 심각한 사회적 손실을 경험하는 국가와 그렇지 않은 국가의 사회적 경쟁력 우위 차이로 이어질 수 있기 때문입니다.

AI 시대의 국가 경쟁력이란 과연 기술패권 획득에만 의미가 있을까요? 저는 AI를 잘 이해하고 활용하며 살아내는 국민적 메타인지의 성숙 여부 또한 그 나라의 국가 AI 브랜드에 지대한 영향을 미치리라 확신합니다. 나아가 "AI 소셜 엣지를 준비하라"는 말 또한 이 긴 이야기를 간결하게 환기하기 위해 준비했던 메시지이기도 합니다.

다행히 모두가 손을 놓고 있는 건 아닙니다. 몇몇 주목할 만한 사례도 있는데, 저는 대표적으로 지난해 AI의 심장인 실리콘밸리가 위치한 미국 캘리포니아주의 'SB 1047'이란 법안을 인상깊게 봤습니다. 특히 이 '고성능 AI 모델을 위한 안전한 혁신 방법'을 다룬 이 법안은 AI 혁신을 촉진하면서도 공공 안전과 보안에 대한 새로운 위협 생성에 대비한 내용이 담겨 있는데요.

세부적으론 AI 제품 개발 시 ▲잠재적이고 중대한 해악에 대한 평가 ▲이런 위험성이 있는 모델의 출시나 사용 금지 ▲사람의 통제 아래 모델을 학습하며, AI 작동의 전체 종료 기능(속칭 '킬스위치')을 마련할 것' 등이 핵심이죠. 비록 주지사의 거부권 행사로 최종 입법되진 않았지만 전세계 AI의 중심부에서도 이미 AI의 기술 발전 및 활용의 중요성만큼, 그에 따를 수 있는 위험을 대비해야 한다는 인식이 높아졌음을 상징하는 일이었습니다.

■ AI 리터러시 강화 정책의 우선순위를 높여야 할 때

그럼 우리는 AI 소셜 엣지 강화를 위해 어떤 준비를 시작해야 할까요? 사실 AI 기술 적용 시 예상되는 부작용이나 제도 변화를 세부적으로 예측하고, 이를 최소화하기 위한 심도 있는 연구는 일개 기업이나 민간이 주도하기에 한계가 따를 수 있습니다.

따라서 국가 차원에서 먼저 대국민 AI 리터러시(올바른 이해와 사용법) 교육, 사용자 주도적인 AI 활용 역량 제고를 돕는 측면의 연구 투자를 지원하는 정책에 중점을 둘 필요가 있습니다. 예를 들어 단순히 AI 기술을 활용하게 하는 교육 정책보다는, 학생들이 AI 기술에 대한 이해와 접근 수준을 높일 수 있는 능력을 길러줄 수 있는 교과목 도입 등에 관한 정책이 더 필요합니다.

또한 AI 기술은 이전의 다른 어떤 기술보다 활용 가능성과 적용 범위가 매우 넓습니다. 모든 영향을 미리 가늠하는 건 굉장히 어려운 일일 것입니다. 반면, 그렇기에 AI 소셜 엣지에 대한 광범위한 사전연구와 정책 준비는 시간이 지날수록 더욱 중요한 이슈가 될 수밖에 없습니다.

따라서 최근 한국에 신설되거나 만들어진 국가AI위원회, AI안전연구소 같은 AI 정책 기관들은 AI 기술 발전 외에도 광범위한 AI 관련 부작용, 영향력에 대한 심층적인 연구와 AI 소셜 엣지 강화 정책 마련에 결코 소홀해서는 안 됩니다. 정말 건강한 AI 산업 발전이란 결국 AI 사용자들의 건강한 수용과 활용이 밑바탕이 될 때 가능하다는 점, 이를 위한 입체적인 AI 정책 연구도 더 이상 미룰 때가 아니란 점을 꼭 기억하였으면 좋겠습니다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지