“우리는 패배했습니다. 무기를 내려놓고 러시아군에 항복하십시오.”
지난 3월 16일 볼로디미르 젤렌스키 우크라이나 대통령이 러시아에 항복한다고 발표하는 영상이 우크라이나 TV채널 ‘우크라이나24’에서 방송됐다. 이 영상은 조작된 것이었다. ‘인공지능(AI)’기술로 제작한 영상을 러시아 출신으로 추정되는 해커들이 TV 채널을 해킹해 방영한 것. 다행히 조작 영상 유포 후, 곧바로 젤렌스키 대통령의 해명이 이어져 큰 혼란으로 이어지진 않았다.
이 영상 조작에 사용된 기술은 ‘생성적 적대신경망(GAN)’기반의 ‘딥페이크’다. 가짜 정보를 만드는 AI모델과 이를 감별해내는 AI를 경쟁시켜, 가장 현실적인 ‘가짜 정보’를 만들어내는 것이다. 현재까지 누가 이 영상을 어떤 AI로 만들었는지는 알려지지 않았다. 다만 전문가들은 ‘딥페이스랩(DeepfaceLab)’ 소프트웨어로 제작한 것으로 추정하고 있다. 딥페이스랩은 AI기반 영상 합성 오픈소스 프로그램이다. 전 세계 딥페이크 영상 95%가 이 AI프로그램으로 만들어졌다.
이번 사례는 AI를 이용한 ‘사이버전(Cyber warfare: 가상 네트워크에서 적의 정보체계를 마비시키거나 교란시키는 행위)’이 얼마나 위협적일 수 있는지 보여준다. 조금만 대처가 늦어졌다면 우크라이나 전체가 혼란에 빠져 큰 피해를 받을 수 있었기 때문이다. 우크라이나 전략통신정보보안센터도 “딥페이크 영상은 국민들을 혼란에 빠뜨릴뿐만 아니라 군대 사기도 크게 저하시킬 수 있다”고 우려를 표했다.
디지털 미디어 포렌식 전문가인 하니 파리드 버클리 캘리포니아대 교수는 미국 라디오 공영방송 NPR에서 “실제 딥페이크를 이용한 사이버 교란전이 수면 위로 떠오른 것은 처음이지만, 앞으로 이 같은 공격은 빙산의 일각에 불과할 것”이라고 우려를 표했다.
◇사이버전 능력 뛰어난 AI… 사람이 못 찾은 취약점도 감지
이 같은 AI의 사이버전 능력이 교란·선동에만 국한된 게 아니다. AI의 진정한 위력은 ‘사이버 공격’에서 나타난다. 강력한 연산 능력을 바탕으로 적 군사 네트워크의 약점을 빠르게 찾아낼 수 있기 때문이다. 인간 해커들은 이 AI를 활용해 상대방의 보안시스템에 무단 침입해 정보를 빼내거나 적군의 군사보안망을 무력화시킬 수 있다.
가장 대표적인 사이버 공격 방법 중 하나인 ‘디도스(DDos)’에서도 AI는 발군의 능력을 보여줄 것으로 기대된다. 디도스는 네트워크 서버에 감당할 수 없이 많은 양의 쓸모없는 데이터를 전송시키는 사이버 공격 방법이다. AI는 인간 해커와 달리 24시간 쉬지 않고 더미데이터를 전송할 수 있다.
반대로 AI는 사이버 공격을 막는 방패로도 활용 가능성이 높다. 높은 연산 능력을 활용해 적국 해커들의 공격 경로를 파악하고, 악성코드를 분석해 차단할 수 있기 때문이다. 또 자체적으로 아군의 보안시스템의 취약점도 쉬지 않고 점검할 수 있어, 실시간 약점 보완도 가능하다.
AI의 사이버 공격·방어 능력은 2016년 미국 국방부 산하 방위고등연구계획국(DARPA)이 진행한 ‘사이버 그랜드 챌린지(CGCD)’ 대회서 확인할 수 있다. AI가 보안네트워크의 취약점을 스스로 찾아 방어할 수 있는 능력을 시험한 이 대회엔 글로벌 AI기업과 연구기관들이 대거 참여했다.
우승은 미국의 보안업체 ‘포올시큐어(ForAllSecure)’가 개발한 AI시스템 ‘메이헴(Mayhem)’이 차지했다. 메이헴의 핵심 기술은 딥러닝 기반 ‘퍼징(fuzzing)’이다. 상대방 보안네트워크 프로그램에 무작위 데이터를 쉬지 않고 입력하는 것이다. 전송된 무작위 데이터들은 보안네트워크와 충돌하게 되고, 이 과정에서 코드 검증 실패나 메모리 누수 등 취약점이 발생하게 된다.
메이헴은 주최 측에서 의도하지 않았던 보안네트워크 상의 오류까지 발견했다. 대회에서 사용된 리눅스 기반 보안 네트워크 ‘데비안(Debian)’에서 1만4000개의 취약점을 탐지했는데, 이중 250개는 주최 측에서 의도하지 않았던 오류였다. 인간 프로그래머들이 찾지 못한 약점을 AI인 메이헴이 찾아낸 것이다. 미 국방부는 2020년 5월 메이헴을 실제 작전에 도입하고 있는 것으로 알려졌다.
마이클 로저스 국가안보국(NSA)국장도 2016년 미 의회에서 “앞으로 사이버전에서 AI없이 인간의 지능에만 의존하는 것은 ‘패배하는 전략’”이라며 “AI가 없이 네트워크를 방어하거나 공격하고자 한다면 적국보다 항상 뒤처지게 될 것”이라고 강조했다.
김의순 전 한국국방연구원 책임연구위원은 “AI기반 사이버 방어툴을 사용하면 네트워크 업무 패턴에서 조금이라도 달라진 부분을 탐지할 수 있다”이라며 “이를 통해 보다 해킹 공격에 대해 포괄적이고 동적인 대처방안을 찾아낼 수 있을 것”이라고 전망했다.
◇관련 기술 분야 연구도 가속화… 미·중 경쟁 치열
AI기반 사이버전 기술 분야에서 가장 앞서가는 곳은 미국이다. 대표적 기술에는 DARPA에서 2018년부터 개발하기 시작한 ‘미디어 포렌식(MedFor)’과 ‘세만틱 포렌식(SemaFor)’이 있다. 이 두 기술은 딥페이크를 활용한 적국의 사이버 교란전에 대비하기 위해 준비된 것이다.
‘미디어 포렌식’은 영상 내 픽셀이나 등장인물의 동작이 물리적으로 말이 되지 않는지를 찾아내는 기술이다. ‘세만틱 포렌식’은 등장인물의 표정이나 배경에서 어색한 점이 있는지를 탐지한다. 미 국방부에 따르면 각각의 기술 개발에는 2억 9000만 달러와 8000만 말러의 예산이 투입됐다.
또 DARPA는 2015년부터 국가 차원의 사이버 방어 작전 사업 ‘AI-사이버 R&D 프로그램’도 운영 중이다. 이 사업에서 개발된 사이버 방어 AI시스템에는 ‘컴퓨터 앤 휴먼 익스플로링 소프트웨어 시큐리티(CHESS)’와 ‘사이버 헌팅 엣 스케일(CHASE)’가 대표적으로 꼽힌다.
CHESS는 대규모의 보안 네트워크 취약점을 AI가 신속히 발견·보완해주는 기술이다. CHASE는 잠재적 사이버 공격자를 AI가 미리 탐지·추적하는 기술이다. 머신러닝 기반 AI는 현재 아직 실행되지 않은 사이버 위협을 미리 찾아내 차단해낸다. 또 이 잠재적 위협 요소의 데이터를 실시간으로 선제 분석한 후, 자동화된 보호 조치를 제공한다.
미 국방부는 2018년 설립한 ‘합동AI센터(JAIC)’에서는 통합 사이버작전 AI ‘HACCS3’도 개발했다. HACCS3은 보안 네트워크의 악성코드 침투 여부를 식별해주는 AI프로그램이다. 악성코드에 감염된 네트워크 및 장비를 정확히 식별하고 잠재적 접근 경로를 막아 아군 보안네트워크의 안정성을 확보한다.
미국과 함께 관련 기술 확보에 공을 들이고 있는 국가는 중국이 꼽히지만, 정확한 기술 개발 현황은 공개되지 않았다. 폐쇄적인 국가 특성과 미국 견제를 위해 전력을 숨기고 있다는 것이 군사 전문가들의 분석이다. 다만 전문가들은 해킹이나 네트워크 잠입 등에 AI를 사용할 것으로 예상하고 있다. 주로 사이버전 방어에 초점을 맞춘 미국과 상반된 전략인 셈이다.
실제로 중국 정부는 지난 2015년 ‘중국 인민해방군 전략지원부대(PLA SSF)’를 창설하고, 국방 관련 AI기술 연구를 진행 중인 것으로 알려졌다. 여기서 PLA SSF는 전자전, 사이버전, 우주전 부대를 통합해 창설된 정보전 전문 부대다. 전문가들은 중국 사이버 공격 전문 부대와 관련 연구자들이 PLA SFF에 속해있는 만큼, AI기반 사이버전 기술은 여기서 연구될 것으로 추정하고 있다.
중국 서북공업대학교(NWPU) 연구팀은 지난 4월 AI로 정찰 위성을 속일 수 있는 교란 기술도 개발했다. 연구팀은 AI가 분당 약 22만 번의 속임수 데이터를 전송하는 방식으로 정찰 위성을 교란시켰다. 그 결과, 목표물을 추적하던 위성은 갑자기 진로를 변경해 목표물로부터 10m 이상 떨어진 곳을 탐색하기 시작했다. 이 연구 결과는 중국 항공우주기술 학술지 ‘항공 우주 상하이(Aerospace Shanghai)’에 4월 25일자로 게재됐다.
이경복 한국국방연구원 선임연구원은 “중국 정부가 아직까지 사이버전 관련 AI기술을 공개하진 않았다”면서도 “주로 해킹을 통한 정보 탈취와 상대 전자 장비 무력화에 초점을 맞췄을 것”이라고 말했다.
◇북한군 위협도 심각… 국군 역량 강화 필요성 커져
글로벌 군 전문가들은 한국도 관련 분야 기술을 서둘러 확보해야한다고 보고 있다. 한반도 군사 안보에 가장 큰 위협이 되는 북한이 AI를 이용한 사이버전을 준비하고 있기 때문이다.
스위스 스톡홀름 국제평화연구소(SIPRI)도 2020년 발표한 ‘전략적 안정성과 핵 위험성에 대한 AI 영향’ 보고서에서 “북한은 사이버전 역량 강화를 위해 AI기술 적용하는 것이 국가 전략의 핵심 중 하나일 것”이리며 “특히 AI로 미국의 ‘핵 지휘통제통신체계(NC3)’를 무력화하는 것을 목표로 하고 있다”고 설명했다.
현재 북한은 ‘조선콤퓨터중심(Korea Computer Center)’ 산하 AI연구소 주도 하에 85개 정부기관에서 국방 관련 AI기술 개발을 진행 중인 것으로 알려졌다. AI기반 사이버 공격 기술은 ‘121국’ 등이 관여하고 있을 가능성이 높을 것으로 추정된다.
121국은 정보탈취 및 네트워크 마비 임무를 수행하는 북한군 정찰총국 산하 기관이다. 2009년 7월 7일 발생한 ‘7.7 디도스 대란’도 121국의 소행이다. 당시 국내 1만8000여대의 PC가 해킹당해 청와대와 주요 언론사, 정당 등 국내 주요 홈페이지 26곳이 심각한 피해를 받은 바 있다.
우리 군의 경우 아직까지 구체적인 AI기반 사이버전 역량 강화 계획까지는 발표하진 않고 있어 적극적인 역량 강화가 요구되는 실정이다. 다만 8월 국방부가 발표한 ‘국방혁신 4.0 추진방향’는 AI기반의 우주, 사이버전 등 신(新)영역 작전개념을 창출한다는 목표는 명시하고 있어 관련 기술 확보 및 운용에 대한 구체적 계획 발표가 이어질 것으로 보인다.