Korea Digital Contents Society

Journal Archive

Journal of Digital Contents Society - Vol. 21 , No. 5

[ Article ]
Journal of Digital Contents Society - Vol. 21, No. 5, pp. 891-900
Abbreviation: J. DCS
ISSN: 1598-2009 (Print) 2287-738X (Online)
Print publication date 31 May 2020
Received 24 Feb 2020 Revised 15 Apr 2020 Accepted 25 Apr 2020
DOI: https://doi.org/10.9728/dcs.2020.21.5.891

인공지능 기술 활용을 위한 사이버 국방 정보보호 시스템 분석
문재웅 ; 박장용 ; 이진하 ; 송재승*
세종대학교 정보보호학과

Analysis of Cyber Defense Information System for Utilization of AI Technologies
Jae-Woong Moon ; Jang-Yong Park ; Jin-Ha Lee ; Jae-Seung Song*
Department of Information Security, Sejong University, Seoul 05006, Korea
Correspondence to : *Jae-seung Song E-mail: jssong@sejong.ac.kr


Copyright ⓒ 2020 The Digital Contents Society
This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-CommercialLicense(http://creativecommons.org/licenses/by-nc/3.0/) which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.
Funding Information ▼

초록

인공지능은 사회 여러 측면에서 사람들의 생활방식 변화를 이끌어 가고 있다. 국방 분야도 예외 없이 사이버 보안 침해와 해킹공격 등이 인공지능과 데이터 분석 능력 진화로 과거보다 지능적이고, 복잡한 절차를 거쳐 공격을 시도하는 것이 현실화되고 있다. 이렇듯 사이버공간은 더욱더 복잡하고 초지능을 가지는 기기들이 동작하는 공간으로 발전하고 있으므로, 사이버공간의 안전과 직결되는 국방 사이버 보안 정책과 방어체계도 지능화된 공격 변화에 맞추어, 지능적 방어와 예방, 나아가 선제적 공격을 할 수 있는 국방 정보보호 체계와 정책을 만들 필요성이 대두되고 있다. 따라서, 본 논문에서는 인공지능을 활용하여 국방 정보보호기술을 적용하는 연구 내용을 제시하여 더욱 효과적인 국방정보 보호 시스템을 구축할 방안에 대한 정책적 제안을 하고자 한다.

Abstract

Artificial Intelligence (AI) technologies are now changing people's daily life in various aspects, for example, autonomous vehicles and smart factory. In the defence sector, cybersecurity breaches and hacking attacks are becoming more intelligent and sophisticated than ever before. As cyberspace is evolving into space where more complex and super-intelligent devices operate, cybersecurity policies and defence systems should be evolved to support intelligent defence, prevention, and preemptive action. There is a strong need to create an AI-based cyber defence system and policy capable of detecting unknown intelligent attacks. Therefore, in this paper, we propose a set of strategies and a system architecture for constructing a more effective cyber defence system using artificial intelligence.


Keywords: Artificial Intelligence, Cyber, Defense Information Protection, Seucrity, Integrated Control System
키워드: 국방 정보보호, 사이버, 인공지능, 정보보호, 통합관제시스템

Ⅰ. 서 론

인공지능 (Artificial Intelligence)의 개념은 인간의 학습 능력과 추론능력, 지각능력, 자연언어의 이해능력 등을 컴퓨터 프로그램으로 실현한 기술로 인간의 지능으로 할 수 있는 사고, 학습, 자기 계발 등을 컴퓨터가 할 수 있도록 하는 방법을 연구하는 컴퓨터 공학 및 정보기술의 한 분야로서, 컴퓨터가 인간의 지능적인 행동을 모방할 수 있도록 하는 것을 인공지능이라고 말하고 있다[1]. 현재 인공지능은 우리의 생활과 밀접한 부분에서 이용되고 있으며, 흔히 가정에서 쉽게 접할 수 있는 IPTV와 연동된 인공지능 스피커, 개인 비서 역할을 하는 애플의 Siri, 아마존의 에코, 삼성의 빅스비 등의 서비스가 있다. 최근 들어, 각종 사물에 (예를 들어, 냉장고, 세탁기, 자동차, 전등 등) 통신 기능을 추가하여 인터넷에 연결하고, 데이터를 사물 간에 교환할 수 있게 하는 기술인 사물인터넷이 발달하면서, 인공지능 기술과 융합되어 더욱 고도화된 지능형 서비스가 등장하고 있다. 이러한 기술들은 우리 일상에서 가장 밀접한 자동차에도 인공지능과 사물인터넷을 활용하여 자율주행이 가능한 자동차가 출시되고 있는 상황에 이르렀다.

우리의 생활 깊숙이 다가온 인공지능, 사물인터넷 그리고 대용량 데이터 처리 기술은 다양한 세부 기술들이 포함하고 있으며, 그중 바둑 대결에서 인간을 이긴 알파고를 탄생시킨 딥마인드 기술은 Monte Carlo Tree Search (MCTS) 알고리즘에 기반을 둔 기술이다[2]. 데이터의 분석을 통해 더욱 명확하게 결과를 추출하기 위해 딥러닝[3]과 연결되어 인간보다 빠르고 유사한 결과를 낼 수 있도록 발전시켜 왔다. 그리고 기계학습이란 인공지능 연구의 하나로 데이터를 기반을 둔 반복 학습을 통해 인간의 학습 능력과 같은 기능을 컴퓨터에서 실현하고자 기술 및 기법을 말한다. 인공지능 기술을 구현하기 위해서는 보다 정형화되고 신뢰도 있는 데이터의 수집과 대용량 데이터의 정확한 분석과 활용이 필요한데, 빅데이터에 대한 정의는 일반적으로 디지털 환경에서 생성되는 데이터로 그 규모가 방대하고, 생성 주기도 짧고, 형태도 수치 데이터뿐 아니라 문자와 영상 데이터를 포함하는 대규모 데이터를 말한다. 빅데이터 환경은 과거보다 데이터의 양이 폭증했다는 점과 함께 데이터의 종류도 다양해져 사람들의 행동은 물론 위치 정보와 SNS를 통해 생각과 의견까지 분석하고 예측할 수 있다.

이렇듯 다양한 기술을 활용한 인공지능 시대가 되면서 전문가에 의한 해커의 공격도 더욱 지능화되고 있다. 더욱 심각한 문제는 스스로 학습하고 동작할 수 있는 기술이 해킹이 가능한 프로그램에 사용이 되면서 누구나 이러한 인공지능 해킹 프로그램을 이용하여 더욱 쉽게 사이버 공격을 할 수 있다는 것이다. 인터넷을 통해 손쉽게 확보할 수 있는 여러 가지 해킹 도구뿐만 아니라 디도스 공격이 가능한 좀비 컴퓨터까지 값싸고 손쉽게 구매할 수 있으면서 과거 전문적인 교육 및 훈련이 된 해커들이 사용하던 공격 기법들을 일반인들도 손쉽게 할 수 있게 되었다. 악의를 가진 해킹뿐 아니라 돈과 재미를 위해서 해킹하는 것이 이제는 더는 소수의 실력자만을 위한 이야기가 아니게 된 것이다.

또한, 5G 통신망[4]이 구축되면서 4G 통신망보다 20배 이상 전송 속도가 빠른 최대 20Gbps(초당 2.5GB)의 데이터 전송이 가능하게 되었다. 5G가 제공하는 최저 1ms의 낮은 지연속도를 통해 실시간 처리가 가능하게 되면서 클라우드 컴퓨팅이 강화되어 복잡한 작업을 실시간으로 처리할 수 있는 시대가 되었다. 그러다 보니 악의적이고 조직적인 해커집단들의 해킹속도도 빨라지고 있으며, 인공지능을 활용하여 해킹 기법이 더욱 지능화 고도화 되고 있다. 이러한 공격 패턴의 변화는 민간에만 국한되지 않고, 국민의 재산과 안녕을 책임지는 국방 분야에도 영향을 미치고 있다[5, 6].

이런 측면에서 국방부는 더욱 지능화되고 고도화되고 있는 사이버 공격으로부터 국민과 국가의 안전을 지킬 수 있도록 다양한 연구개발 및 정책에 대한 대응을 마련해야 하는 시점이다. 국방부는 육해공 지상뿐 아니라 사이버상의 영역을 포함하여 국가와 국민의 안전을 지키고 보호할 의무가 있다. 2000년대에 들어서면서 각 나라는 사이버 영역을 물리적인 영역과 동일시하고 있으며, 사이버 영역에서 우위를 차지하기 위한 공격과 방어 등 사이버 무기를 개발해 각종 기밀정보 취득과 동시에 사이버 공격으로 비대칭 전략을 증대하고 있다. 최근에는 더욱 진화된 사이버 공격을 통해 육해공에서 발생하는 물리적인 공격을 무력화시킬 수도 있으며, 또한 국가의 기반시설 및 금융, 통신, 전력 등을 마비시켜서 사회 혼란과 분쟁을 일으키는 사례도 자주 보고되고 있다[7, 8]. 특히, 소프트웨어 및 정보통신 기술의 융합으로 발생한 4차 산업혁명 시대 본격화되면서 악의적 목적의 해커들이 인공지능, 사물인터넷, 빅데이터, 가상현실과 증강현실 등을 이용하여 더욱더 지능화, 정밀화, 고도화된 공격방법을 활용하여 해킹에 나서고 있다.

이러한 변화에 따라, 국방부도 인공지능과 같은 최신 기술을 활용하여 사이버공간에서의 대응 체계를 개발하여 더욱 능동적으로 고도화된 해킹공격에 대응할 필요성이 제기되고 있다. 기존의 사이버 무기체계 및 각종 시스템에 인공지능을 접목하고, 다양한 전장 환경에서 수집된 데이터들을 보다 체계적으로 관리하여 인공지능에 활용할 수 있는 지능형 사이버 무기체계가 개발된다면, 다양한 공격들을 통해 스스로 학습할 수 있는 능력을 보유하게 되며 해당 무기체계의 성능을 획기적으로 향상할 수 있다. 하지만, 현재의 무기체계 및 사이버공간에서 습득되는 다양한 데이터들의 경우 시스템 간의 연계가 이루어지지 않고 있으며, 데이터의 호환성 문제, 경직된 시스템 구조 등으로 인하여 체계적인 데이터 습득 및 공유가 쉽지 않은 상황이다. 이러한 데이터 관리 문제는 결국 인공지능과 같은 최신 기술을 사이버 국방 시스템에 적용하는데 문제점이 되고 있다.

국방부 및 각 군 지휘통제 시스템에 최신 기술이 적용될 경우 위협의 근원을 식별하고 전장의 불확실성을 제거하여 지휘관의 의사 결정을 지원함으로써 군사력 운용 패러다임의 획기적인 전환을 기대할 수 있다. 따라서, 국방부의 사이버 방어와 공격도 기존 사이버 전문가의 수동적인 방어나 단순 모니터링으로만 해결하는 방식을 벗어나야 한다. 특히, 국방부의 사이버 공격도 일차적으로는 사물인터넷 플랫폼과 빅데이터 기술을 통해 체계적인 데이터에 대해 관리가 필요하며, 이를 인공지능 기술에 활용함으로써 외부의 사이버 공격 차단이나 방어적 공격을 자동으로 인식하고 실시간으로 차단할 수 있도록 진화되어야 한다. 이를 위해서는 기존 시스템에 대한 분석을 통해 사이버 보안 체계에 대한 문제점을 파악하고, 지능화된 사이버 국방 정보보호 시스템을 설계하는데 필요한 요구사항을 파악하는 것이 무엇보다 중요하다.

따라서 본 논문에서는 인공 지능 관련 기술을 살펴보고, 기존 국방 정보보호 시스템이 가지고 있는 각종 한계점들을 분석함으로써, 인공지능 기술들이 어떤 방식으로 차세대 지능형 국방 정보보호 시스템에 적용이 되어야 할지에 대한 방향을 논의하고자 한다. 최신 인공지능 기술들의 발달과 정보보호 시스템에서의 활용을 고려했을 때, 미래의 국방 정보보호 시스템의 경우 기존의 여러 국방 시스템으로부터 지능형 시스템에 활용할 수 있는 데이터를 수집하고, 수집한 데이터를 인공지능을 활용하여 분석하여, 각종 취약점을 실시간으로 분석 및 대응이 가능한 보안 패치를 동적으로 각종 국방 사이버 시스템에 적용시킬 수 있는 기능들이 포함이 될 수 있도록 각종 연구개발이 진행되어야 할 것으로 보인다.

본 논문의 구성은 다음과 같다. 먼저 인공지능 및 대용량 데이터를 분석하는 기술에 대한 정의를 살펴보며 (Ⅱ장), 이에 따른 정보보호 기술의 한계 및 각종 진화하는 사이버 공격에 대해 살펴본다 (Ⅲ장). 인공지능을 활용한 정보보호 기술 내용을 분석하고 (Ⅳ장), 이를 기반으로 사이버 국방분야에 적용 가능한 지능형 사이버 정보보호 기술에 대한 정책적 방향에 대해 논의한 뒤 (V장), 마지막으로 본 논문에 대한 요약 및 향후 연구 방향에 대해 기술한다 (Ⅵ장).


Ⅱ. 인공지능 및 대용량 데이터 분석 기술

몇 년 전만 하더라도 인공지능, 사물인터넷, 대용량 데이터에 대한 처리 기술 등은 상용기술 보다는 연구실 또는 특정 도메인에서만 사용 가능한 기술로 인식되었지만, 현재 이러한 기술들은 여러 상용 시스템을 비롯하여 생활과 밀접한 여러 부분에서 이용되고 있다. IPTV를 이용한 스피커, 전등, 라디오, 냉장고 제어 등과 인공지능을 활용한 의료 서비스 지원, 자율주행 자동차, 인공지능 기술이 탑재된 스마트폰 등을 이용하고 있으며, 일부에서는 이러한 기능이 필수로 인식되어지기 시작했다[9]. 이 뿐만이 아니라 스마트 제조공장에서 수집되어 저장되는 대용량의 사물인터넷 (Internet of Things: IoT) 데이터는 인공지능 기술 등과 결합하여 스마트 혁신 공장으로 진화에 밑거름이 되고 있으며, 이는 공장설비의 노후화 예측, 생산되는 제품 불량률을 예측과 동시에 스스로 학습한 데이터를 통하여 고품질의 제품을 만들어 내는 경쟁력을 갖추는 제조 혁신으로 발전되고 있다. 인공지능은 계속 발전하면서 사람과 같은 추론, 판단, 계획, 문제해결 등 지능적으로 행동하는 단계까지 발전되고 있다. 이에 인공지능과 대용량 데이터를 처리할 수 있는 기술인 빅데이터에 대해 본 장에서는 살펴본다.

2-1 딥 러닝 (Deep Learning)

딥러닝을 사물이나 데이터를 군집화하거나 분류하는 데 사용하는 기술로 정의할 수 있다[10]. 딥러닝의 한 부분으로 딥뉴럴네트워크 (Deep Newural Network) 라는 용어가 쓰이는데 이것은 인간의 뇌를 모방하고자 하는 시도에서 출발한 것이며, 이 기술이 탑재된 인공지능 바둑 알파고는 총 48개 Central Processing Unit (CPU) 와 8개의 Graphics Processing Unit(GPU), 13개의 레이어(Layer)로 구성되어 있다. 하루에 3만 대국씩 4주 만에 총 100만 대국을 학습할 수 있으며, 이 학습량은 인간이 1천 년 동안 학습해야 하는 양과 맞먹는다. 앞에서 언급했듯이 딥뉴럴네트워크는 무수히 많은 데이터를 통해 다양한 데이터의 핵심 내용과 기능을 요약하고 학습하는 알고리즘 모델을 의미하는 것으로 인공지능 기술에서 중요한 부분을 차지한다. 즉, 딥러닝은 인공신경망(Neural Network)이라 볼 수 있으며, 이는 수학적 논리학이 아닌, 인간의 두뇌를 모방하여 수많은 간단한 처리기들의 네트워크로 구성된 신경망 구조를 상정하는 것이다. 인공신경망을 이용하면 분류나 군집화를 원하는 데이터 위에 여러 가지 계층 (Layer)를 얹어서 많은 데이터를 서로 비교하여 유사도를 구해주거나, 라벨링 되어 있는 데이터를 기반으로 분류 학습하여 자동으로 데이터를 분류한다. 전통적인 기계학습 알고리즘은 하나의 입력과 하나의 출력 계층으로 이루어져 있으며 중간에 하나의 은닉 계층(Hidden Layer)을 가진다. 이러한 입력과 출력 계층을 포함해 3개가 넘는 계층을 갖는 신경망에서 딥(Deep)러닝 이란 용어가 시작되었다 할 수 있다.

2-2 머신 러닝 (Machine Learning)

머신러닝이라 함은 기계학습이라고도 하며, 인공지능 연구의 하나로 데이터를 기반을 둔 반복 학습을 통해 인간의 학습 능력과 같은 기능을 컴퓨터에서 실현하고자 하는 기술 및 기법을 말한다[11]. 사무엘 스탠퍼드 교수는 머신러닝을 ‘명시적으로 프로그램되지 않아도 컴퓨터가 스스로 학습할 수 있도록 능력을 부여하는 방법론’으로 정의하였으며, 이는 데이터를 기반으로 프로그램이 스스로 데이터의 패턴을 인식하고 학습하는 방식이다. 머신러닝은 경험적 데이터를 기반으로 학습을 하고 예측을 수행하고 자신의 성능을 향상하는 시스템과 이를 위한 알고리즘을 연구하고 구축하는 기술이다. 이런 면에서 머신러닝은 모든 부분의 컴퓨터 프로그램 개발과 상용소프트웨어 개발에서 활용되고 있으며, 자연어처리, 정보검색, 추출, 데이터 마이닝, 가상현실, 증강현실, 게임, 보안 및 로봇 등 4차 산업혁명 시대의 모든 산업에 적용된다고 할 수 있다.

머신러닝은 [그림1]에 나타난 것과 같이 학습에 필요한 데이터에 정답의 명시 여부에 따라 지도학습(Supervised Learning)과 비지도학습(Unsupervised Learning)으로 구분되고, 사용 목적에 따라 데이터를 유한개의 카테고리로 나누는 분류(Classification), 연속적인 값으로 대응하는 리그레션(Regression), 유사한 데이터를 묶는 군집화(Clustering), 다차원의 데이터를 대표성 있는 낮은 차원으로 사상하는 차원축소(Dimension Reduction) 방법론으로 구분된다.


Fig. 1. 
Concept of Machine Learning and Deep Learning

2-3 대용량 데이터 처리 기술

데이터저장소에 수집되는 대용량의 데이터를 처리하는 빅데이터란 개념은 전문가인 사람과 시스템으로 기존의 관리 방법이나 분석 체계로는 도저히 처리하기 어려운 엄청난 양의 데이터를 뜻하는 것으로 기존 방법이나 도구로 수집, 저장, 검색, 분석, 시각화 등이 어려운 정형 또는 비정형 데이터를 말하는 것이다[12, 13]. 이러한 빅데이터는 단순히 규모만 큰 데이터일 뿐만 아니라, 다양한 종류의 대규모 데이터로부터 저렴한 비용으로 가치를 추출하고, 데이터의 초고속 수집, 발굴, 분석을 지원하도록 고안된 차세대 기술 및 아키텍처로 정의한다고 할 수 있다. 즉, 빅데이터는 정형·반정형·비정형 데이터 세트의 집적물, 그리고 이로부터 경제적 가치를 추출 및 분석할 수 있는 기술을 의미한다.


Ⅲ. 정보보호 기술의 한계 및 진화하는 사이버 국방 공격

인터넷 정보화 시대로 변모하면서 정보시스템은 1990년대 중반에서부터 기존의 정보보호 위협 요소인 악성코드, 해킹, 디도스 공격, 랜섬웨어, 피싱 등 많은 공격을 수시로 받아왔고, 공격의 기법이 점차 다양해지면서 이를 대처하기 위해 방어 기법이 발전되고 같이 진화하면서 현재의 정보보호 시스템의 모습을 갖추게 되었다. 그러나, 4차 산업혁명 시대가 되면서 인공지능, 빅데이터, 사물인터넷 등이 발전하고, 사이버 해킹, 사이버 테러가 더욱더 정교해지고 전문화되었다. 인공지능을 활용한 공격은 기존의 공격에 비해 더 큰 정보 자산의 피해를 발생시키고, 표적을 더 정확하고 정밀하게 공격할 수가 있다. 따라서, 공격자를 찾아내는 것과 그 책임의 규명은 더 어려워질 수밖에 없다[14]. 따라서, 사이버 공간에서 국민의 안전과 재산을 보호해야하는 사이버 국방 분야에도 이러한 공격 패턴의 변화를 인지하고 새로운 대응 방법에 대해 고민해야한다.

3-1 새로운 위협의 공격 변화

인공지능의 발전은 기존 정보보호 위협요소의 확대와 해커로 하여금 새로운 종류의 공격이 가능하게 할 수 있게 해주었다. 특히, 인공지능은 인간의 능력에 따른 제한을 받지 않음으로써 (예를 들면, 단기간에 엄청난 규모의 학습을 수행) 공격자가 기존에는 가능하지 못했던 공격의 패턴을 만들어 낼 수 있다는 것을 의미한다.

예를 들면, 인공지능을 통해 사람의 목소리를 흉내 내거나, 사람의 행동 패턴을 흉내 내서 신분을 위장하여 정보보호 시스템에 침입하는 경우를 쉽게 생각할 수 있다. 또한, 시스템들간에 교환하는 메시지의 패턴들을 학습하고, 이를 통해 실제 믿을 수 있는 상대로부터 수신되는 메시지를 위장하여 정보보호 시스템을 무력화시킬 수도 있을 것이다. 이러한 인공지능을 활용한 새로운 공격이 가능한 시스템은 허위 정보를 퍼뜨리고 다른 사람으로 속이는 새로운 방법을 제공할 수 있다[15].

3-2 공격의 전형적인 특성 변화

인공지능과 같은 기술의 발달은 기존 위협의 확장과 새로운 위협의 등장을 가능하게 하였고, 이를 통해 정보보호와 관련된 주변 환경이 점점 변화되고 있다. 인공지능 기술이 도입되면서 공격의 전형적인 특성이 여러 가지 방법으로 변화되고 있는데, 특히, 악의적 공격자가 익명으로 인공지능을 통하여 공격할 경우 이에 대한 책임을 규명하는 것이 더욱 어렵게 되었다. 또한, 최근에는 인공지능 시스템의 취약성을 악용하는 공격도 증가하는 추세이다. 인공지능의 효율성, 확장성, 그리고 사람의 역량을 능가하는 특성은 대규모의 효과적인 공격이 더 흔해질 것이라는 사실을 예상할 수 있으며, 공격자는 공격의 빈도와 규모를 자유롭게 변경하여 공격할 수 있다.

악의적인 사이버 테러나 공격자는 인공지능을 통해 더 빈번하게, 더 대규모로, 더 효과적인 공격을 수행할 것이다. 이러한 인공지능 취약점을 이용한 공격은 다음과 같이 두 가지 정도로 분류해볼 수 있다[16, 17].

Causative Attack은 딥러닝 모델이 훈련데이터를 통해서 모델을 학습하는 데 있어서 훈련데이터에 접근하여 악의적인 데이터를 추가함으로써 딥러닝 모델의 정확도를 떨어뜨리는 공격 방법이라고 할 수 있다. 이러한 대표적인 예로는 Poisoning Attack이 있다.

Exploratory Attack은 딥러닝 모델의 훈련 데이터에 대해 접근하지 않고 데이터를 조작하여 딥러닝 모델이 잘못 인식하게 하는 방법이다. 대표적인 공격 예로는 Adversarial example Attack (적대적 샘플 공격)이 있다.

앞에서 언급한 대표적인 공격인 Poisoning Attack과 Adversarial Example은 공격 대상이 다르다는 차이점이 있는데, Poisoning Attack은 딥러닝 모델의 학습 과정에서 직접 관여하여 모델 자체의 정확도를 떨어뜨려서 공격을 하며, Adversarial Example은 딥러닝 모델이 잘못 인식하도록 데이터 변조함으로써 공격 대상이 데이터가 된다는 차이점이 있다. 결론적으로 보면 공격자가 실시간 데이터 변조하는 것이 더욱 접근하기 쉬우므로 Adversarial Example 공격이 좀 더 공격자들에 의해 자주 사용되어 진다고 볼 수 있다[18].

3-3 지능형 사이버 국방 공격

인공지능 시대가 도래하면서 사이버 국방 분야에서도 발생하는 공격들이 더욱 복잡화되고 지능화되어가고 있다. 예를 들어, 사이버 공격 작업을 자동화하기 위해 인공지능을 사용하는 경우, 스피어 피싱과 같은 노동 집약적 사이버 공격 위협이 확대될 것이며, 또한, 음성 합성과 같은 인간의 취약점, 기존 소프트웨어 취약점, 또는 데이터 오염과 같은 인공지능 시스템의 취약성을 악용하는 새로운 공격도 예상된다.

최근 몇 년 동안, Stuxnet Worm[19] 및 우크라이나 전력망 Crash Override 공격을 비롯하여 해커들은 점점 더 정교해진 사이버 공격을 다양하게 시도하였다. 특히 북한의 정찰총국 산하 해킹그룹은 미국, 영국, 방글라데시 중앙은행 및 심지어는 가상화폐 거래소의 공격을 하여 심각한 수준의 영향력을 세계에 주었다. 사이버공간은 방대하고 복잡한 사이버 범죄의 세계가 존재하며, 때로는 고도의 전문화된 조직이 필요하다. 이러한 조직들은 DDoS, 악성코드, 피싱, 랜섬웨어 및 기타 형태의 사이버 활동을 수행하며, 비트코인을 랜섬웨어에 활용하는 등 새로운 기술을 신속하게 적용하여 공격을 수행한다[20].

국방망에도 인공지능을 활용한 수많은 DDoS 공격, 스팸메일 공격, 각종 국방망과 연계되거나 협력업체를 통한 랜섬웨어 공격 등이 일어날 수 있다. 예를 들면, 악의적인 공격자들이 국방부 및 유관 부처의 취약한 사이트를 동시다발적으로 인공지능을 사용하여 보안에 취약한 시스템을 공격해 보려는 시도를 수행하는 것을 손쉽게 생각해 볼 수 있다. 그런 면에서 해커들이 인공지능을 이용하여 사이버 공격을 하게 되면 빠른 속도, 시간과 전문가 및 노동 비용 감소 등의 최대한 효과와 효율을 만들 수가 있다. 앞으로는 주변국이나 적대적인 국가의 악의적 공격자들이 사이버 공격을 감행시에 인공지능 기술을 이용하여 국방망을 체계적이고 전문적으로 공격하게 될 것이기 때문에, 방어 기술에도 인공지능 기술을 활용하여 다양한 공격에 대응할 수 있는 준비가 필요한 상황이다.


Ⅳ. 인공지능을 활용한 정보보호 기술

4차 산업혁명 시대에는 우리가 인지하지 못하는 영역에서 발생하는 인공지능과 빅데이터를 활용한 사이버 해킹, 지능적인 사이버 테러, 물리적 공격에 대하여 효과적으로 방어하는 것이 쉽지 않은 것이 현실이다. 전문가인 사람의 판단과 지식을 활용한 기존의 정보보호 시스템으로 이러한 지능형 공격을 막아내는 것에는 한계가 존재한다. 따라서, 기존 정보보호 시스템과 소프트웨어도 인공지능 기술과 빅데이터 분석기술을 활용하여 더욱더 전문적이고, 체계적이며, 효과적이고, 효율적인 시스템으로 진화하여 공격자의 공격과 테러를 차단할 필요성이 대두되고 있다.

4-1 국방 인공지능 활용 해외사례

인공지능 기술을 활용한 사이버 공격이 점점 확대됨에 따라, 국방 정보보호 시스템에 인공지능을 활용하기 위해 EU, 미국, 중국 등 세계 주요국들은 활발하게 관련 연구개발 프로젝트들을 시행해 오고 있다.

미국 정부의 경우 펜타곤이 중심이 되어 2018년에 Joint Artificial Intelligence Center (JAIC)를 개설하여 인공지능을 활용하여 미국 국방부의 각종 사이버 공격 및 방어 시스템을 지능적으로 바꿈으로써 중국과 러시아의 지능화된 사이버 공격에 대응하고 있다. 또한, 펜타곤은 구글과 함께 드론에 AI 기술을 적용하여 국방부가 수집한 영상정보를 분석하여 드론의 공격 목표를 보다 정확히 조준할 수 있는 프로젝트 마벤 (Project Maven)과 같은 연구를 진행하고 있다[25].

중국의 경우 2017년 인공지능을 국가전략산업으로 채택하였으며, 바이두, 알리바바 등과 같은 기업과도 협력을 진행하며 국방분야에 AI를 접목시키기 위한 활발한 투자 및 연구를 진행하고 있다. 특히, 무인항공기, 장거리 미사일 그리고 사이버 공격 분야에 활용되는 인공지능 기술을 활발히 개발하고 있다. 예를 들어, 중국의 한 국영기업에서 2017년 6월에 119개의 무인항공기를 인공지능을 활용해 성공적으로 조종을 할 수 있는 기술을 선보였으며, 인공지능을 활용한 사이버 공격을 통해 미국의 인공위성 등을 무력화 시킬 수 있는 기술을 개발하고 있다[14].

4-2 인공지능 활용을 위한 정책적 제안

본 논문에서는 진화하는 사이버 공격에 대응하기 위해 인공지능 기술 활용이 필요한 두 가지 정책적 제안을 다음과 같이 제시한다.

첫째, 기존 소프트웨어 및 시스템 정보 보안과 물리 보안의 융합 제품을 인공지능 기술을 활용하여 하나의 제품으로 만들어서 대응할 가치와 필요성이 있다. 공격자들은 더 이상 사이버 영역으로만 공격하는 것이 아니라, 예를 들면, 드론이나 작은 무인시스템과 같은 물리적인 시스템을 통해서도 기존 시스템과 무선 통신망, 전산망을 공격한다는 예측도 해야 한다 따라서, 각종 사이버 공간에서 발생하는 공격 데이터와 영상, 센서, 무선 통신 등으로부터 수집되는 데이터를 체계적이고 정밀하게 분석하고 빅데이터 기술과 딥러닝 기술을 활용한 인공지능으로 차체 학습하고, 지능적으로 대처하는 하나의 공격과 방어를 동시에 수행하는 인공지능 융합 보안 제품을 만들어야 한다.

둘째, 악의적인 공격자와 해커집단으로부터 인공지능을 활용한 사이버 테러와 공격이 감행될 경우, 걷잡을 수 없이 사회망이 파괴되고, 이에 대한 복구가 힘들어져서 사회 혼란과 국가의 존립이 흔들릴 수가 있다. 기존 공격의 경우 특정한 공격자 및 해커집단으로부터의 공격을 다양한 방법을 통해 찾아내고 방어하는 것이 가능했지만, 인공지능을 활용하고 취약점을 변조하는 방법을 적용한 공격이 이루어진다면 이에 대한 방어는 기존 패턴과 일치하지 않기 때문에 손쉽게 이루어질 수 없다. 따라서, 인공지능 기술을 활용하는 정보보호 시스템을 개발하고 연구할 경우, 반드시 해시 함수와 양자암호기술을 적용한 시스템을 개발하여 보다 강력한 지능형 정보보호 시스템과 지능형 통합관리시스템을 통한 방어와 공격을 실행할 수 있을 것이다.

[그림2]는 한국인터넷진흥원이 제안한 자기학습형 사이버 면역 자동화 시스템 개요를 보여주고 있다. 인공지능 기술을 활용하면 소프트웨어가 스스로 자동 패치 및 자기학습을 통해 예상 취약점을 발견하고 원인분석까지 수행하는 것이 가능하다. 국가의 사이버 안전을 위해서 인공지능 기술과 대용량 빅데이터 처리와 같은 기술들이 필수적으로 정보보호 관련 제품 및 시스템에 적용되어야 한다. 국방부는 2016년 9월에 바이러스 백신 제품에 대한 패치를 수행하는 프로그램이 취약점이 노출되어, 국방부 업무용 PC가 악성코드에 감염되고 해킹이 발생하는 최악의 상황으로 기밀 자료가 유출되기도 하였다. [그림2]의 개요처럼 자체 자가 학습 능력과 취약점 분석, 소프트웨어 자동 패치가 인공지능으로 이루어진다면 관리자나 프로그램 허점에 의한 문제를 미연에 방지할 수 있을 것이다.


Fig. 2. 
Outline of Self-learning Cyber Immune Automation System, material from KISA


Ⅴ. 지능형 사이버 국방 정보보안 기술 전략 및 향후 연구 방향 제언

앞장에서 설명한 여러 기존 정보보호 시스템의 한계와 인공지능 기술을 활용한 공격자의 사이버 공격은 사이버 국방 분야도 예외가 아니기 때문에, 국가 안보와 안전을 지키는 국방 사이버 작전과 방어에도 인공지능 및 빅데이터와 같은 기술을 활용한 시스템이 구축될 수 있도록 전략적으로 연구하고 도입 방안을 강구해야 한다. 국방의 경우 국민의 안전과 재산에 대한 보호를 책임지고 있기 때문에 일반 시스템보다 더 강력한 방어체계가 구축되어야 한다. 더욱더 강력한 무결성과 이상징후 감지 시스템을 통하여 정보보호 시스템을 검증하고, 양자 암호기술과 양자 암호통신을 이용한 인공지능 기술이 탑재된 국방정보 보호 시스템의 도입과 스스로 학습하고 예측하는 인공지능 기술과 빅데이터 분석기술을 활용한 체계적이고 전문적인 국방 정보보호 기술을 연구개발하고 구축할 필요가 있다.

5-1 지능형 사이버 국방정보보안 시스템 전략

미국이나 유럽 국가에서도 자국의 이익과 방어를 위하여 인공지능 기술을 적극적으로 도입하여 국방 사이버보안 정책과 방향을 제시하는 연구를 지속적으로 수행하고 있다[21, 22, 24]. 특히, European defence matters 2019년 10월호에[23] 의하면 유럽에서는 인공지능(AI) 기술을 사이버 전 및 방어에 활용할 수 있는 방안으로 제시하고 있다. 우리나라의 사이버 국방 정보보호 시스템도 인공지능 기술 및 빅데이터 기술에 대한 적용을 통해 사이버전에 활용할 수 있는 개념 및 방안을 아래와 같이 크게 두 가지로 볼 수 있다.

첫째, 자율 네트워크 (Self-organizing network)에 대한 사이버전 활용을 위한 연구 개발 및 적용이 되어야 한다. 인공지능 기술이 네트워크의 여러 정보 흐름을 지속적으로 파악하여 취약점 패턴, 공격 패턴 등을 자동으로 감지하고, 공격이 실제로 발생하기 전에 네트워크 자체를 변경함으로써 (예를 들면, 공격 대상의 네트워크 주소나 구조를 변경한다던가 등) 공격이 실행될 수 없게 동적으로 구성할 수 있는 네트워크 개념이다.

둘째, 퀀텀 컴퓨팅이나 고성능 프로세싱을 인공지능 알고리즘에 적용하여 기존에는 불가능했던 여러 가지 계산이나 분석을 고속으로 처리하게끔 함으로써, 인공지능 알고리즘의 성능을 높여야 한다. 이는 사이버 공격에 대해 월등한 비대칭 전력을 보장하는 방어시스템을 구축하여 공격을 무력화 시킬 수 있다. 결국, 인공지능을 수행하는 주체가 컴퓨터이고, 컴퓨터는 성능에 영향을 받기 때문에, 월등한 성능을 바탕으로 사이버상의 위협에 대응해야 한다는 논리에 바탕을 둔다. 그런 면에서 우리 국방 차세대 정보보호 기술은 향후 몇 가지 단계로 나누어서 구축 및 개발이 필요할 것으로 예측된다.

[그림3]은 사이버 국방 시스템이 인공지능 및 빅데이터 기술을 적용하여 사이버전에 활용될 수 있도록 진화하기 위한 시스템 개념적인 구조를 보여주고 있다. 지능형 통합 정보보호 관리 시스템을 포함하는 보안 센터와 인공지능 기반의 각종 기술들을 활용할 수 있는 요소 기술들이 차세대 지능형 정보보호 국방 시스템의 핵심이다. 특히, 보안 센터 (Security Center)와 인공지능 기반 시스템 (AI-based system) 사이에는 자가 구성이 가능한 핵심 기능이 포함되어질 수 있다.


Fig. 3. 
Conceptual Structure of Artificial Intelligence-based Cyber Defense Information Security System

예를 들어, 보안센터를 통해 수집되는 각종 정보들 (새롭게 발견된 바이러스 정보, 방역 시스템 로그, 각종 알람 및 네트워크 메시지 정보 등)이 인공지능 활용 핵심 요소 기술인 인공지능 기반 정보처리, 인공지능 알고리즘을 활용한 취약점 분석, 지능형 사이버 공격 분석 등에 활용이 되어 결과가 다시 보안센터로 전해지고, 결과들에 기반해서 각종 보안 패치 및 시스템 업데이트가 수행되어지는 사이버 방어 루프 (Cyber Defense Loop: CDL)가 시스템에서 고려되어질 수 있을 것이다. 사이버 방어 루프는 인공지능을 활용한 통신 네트워크 시스템에서 많이 채택되어지는 자가관리 네트워크 (Self-Organizing Network)의 개념을 국방 정보보호 시스템에 적용한 기능으로 국방 정보보호 시스템이 스스로 설정을 하고, 외부의 공격에 각종 분석을 통해 동적으로 적응하여, 최적화 및 자가 치유를 지속적으로 수행할 수 있는 시스템을 예로 들 수 있다. 이러한, 사이버 방어 루프를 통해 지능형 사이버 국방 시스템은 지속적으로 성장 가능하고 실시간으로 사이버 공격을 감지하고 대응할 수 있는 능력을 구축할 수 있을 것으로 기대된다.

인공지능을 활용한 사이버 국방 정보보호 시스템의 주요 기능은 다음과 같은 내용이 포함되어질 수 있다:

- 자가 환경 설정 및 데이터 수집: 시스템의 각종 구성 노드들을 동적으로 연결하며 자율 통신을 통해 위험을 식별할 수 있는 각종 데이터 수집- 자가 위험 분석: 수집된 데이터들을 각종 인공지능 알고리즘을 통해 발생 가능한 위험 및 공격을 인지- 자가 치유: 문제 발생 부분을 자동으로 감지하고, 이를 시스템으로부터 제외 및 해당 위험으로부터 시스템 복구- 자가 계획 및 최적화: 위험의 대응 결과에 따라 시스템의 운영 계획 및 향후 발생 가능 위험에 대한 대응 방안을 능동적으로 수립 및 적용

5-2 지능형 국방 정보보호시스템 단계별 발전 전략

앞서 진행한 분석을 기반으로 인공지능 및 빅데이터 핵심 기술들을 현 사이버 국방 정보보호 시스템에 적용하기 위한 단계별 발전 전략을 도출하자면 다음과 같이 네 가지 단계로 설명할 수 있다.

첫째, 사이버 정보보호 시스템의 지능형 자동화 도입과 스팸 필터에 대한 지능형 자동화가 우선시 되어야 하는데 이는 정상을 가장한 해커의 악성코드 침입과 메일을 통한 공격이 빈번하기 때문이다.

둘째, 정보보호 시스템의 경우 통합 지능형 모니터링, 학습과 예방, 공격자 IP의 블랙리스트, 인공지능 자동입력, 예측 가능한 공격 IP 리스트, 공격지역 차단 기능들을 기본적으로 포함해야 한다.

셋째, 공격자가 무인시스템이나 드론과 같이 물리적인 공격을 통해 중앙 전산망 시스템을 무력화 시킬 수 있기 때문에, 클라우드를 활용한 지능형 전산망 시스템 구축기술과 인공지능 허니 넷 시스템도입으로 사이버 테러 및 악의적인 공격자의 기술과 성향을 파악해야 한다.

넷째, 모든 종류의 정보보호 시스템의 자동 패치와 악성코드 제어, 앤드 포인트 보안의 패치, 예방, 감지가 동시에 이루어져야 한다.

이 모든 기능들은 2장에서 언급하였듯이 인공지능 기술과 대용량 빅데이터 처리기술을 활용하여 자기학습을 통한 예측과 예방 및 공격을 동시에 해야 하는 국방정보 보호 기술을 만들어야 한다.


Ⅵ. 결론 및 향후 연구 방향

인공지능 시대가 도래되면서 여러 가지 예측하지 못하는 공격과 새로운 위협이 나오면서 사이버보안 영역에서 많은 변화가 일어나고 있다. 세계 각국이 경쟁적으로 인공지능 기술을 국방 시스템에 도입하고 있는 시점에서, 우리 군도 인공지능이라는 기술을 군사력 운용 패러다임의 변화를 촉진하는 동력으로 활용과 동시에 국방 정보보호 기술에 적극적으로 활용하여야 한다.

본 논문에서는 국방 정보보호 시스템에 인공지능 기술을 적용하기 위해, 먼저 인공지능 기술에 대해 살펴보았으며, 지능적으로 변해가는 각종 사이버 공격들을 통해 현 사이버 국방 시스템의 한계점을 도출함으로써 지능형 국방 정보보호 시스템의 필요성에 대해 논의하였다. 인공지능을 활용한 정보보호 기술을 분석하고, 국방 분야의 인공지능 해외 활용 사례를 통해, 우리나라의 차세대 지능형 정보보호 시스템에 필요한 인공지능 활용 주요 기능들을 나열하고 이를 통해 지능형 정보보호 시스템의 단계적 발전 전략을 제안하였다.

향후, 본 논문에서 수행한 분석 및 시스템 요구사항을 기반으로 지능형 국방 정보보호시스템의 프로토타입을 구현할 계획이며, 공격 패턴들을 인공지능을 활용해 사전에 예측할 수 있는 알고리즘 들을 개발하여 적용해볼 계획이다.


Acknowledgments

이 논문은 2017년도 교육부의 재원으로 한국연구재단의 지원을 받아 수행된 기초연구사업임(No. NRF-2017R1D1A1B03036285)


참고문헌
1. Hugo Serra, Rui Francisco, Artur Arsénio, Fernando Nabais, João Andrade, and Eduardo Serrano, “Internet of Intelligent Things: Bringing Artificial Intelligence into Things and Communication Networks“, Inter-cooperative Collective Intelligence: Techniques and Applications, Vol. 495, pp. 1-37, Aug 2013
2. Sylvain Gelly, Levente Kocsis, Marc Schoenauer, Michèle Sebag, David Silver, Csaba Szepesvári, and Olivier Teytaud, “The grand challenge of computer Go: Monte Carlo tree search and extensions“, Communications ACM, Vol. 55, No. 3, pp. 106-113, Mar 2012
3. Yann LeCun, Yoshua Bengio, and Geoffrey Hinton, “Deep Learning“, Nature, Vol. 521, pp. 436-444, May 2015
4. A. Gupta and R. K. Jha, “A Survey of 5G Network: Architecture and Emerging Technologies,“ IEEE Access, Vol. 3, pp. 1206-1232, 2015
5. Wolter Pieters, “Explanation and trust: what to tell the user in security and AI?,“ Ethics and Information Technology (Springer), Vol. 13, pp. 53-64, March 2011
6. Kwon Hyun and Bang Seungho, “Applying AI and Cyber security technologies to Defense”, Defense and Technology, Vol. 486, pp. 86-101, August 2019
7. Bae Hyobin, Um Jungho, Kim Taekyung, Jung Taemyeomg, “Development of customized defense system to protect cyber attacks on ICT infrastructure”, Security Engineering Research Journal, Vol. 10, No. 6, pp. 643-654, December 2013
8. Xu Li, Xiaohui Liang, Rongxing Lu, Xuemin Shen, Xiaodong Lin, and Haojin Zhu, “Securing smart grid: cyber attacks, countermeasures, and challenges,“ IEEE Communications Magazine, Vol. 50, No. 8, pp. 38-45, August 2012
9. SJ Russell and P. Norvig, Artificial intelligence: a modern approach, in Pearson Education Limited, 3rd ed. 2016
10. Heeyoul Choi, “Friendly Introduction to Deep Learning,“ Journal of platform technology, Vol. 2, No. 3, pp. 3-18, September 2014
11. Omar Y.Al-Jarrah, Paul D.Yoo, Sami Muhaidat, George K.Karagiannidis, and Kamal Taha, “Efficient Machine Learning for Big Data: A Review,“ Elsevier Big Data Research, Vol. 2, No. 3, pp. 87-93, September 2015
12. Lei Xu, Chunxiao Jiang, Jian Wang, Jian Yuan, and Yong Ren, “Information Security in Big Data: Privacy and Data Mining,“ IEEE Access, Vol. 2, pp. 1149-1176, October 2014
13. John Gantz, and David Reinsel, "Extracting Value from Chaos", IDC IView, IDC-1142, June 2011
14. Mariarosaria Taddeo and Luciano Floridi, “Regulate artificial intelligence to avert cyber arms race,“ Nature, Vol. 556, pp. 296-298, April 2018
15. Allen, G. and Chan, T., Artificial Intelligence and National Security, Harvard Kennedy School, Cambridge, July 2017 [Internet] Available: https://www.belfercenter.org/publication/artificial-intelligence-and-national-security
16. Yoon Sungkook and Kim Changhoon, “AI-based malicious code classification attacks using hostile data”, KICS journal, Vol. 43, No. 1, pp. 77-80, January 2018
17. Leem Sanghyuk, Jeon Joonhyun, and Lee Youngsook, “Cyber security on Virtual Reality service environment”, Convergence Security, Vol. 18, No. 3, pp. 11-17, September 2018
18. Stuart Russell, Daniel Dewey, and Max Tegmark, “Research Priorities for Robust and Beneficial Artificial Intelligence,“ AI Magazine, Vol. 36, No. 4, pp. 105-114, December 2015
19. Xindong Liu, Mohammad Shahidehpour, Yijia Cao, Lei Wu, Wei Wei, and Xuan Liu, “Microgrid Risk Analysis Considering the Impact of Cyber Attacks on Solar PV and ESS Control Systems,“ IEEE Transactions on Smart Grid, Vol. 8, No. 3, pp. 1330-1339, October 2016
20. Pasquale Giungato, Roberto Rana, Angela Tarabella, and Caterina Tricase, “Current Trends in Sustainability of Bitcoins and Related Blockchain Technology,“ Sustainability, Vol. 9, No. 12, pp. 2214, November 2017
21. J Mattis, “Summary of the 2018 National Defense Strategy of the USA,“ The Department of Defense, United States, Technical Report, January 2018
22. Paul Theron, Alexander Kott, Martin Drašar, Krzysztof Rzadca, Benoît LeBlanc, Mauno Pihelgas, Luigi Mancini, and Agostino Panico, “Towards an active, autonomous and intelligent cyber defense of military systems: The NATO AICA reference architecture,“ International conference on Military Communications and Information Systems, June 2018
23. European Defence Agency, “Defense Innovations: A Journey to the Future,“ European Defence Matters, No. 14, September 2019
24. JE Barnes and J. Chin, “The new arms race in AI,“ The Wall Street Journal, February 2018 [Internet] Available: https://www.wsj.com/articles/the-new-arms-race-in-ai-1520009261

저자소개

문재웅(Jae-woong Moon)

2019년 : 세종사이버대학교 대학원 (공학석사)

현 재 : 세종대학교 일반대학원 정보보호학과 박사과정

2002년 ~ 2018년 : (주)제이컴정보 대표이사

2016년 ~ 2017년 : 한국정보보호산업협회 수석부회장

2017년 ~ 현재 : 국방부 사이버작전사령부 자문위원

※관심분야 : 정보보호, 소프트웨어 테스팅, 인공지능, 사물인터넷 등

박장용(Jang-Yong Park)

2002년 : 아주대학교 대학원 (공학석사)

현 재 : 세종대학교 일반대학원 정보보호학과 박사과정

1998년 ~ 현재 : 국방부 사이버작전사령부 재직

※관심분야 : 정보보호, 소프트웨어테스팅, 인공지능, 사물인터넷 등

이진하(Jin-Ha Lee)

현 재 : 세종대학교 정보보호학과 학부생

현 재 : 세종대학교 정보보호학과 학부생

※관심분야: 정보보호(Personal Information), 사물인터넷 등

송재승(Jae-Seung Song)

2002년: 서강대학교 대학원 (공학석사)

2013년: Imperial College London (Ph.D - Computing)

2002년 ~ 2008년: 엘지전자

2012년 ~ 2013년: NEC Europe 연구소

2013년 ~ 현재: 세종대학교 정보보호학과 교수

※관심분야 : 정보보호, 소프트웨어 테스팅, 인공지능, 사물인터넷 등