Current Issue

인공지능은 기계학습을 포함하는 개념이다. 그림 1은 현재 인공지능에서 사용하는 기술에 대한 용어와 기술에 대한 개요를 보여주는 그림이다. 인공지능 연구분야에서 가장 널리 쓰이는 기술은 휴리스틱, 로봇 공학, 군집 지능, 전문가 시스템, 로직 테스트, 최적화, 자연어 처리, 게임이론, 진화 알고리즘, 추론, 퍼지 로직, 기계학습 등이 있으며 이를 세부적으로 기계를 학습시키는 기술이 바로 머신러닝이다. 머신러닝은 사람이 아닌 기계가 학습하는 기술로서 인간이 직접 개입하여 논리를 구축하여 답을 도출해내는 것이 아니라 컴퓨터를 통하여 학습하고자 하는 데이터 셋을 구축하고 학습 방식을 입력하여 기계 스스로 로직을 만들어 결과를 도출하는 방식이다. 머신러닝을 구현하기 위해서는 학습량이 많으면 많을수록 결과값이 상이하게 나타나기 때문에 기본적으로 하드웨어 성능과 컴퓨팅 파워가 높아 전력의 많은 양이 소모된다. 현대에 이르러서는 하드웨어가 상당한 부분이 개선되면서 많은 분야에서 머신러닝을 사용하고 있다. 머신러닝은 학습을 하기 위해서 처리해야 하는 매개변수가 많은 특징을 가지고 있다. 알고리즘의 복잡성으로 인하여 머신러닝의 모델 대부분은 이해하기가 어렵고 복잡한 매개변수를 가지고 운영된다. 특히 머신러닝 모델의 의사결정 과정은 인간이 직접 이해할 수 없으므로 이를 블랙박스라고 부른다. 현대 대부분의 머신러닝은 블랙박스 성질을 가지고 있어서 결과물을 도출하였다 하더라도 사용자는 왜 그러한 값이 나오게 되었는지 충분한 설명을 하지 못하고 있다. 그러므로 현재 기술로는 머신러닝의 이상 유무를 평가 함수를 사용하여 진단하고 있다. 평가 함수란 데이터셋 전체에 대해서 일반화된 평가 결과를 제시하는 방법으로서 모델이 어떻게 개선돼야 하는지 그리고 어떻게 데이터를 받아들이는지에 대한 해석이 부족하다. 현재 인공지능 기술이 활발하게 적용되는 기술은 음성인식과 이미지 인식이다. 군에서도 현재 지휘소에서 음성인식과 관련된 기술을 도입하고 있고 이미지와 관련된 많은 데이터를 학습시켜 특정 이미지를 분석하는데 사용되고 있다. [5]에서는 군 체력검정에서 체력검정을 실시하는 측정자의 올바른 자세들을 고성능 PC에 학습시켜 측정 간에 촬영된 측정자의 여러 자세들에 대해 정확도를 판단하여 그 실효성을 입증하기도 하였다.

Fig. 1. 
Machine Learning Techniques

데이터 시각화 기술은 기본적으로 빅데이터 기술시장에서 유용하게 사용된다. 데이터를 탐색하고 의미 있는 정보를 도출하고 분석과정을 가시적으로 나타낼 수 있어 여러 분야에서 주목하고 있는 기술이다. 인공지능 분야에서도 시각화를 통하여 데이터에 대한 이해도를 높일 수가 있다. 데이터 시각화 기술은 데이터를 그래프와 차트 같은 형태로 변환시켜 보다 직관적이고 효과적으로 표현하는 기술이다. 데이터 시각화 기술은 인공지능이 가지고 있는 한계를 해결해주는 방안 중의 하나이다. 복잡하고 해석하기 어려운 결괏값을 직관적인 데이터로 나타냄으로써 결과에 대한 해석능력을 제공해준다. 현재 데이터 시각화 기술은 시스템 로그 분석이나 실험 분석 결과를 통하여 통계정보를 그래프로 보여주는 형식으로 나타나고 있다[6], [7]. 현재는 빅데이터 시장이 커짐으로써 데이터를 한 눈에 볼 수 있는 형태로 진화하고 있으며 특히 인공지능 기술에서도 데이터 시각화를 통하여 의미있는 내용을 산출하기 위해 노력하고 있다. 대표적으로 인공지능 기술에서 데이터 시각화할 수 있는 기술은 지도학습에서 나타나는 분류를 통해 나타낼 수 있다. 분류는 두 개의 고양이와 개의 사진을 가지고 비교하는 것으로서 학습을 통하여 컴퓨터가 어떤 그림이 고양이인지를 구별해내는 것처럼 그림과 같은 데이터를 분류하는 것을 의미한다. 분류 후에는 비슷한 특성을 가진 데이터들을 시각화 할 수가 있다. 하지만 데이터 시각화는 굉장히 제한된 분야에서만 사용될 수 있으며 시각적으로 편의성을 제공하는 것과 기능성을 가지는 것 외에는 머신러닝이 가지는 블랙박스 특징을 설명해 줄 수는 없다는 특징을 가지고 있다. 현재 군에서는 무기체계와 군수기술에 대한 데이터 시각화 기술을 활용하고 있다.

XAI(eXplainable Artificial Intelligence)는 인공지능의 판단 이유를 설명하기 위해 개발되고 있는 기술로서 종래의 AI가 가지고 있는 한계를 해결하기 위해 고안되었다. 기존의 인공지능 기술은 분석 결과의 이유를 알기가 매우 어렵고 직관적이지 않으며 이해하기가 어려운 문제점을 가지고 있었다.

그러한 문제점으로 인해 결과를 분석한 이유를 사용자에게 설명하기 위해서 인공지능 모델이 특정 결괏값을 가지고 결론을 내릴 때 어떤 근거를 통하여 내렸는지를 설명하는 기능을 추가하는 기법이다. 이를 통하여 사람과 시스템 간 신뢰성을 높일 수 있으며 인공지능의 설명 능력을 통해 기계와 사람 간의 상호작용에 합리성을 부여할 수가 있게 된다. 2004년에 전문적인 용어로 자리매김하였는데 컴퓨터 시스템이나 인공지능기술은 날이 갈수록 발전되고 있지만, 인공지능 기술이 설명 기능에는 발전이 전혀 없었다는 점에 기인하였다. 최초의 XAI는 군대의 모의 전투 프로그램 속 NPC(Non-Player Character)라고 하는 인공지능을 개조하여 NPC의 행동 이유를 설명하는 아키텍처를 제시한 것으로 시작된다. 그림 2는 DARPA에서 제시하는 XAI의 전체적인 프레임워크를 보여주는 그림이다. 설계된 XAI는 명령 인공지능과 제어 인공지능이 분리되어 제어 인공지능이 프로그램 속 상황을 벡터 형태로 정리하는 역할을 하였었다. 명령 인공지능은 행동 인공지능의 결과를 분석하여 명령을 내렸으며 NPC와 모의 전투를 플레이한 장교들은 명령 인공지능의 상태인지 결과와 제어 인공지능의 지시를 기반으로 분석하고 행동함으로써 XAI의 초기 형태를 구현했다고 할 수 있었다. 현재 XAI 기술은 DARPA(Defense Advanced Research Projects Agency)에서 적극적으로 개발하고 있으며 XAI의 목적을 세 가지로 정의하였다. 그 세 가지는 기존 머신러닝 모델에 설명 가능한 기능을 추가하는 것, 머신러닝 모델에 HCI(Human Computer Interaction) 기능을 추가하는 것, XAI를 통한 현재 상황 개선 등이다. 그림 3은 DARPA에서 제한 XAI 프레임워크를 나타내는 그림이다. XAI를 구현하기 위해서는 기존의 머신러닝 모델에서 설명 가능한 모델을 결합하여야 한다. 특히 모델의 결과를 해석하는 인터페이스를 개발하여야 하며 모델의 문제점을 발견하고 개선을 통하여 모델을 테스트하고 평가하는 파이프라인을 구축하여야 한다. 그러므로 결괏값을 설명하기 위해서는 설명 모델 개발이나 해석 가능한 모델, 귀납적 모델을 통하여 상황과 효율성을 고려하여 선택적으로 사용하여야 한다 [8], [9].

Fig. 2. 
XAI Framework of DARPA

미래에 벌어질 전쟁의 양상은 예측 불가능한 환경에 직면하는 상황으로 변화될 것이다. 종래의 전장 환경을 넘어서서 우주 및 사이버 공간을 포함하는 다차원 영역으로 확장될 것이다. 특히 미국 국방성에서 제시하는 모자이크 전이라는 새로운 전투 양상은 지정된 위치에 딱 들어맞는 무기체계를 사용하는 것이 아니라 언제든지 호환 가능한 체계들이 복합적으로 구성되어 전투 되는 방식으로 변화될 것이다. 미국의 CSBA(Center for Strategic and Budgetary Assessments)의 보고서에 따르면 모자이크전(Mosaic Warfare)은 지휘관의 결심에 따라 신속하게 구성되고 분산된 전력을 유연하게 얻음으로써 복잡한 환경에서 불확실성을 줄여주는 전쟁 수행 개념으로 제시되고 있다. 모자이크 전의 핵심은 의사결정 중심전(Decision Centric Warfare:DCW)이다. 의사결정 중심전은 지휘관이 신속하게 지휘통제를 하여 작전적인 템포가 보다 빠르게 실시됨으로써 지휘통제의 시간이 단축되고 작전 시간이 비례적으로 감소시킬 수 있는 전쟁의 형상이다. 이를 위해서는 지휘소의 네트워크 능력 그리고 분석능력이 필수적이며 무엇보다도 인공지능 기술이 수반되어야 원활하게 수행될 것이다. 그리고 종래의 네트워크 중심전(Network Centric Warfare:NCW)에서의 체계들이 단절되는 상황에서 체계들이 더 유기적으로 통합되고 상호 연동되는 상황으로 변모하게 된다.

이에 대비하기 위해서 현재 군에서는 2018년 발표한 인공지능 R&D 전략을 통하여 군사 분야에서 인공지능 기술을 활용할 방안을 발표하였으며 육군에서는 인공지능을 기술적인 정책으로 발전시키기 위해 부서를 만들고 분기별로 정책 제안을 받으며 전투 발전 전 분야에서 인공지능 기술을 어떻게 적용할지에 대해 상당한 노력을 하고 있다. 군사 분야에서 인공지능 기술은 무기체계를 사용하는 데 지각-인지-결심-행동이라는 일련의 절차들 속에서 인공지능이 활용되어야 한다. 이때 사용 목적에 따라 부분 지능화를 시키거나 모든 과정에서 지능화를 시킬 수 있다. 무엇보다도 인공지능을 적용하기 위해서는 다양한 데이터가 수반되어야 한다. 인공지능의 기술을 고려해보았을 때 전장에서 발생하는 다양한 데이터를 가지고 전투체계에서 어떻게 조합하여 모델화시킬 것인지는 매우 중요한 문제다. 그리고 실시간으로 변화되는 전장 환경에서 어떻게 전장 세계를 반영할 것인가에 대한 문제는 매우 중요하다. 전장의 실시간성과 불 예측성을 고려하였을 때 인공지능 기술과 더불어 초고속의 전송 기술이 수반되어야 한다. 마지막으로 지휘소에서는 전장에서 발생하는 상황을 두고 유의미한 정보를 추출하고 무기체계들은 미래에 일어날 일들을 예측해야 한다. 결과적으로 인공지능 시스템을 적용하기 위해서 모든 무기체계와 지휘소에 있는 전투원들의 실시간성이 보장되어야 한다. 특히 인공지능 알고리즘을 적용하기 위해서는 각각의 체계들이 고성능의 컴퓨팅 능력이 필요하다. 전장에서 인공지능 기술이 적용된다면 전투력 증대에 큰 역할을 해야 한다. 하지만 국방의 특수성을 고려한다면 단순히 인공지능 기술을 접목하는 데에는 문제가 있다. 그리고 범용으로 사용되는 인공지능 기술은 전장 환경에서는 오히려 역효과를 불러일으킬 수도 있다. 그러므로 우리 군은 인공지능 적용에 있어 심각하게 군의 상황을 고려해보아야 한다.

AI 참모는 인공지능을 이용하여 지휘관의 의사결정을 돕고 전장관리 전반에 핵심 참모 역할을 함으로써 전장을 인식하고 지휘관의 지휘통제 보좌, 전력을 운용하는 데 있어 지휘소에서의 정보처리와 의사결정을 지원하는 체계이다. 지능형 지휘통제체계로도 불리우고 있으며 다양한 감시 정찰 자산으로부터 얻은 정보를 통하여 지휘관에게 적절한 의사결정과 전장관리를 지원해준다. 그림 3은 전장에서 활용되는 AI 참모를 시각화한 그림이다.

Fig. 3. 
AI Staff

AI 참모는 전장에서 발생한 전장 정보를 실시간으로 분석하는 것을 시작으로 적의 위협 자산을 통하여 현재 발생 가능한 위협을 평가하며 현재 지휘소에서 실행 가능한 공격, 방어 수단을 결정하고 각 무기체계에 전장상황을 공유함으로써 전장을 가시화하고 다영역과 다차원에서 동시 통합 작전을 펼칠 수 있도록 지휘통제 기능을 제공해준다. 현재 부대 구조별로 합동지휘통제체계, 지상지휘통제체계, 해상지휘통제체계, 공중지휘통제체계 등으로 분류되고 있으며 결과적으로 인공지능 기술이 지휘관에게 올바른 상황인식을 제공하고 적시적인 지휘 결심을 돕는 핵심 기술이다 [10].

미래전의 핵심 무기체계는 단연 무인 전투체계이다. 무인 전투체계는 기존의 유인 전투체계와 무인 장비를 네트워크 기반으로 통합하여 미래 전장에서 핵심적인 임무를 수행할 것이며 인명 피해를 최소화하고 효율성은 극대화할 것이다. 그림 4에서는 미래전에서 사용될 지상무인체계를 나타내는 그림이다. 드론과 같은 항공자산을 이용하여 통신 중계하는 모습과 공중무인기를 이용하여 감시정찰에 활용하며 결과적으로 지휘본부의 화력 운용과 의사 결정에 결정적인 역할을 할 수있음을 나타낸다. 현재 대한민국 육군에서도 국방 IoT, 개인 용사들의 워리어플랫폼, 드론봇 등을 적극적으로 개발하고 있으며 이들은 최전방에서 지휘소까지 무수한 양의 데이터를 생산하고 공유할 것이다. 그러므로 각각의 무기체계는 지휘소에서 효과적인 지휘 결심을 위하여 시뮬레이션을 통하여 전장에서 벌어지는 수많은 상황에 대응해야 하며 지휘소에서 모든 무기체계에 대한 통제권을 수행할 수 없으니 기존의 데이터를 학습하여 최선의 결과를 도출하고 때로는 선제적으로 조치를 한 후에 지휘소에 보고해야 하는 상황도 발생할 수 있다.

Fig. 4. 
Concept of Unmanned Weapon System

특히 인력이 접근하기 힘든 지역과 대량의 아군 피해가 예상되는 종심 지역에 긴급하게 타격하고 격멸하도록 군집드론과 무인로봇을 활용하는 방안을 고려 중이며 이를 위해 군에서는 민간과 협력하여 군집 드론 제어, 무인로봇 제어 기술을 개발하고 있으며 인공지능 기술을 활용하여 군집행동제어, 군집상황인식, 군집네트워킹, 군집관리제어 등 군집 로봇을 효과적으로 사용하기 위한 연구가 활발하다. 그리고 무인 체계에서는 인공지능 기술을 통하여 각종 센서들이 장애물에 봉착하였을 때 스스로 판단하고 주변에서 발생하는 데이터를 통하여 극복하여야 하며 최후의 상황을 대비하여 충돌을 방지하며 안정성을 유지하여야 한다. 기동 중에도 장애물이나 각종 지형에 영향받지 않아야 하며 사람이 접근하기에 위험한 지뢰지역 이동이나 산악지역을 잘 극복하기 위해서는 올바른 학습을 통하여 인공지능 기술이 적용될 수 있도록 개발 중에 있다. 행정 분야에서도 안전하게 보급물자를 운반하거나 민간에서 활용하는 자율주행차처럼 수송 차량을 활용하여 전장상황을 실시간으로 인식하고 공유하고 전파함으로써 보급로상에서 발생하는 위험 지역이나 장애물을 회피하고 통제소와 연계하여 도로상황과 적의 위치를 파악하여 안전하게 보급하는 기술들을 개발하고 있다 [11].

현재 사진 데이터는 지휘소의 감시병이나 전차 탑승한 인원에 눈으로 표적을 획득하고 있다. 공격 여부를 판단하기에 앞서 신속하고 정확하게 분석하는 데 한계가 있다. 이러한 한계를 극복하기 위해서 군에서는 적극적으로 사진 데이터를 분석하는데 인공지능 기술을 사용하고 있다. 이미지 사진이나 동영상에서 발생하는 특정 물건이나 사람 같은 객체를 식별하는 데 있어 컴퓨터 비전 기술을 통하여 객체를 인식함은 물론 객체의 위치를 정확하게 찾고 이동 경로를 판단할 수 있다.

그러기 위해서는 Classification과 Regional Proposal이 모두 수행되어야 한다. 현재 객체 식별에는 One-Stage 식별, Two-Stage 식별로 구분되어 발전되고 있다. One-Stage는 위치 제안과 분류가 동시에 이루어지는 방법이다. 대표적인 알고리즘은 YOLO로서 이미지나 동영상에서 사용되는 객체의 모든 위치를 파악하고 잠재적으로 발생할 후보 객체를 고려하여 객체를 분류하기 때문에 Two-Stage보다 빠르고 실시간 인식에 효과적이다. 이에 반해 Two-Stage 식별 방법은 위치 제안과 분류가 차례대로 발생한다. 첫 번째 단계에서 Proposal 셋을 생성하고 난 뒤 두 번째 단계에서 생성된 Proposal에서 특정 Vector를 이용하여 DNN을 이용하여 부호화시킨 뒤 객체에 대한 클래스를 예측하기 때문에 속도가 느리다. 현재 군에서는 실시간으로 객체를 인식하여야 하므로 YOLO 알고리즘을 학습하여 연구하고 있으며 학습 전 레이블링을 통하여 객체를 구별한다. 그림 5는 원형과 같은 전술적타겟을 설정하여 학습된 동일한 형태의 전술타겟이 식별될 경우에 객체를 인식하는 모습을 나타낸 그림이다 [12].

Fig. 5. 
CNN-based automated tactical target analysis

DARPA에서는 인공지능 기술을 사용하면서 세 가지의 접근 방식을 정립하여 기술을 개발하고 있다. 첫 번째 접근 방식은 정교한 지식이 수반되어야 한다는 것이다. 인공지능을 사용하기에 앞서 데이터 전처리가 중요하듯이 정립된 문제에 대한 해답을 추론할 수 있는 능력이 있어야 학습할 수 있다고 본다. 그리고 학습능력이 부재한다는 것은 불확실성에 대한 처리능력이 현저하게 떨어짐을 의미한다. 인공지능 기술자들이 산업 지식을 정립하여 적용하고자 할 때 기술의 규칙을 잘 정립하여야 한다. 즉, 사람은 지식 구조를 정의하고 이에 따라 머신은 세부 구조를 탐색할 수 있어야 한다.

두 번째 접근 방식은 통계적 학습의 중요성이다. 통계에 따라 인공지능 기술은 미묘한 차이의 요소를 분류하고 예측을 할 수 있어야 하며 머신의 맥락의 이해능력이 부재하다는 것은 결국 추론 능력이 약하다는 것을 입증하는 것이다. 그러므로 인공지능 엔지니어는 여러 가지 경험과 시행착오를 통하여 통계적 모델을 구현하고 빅데이터를 입력하게 되면 해법을 도출하는 구조를 디자인해야 한다. 마지막 접근 방식은 맥락의 반영이다. 현재 인공지능 시스템들은 맥락 설명형 모델을 통하여 실제 세계에서 발생하는 복합적인 상황에 대한 데이터를 분석한 결과를 제공할 수 있다. 기존 모델에서 생성적 모델을 추가하여 생성 방법에 관해 설명을 해주는 것이다. 이를 통하여 모델의 인지, 학습, 추상화, 추론 능력이 대폭 향상될 수 있으며 사용자로서도 인공지능의 분석된 데이터를 통하여 더욱 신뢰성 높은 결과를 획득할 수 있다. 그림 6은 DARPA에서 제시하는 설명적 모델을 구현하기 위해서 기존의 머신러닝 모델을 집대성한 머신러닝 프레임워크를 구성한 그림으로서 고양이를 예시로 구체적으로 고양이로 결과를 근거한 이유와 설명 가능한 인터페이스를 제공하는 모습을 나타내고 있다. 그리고 학습 효율과 분석 정확도는 현재의 수준을 유지하도록 설계하고 있다. XAI를 하기 위해서는 설명 가능한 모델과 설명 가능한 인터페이스 두 가지 기능이 추가되어야 한다고 주장한다.

Fig. 6. 
XAI model presented by DARPA

인공지능 기반 작전지휘통제를 위해서는 지휘관에게 지휘결심을 할 수 있는 판단근거를 제시하는 것이 매우 중요하다. 왜냐하면 다량의 데이터들이 무수하게 발생하는 환경에서 지휘관이 모든 무기체계에 대해 많은 시간과 노력을 할애할 수 없기 때문이다. 그러므로 실시간성이 보장되는 환경에서 XAI와 같은 설명 가능한 인터페이스가 굉장히 중요한 역할을 한다. 그리고 효과적인 참모 기능을 위해서는 4가지의 기술이 필요하다. 첫 번째 지휘관에게 실시간으로 전장상황을 인식할 수 있어야 하며 전장에 투입된 모든 무기체계와 네트워크 단말기들에 음성, 영상, 위치 정보 등과 같은 다양한 데이터들을 추출하여 작전 환경에 맞는 전술 맵을 생성하여야 한다. 두 번째는 실시간으로 전투상황에서 발생하는 정보를 바탕으로 정보 간 상관관계를 연결하여 전투원들에게 상황 인지를 시켜주어야 한다. 세 번째는 전장에서 수집된 정보를 바탕으로 지휘소에서는 시뮬레이션을 통하여 현재 발생 가능한 위협과 실시간으로 그에 대응하는 대안을 도출하고 도출한 내용을 설명하고 지휘관에게 최종적으로 방책을 추천하는 기술이 필요하다. 마지막으로 전장 공간에서 초연결 네트워크 기술을 통하여 실시간으로 이른 시간에 정보를 전달하는 임무 관계 중심의 신뢰 기반 네트워크 기술이 필요하다.

데이터 분석은 현재 사용되고 있는 DNN과 같은 기술이나 YOLO 모델과 같이 단순히 객체를 인식하는 기술들이 대부분이다. 하지만 현재의 기술에서 XAI 기술이 추가된다면 분류에서 예측의 기능이 추가될 수가 있어 임무수행을 위한 모델을 구성할 수 있어야 한다. 그림 7은 전장에서 공중에서 촬영한 트럭 영상을 통하여 지휘소에서 어떻게 분석하는지를 나타낸 그림이다. 그림에서 보는 것과 같이 두 개의 트럭에서 물자를 싣는 것을 확인할 수가 있다. 이 때 XAI가 적용되어 학습을 할 경우 영상과 같은 여러 가지 이미지의 대규모 데이터셋에서 위험도가 높은 객체인 짐을 싣는 트럭을 분류하여 지휘관이 관심을 가져야 할 데이터로 설정하여 해당 데이터를 분류한 이유를 지휘관에게 설명하게 된다. 지휘관은 분석결과의 원인과 이유를 확인하고 이미지 데이터를 가지고 트럭에 대한 감시를 해야할지 혹은 추적하여 격추를 할지 결정할 수가 있다. 결과적으로 지휘관은 다양한 형식과 용량의 이미지 데이터를 학습된 정보를 가지고 전장에서 분석대상을 선별할 수 있는 능력이 생겨난다.

Fig. 7. 
XAI applied data analysis

자율 시스템은 여러 가지 시뮬레이션 미션을 통하여 의사결정에 도움을 줄 수 있다.

강화학습을 통하여 시뮬레이션 이후 결과 분석에서 무기체계의 행동 이후의 결과를 분석하고 그 행동에 대한 설명력을 추가함으로써 현장에 있는 지휘관에게 미래의 어떤 임무를 수행하게 될지 의사결정에 큰 영향을 끼칠 수 있다. 그림 8은 여러 가지 드론을 통하여 SITL 시뮬레이션을 한 결과를 나타낸 그림이다. STIL 시뮬레이션을 사용하면 특별한 하드웨어의 동작 없이 PC에서 직접 드론을 실행시킬 수 있다. ArduPilot은 다양한 플랫폼을 제공한다. SITL을 실행하게 되면 센서 데이터를 통하여 비행 시뮬레이터의 역학 모델을 통하여 외부 환경과 연동되어 테스트 할 수 가 있다. 그러므로 현장 지휘관은 일련의 임무수행을 위하여 미리 테스트 하여 각 플랫폼에서 나온 결과를 분석된 자료를 확인하고 결과에 대한 설명을 참고하여 각종 무기체계의 시스템에게 전략적으로 명령을 전달하게 된다.

Fig. 8. 
Reinforcement Learning of Autonomous Systems with XAI