디지털 트윈 환경에서의 이상치 탐지 알고리즘 비교분석

2-1 전통적 이상치 탐지 방법론

기존에 오랫동안 널리 쓰인 이상치 탐지 방법론으로는 데이터의 분포 정보를 활용하는 통계적 접근 기반 알고리즘이 있다. 비정상적인 데이터는 주된 데이터 분포에서 벗어난 개체이므로 데이터를 설명하는 통계치를 바탕으로 임계치를 설정하고 이를 기준으로 이상치를 분류하게 된다. 먼저 기본적인 접근법으로 그럽스 검정 (Grubb’s test)이 있는데, 그럽스 검정은 정규분포를 만족하는 단변량 자료에서 이상치를 검정하는 방법으로 t-분포에 근거한 임계치를 산출하여 검정 통계량이 임계치보다 큰 경우 이상치로 분류하는 알고리즘이다[7]. 또 다른 통계적 접근 기반 알고리즘으로는 사분위수 범위를 활용하여 이상치를 분류하는 사분위수 범위 방법론(IQR; interquartile range)이 있다. 데이터의 분포는 최소값, 최대값, 제 1사분위수, 제 2사분위수, 제 3사분위수와 같은 통계치를 시각적으로 요약할 수 있는데, 이를 상자 그림이라고 한다. 상자 그림에서 표현되는 최소값과 최대값은 이상치를 제외한 데이터의 최대값과 최소값을 의미하며 사분위수범위는 제 1사분위수와 제 3사분위수의 차이로 정의되며, 사분위수 범위의 1.5배를 초과하는 관측치는 약한 이상치로, 3배를 초과하는 관측치는 강한 이상치로 정의한다.

이상치 탐지는 전통적으로 다양한 도메인에서 활용되어 왔으며 특히 품질 관리를 위한 다양한 연구가 진행되어왔다. 그 중 슈하르트 관리도 (Shewhart control chart)는 이상치 탐지를 품질 관리에 적용한 모델이다. 관리도란 품질 관리에 사용되는 지표로 품질이 어떤 값을 중심으로 어느 선까지 달라지는 것은 우연변동으로 취급하나, 그 이상을 벗어나면 이상 원인에 의한 변동으로 간주한다[8]. 슈하르트 관리도는 데이터의 중심으로부터 양쪽으로 표준편차의 세 배에 임계치를 설정하며 이 때 표준편차는 우연변동의 척도로 간주하여 근사적으로 99.7%의 관리한계 내에 품질이 보장될 것을 의미한다. 슈하르트 관리도의 종류로는 관리 모수와 관리 통계량에 따라 다양한 관리도가 존재하는데, 관리 모수는 평균과 분산 등과 같이 관리하고자 하는 통계량을 의미한다.

전통적 이상치 탐지 방법론 중 또 하나로 데이터 개체 간 거리를 활용한 접근법이 있다. 정상 데이터 개체 간에는 서로 거리가 가깝고, 이상치 개체는 정상 데이터로부터 떨어져 있다는 점을 활용하는 것이다. 따라서 서로 거리가 가까운, 즉 유사한 데이터들을 같은 군집으로 묶고 정상 범주에 속한 군집에서 떨어진 개체를 이상치로 분류하게 된다. 가장 대표적인 개체 간 거리 기반 이상치 탐지 알고리즘으로는 k-평균 군집화를 이용한 이상치 탐지 알고리즘이 있다. k-평균 군집화는 주어진 데이터를 k개의 클러스터로 묶는 알고리즘으로, 각 클러스터와 거리 차이의 분산을 최소화하는 방식으로 동작한다. 이 알고리즘은 자율 학습의 일종으로 레이블 정보가 존재하지 않는 입력 데이터에 레이블을 부여할 수 있다. 그러나 k-평균 군집화 알고리즘은 손실 함수 최적화 과정에서 전역 최솟값이 아닌 지역 최솟값으로 수렴할 가능성이 있으며 이상치에 민감하고 하이퍼 파라미터인 클러스터 개수를 지정해야 한다는 한계점이 있다.

k-평균 군집화의 대안으로 쓰이는 밀도 기반 군집화는 유사한 데이터 포인트들이 그룹화되는 방식으로 데이터 포인트 세트를 그룹화하는 방법이다. 따라서 군집화 알고리즘은 데이터 포인트 간의 유사성 또는 비 유사성을 찾게 된다. DBSCAN (Density based spatial clustering of applications with noise)은 노이즈가 있는 밀도 기반 공간 군집화를 대표하는 알고리즘이며 특정 군집이나 이상치가 존재하는 군집을 찾을 수 있다[9]. DBSCAN의 장점은 하이퍼 파라미터인 군집의 개수를 정할 필요가 없고 군집의 밀도에 따라 군집을 서로 연결하기 때문에 기하학적인 모양을 가질 수 있으므로 기존 선형 군집화 알고리즘보다 유연하다. 군집화를 수행하는 동시에 이상치도 분류할 수 있으므로 이상치에 의해 군집화 성능이 하락하는 현상을 완화할 수 있다. 그러나 거리 기반 알고리즘의 경우 각 개체 간 거리를 계산하는 만큼 데이터가 많아질수록 연산 시간복잡도가 기하급수적으로 증가한다는 한계점이 있다.

기존 전통적 이상치 알고리즘들을 종합하여 보면 다음과 같은 한계점이 존재한다. 정상 데이터의 분포에서 크게 벗어나는 값을 이상치로 분류하는 통계적 접근 기반 방법론이나 거리 기반 이상치 탐지 방법론과 같은 기존 방법론들의 문제점은 정상치를 모두 고려해야 하므로 계산 부하가 크다는 점과 매번 정상치를 프로파일링하여 이상치를 계산하므로 모델을 생성하고 재활용하기 어렵다는 한계점이 있었다. 트리 기반 이상치 탐지는 앞선 기존 방법론들의 문제점을 데이터를 분할하면서 이상치를 분류하는 방식으로 보완한다. 대표적으로 Isolation forest는 관측치 사이의 거리 또는 밀도에 의존하지 않고 의사결정 나무를 이용하여 이상치를 탐지하는 기법이다[10]. Isolation forest는 의사결정 나무 기법으로 분류 모형을 생성하여 모든 관측치를 고립시키면서 분할 횟수로 이상치를 분류하는데, 모형에서 적은 횟수로 잎 노드에 도달하는 관측치일수록 이상치라고 볼 수 있다. 즉, 일반적으로 정상 데이터의 경우 더 많은 재귀 이진 분할이 필요하지만 이상치의 경우 정상 데이터보다 이진 분할이 덜 필요하다는 점을 활용하게 된다.

2-2 딥러닝 기반 이상치 탐지 방법론

오늘날 딥러닝 연구가 활발히 진행되면서 이상치 탐지 분야에서도 딥러닝을 활용한 연구가 수행되고 있는데, 대표적으로 순환 신경망을 활용한 이상치 탐지 연구가 활발히 진행되고 있다[11]. 순환신경망은 입력과 출력을 시퀀스 단위로 처리하는 모델로써, 디지털 트윈 환경에서 발생하는 데이터와 같은 시계열 또는 다변량 데이터를 학습하는 데 특화된 모형이다. 더 나아가 장단기 메모리 모델은 기존 순환신경망이 입력 데이터 시퀀스가 길어질수록 기울기 소실이 발생하는 문제를 셀 상태를 통해 이전 단계에서 학습 시킨 정보를 그대로 보존하며 학습을 진행함으로써 보완하였다. 이러한 이점으로 인해 최근 이상치 탐지를 위한 딥러닝 연구에서 순환신경망 형태의 모델 아키텍처를 기반으로 이상치 탐지 연구를 수행하고 있다. 특히 LSTM(Long Short-Term Memory) 또는 GRU(Gate Recurrent Unit) 알고리즘을 기반으로 한 이상치 탐지 연구가 활발하게 진행되어 왔다.

LSTM을 기반으로 한 이상치 탐지 연구들을 살펴보면, Malhotra 외(2016)의 연구에서는 여러 층의 장단기 메모리를 학습하여 오류 벡터를 계산하고 오류의 다변량 가우스 분포에서 임계치를 넘는 오류에 대해서는 이상치로 분류하였다[12]. 이들 연구에서는 순환신경망 모델의 기울기 소실 문제를 극복하기 위해 장단기 메모리 모델을 사용하여 순환신경망보다 더 높은 예측 성능을 보임을 확인하였다. 또한 LSTM 기반의 이상치 탐지 성능을 높이기 위해서 오토인코더를 활용하기도 하였다. 오토인코더를 활용한 연구의 경우에는 일정 기간의 시계열 데이터를 입력받아 향후 데이터를 예측하고 이를 원본 데이터와의 차이를 비교하여 값이 큰 데이터를 이상치로 분류한다. 그리고 LSTM 자체로 이상치 탐지에 활용하기보다 LSTM과 오토인코더를 앙상블하여 사용하는 연구 또한 활발히 수행되고 있다[13], [14]. LSTM-오토인코더를 학습할 때 인코더 부분은 데이터를 압축하여 데이터의 중요한 특징으로 변환하고, 디코더는 인코더에서 학습한 정보를 바탕으로 데이터를 재구성한다. 그리고 원본 데이터와 디코더를 통해 출력된 복원된 데이터의 차이인 복원 손실 함수가 작아지도록 모델을 학습시킨다. 오토인코더 모델이 정상 데이터으로만 학습하므로 재구성 오류가 큰 데이터일 경우 이상치라고 판단할 수 있다. 재구성 오류는 사용자가 설정한 임계치보다 값이 커지면 이상치로 판단하거나 정상 데이터의 분포를 적용하는 등 이상치를 판단하는데 활용하는 데이터로써 사용된다.

LSTM-오토인코더를 활용한 이상치 탐지 연구 사례를 살펴보면, Maleki 외(2021)의 연구에서는 산업용 가스터빈의 오작동 탐지를 위해 산업용 가스터빈의 온도 측정 데이터, CPU 사용량 데이터를 사용하여 이상치 탐지를 시도하였다[15]. 해당 연구는 학습 전, 표준 점수를 임계치로 활용하여 훈련 데이터로 사용할 정상 데이터를 필터링하였다는 특징이 있다. Nguyen 외(2021)는 데이터의 분포 가정을 사용하지 않기 위해 단일 부류 서포트 벡터 머신을 사용하여 정상과 비정상 데이터에 대해 구분하여 공급망 관리를 위한 판매 시점 관리 데이터에서 이상 탐지를 위한 알고리즘을 제안하였다[16]. 한편 다차원 시계열 데이터에서의 이상치 탐지를 위한 연구들도 함께 진행되었다. Kieu 외(2018)는 다차원 시계열 데이터를 기반으로 이상치를 탐지하기 위해 입력 시계열 벡터의 통계적 특징을 사전에 계산하고 이를 장단기 메모리 오토인코더 모델에 사용하였다[17]. Zhang 외(2018)는 다변량 시계열 간의 상관관계를 고려하기 위해서 시계열 데이터의 상관관계 및 시간 정보를 인코딩한 후 학습하는 합성곱 순환 인코더-디코더 모델을 제안하였으며 발전소 시스템에서 발생하는 시계열 데이터로부터 이상치를 탐지하였다[18].

LSTM과 더불어 LSTM을 변형하여 간소화 시킨 게이트 순환 유닛 (GRU; gated recurrent unit) 또한 딥러닝 이상치 탐지 모델로써 활발히 연구되고 있다. GRU는 망각 게이트와 입력 게이트를 하나의 업데이트 게이트로 합치고 셀 상태와 은닉 상태를 하나로 합쳐 변형함으로써 LSTM보다 단순한 구조를 가지도록 하였다. LSTM과 GRU는 성능상 큰 차이는 없지만, 연구 목적에 따라 LSTM이 더 좋을 수도, GRU가 더 좋은 모델이 될 수도 있다[19]. GRU는 LSTM에 비해 단순해서 연산량이 적으므로 큰 네트워크 구축 시 효율적이다. 또한 GRU는 모델 구현 시 고려해야 할 파라미터의 수가 더 적어서 사용자 편의성 측면에서 빠르게 네트워크를 구축할 수 있다. 반면 LSTM은 각 메모리와 결과값을 제어할 수 있지만 GRU는 메모리와 결과치의 제어가 불가능하다는 측면에서 정교한 모델 구축 시에는 LSTM이 더 좋은 선택이 될 수 있다. GRU도 LSTM과 마찬가지로 오토인코더를 앙상블하여 구현하는 방식으로 이상치 탐지 연구가 활발히 수행되고 있다. 여기서는 게이트 순환 유닛 모델을 단편적으로 사용하지 않고, 정상 데이터만을 학습하기 위한 전처리 방법이나 다른 알고리즘과 결합한 모델을 통해 입력 데이터의 이상행동을 감지한다. 게이트 순환 유닛 오토인코더를 통해 입력 벡터의 특징들을 학습하고, 디코더를 통해 재구성 오류를 출력하여 이상치 판단 기준인 가우시안 분포나 임계치를 통해 이상치 탐지를 수행한다[19]-[21].

3-1 실험 데이터

디지털 트윈 환경에서 수집되는 대부분의 데이터들은 데이터의 이상치 레이블 정보가 없는 시계열 데이터이다. 이러한 관점에서 본 연구에서 디지털 트윈 환경에서 적합한 이상치 탐지 알고리즘을 확인하기 위해서 기후데이터를 선택하였다. 기후데이터는 시계열로 수집되는 데이터이며 데이터 자체에 이상치를 판단하는 레이블 정보가 포함되어 있지 않다. 따라서 본 연구에서는 기상청에서 제공하는 기후 관측 데이터를 이용하여 이상치로 고려되는 이상기온을 탐지하고자하였다. 실험에 사용된 데이터는 그림 1과 같이, 1961년부터 2021년까지 서울의 일자별 평균기온, 최저기온, 최고기온으로 구성된 기온 다변량 데이터 셋이며 총 22,280건으로 구성되어 있다. 본 실험에 사용된 데이터는 일평균기온, 일최저기온, 일최고기온 으로 구성되어 있다.

Fig. 1.

Visualization of multivariate temperature data. Average daily temperature from top, minimum daily temperature, maximum daily temperature

3-2 실험 방법

본 연구에서는 문헌연구를 통해 확인한 전통적 이상치 탐지 알고리즘 중 Shewart control, IQR, Isolation forest, DBSCAN 알고리즘과 LSTM, GRU 기반의 이상치 탐지 알고리즘의 성능을 비교 분석하였다. 각 알고리즘은 파이썬을 통해 구현되었으며 특히, 딥러닝 모델인 LSTM과 GRU는 Nvidia Tesla K80 그래픽카드를 이용해 학습을 수행하였다. 구현한 이상치 탐지 알고리즘 중 Shewart control은 전체 데이터 평균으로부터 표준편차의 세 배만큼 상한선과 하한선을 도출하여 구현하였다. 둘 째로 IQR은 하한선을 1분위수로부터 사분위수 범위의 1.5배만큼 낮은 지점을, 상한선을 3분위수로부터 사분위수 범위의 1.5배만큼 높은 지점으로 설정하였다. 전통적 이상치 탐지 알고리즘 중 Isolation forest와 DBSCAN은 파이썬 라이브러리 사이킷런(Scikit-learn)으로 구현하였다. 이들 모델은 학습하는 과정에서 정상 데이터 분포에서 벗어난 노이즈를 동시에 분류해내는 비지도학습 방식으로 이상치 탐지를 수행한다. 즉, 라벨이 주어지지 않더라도 학습할 수 있지만 새로운 데이터가 입력될 경우 처음부터 새로 학습을 다시 해야한다.

LSTM과 GRU는 텐서플로 (Tensorflow) 프레임워크로 구현되었다. 두 모델 모두 두 개의 층을 쌓았으며 마지막 출력 시 선형 인공신경망 층을 통해 회귀를 수행한다. 이때 회귀를 수행한다는 것은 자기회귀 모델로써 라벨을 자기 자신의 데이터를 활용하는 기법이다. 시계열 데이터의 과거값을 이용해 미래의 시계열을 예측하도록 학습하고, 다변량 가우스 분포를 이용해 오차 벡터를 계산한다. 만약 예측값과 실제값의 오차가 다변량 가우스 분포의 특정 임계치를 벗어난다면 일반적으로 예측될 수 있는 값의 범위를 벗어나므로 이상치라 판단한다. 이상치 판정 시 가우스 분포 외에도 슈하르트 검정이나 사분위수 범위를 벗어난 데이터를 이상치로 판단할 수 있다. 전체적인 이상치 탐지 알고리즘 성능평가 프로세스는 그림 2와 같다.

Fig. 2.

Anomaly detection algorithm performance evaluation process

수집한 기온 데이터에는 매일 연속적으로 수집되어 데이터 규모가 크고 이상기온을 나타내는 레이블 정보가 포함되어 있지 않아, 알고리즘의 이상치 탐지 성능을 평가하기 위해서 라벨 정보가 필요하다. 따라서 본 연구에서는 기상청에서 정의한 이상기온을 기반으로 각 일자별 기온의 이상유무를 나타내는 레이블을 포함시켜 성능평가에 활용하였다. 세계기상기구에서 정의한 이상기온은 기상학적 측면에서 기온, 강수량 등의 기후요소가 30년 동안의 기록에 비해 현저히 높거나 낮은 수치를 나타내는 극한 현상으로 표준편차의 두 배 범위로 정의하고 있다[22]. 그림 3과 같이, 기상청에 따르면 통계적으로 평균 영하 7.78도보다 낮을 때, 그리고 평균 영상 33.64도보다 높을 때 이상치로 분류할 수 있다. 이 수식을 이용하여 30년 기상 데이터에서 발생한 이상기온으로 판단되는 일수는 총 169일로 나타났으며, 향후 실험에서는 각 이상치 탐지 알고리즘이 이 이상기온 데이터를 얼마나 정확하게 예측하는지를 바탕으로 성능을 검증하였다.

Fig. 3.

Anomaly detection algorithm performance evaluation process

3-3 실험 결과

이상치 탐지 알고리즘의 성능 비교 결과 딥러닝 기반의 알고리즘들이 전통적 알고리즘에 비해 성능이 우수하게 나타났다. 실험에 사용된 모든 모델의 이상치 탐지 분류 결과는 그림 4와 같이 나타났다. 우선 슈하르트 검정의 경우 전체 데이터에서 이상치를 탐지를 못하였다. 즉, 우리나라 평균 기온은 6시그마 내에 모두 분포하고 있다고 볼 수 있다. 기상청에서 정의한 이상치의 기준은 전체 평균 기온으로부터 표준편차 두 배에 해당하는 임계치이지만, 슈하르트 검정의 경우 표준편차 세 배를 기준으로 이상치를 분류한다. 슈하르트 검정에 따른 이상치 하한선이 영하 18.13도, 상한선은 43.97도로 나타났으며, 실제 기상청 데이터에서 이 범위 밖에서 나타나는 기온 데이터는 존재하지 않았다. IQR의 경우에는 전체 이상기온을 나타낸 169일 중 34%인 57일 만을 이상기온으로 판단하였고, 이때 이상치를 탐지하는 기준은 하한선이 영하 24도, 상한선 49.4도로 나타났다. 통계적 접근법인 IQR 이상치 탐지 기법과 슈하르트 검정 기법은 데이터의 분포를 통해 이상치를 분류할 고정된 임계치를 산출하여 이상치를 탐지하기 때문에, 시계열의 특성을 반영하거나 분포의 변화를 고려하지는 못하는 한계점을 가진다. DBSCAN과 Isolation forest 알고리즘 기반의 이상치 탐지 방법은 비지도 학습 기반의 이상치 탐지 기계학습 알고리즘이다. DBSCAN 기법의 경우 전체 데이터들 사이의 유클리디안 거리를 계산하여 거리가 가까운 데이터들끼리의 클러스터를 도출한 후 클러스터에 포함되지 않는 데이터를 이상치로 판단하였다. 분석 결과 총 180개의 데이터가 클러스터에 포함되지 못하여 이상치로 판단되었고, 이상치에 대한 검출 정확성은 91%로 나타났다. Isolation forest은 모델 학습 결과 총 496개의 데이터를 이상치로 분류하였으며 실제 이상치 검출 정확도는 90%이다. DBSCAN과 Isolation forest 알고리즘을 비교하면 DBSCAN이 Isolation forest보다 정확도 측면에서 다소 높게 나타났으나, 정밀도와 재현율을 동시에 고려하는 성능지표인 F1-score의 경우에는 Isolation forest 알고리즘이 0.22로 0.17인 DBSCAN에 비해 높게 나타났다. 즉, Isolation forest가 양성 이상치 데이터를 좀 더 잘 분류한다고 볼 수 있다.

Fig. 4.

Anomaly detection classification results of (a) IQR (b) DBSCAN (c) Isolation forest (d) LSTM (e) GRU from 2008 to 2022

딥러닝 알고리즘인 LSTM와 GRU 알고리즘은 이전의 통계적 접근법과는 다른 방식으로 이상치 탐지를 수행한다. 이들은 직전 시계열 데이터를 입력받아 미래의 값을 예측하는 방식으로 작동한다. 학습 때에는 미래의 값과 모델이 예측한 값이 같아지도록 모델을 학습하게 된다. 학습 결과, LSTM 알고리즘은 검증 데이터셋의 평균 손실 함수 값은 0.05, 정확도는 95%, F1-score는 0.26으로 나타났다. GRU는 검증 데이터셋은 LSTM보다 전체적으로 높은 성능을 보였으며 검증 데이터셋 평균 손실 함수 0.03, 정확도는 96%였다. 결과적으로 GRU가 이상치 탐지를 위한 알고리즘에 대한 성능 실험 결과 정확도, 정밀도, 재현율, F1-score의 4가지의 성능 지표 모두에서 가장 좋은 성능을 보이는 것으로 나타났다. 특히 LSTM과 GRU와 같은 딥러닝 알고리즘은 분류 성능이 전통적 이상치 탐지 알고리즘에 비해 높았다. 또한, 디지털트윈에서의 동시에 온라인 예측이 가능하다는 점에서 실제 활용도에서 장점을 가진다. 통계 기반의 알고리즘은 분석 대상 데이터를 모두 활용하여 계산하기 때문에 실시간 이상치 탐지 예측이 어렵다는 한계점이 있지만, 딥러닝 모델은 과거 데이터로 모델을 학습하고 배포하여 실시간 입력되는 데이터를 즉시 처리할 수 있다. 따라서 이상치 탐지 알고리즘에서는 딥러닝 기반의 이상치 탐지 알고리즘을 사용하는 것이 효과적이다. 하지만 딥러닝 기반의 알고리즘이 가지고 있는 한계점도 존재한다. 본 실험에서는 기온 데이터만을 바탕으로 성능을 비교평가 하였으나, 기후 데이터는 기온, 습도, CO2 등 다양한 변수로 설명되어야 한다. 하지만 기존의 알고리즘들에서는 이러한 다변량 데이터를 기반으로 이상치인 이상기후를 예측하는 것에 한계가 있었다. 다음 4절에서는 이상의 3가지 한계점에 대해 디지털 트윈 환경에서의 이상치 탐지 알고리즘이 고려해야 할 부분에 대해 보다 자세히 기술하였다.

Table 1.

Performance of anomaly detection algorithms

4-1 컨텍스트 이상치 탐지

기존의 경우에는 대부분 포인트 이상치 탐지 기법을 사용하고 있다. 포인트 이상치 탐지 기법은 과거 데이터를 기반으로 현재 시점 값이 이상치인지 분류하는 기법이다. 포인트 검출 후 즉시 이상치인지 여부를 판단하더라도 이는 디지털 트윈의 과거 이벤트이다. 컨텍스트 이상치 탐지 기법은 지속적으로 데이터의 흐름이 비정상으로 판단되는 것을 의미한다. 기존의 포인트 이상치 탐지 기법은 레이블이 정확히 지정되어 있는 데이터에서 좋은 성능을 보일 수 있지만, 많은 환경이 이러한 데이터를 제공해주지 못한다. 따라서 비정상적인 상황을 유연하게 감지할 수 있는 컨텍스트 이상치 탐지 모델의 연구가 필요하다. 디지털 트윈은 센서, 건물관리, 제조 설비 등 데이터가 실시간으로 생성되는 동적 데이터이므로 디지털 트윈의 가치를 극대화하기 위해서는 과거의 데이터에 대해 이상치를 판단하는 알고리즘보다 맥락적으로 비정상적인 상황을 감지할 수 있는 디지털 트윈 기반의 이상 탐지 시스템이 필요하다. 포인트 이상치 탐지 기법 주로 데이터 포인트 그 자체의 이상치로 분류될 확률을 계산한다. 전통적인 포인트 기반 이상치 탐지 방법은 정확하게 레이블이 지정된 데이터에서 잘 수행될 수 있지만, 많은 환경에서는 이러한 데이터를 수집하기 쉽지 않다. 그러나 컨텍스트 이상치 탐지 기법은 데이터의 분포 또는 시계열의 확률 분포가 변화하는 전환점을 고려하여 이상치 탐지를 수행할 수 있다.

포인트 이상치 탐지 기법은 과거 데이터를 바탕으로 이상치를 판별하는 사후방식으로, 비정상 신호를 사전에 검출하기 어렵다. 한편, 컨텍스트 이상치 탐지 기법은 데이터의 전체적인 흐름을 파악하여 이상 징후를 탐지할 수 있으므로, 사전에 예측할 수 있다는 장점이 있다. Hayes & Capretz [23]의 연구에서, 그들은 다변량 군집화 방법을 기반으로 컨텍스트 이상치 탐지 모델을 구성하여 대규모 센서 데이터에서 실시간으로 이상을 식별했다. Lu외 (2020)의 연구에서는 컨텍스트 이상치 탐지를 데이터 분포의 전환점을 고려하는 베이지안 방법과 접목하여 수행하였다[24]. 문맥 이상 검출에 대한 정확한 방법론은 없지만, 디지털 트윈 데이터의 특성상 실시간으로 생성되며 데이터 라벨링이 쉽지 않다는 점을 고려할 때 실시간으로 적용할 수 있는 문맥 이상 검출 모델이 필요하다.

실제로 전통적 이상치 탐지 기법과 딥러닝 이상치 탐지 기법의 기후 데이터 실험 결과를 살펴보면 문맥을 고려해야 할 필요성을 발견할 수 있다. 기후 데이터를 장단기 메모리로 학습한 후 이상치로 분류한 결과가 그림 5와 같이 나타나고 있다. 세로로 그려진 직선이 전환점으로, 이는 데이터 분포가 바뀐 시점이며 ‘X’자로 그려진 지점이 이상치로 분류한 지점이다. 결과를 살펴보면 대부분의 이상치가 분포가 바뀐 전환점 주변에 머물러 있으며 일부 데이터 부분에 집중되어 나타나고 있다. 그림 5에서 2016년과 2020년의 두 모델 결과에서 차이가 확연히 나타나고 있다. 두 구간 모두 전환점이 나타난, 즉 기후변화가 일어난 상황에서 기후 환경 자체가 바뀐 상태를 고려한다면 오히려 전통적 이상치 탐지 방법론이 2016년도에 예측한 이상치는 정상일 가능성도 있다. 반대로 기상청이 제시하는 이상치 기준에 따르면 2020년도 겨울에는 기후변화가 아닌데 맥락상 이상치로 분류되어야 하는 데이터가 나타났다. 데이터 분포가 계절에 따라 바뀌는 기후와 디지털 트윈은 기상청의 기준처럼 이상치를 분류하는 임계점을 고정하고 분류하기보다 동적으로 모델이 판단할수 있어야 한다. 실험결과와 같이 이상치로 탐지되는 경우가 있더라도 전체 분포를 볼 때 사실은 이상치가 아닌 정상의 값이 될 수 있다. 이는 포인트 이상치 탐지 알고리즘이 하나의 포인트만을 고려하여 이상치를 분류하기 때문에 이러한 현상이 나타나는 것이다. 따라서 맥락을 고려할 수 있는 컨텍스트 이상치 탐지 기법을 적용해야 한다.

Fig. 5.

(a) 2016 and (b) 2020 GRU and IQR anomaly detection classification results

4-2 다변량 시계열 데이터

오늘날 스마트 팩토리, 발전소, 웨어러블 기기 등의 다양한 디지털 트윈 환경에서 다변량 시계열 데이터가 생산되고 있으며 이러한 디지털 트윈의 수는 점차 증가하고 있는 추세이다. 실제 디지털 트윈은 복잡계로 구성되어있기 때문에, 다양한 원인으로 인하여 비정상 데이터가 다변량 시계열 데이터를 오염시켜 전체적인 데이터와 시스템의 품질을 저하시킬 수 있다. 이러한 상황에서는 데이터의 품질 관리 기법의 일종인 이상치 탐지를 디지털 트윈에 적용하기 위해 평균, 이동 평균, k-최근접 이웃, 그리고 슈하르트 차트와 같은 전통적인 통계 기법을 사용할 수 있다. 그러나 이러한 기법들은 시계열 데이터 간 상관관계를 고려하지 못한다는 한계점이 있다[25]. 대부분의 디지털 트윈에서 생산되는 다변량 시계열 데이터로부터 서로 다른 시계열의 관계를 적절히 반영할 수 있다면 이상치 탐지의 성능을 높일 수 있다. 그러나 여전히 디지털 트윈 환경에서의 다변량 시계열 특성을 고려하여 변수 간 연관성 또는 시간 의존성을 반영한 이상치 탐지 연구가 활발히 이루어지지 않고 있다.

실제로 시계열 데이터의 변수 개수에 따라 모델이 예측하는 결과에 어떤 차이가 나타나는지 비교하고자 그림 6과 같이 평균 기온을 예측하는 장단기 메모리에 전체 평균, 최저, 최고 기온과 같은 다변량을 입력했을 때와 평균 기온만을 입력한 경우를 비교하였다. 다변량 모델의 경우 과거의 모든 다변량 데이터를 입력받아 미래의 평균 기온을 예측하며 단변량 모델은 과거의 평균 기온을 입력받아 미래의 평균 기온을 예측한다. 만약 다변량이든 단변량이든 딥러닝 모델이 변수 간 상관 관계를 고려하지 못한다면 결과는 같아야 하지만, 실제로는 그림 6와 같이 결과가 상이한 것으로 나타났다. 정량적인 성능 비교를 하면 다변량 모델의 손실 함수는 0.492이며 단변량 모델은 0.0527로 다변량 모델의 성능이 뛰어났다. 정량적으로 판단해보았을 때, 2021년과 2020년의 결과를 살펴보면 다변량 모델이 눈에 띄게 실제로 이상치로 보이는 값을 이상치로 분류해냈으므로 종합적으로 판단해보았을 때 디지털 트윈 환경에서 생산되는 다변량 시계열 데이터를 위한 이상치 탐지에 있어서 변수의 종합적인 상관 관계를 다룰 수 있는 방법론이 필요하다고 볼 수 있다.

Fig. 6.

Differences in average temperature anomaly classification prediction results between GRU learned from multivariate data and GRU learned from univariate data

4-3 클래스 불균형 문제

대부분의 경우 비정상 데이터보다 정상 데이터의 분포가 더 많이 발생 되기 때문에 비정상 데이터를 탐지하기 위한 모델 학습시 탐지정확도가 높지 않을 수 있다. 비정상 값은 전체 관측값의 분포에서 벗어난 수치로 정의하기 때문에 학습에 사용할 수 있는 정보가 절대적으로 부족해진다. 특히 데이터를 바탕으로 학습하는 기계학습 및 딥러닝 분야에서는 클래스 불균형 문제가 중요한 이슈로 다뤄지고 있다. 기계학습에서 클래스 불균형이 문제가 되는 이유는 소수 클래스의 특징을 충분히 활용할 기회가 적게 주어지기 때문이며, 모델은 주어진 목적함수를 기준으로 손실을 최소화하는 간편한 방법으로 대다수 클래스로 치우치게 예측할 수 있다. 기존 클래스 불균형을 다루는 방법론으로는 오버샘플링과 언더 샘플링 기법이 있다. 기존 디지털 트윈 데이터에서 클래스 불균형 문제를 해결하기 위해 다양한 시도가 있었다. Bai 외(2020)의 연구에서는는 교통 디지털 트윈으로부터 오버샘플링의 일종인 스모트 기법을 통해 비정상 교통량을 증대시켰다[26]. 기존에 기상청은 이상 기온을 지난 30년간의 기온 분포로부터 표준편차의 두 배를 벗어난, 즉 전체 분포의 95%를 벗어나는 관측치를 이상 기온으로 정의하고 있다. 이러한 기준으로 라벨을 부여하고 이상치 탐지 분석을 수행한다면 기온 데이터 95%는 정상 수치, 나머지 5%는 이상치로 간주하고 모델을 학습시킨다. 이는 클래스 불균형 문제로 이어질 수 있으므로 샘플링 기법을 적용할 수 있어야 한다.