초단시간 강우예측을 위한 U-Net 기반 재귀적 예측 모델

Ⅰ. 서 론

이상기후로 인해 돌발적으로 국지적인 호우 발생의 빈도가 증가하고 있다[1]. 3시간 이내의 짧은 예측 선행시간에서 수치예보모델보다 높은 정확도를 갖는 초단시간 강우예측자료가 홍수의 조기경보를 위해 유용하게 사용되고 있다. 일반적으로 초단시간 강우예측 정보는 레이더를 활용하여 외삽 및 이동벡터 기반의 예측기법으로 산정해왔으나, 최근에는 장기간 레이더 관측자료의 확보와 충분한 연산자원 구축으로 인해 레이더 자료를 활용한 인공지능 심층학습 기반(RNN(Recurrent Neural Network), CNN(Convolutional Neural Network), Conv-LSTM(Long Short-Term Memory) 등)의 강우예측이 국외에서 확대되고 있고, 국내에서도 ConvLSTM 등을 활용한 연구들이 진행되었다[2]-[8]. 기존 연구들에서 언급된 바 있듯이 CNN 심층신경망 기반의 초단기 예측 모델의 경우 대체적으로 외삽기반의 예측성능보다 우수한 경향이 있었으나, 예측시간이 길어질수록 공간 평활화되는 경향이 크게 나타나므로 고강도의 뚜렷한 강수 특징을 예측하기 힘들어 예측정확도를 향상시키는데 중요한 소규모 기상현상을 왜곡하게 된다[3],[6],[8],[9]. 특히, CNN 기반 예측 모델은 사전학습된 신경망을 이용하여 선행시간을 확장할 때 추론과정에서 예측결과를 다시 모델의 입력으로 반복 활용하는 재귀적 방법을 적용하기 때문에 평활화 효과가 누적되게 된다. 이러한 특성은 강한 강도의 강우 예측의 정확도를 저하시키는 요인이 된다. 최근에는 딥러닝 모델의 예측시간 확장을 위해 재귀적 전략을 도입한 바 있다[9]. 본 연구에서는 기존 U-Net 기반 강우예측 알고리즘과 재귀적 전략을 결합하여 선행 예측 1시간까지 예측할 수 있는 모델을 개발하였으며, 기존 딥러닝 예측 모델과 예측 정확도를 비교하고자 하였다.

본 논문의 Ⅱ장에서는 기존 U-net 기반 강우예측 모델인 RainNet과 제안한 재귀적 예측모델을 설명하며, Ⅲ장에서는환경부에서 운영하는 S-band 강우레이더 합성자료를 이용하여 학습을 수행한 결과를 설명한다. Ⅳ장에서는 각 사전학습된 예측모델을 강우사례에 적용하고 평가한 결과를 보여준다. Ⅴ장에서는 결론 및 향후 계획을 정리하였다.

Ⅱ. 방법론

2-1 RainNet

본 연구에서는 기존 U-Net 구조를 갖는 합성곱 심층신경망을 이용한 예측모델인 RainNet을 비교 모델로 사용하였다[8]. RainNet은 기상청 레이더자료를 이용하여 국내 적용되어 예측 적용성이 평가된 바 있다[6].

Fig. 1.

RainNet architecture [8]

RainNet에 사용된 신경망 구조는 branch간의 스킵-연결(skip connection)을 포함한 인코더(encoder)-디코더(decoder) 구조를 갖는 U-Net 및 SegNet을 기반으로 한다[11]-[12].

RainNet은 인코더가 풀링을 사용하여 공간 해상도를 점진적으로 축소시킨 후 컨볼루션 레이어가 뒤따르는 인코더-디코더 아키텍처를 갖는다. 디코더는 업 샘플링을 사용하여 학습된 영상의 패턴을 높은 공간 해상도로 점진적으로 업 스케일링 한 후 컨볼루션 레이어를 사용한다. 레이어 간의 특징들 사이의 의미적 연결을 보장하기 위해 그래디언트 소실문제를 피하기 위해 제안된 인코더에서 디코더로의 스킵 연결을 포함하고 있다[14].

기존 국내 RainNet의 연구를 참조하여 최대 512의 합성곱 필터를 사용하였고, 1×1 및 3×3의 커널 크기, 합성곱층에는 ReLU (Rectified Linear unit) 활성화 함수를 사용하였다[6],[15].

RainNet 모델은 예측 모의 시점(T)를 기준으로 10분 간격으로 과거 30분 전까지 관측된 레이더 격자 강우자료(Observation T-3, T-2, T-1, T) 4개를 입력으로 받아 다음 10분 후의 예측(Predict T+1)을 수행하고, 관측된 레이더 격자 강우자료(Observation T+1)과 비교하여 오차가 최소가 되도록 학습을 수행한다. 따라서 사전학습된 모델은 10분 예측에 최적화 된 것이다.

2-2 Recursive RainNet

본 연구에서는 기존의 10분 예측으로 사전학습된 모델을 이용하여 재귀적으로 반복 예측하는 과정에서 발생하는 오차 누적 및 평활화 효과를 완화시킬 수 있도록 U-Net 네트워크를 그림 2와 같이 재귀적 예측 전략으로 구성하였다. 본 논문에서는 제안한 모델은 Recursive RainNet으로 지칭한다. 예측의 구체적인 과정은 다음과 같다. 우선 예측 모의 시점(T)를 기준으로 과거 30분 전까지 관측된 10분 간격의 레이더 격자 강우자료(Observation T-3, T-2, T-1, T) 4개를 입력으로 사용한다. 입력자료를 2-1절에서 서술한 RainNet 모델 구조에 적용하여 10분 예측 레이더 강우자료(Output1)를 생성한다. 다음 예측 시점을 다음 10분 후로 변경하여 생성된 Output1을 관측 강우자료(Observation T-2, T-1, T)와 합쳐서(concatenate) 다음 예측을 위한 입력으로 사용한다. 이 러한 과정을 반복하여 선행 10분에서 부터 60분까지의 예측 강우를 얻을 수 있다. 마지막으로 각 시간별 예측결과(Output1, Ouput2, ... , Output6)를 연결하여 관측된 레이더 격자강우(Observation T+1~T+6)와의 오차를 계산하여, 오차가 최소가 되도록 학습을 수행하도록 한다. 따라서 사전학습된 모델은 10분부터 60분 예측 모두에 대해 최적화된 결과가 된다.

Fig. 2.

Recursive RainNet architecture

Ⅲ. 적용

3-1 자료 구축

본 연구에서는 그림 3과 같이 환경부에서 운영하고 있는 대형 S-band 강우레이더로 관측된 2차원 격자 강우자료를 이용하여 딥러닝 기반의 강우예측 모델을 학습하고, 평가하였다. 환경부에서는 관측 반경 125km 이내에서 지표에 근접하게 내리는 비의 양을 집중 관측하여 홍수예보에 활용하기 위해 비슬산(BSL), 소백산(SBS), 모후산(MHS), 서대산(SDS), 가리산(GRS), 예봉산(YBS), 감악산(GAS) 레이더를 운영 중에 있다. 본 연구에서는 2022년 6월 부터 운영을 시작한 감악산 레이더를 제외한 6개의 레이더 자료를 이용하여 전국 합성한 격자 레이더 강우자료(quantitative precipitation estimates)를 이용하였으며, 격자 범위는 그림 3의 파란색 사각형 영역이다. 자료 기간은 2018년부터 2021년 중 강우가 발생한 호우사례 274일을 선정하였다. 또한, 무강우 학습을 수행하지 않기 위해 매 10분단위로 강우면적을 계산하여 0mm 초과하는 강우면적이 1% 이상인 학습용 강우레이더 자료 구축 시점 21,495개를 선정하였다. 자료의 시간 해상도는 10분 간격이며, 공간 해상도는 1 km로 격자 배열은 525×625이다. 강우자료의 단위는 mm/hr이다.

Fig. 3.

S-band Rain radar

구축된 자료 중 모델의 학습에 사용된 데이터셋은 17,200개이고, 검정에 사용된 데이터셋은 2,149개 이다. 나머지는 2,147개 데이터셋은 평가를 위해 제외하였다. 레이더 자료들은 데이터 파일은 다차원 배열 라이브러리(NumPy) 데이터 구조로 저장하였다.

3-2 모델 학습

본 연구에서는 기존 RainNet과 제시한 Recursive RainNet 신경망의 최적화를 수행하였다. 최적화를 위해 손실함수(loss function)는 다음 식 (1)과 같이 평균절대오차(MAE, Mean Absolute Error)를 사용하였다.

$\[ MAE=\frac{\sum _{i=1}^n\left|{now}_i-{obs}_i\right|}{n} \]$

(1)

여기서, now_i와 obs_i는 i 위치에 예측 및 관측강우강도(mm/hr)이며, n은 레이더 격자 수이다.

학습 및 검정에 대한 측정함수(metric)로는 임계성공지수(Critical Success Index, CSI)와 0.1 mm/hr 이상의 값에 대한 절대평균오차를 사용하였다[5]. 임계성공지수는 표 1과 같이 강수분할표(rain contingency table)에 기초하여 식 (2)로 산출되는 지수로, 정확히 예측했던 사건수를 예측 시 사건 발생과 관련된 총 수를 합하여 나눈 것이다.

$\[ CSI=\frac{H}{H+M+F} \]$

(2)

Table 1.

Rain contingency table(Choi et al, 2005)

손실함수를 최소화하면서 딥러닝 모델의 매개변수를 갱신하기 위해 Nadam(Nesterov-accelerated Adaptive Moment Estimation)를 사용하였으며, Nadam optimizer의 학습률은 0.0001, beta_1=0.9, beta_2=0.999를 사용하였다[16].

본 연구의 딥러닝 기반 강우 예측모델은 케라스(Keras) 프레임워크를 사용하였으며, 듀얼 GPU(NVIDIA RTX A6000)에서 학습을 수행하였다. 각 예측모델(RainNet, Recursive RainNet)의 학습 결과는 그림 4와 표 2에 제시하였다.

Fig. 4.

Model training result of each epoch (Left:RainNet, Right: Recursive RainNet)

Table 2.

Results of the deep learning model training

RainNet 모델 학습은 epoch 200 및 배치크기 32로 수행되었으며, 26 epoch에서 손실함수와 측정함수가 최소화되었다. Recursive RainNet 모델 학습은 epoch 200 및 배치크기 8로 수행되었으며, 133 epoch에서 최소화되었다.

학습결과를 보면 RainNet의 경우 10분 예측만을 목표로 하기 때문에 MAE나 CSI가 10분~60분 예측을 목표로 하는 Recursive RainNet 보다 높은 정확도로 학습이 되었다.

Ⅳ. 강수사례에 대한 예측성능 평가

4-1 강수사례

본 연구에서는 학습된 예측모델의 예측성능을 평가하고자 학습에 사용되지 않은 6개의 강수 사례를 선정하여 예측을 수행하였다. 선정된 강수사례의 특성은 다음 표 3에 정리하였다. 각 강수사례별로 강우 지속시간이 다르며, 전선형 강우, 장마전선, 고립형 뇌우와 같이 여름철에 발생하는 강수현상을 대부분 포함하고 있다. 예측모델의 성능 평가를 위해서는 표 3에 정리된 강수 사례별 기간동안 매 10분 간격으로 예측강수를 생산하도록 하였다.

Table 3.

Characteristics of the evaluated events

4-2 적용 결과

선정된 강수사례에 대해 강우예측을 위해 사전학습된 심층신경망 RainNet과 Recursive RainNet을 이용하여 강우예측을 수행하는 방식은 다음과 같다.

새로운 데이터에 대한 RainNet의 강우예측은 학습을 통해 최적화된 모델 구조와 가중치를 불러와서 모델 객체의 predict 메서드를 이용하여 수행하였다. 학습된 RainNet 모델은 10분 선행 예측강우에 대해 학습된 것이므로 기존 연구들과 동일하게 10분 이상의 강우 예측은 재귀적으로 사용하도록 예측모델을 구성하였다. 예를 들면 T-30분, T-20분, T-10분, T에 대한 관측값을 입력으로 이용하여 T+10분에 대한 강우량을 예측한 후, 다음 예측시점에서 T-20분, T-10분, T에 대한 관측 값과 T+10분에 대한 예측값을 사용하여 t+20분 후의 강우량을 예측하게 된다. 이러한 반복적인 예측강우 산정 방식은 선행예측이 60분이 될 때까지 반복된다. Recursive RainNet은 선행 10분부터 선행 60분까지를 대상으로 학습된 것이므로, 예측하고자 하는 시점 T-30분, T-20분, T-10분, T에 대한 데이터를 입력으로 이용하면 선행 10분에서 선행 60분까지 6개의 예측강우가 생성된다.

다음 그림 5와 그림 6은 각 예측모델을 이용한 생산된 예측강우들을 동일한 시점의 레이더 관측강우(QPE)를 함께 도시한 것이다. 그림 5는 2021년 8월 21일 10시 00분에 선행 10분에서 60분까지 예측된 결과이다. 해당 강우사례는 여름철 장마전선으로 전국적으로 강우가 발생하였다. 시간에 따른 관측강우의 변화를 보면 중부지방을 중심으로 강한 강우강도를 갖는 강우영역이 계속 유지되고 있는 것을 확인할 수 있다. 예측강우 산정 결과를 보면 선행 10분 예측에서는 관측강우와 RainNet, Recursive RainNet의 예측강우의 공간적 분포 차이가 크게 나타나지 않았다. 그러나 예측시간이 길어질수록 RainNet의 예측강우는 공간적으로 평활화 되는 경향이 뚜렷해지면서 관측강우에서 나타나는 중부 지역의 강한 강우의 지속성을 제대로 예측하지 못하고 약화되는 양상으로 예측하였다. 본 연구에서 제안한 Recursive RainNet의 경우 평활화 경향으로 강우의 공간적 분포를 상세하게 표현하지 못하기 때문에 위치적인 차이는 다소 있지만 강한 강우강도를 갖는 영역을 비교적 정확하게 표현하였다. 특히, RainNet이 강우 강도가 약해지는 것으로 예측하였지만, 제안한 기법은 강한 강우가 지속적으로 유지되고 있는 것을 예측하였다.

Fig. 5.

Forecasted radar rainfall distributions for lead time from 10 to 60 minutes (predicted at 10:00 21 August 2021)

Fig. 6.

Forecasted radar rainfall distributions for lead time from 10 to 60 minutes (predicted at 03:30 29 August 2021)

그림 6은 2021년 8월 29일 3시 30분에 예측된 결과이다. 해당 강우사례는 중부지방에 전선으로 인해 집중적인 호우가 발생한 사례이다. 관측강우의 공간 분포를 보면 시간이 지나갈수록 강우가 강하게 발달하면서 강우발생 범위가 넓어지고 있다. 이에 비해 RainNet의 경우 강우강도가 약해지면서 강우발생 범위가 축소되는 것으로 강우를 예측하였다.

Recursive RainNet은 강우강도가 강하게 발달하는 경향을 예측하였으며, 강우발생 범위 또한 RainNet에 비해 넓게 강우전선이 유지되는 것을 예측하였다.

도식적인 관점에서 보면 기존 연구에서 지적한 고강도의 뚜렷한 강수 특징을 예측하지 못하는 RainNet의 평활한 경향을 본 연구에서 제시한 기법으로 보완이 가능한 것으로 확인하였다. 특히, 강우강도 강화 경향을 기존 기법에 비해 잘 예측한 것으로 보여진다.

예측된 강우의 정량적 평가를 위해 학습 시 측정함수로 사용한 CSI와 MAE를 이용하였다. 본 연구에서는 CSI, MAE를 계산하기 위해 0.1 mm/hr의 임계 강우강도를 적용하였다. 그림 7은 6개 강우사례에 대한 CSI와 MAE를 그래프로 도시한 것이다. CSI와 MAE 모두 적용된 강우사례별로 차이가 있었다. 선행 10분에서는 RainNet와 Recursive RainNet의 CSI는 0.1 정도의 차이 밖에 없었으나, 선행시간이 길어질수록 본 연구에서 제시한 기법이 상대적으로 높은 CSI를 유지하였다. MAE 역시 두 기법 간의 차이가 크지 않았으나, 선행시간이 길어질수록 제시한 기법의 오차가 상대적으로 작은 것을 확인하였다.

Fig. 7.

Forecasted radar rainfall accuracy of lead time for rain events (Left: Critical Success Index, Right: Mean Absolute Error)

표 4는 강수사례별 강우예측 평가결과를 평균적으로 제시한 것이다. 제안된 기법인 Recursive RainNet의 CSI가 0.62~0.93, MAE가 0.17~0.82로 기존 기법인 RainNet의 CSI가 0.51~0.87, MAE가 0.20~1.11 인 것에 비교했을 때 모든 강우 사례에서 좋은 예측성능을 보여 주었다. 평균적으로 CSI는 6~21% 정도 높아 졌으며, MAE는 15~26%정도 감소하였다.

Table 4.

Evaluation results of forecasted radar rainfall for each rain events

Ⅴ. 결론 및 향후 연구

본 논문에서는 기존 U-Net 기반 강우예측을 수행할 때 단점으로 지적된 평활화 경향으로 인한 강한 강도를 갖는 강우 예측의 부정확성을 보완하고자 재귀적인 예측전략을 결합한 Recursive RainNet을 제안하였다. 제안한 기법을 평가하기 위해 환경부에서 운영하는 S-band 강우레이더의 관측강우자료를 구축하고, 학습을 수행하였다. 학습을 통해 최적화된 예측모델을 2021년 8월 주요 강수 사례를 대상으로 적용하여 선행 10분에서 60분까지의 예측강우 생산하였다. 또한, 기존 기법인 RainNet과의 비교를 위해 동일한 자료로 학습을 수행하고, 예측강우를 생산하였다. 두 기법을 통해 생산된 예측강우를 비교한 결과, 모든 강우사례에 대해서 본 연구에서 제시한 예측 기법이 강하게 발달하는 강우특성을 잘 예측하였으며, 정량적인 정확도 역시 선행 시간이 길어지더라도 RainNet에 비해 높게 유지되는 결과를 보여주었다. 이를 통해 제시된 기법을 통한 예측성능 개선을 확인하였다. 다만, 여전히 합성곱 신경망을 기반으로 하기 때문에 강우의 공간평활 경향이 존재하고, 강우의 생성, 발달을 모의하는데 한계가 있어서 강우 발생 범위 예측이 부정확하다.

따라서 향후 연구에서는 최근 합성곱 신경망 기반 예측의 한계를 보완하기 위해 적용하고 있는 적대적 생성 신경망을 기반으로 하는 확률론적 레이더 초단시간 강우예측 기법을 통해 초단기 강우예측 성능 개선을 수행할 계획이다[17].

Acknowledgments

본 연구는 과학기술정보통신부 한국건설기술연구원 연구운영비지원(주요사업)사업으로 수행되었습니다(과제번호 20220157-001, (22주요-대1-목적)기후위기 대응 물문제 해결형 이슈 발굴 및 미래선도 기술 개발).

References

• M. O. Kim, J. W. Lee, K. H. Cho, and S. H. Kim, “Korean Climate Change Assessment Report 2020 -The Physical Science Basis-,” Korea Meteorological Administration, 40p, 2021.
• X. Shi, Z. Chen, H. Wang, D. Yeung, W. Wong, and W. Woo, “Convolutional LSTM network: A machine learning approach for precipitation nowcasting,” Advances in Neural Information Processing Systems, 28, December 2015. [https://doi.org/10.48550/arXiv.1506.04214]
• X. Shi, Z. Gao, L. Lausen, H. Wang, D. Yeung, W. Wong, and W. Woo, “Deep learning for precipitation nowcasting: a benchmark and a new model,” in Proceeding of the 31st Conference on Neural Information Processing Systems (NIPS 2017), Long Beach, California:CA, October 2017. [https://doi.org/10.48550/arXiv.1706.03458]
• M. Reichstein, G. Camps-Valls, B. Stevens, M. Jung, J. Denzler, N. Carvalhais, and Prabhat, “Deep learning and process understanding for data-driven Earth system science,” Nature, Vol. 566, pp.195-204, February 2019, [https://doi.org/10.1038/s41586-019-0912-1]
• Q. K. Tran and S. K. Song, “Computer Vision in Precipitation Nowcasting: Applying Image Quality Assessment Metrics for Training Deep Neural Networks,” Atmosphere, Vol. 10, No. 5, 244, May 2019. [https://doi.org/10.3390/atmos10050244]
• S. S. Yoon, H. S. Park and H. J. Shin, “Very short-term rainfall prediction based on radar image learning using deep neural network,” Journal of Korea Water Resources Association, Vol. 53, No. 12, pp. 1159-1172, December 2020. [https://doi.org/10.3741/JKWRA.2020.53.12.1159]
• H. J. Shin, S. S. Yoon, and J. M. Choi, “Radar rainfall prediction based on deep learning considering temporal consistency” Journal of Korea Water Resources Association, Vol. 54, No. 5, pp. 301-309, May 2021. [https://doi.org/10.3741/JKWRA.2021.54.5.301]
• G. Ayzel, T. Scheffer, and M. Heistermann, “RainNet v1.0: a convolutional neural network for radar-based precipitation nowcasting,” Geoscientific Model Development, Vol. 13, No. 6, pp. 2631-2644, June 2020. [https://doi.org/10.5194/gmd-13-2631-2020]
• H. Xu and D. Ge, “A novel image edge smoothing method based on convolutional neural network,” in Proceeding of the International Journal of Advanced Robotic Systems, Vol. 17, No. 3, pp.1–11, May 2020. [https://doi.org/10.1177/1729881420921676]
• W. Wang, W. Mao, X. Tong, and G. Xu, "A Novel Recursive Model Based on a Convolutional Long Short-Term Memory Neural Network for Air Pollution Prediction," Remote Sensing, Vol. 13, No. 7, 1284, March 2021. [https://doi.org/10.3390/rs13071284]
• V. Badrinarayanan, A. Kendall, and R. Cipolla, “SegNet: A Deep Convolutional Encoder-Decoder Architecture for Image Segmentation,” IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 39, No. 12, pp. 2481-2495, 2017. [https://doi.org/10.1109/TPAMI.2016.2644615]
• O. Ronneberger, P. Fischer, and T. Brox, “U-Net : Convolutional Networks for Biomedical Image Segmentation,” International Conference on Medical Image Computing and Computer-Assisted Intervention Vol. 9351, pp. 234-241, November 2015. https://link.springer.com/chapter/10.1007/978-3-319-24574-4_28 [https://doi.org/10.1007/978-3-319-24574-4_28]
• V. Iglovikov and A. Shvets, “TernausNet: U-Net with VGG11 Encoder Pre-Trained on ImageNet for Image Segmentation,” arXiv:1801.05746, January 2018. [https://doi.org/10.48550/arXiv.1801.05746]
• R. K. Srivastava, K. Greff, and J. Schmidhuber, “Training Very Deep Networks,” In Proceedings of the 28th International Conference on Neural Information Processing Systems, Vol. 2, pp. 2377-2385, December 2015. https://proceedings.neurips.cc/paper/2015/file/215a71a12769b056c3c32e7299f1c5ed-Paper.pdf
• V. Nair and G. E. Hinton, “Rectified Linear Units Improve Restricted Boltzmann Machines,” in Proceedings of the 27th International Conference on International Conference on Machine Learning, Haifa, Israel, pp. 807-814, June 2010. https://dl.acm.org/doi/10.5555/3104322.3104425#d3521064e1
• H. Zhao, J. An, M. Yu, D. Lv, K. Kuang, and T. Zhang, “Nesterov-accelerated adaptive momentum estimation-based wavefront distortion correction algorithm,” Applied Optics, Vol. 60, No. 24, pp. 7177-7185, August 2021. [https://doi.org/10.1364/AO.428465]
• S. Ravuri, K. Lenc, M. Willson, D. Kangin, R. Lam, P. Mirowski, M. Fitzsimons, M. Athanassiadou, S. Kashem, S. Madge, R. Prudden, A. Mandhane, A. Clark, A. Brock, K. Simonyan, R. Hadsell, N. Robinson, E. Clancy, A. Arribas, and S. Mohamed, “Skillful Precipitation Nowcasting using Deep Generative Models of Radar,” Nature, Vol. 597, pp. 672-677, September 2021. [https://doi.org/10.1038/s41586-021-03854-z]