Journal Archive

최근 제조 공장에서 제품 생산 데이터를 모니터링하고 예측하기 위해 구축한 지능형 프로그램은 전통적인 제품 생산 관리 방법론으로부터 급격한 변화를 주었다. “스마트 팩토리”로 알려진 대부분의 신세대 공장이나 생산 기관에서 생산 자동화 시스템을 구축함으로써 클라우드와 같은 방대한 공장 데이터 수집 솔루션을 통해 이전보다 사람이 직접 처리해야하는 업무들이 감소되었다. 또한 데이터 시각화는 차트, 그래프와 같은 시각적 요소를 사용하여 데이터 시각화 도구로 데이터의 추세, 특정치 및 패턴을 사람이 보고 이해할 수 있는 접근성을 제공한다. 데이터 시각화는 사람의 눈에 데이터를 표시하는 가장 좋은 방법이면서 해당 데이터를 가장 잘 이해하기 위해 가장 적절한 방법이 될 수 있다. 또한 뉴럴 네트워크는 학습을 통한 정확도 향상과 실제 테스트를 통한 일반화로 최근 관련 연구 분야에서 주목을 받아왔다. 이를 통해 공장 빅 데이터를 분류할 경우 생산 결함과 빅 데이터베이스에 대한 분류 및 모니터링을 좀 더 쉽게 할 수 있게 된다. 이러한 프로세스는 지도학습의 일종으로서 경우에 따라 데이터 레이블이 요구되며 빅 데이터일 경우 엄청난 시간 관리 문제로 이어지게 된다. 또한 비지도학습의 가장 잘 학습된 예로서 클러스터링은 많은 알고리즘이 존재하지만 그 중 가장 많이 사용되는 알고리즘으로 K-Means Clustering이 있다. K-Means 알고리즘은 k개의 centroid를 식별한 다음 모든 데이터 포인트를 가장 가까운 클러스터에 할당하는 동시에 centroid는 최대한 작게 유지하는 과정을 의미한다. 주요 알고리즘은 데이터를 원하는 클러스터로 클러스터링하기 위해 다양한 N차원 포인트 벡터 또는 데이터 포인트를 처리할 수 있다. K-Means라는 용어는 군집 중심부까지의 평균 지점 거리 수를 가리킨다.

1950년대에는 IBM 연구소의 Nathanial Rochester는 신경망 시뮬레이션에 대한 실험을 처음으로 시도했다. 그러나 당시 알고리즘으로서는 현대 신경망으로서의 다층 퍼셉트론 시뮬레이션에 필수적으로 요구되는 학습과 정확도 달성을 이루기에는 한계가 있었다.

1989년이되서야 역전파 알고리즘은 신경망을 훈련시키고 활용하는데 사용되기 시작함으로써 그 후 다시 새로운 세대의 신경망과 머신러닝 기반 모델 개발을 위한 다양한 응용으로 발전하였다.

최근에는 다양한 분야에서 딥러닝 기반의 분류와 모델링을 위한 다양한 모델들이 빅 데이터 중심 학습을 통해 엄청난 관심과 높은 정확도를 얻고 있는 상황이다.

신경망 개발 및 K-Means 데이터 분류 및 처리에 대해 섹션3에 상세히 기술되어 있지만 공장 데이터를 DNN에 통합하는 연구는 진행된 적이 없기에 본 논문에서는 데이터 처리에 관한 주요 중점 연구가 이루어졌다. 공장 생산 데이터베이스에서 데이터를 시각적으로 표현하기 위하여 먼저 수집하고 데이터를 사전에 처리한 후 DNN과 K-Means 모두 결함 생산 데이터를 모니터링 및 예측하도록 학습시킨다. 이 모델의 주요 문제는 DNN과 K-Means가 학습시킬 수 있는 불균형 데이터 셋이다. 이 모델은 지능적 모니터링에서 편향 분류를 최소화하기 위한 적합한 예측과 클러스터를 얻기 위해 새로운 학습 및 리샘플링 방법을 도입하였다.

본 논문은 다음과 같이 정리되어 있다. 본 논문의 2장에서는 기존 관련 연구에 대해 기술하고 3장에서는 심층 학습 및 클러스터링 모델을 학습시키기 위한 데이터 셋과 데이터 사전 처리를 설명한다. 그런 다음 4장에서는 실험 및 결과를 설명하고 마지막으로 5장에서는 결론으로 본 논문을 마무리한다.

데이터 시각화는 공장 환경에서의 생산 데이터 모니터링과 관련하여 광범위하게 쓰이는 용어 중 하나이다. 그러나 현재까지 데이터 시각화의 표준에 대한 지침과 상세한 연구가 이루어지지 않고 있었다. 본 논문에서는 데이터 시각화를 위해 실험 및 결과로서 처리된 데이터는 몇 개의 표과 그래프의 형태로 표현하였다. K-Means는 클러스터링 문제를 해결하기 위해 활용되고 있는 가장 간단한 비지도학습 알고리즘 중 하나로 잘 알려져 있다. K-Means의 절차로는 원점에서 고정된 특정 수의 클러스터(k 클러스터로 가정)를 통해 주어진 데이터 셋에 대한 분류를 포함한다. 메인 아이디어는 각 cluster에 하나씩 k centroids를 정의하는 것인데 여기서 centroids는 각각의 위치가 다르기 때문에 정교하게 가능한 한 멀리 떨어져 배치되어야 한다. 다음으로 주어진 데이터 셋에 속하는 각 점들을 취하여 가장 가까운 중심에 연결한다. 이 때 결점이 존재하면 첫 번째 단계가 완료되고 조기 그룹핑은 여기서 완료된다. 이는 이전 단계에서 발생한 클러스터의 적절한 중심으로서 k개의 새로운 중심부를 재계산하는 과정이 된다. k개의 새로운 중심점을 얻은 다음 동일한 데이터 셋 포인트와 가장 가까운 새로운 중심점 사이에서 새로운 결합이 수행하기 위해 루프가 생성되는데 이 루프의 결과로 k centroids가 더 이상 변화가 없을 때까지 그들의 위치가 조금씩 변화해간다는 것을 알 수 있었다. 즉 중심부는 더 이상 이동하지 않으면서 해당 알고리즘은 이러한 경우 오차 제곱 함수인 목표 함수를 최소화하는 것을 목표로 둔다. 목표 함수에 대한 계산식은 다음과 같다.

여기서 xij-cj는 data point xij와 cluster center c_j (각 클러스터 센터에서 n개의 데이터 지점의 거리를 나타내는 지표) 사이에 선택된 거리 측정을 나타낸다.

이는 히든 레이어를 포함하는 MLP 또는 DNN을 적용한 주요 3개의 계층을 가지는 모델로서 도표화하여 표현될 수 있는데 그림 1에서 DNN의 단순화된 모델 아키텍처를 보여주고 있으며 중간에 표시된 히든 레이어는 여러 층으로 확장될 수 있다. 수학적으로, one-hidden-layer MLP는 공식 f : R^d→R^L로 표현하며 여기서, D는 입력 벡터 x의 크기, L은 출력 벡터 f(x)의 크기, 즉 매트릭스 표기 기법

Fig. 1. 
Deep learning Neural Network simplified Architecture

편향 벡터 b⁽¹⁾, b⁽²⁾가중치 매트릭스 W⁽¹⁾, W⁽²⁾와 활성화 함수 G와 s.

벡터 h(x) = ϕ(x) = s(b⁽¹⁾ + W⁽¹⁾x) 는 히든 레이어가 된다. W⁽¹⁾∈R^D×D_h 는 입력 벡터와 히든 레이어를 연결하는 가중치 행렬이다. 각각의 Column W⁽¹⁾은 입력 단위에서 i번째 단위까지의 가중치를 나타낸다. tanh 를 포함한 s 에 대한 일반적인 선택 사항으로 tanh(x) = (e^x - e^-x/(e^x+e^-x), 또는 로지스틱 시그모이드 함수인 σ(x) = 1/(1+e^-x) 는 DNN 활성화를 위한 연구는 최근 관련 분야에서 Relu(Rectified Linear Unit)가 비선형성을 위해 더욱 유용하게 사용되어 왔지만 특히 [4]에서는 Relu 함수를 주로 사용하여 구현한 내용임을 알 수 있었다.

반면에 신경망 기반 생산 모니터링과 지능적 예측에 대한 최근 연구로 Munir 등이 연구한 내용에 따르면 [5], 스마트 그리드를 통한 스마트 홈의 에너지 수요 대응을 관리하기 위해 RNN 기반 에너지 관리 수요 생산을 제안하였다. 또한 스마트 홈 사용자를 위해 RNN을 사용하여 지능형 에너지 예측기를 도입함으로써 기존의 문제를 해결하려는 시도가 있었다.

[6]에서 수행된 연구에서는 적시에 고장을 감지하여 전력 시스템을 보호하기 위해 전력 SCADA(감시 제어 및 데이터 수집) 시스템에서 디지털 보호 릴레이를 이용한 메서드를 개발하였고 이 논문에서 등장한 지능형 의사결정이 지원하는 디지털 제어는 해당 연구를 수행함에 있어 필수적인 요소임을 알 수 있었다. 응우옌 외 [7]에서 수행된 연구에서는 실제 공장에서 LSTM 기반 이상 징후 감지에 관하여 실험하였고 LSTM 기반 스트림의 데이터 이상 징후 감지에 초점을 둔 모델은 스마트 팩토리 모니터링 데이터를 기반으로 해당 제품이 불량 여부를 식별한다. 그러나 본 논문과의 차이점으로 현재 스마트 공장 상황에서 활용할 수 있는 실시간 예측과 시각화 기술에 관한 내용은 언급되어 있지 않았다.

IEC61400-25에 기초한 풍력발전소 SCADA 시스템의 데이터베이스 방법은 [8]에 설계되어 있었다. 그러나 본 논문과의 차이점으로 공장 데이터베이스와 전력 SCADA 시스템에는 데이터 시각화 및 지능형 설계 또는 딥러닝 기반 의사결정 지원 시스템에 대한 연구에 초점을 두지 않았다. 딥러닝 방식으로 IoT 기반의 홈 시스템 데이터 처리 및 모니터링은 최근 몇 년 사이 많은 발전이 이루어졌고 딥러닝을 통한 가정용 IoT 센서 데이터 처리에 관해서는 [9]에서 연구되었다. 그러나 본 논문과의 차이점으로 딥러닝을 이용한 스마트 IoT 홈 데이터 분석과 디바이스 제어 알고리즘에 초점을 두었다. [10]에서는 딥러닝 및 증강현실을 활용한 재해 대응능력 향상을 위한 네트워크 자원 확보, 딥러닝 및 데이터 통찰 기법을 통해 네트워크 자원 할당에 중점을 두었고 이와 동일한 종류의 대한 연구가 다른 곳에서도 계속해서 진행되어 왔음을 알 수 있었다[11-12]. 그러나 앞서 인용한 논문들에 나타난 연구들의 범위는 공장 데이터 모니터링에 집중되지 않았음을 알 수 있었다.

산업이나 농업 환경에 전반적으로 모니터링 기술이 점점 더 보편화되고 있는 가운데 [13]의 연구는 실시간 제품 데이터 모니터링을 위한 프레임워크 개발에 관한 연구에 초점을 두었다. 그러나 이 논문에서는 딥러닝 기반의 공장 데이터 모니터링에 관한 내용은 따로 언급되지 않았다. 클러스터 분석 및 자주 발생하는 패턴 마이닝에 기초한 풍력 터빈 고장 감지 접근법을 제안한 [12]에서는 공장 설정 및 심층 학습의 범위에서 빅 데이터 셋에 자주 사용되는 패턴 마이닝을 구현했다는 면에서는 [9]에서도 관련된 내용들이 있었다. 또한 스마트 팩토리와 스마트 시티에서 데이터 최적화와 관련된 연구는 [14], [15]에서 수행되었다. 그러나 본 논문과의 차이점으로 스마트 공장 빅 데이터 처리와 불균형 데이터 셋 학습에 대해서는 앞서 인용한 논문들에서 따로 언급되지 않았음을 알 수 있었다.

본 논문에서 제안된 스마트 팩토리 제품 데이터 시각화 및 지능형 모니터링 시스템은 몇 가지 사항들이 필수적으로 요구된다. 특히 공장 데이터 수집 및 처리 과정에서 이전에 시도되지 않았던 새로운 시각화 및 기계 학습 기반 데이터 사전 처리는 딥러닝 K-Means 클러스터링을 통해 구현하였다. 제안된 시스템은 모바일 엣지 컴퓨팅(MEC) 기술을 적용함으로써 클라우드 기반에서 연산량을 줄이거나 균형을 맞추는 효과가 있었다. 본 논문에서 제안된 모델은 프레임워크 아키텍처, 공장 데이터 수집 및 처리 단계와 시각화 및 기계 학습 기반 지능형 예측 모델, DNN K-means Clustering의 구성에 대하여 전체적으로 상세히 설명하였다.

3-1 프레임워크 아키텍처 개요

공장 데이터 시각화 솔루션을 위해 개발 중인 아키텍처의 전체 프레임워크는 그림 2에서 표시된 블록 다이어그램 순서도로 나타낼 수 있다. 본 공정은 먼저 생산된 데이터 및 품질 확인 값의 모든 데이터를 해당 공장 환경에 맞게 수집하여 누락된 값과 타임스탬프 생성 모듈을 확인하기 위해 데이터를 전송한다. 더 자세히 말하면 프로세스를 확인하고, 계속해서 입력되는 데이터 학습 프로세스에서 누락된 값을 모니터링하고 채운 다음, 데이터를 데이터 시각화 알고리즘과 정규화 데이터 모듈로 전송하여 수집된 데이터를 안전하게 보관하기 위해 데이터 저장과 기계 학습 모듈로 학습시켰다. 나중에 데이터는 DNN 학습 모델, K-means 모듈 모두에 전송된다. 그런 다음 기계 학습 기반 데이터 시각 모듈에서 처리된 데이터는 별도로 분리된 모듈과 같은 구성 요소 섹션과 예측 분석 모듈에 표시된다.

Fig. 2. 
Proposed architecture Overview

3-2 데이터 수집 및 처리

이 과정에서 수집된 데이터는 메인 모듈에서 두 가지의 주요 처리를 한다. 처리 데이터는 어떤 형태로든 수집되어야 하고 수집 과정에서 서버 컴퓨터와 모듈이 누락된 null 값과 누락된 데이터를 확인하여 결함 데이터를 제거하고 결함 데이터의 회수를 다시 요청함으로써 데이터에 맞는 구성을 보장한다. 그림 3과 같이 공장의 주요 데이터는 데이터베이스와 데이터 삭제 및 점검 모듈로 재수집된다.

Fig. 3. 
Factory Data Collection

Python 기반 SQL(Structured Query Language) 모듈은 기계 학습 및 시각 모듈에 필요한 SQL 데이터를 사용한다. 그 후 모든 데이터는 일시적으로 수집 데이터베이스에 저장되고 기계 학습 모듈과 데이터 시각화 모듈에 필요한 모든 데이터는 리필과 패딩 프로세9스 알고리즘으로 처리된다.

그림 4와 같이 행과 열별로 결측값의 모든 데이터를 검사하고 빈 셀에 유의하지 않은 값을 설정하기 위한 모듈의 처리과정으로 기계학습 모듈과 데이터 시각화 모듈은 정확한 값을 학습시키기 위해 필수적으로 요구된다.

Fig. 4. 
Data cleaning and padding process

본 논문에서는 클라우드 기반 MEC 기술을 적용한 실시간 공장 생산 데이터 시각화 서비스 및 딥러닝 기반 자원 모니터링 시스템을 제안하였다. 제안된 클라우드 기반 실시간 프로세스 관리는 이러한 공장 환경에서 매우 유용한 시스템임을 알 수 있었다. 클라우드 기반 플랫폼으로 이루어진 데이터 처리 및 시각화는 기존의 데이터 모니터링 방식과 비교했을 때 그 방식이 새롭고 향상된 성능을 가진 방안임을 실험 및 결과로 증명하였다. 제안된 새로운 모델은 시각화 프로세스와 데이터 수집, 삭제 및 처리를 과정을 위해 신경망을 학습시켰고 불량품 생산 예측에 대한 98%의 정확도를 도출하였다. 또한 두 군집에 대해서는 87%의 정확도를 나타내었다. 시각화 알고리즘은 실시간 데이터 생산 및 모니터링 관점에서 해당 프로세스를 위해 설계된 머신러닝 알고리즘으로 데이터 분류 또는 지능형 제품 데이터 모니터링을 정확하게 예측했다. 지능형 모니터링을 위하여 DNN 모델, K-means 클러스터링 모듈을 적용함으로써 현재 데이터에 대한 기술적 정확도의 상태를 알 수 있었으며 클라우드 기반의 시각화된 플랫폼으로 구현한 본 프레임워크는 MEC의 최대 유틸리티를 얻을 수 있도록 설계되었다. 향후에는 IoT 기반 스마트 시장과 공장의 증가로 인해 리소스 예측 및 모니터링을 위한 클라우드 기반의 MEC 서버에 관한 연구가 활발해지고 그 수요 또한 높아질 것으로 전망한다.