An RNN-based Fault Detection Scheme for Digital Sensor

RNN 기반 디지털 센서의 Rising time과 Falling time 고장 검출 기법

Abstract

As the fourth industrial revolution is emerging, many companies are increasingly interested in smart factories and the importance of sensors is being emphasized. In the case that sensors for collecting sensing data fail, the plant could not be optimized and further it could not be operated properly, which may incur a financial loss. For this purpose, it is necessary to diagnose the status of sensors to prevent sensor' fault. In the paper, we propose a scheme to diagnose digital-sensor' fault by analyzing the rising time and falling time of digital sensors through the LSTM(Long Short Term Memory) of Deep Learning RNN algorithm. Experimental results of the proposed scheme are compared with those of rule-based fault diagnosis algorithm in terms of AUC(Area Under the Curve) of accuracy and ROC(Receiver Operating Characteristic) curve. Experimental results show that the proposed system has better and more stable performance than the rule-based fault diagnosis algorithm.

4차 산업 혁명이 진행되며 많은 회사들의 스마트 팩토리에 대한 관심이 커지고 있으며 센서의 중요성 또한 대두되고 있다. 정보를 수집하기 위한 센서에서 고장이 발생하면 공장을 최적화하여 운영할 수 없기 때문에 이에 따른 손해가 발생할 수 있다. 이를 위해 센서의 상태를 진단하여 센서의 고장을 진단하는 일이 필요하다. 본 논문에서는 디지털 센서의 고장유형 중 Rising time과 Falling time 고장을 딥러닝 알고리즘 RNN의 LSTM을 통해 신호를 분석하여 고장을 진단하는 모델을 제안한다. 제안한 방식의 실험 결과를 정확도와 ROC 곡선 그래프의 AUC(Area under the curve)를 이용하여 Rule 기반 고장진단 알고리즘과 비교하였다. 실험 결과, 제안한 시스템은 Rule 기반 고장진단 알고리즘 보다 향상되고 안정된 성능을 보였다.

Ⅰ. 서론

최근 4차 산업혁명이 진행되면서 많은 제조업 업체들은 생산성을 증대하면서 인건비를 절감시킬 수 있는 스마트 팩토리 도입에 많은 관심과 노력을 기울이고 있다^[1-3]. 스마트 팩토리는 단순 자동화를 넘어서 완전 자율화된 공장을 추구하여 자율 생산 시스템을 갖춘 공장이다. 스마트 팩토리는 사물인터넷을 통해 자동화된 공정에 사용되는 다양한 센서로부터 획득한 데이터를 클라우드에 저장한다. 클라우드는 이 데이터를 분석하여 공정을 더욱 최적화시키는데 활용한다. 그러나 스마트 팩토리의 오감이라 할 수 있는 센서는 고장으로부터 자유롭지 못하며 이로 인하여 생산 공정의 강건한 운영이 어려운 실정이다. 따라서 스마트 팩토리의 자동화 생산 공정 시스템의 안정성과 신뢰성을 확보하기 위해서는 획득한 센서 데이터를 저장하는 온라인 스토리지인 클라우드에서 센서 고장 진단은 필수적이라 할 수 있다. 이를 통해 고장에 즉시 대응 및 고장 수리 계획을 세움으로써 고장으로 인한 생산성 저하로 생기는 공장의 피해를 최소화 시킬 수 있다.

공장에서 주요하게 사용되는 센서의 종류로는 온도센서, 근접센서, 전류센서 등이 있으며 출력의 방식에 따라 아날로그 타입과 디지털 타입으로 구분할 수 있다. 센서의 고장은 공급 전원의 불안정, 센서의 노후화 등 많은 요인이 있기 때문에 센서의 종류 및 환경에 따라 다양하게 나타날 수 있다^[4-8]. 참고문헌^[4]에서는 아날로그 Gas 센서를 사용해서 Bias, Impact, Cyclic, Drift, Stuck, Erratic와 같은 고장 유형을 다루었고, 참고문헌^[5]에서는 Bias, Drifting, Precision Degradation, Gain, Complete Failure, Noise, Constant with noise의 고장 유형을 다루었다. 아날로그 센서의 대표적인 고장 유형은 Erratic, Drift, Hard-over, Spike, Stuck 등이며 디지털 센서의 고장 유형은 Rising time fault, Falling time fault, Chattering 등이다. 본 연구에서는 디지털 센서의 고장 유형 중 Rising time fault와 Falling time fault 고장을 생산 공정에서 가장 흔하게 쓰이는 센서 중 하나인 디지털 근접 센서로부터 산출되는 데이터를 기반으로 디지털 센서의 고장 검출을 수행하였다.

본 논문에서는 고장 검출의 정확도를 높이기 위하여 4차 산업혁명의 주요 기술 중 하나인 인공지능 분야의 딥 러닝 알고리즘 중 RNN(Recurrent Neural Network)을 이용하여 Rising time fault와 Falling time fault를 검출한다. RNN은 은닉 노드와 은닉 노드사이에 순환 루프가 형성된 특징을 가지며 이전 데이터의 결과가 현재 데이터에 영향을 미치는 구조이기 때문에 순차 데이터를 효과적으로 처리할 수 있는 학습 모델이다^[9-14]. 본 논문에서 고려하는 성능지표는 RNN 기반 디지털 센서 고장진단 모델이 고장을 얼마나 잘 판별하는지에 대해 Score를 계산하여 그 평균을 취한 결과인 정확도와 ROC(Receiver Operating Characteristic) 곡선 그래프의 AUC(Area under the curve)이다.

본 논문의 구성은 다음과 같다. Ⅱ장에서는 디지털 센서의 고장 신호에 대해 설명하고 근접 센서로부터 출력 데이터를 획득하는 과정을 보인다. Ⅲ장에서는 RNN을 이용한 고장검출 시스템을 제안하고, Ⅳ장에서는 제안하는 RNN 기반 고장 검출 시스템에 대한 성능을 시뮬레이션 결과를 통해 분석한다. 마지막, Ⅴ장에서는 본 논문의 결론을 맺는다.

Ⅱ. 시스템 모델

1. 디지털 센서의 Rising time과 Falling time 고장

그림 1은 정상적인 디지털 센서 신호에서 Rising time과 Falling time 고장이 발생한 경우에 대한 예시를 나타낸다. 이상적인 센서의 출력은 High에서 Low 혹은 Low에서 High로 향할 때 수직의 형태를 보인다 하지만 실제 현장에서는 위 그림처럼 Rising time과 Falling time을 가지게 된다. 정상 신호의 경우에는 빠르게 Falling과 Rising이 일어나는 반면에 고장 신호에서는 더 많이 지연된 것을 확인할 수 있다. 그 결과 주어진 공정의 정밀도가 떨어지는 동시에 자동화 공정의 연속성이 단절되는 문제가 발생한다.

그림 1. 디지털 센서 출력 신호에서 라이징, 폴링 지연의 고장 예

Fig. 1. Fault example of digital sensors due to the rising and falling delay

Rising time과 Falling time 고장을 감지하는 일반적인 방법으로 Rule 기반의 고장 진단이 있다. 이는 정상 신호의 길이를 미리 저장 해두고 그것보다 짧아질 경우 고장이 일어났다고 판단하는 모델로서 물체가 정렬되어 고정적인 길이로 센싱되는 경우에 좋은 성능을 보이지만 그림 2의 물체 ①과 ②가 보여주는 것처럼 모든 물체가 컨베이어 벨트 위에서 정렬되기 어려운 실제 공장에서는 성능을 보장하기 힘들다. 이는 Rule 기반 고장 진단 모델은 물체의 기울어짐 때문에 센싱의 길이가 짧아졌는지 센서 고장으로 인해 길이가 짧아졌는지 판단하지 못하기 때문이다. 본 논문은 RNN을 이용하여 상기 문제를 해결 하고자 한다.

그림 2. 실제 공장의 컨베이어 벨트 위 물체 예시

Fig. 2. Example of objects on conveyor belts in factories

2. 전체 시스템

그림 3은 본 논문이 제안하는 전체 시스템의 동작과정을 나타낸다. Finder는 신호의 파형이 High에서 Low로 갈 때와 Low에서 High로 가는 것을 포함하는 하나의 파형을 캡처하는 역할을 한다. Finder를 이용해 캡처된 신호는 RNN의 입력으로 사용되고 RNN의 출력값을 Fully Connected layer에서 분석하여 고장 유무를 판별한다.

그림 3. 제안하는 시스템의 동작 과정

Fig. 3. Framework of the proposed system

3. 데이터 획득

본 논문에서 사용한 디지털 센서의 데이터는 Autonics 사에서 제조한 근접센서 CR18-8DN으로부터 획득한 것이다. 이 근접 센서는 검출 거리가 8mm이며 평상시에는 HIGH의 출력을 보이며 물체가 감지되었을 때 LOW의 출력을 보이는 특징을 가진다.

근접 센서 신호를 수집하기 위하여 아두이노를 사용 하였다. 근접 센서의 신호는 아두이노의 참조전원 V_Ref를 1,024개의 구간으로 나누는 10bit ADC를 통해 디지털 값으로 변환된다. 이를 전압의 단위로 환산하여 센서의 출력으로 나타내면 다음과 같다.

\(V_{O U T}=\frac{n_{A D C} \times V_{R e f}}{1,024}\)       (1)

여기에서 n_ABC는 센서의 신호에 대한 ADC 값이고 V_OUT은 전압 단위로 환산한 센서의 출력 값이다.

아두이노는 PC에 USB를 통해 직렬연결이 되고 “Serial oscilloscope”라는 펌웨어 라이브러리를 통해 PC 로데이터를 전송한다.

위 과정을 통해 얻은 근접센서의 정상 신호 데이터에 Rising time과 Falling time 고장을 적용한다. 고장이 났을 경우 Rising time과 Falling time의 지연시간이 지수적으로 증가하는 경우와 로그적으로 증가하는 경우를 모두 고려해야하기 때문에 식(2)와 같이 지연 시간 t_{rising/falling}을 모델링하였다.

\(t_{\text {rising/falling }}=K\left((1-\alpha) \log \left(1+t_{\beta}\right)+\alpha e^{t_{\beta} / M}\right)\)       (2)

여기서 K는 단위를 정하는 계수이고 α는 0과 1사이에서 베타분포를 형성하고 있다. 이어서, t_B는 고장이 난 후 걸린 시간을 뜻하고 M은 지연 시간의 지수적 증가의 폭을 조절하기 위한 계수이다. 이를 통해 얻은 지연 시간 t_{rising/falling}을 정상 신호의 Rising time과 Falling time에 추가하였다.

Ⅲ. RNN 기반 디지털 센서 고장진단

RNN(Recurrent Neural Network)은 인공 신경망(Artificial Neural Network) 중 하나로 은닉 노드와 은닉 노드 사이에 순환 루프를 형성한다는 특징을 가진다^[9-14]. 이는 이전 데이터의 결과가 현재 데이터의 결과에 영향을 미치고 현재 데이터의 결과는 미래 데이터의 결과에 영향을 미치는 구조이다. RNN을 제외한 인공신경망들은 현재 입력으로 하나의 데이터만을 처리하기 때문에 데이터의 시간순서에 독립적이라고 할 수 있지만 RNN은 현재 하나의 데이터를 처리할 때 이전의 입력 데이터들도 함께 처리하기 때문에 데이터의 시간 순서에 종속적이라 할 수 있다. 이 때문에 RNN은 순차 데이터(Sequential data)로 대표되는 자연어 처리에 뛰어난 성능을 보여주고 있다. 이러한 RNN은 구현하는 방식에 따라 Basic RNN, LSTM(Long Short Term Memory), GRU(Gated Recurrent Unit)로 나뉠 수 있다^[9]. Basic RNN의 경우, 관련 정보와 그 정보를 사용하는 지점 사이가 멀어질수록 Back Propagation에 의한 Gradient가 점차 줄어들어 학습 능력이 크게 저하 된다. 즉, 시계열 데이터의 시간 차이가 커질수록 Basic RNN은 정보의 맥락을 잘 파악하지 못하게 된다. 이를 Vanishing gradient problem이라 하는데 이 문제를 해결하기 위해 고안된 것이 LSTM이다^[10-11]. LSTM은 RNN의 Hidden node에 컨베이어 벨트와 같은 cell-state를 추가한 구조로 이 cell 덕분에 정보와 정보 사이가 멀어도 Gradient가 비교적 전파가 잘된다.

위 그림 4에서는 접힌 RNN 구조를 펼쳐서 전체 네트워크를 보여준다. 위 그림에서의 입력데이터 x는 Finder의 출력으로 k번에 걸쳐 순차적으로 RNN의 입력으로 사용된다. t는 시간을 의미한다. 이어서, U는 입력노드와 은닉 노드사이의 가중치이고 W는 은닉 노드와 은닉 노드 사이의 가중치, V는 은닉 노드와 출력 노드 사이의 가중치를 나타낸다. h_t는 해당 시간에서 은닉 노드의 상태를 나타내며 아래와 같이 나타낼 수 있다.

h_t = f(Ux_t + Wh_t-1 + b)       (3)

그림 4. RNN (Recurrent Neural Network) 구조

Fig. 4. The structure of RNN (Recurrent Neural Network)

f(∙)는 활성화 함수로 tanh함수와 ReLu함수 등이 있고 b는 편향 값을 의미한다. 위 식을 통해 이전 상태 값 h_t-1값이 현재 상태 값 h_t에 영향을 미치는 것을 확인 할 수 있다. 마지막으로 o_t는 시간 t에서의 출력을 나타내고 아래 식(4)으로 나타낼 수 있다.

o_t = τ(Vh_t + c)       (4)

τ(∙)는 f(∙)와 같은 역할을 하는 활성화 함수로 tanh함수와 softmax함수가 사용될 수 있으며 c는 편향 값을 의미한다. 이후, o_t는 모든 노드들이 서로 연결되어 있는 Fully connected layer의 입력으로 사용된다^[15]. 최종적인 출력은 one hot vector형태를 이용해 고장일 경우 [1 0], 정상일 경우 [0 1]을 출력으로 나타낸다.

Ⅳ. 실험 및 결과

이번 장에서는 모의실험을 통해 디지털 센서의 Rising time과 Falling time 고장에 대한 RNN 기반 고장 진단 모델과 Rule 기반 디지털 센서 고장 진단 모델의 성능을 비교 분석한다.

사용된 데이터는 Ⅱ장에서 얻은 근접 센서의 신호이며 이 신호는 물체와 컨베이어벨트의 수평 정도에 따라서 센싱 길이에 변화가 생긴다. 이에 대한 예시는 그림 5에서 확인 할 수 있다. 본 논문에서는 물체의 정렬 정도를 분산으로 표현하였다. 분산이 없을 경우에는 물체가 수평한 상태로 정렬되어있다는 뜻이고 분산이 있는 경우에는 물체가 정렬되어있지 않다는 뜻이다. 이때, 분산의 값이 커질수록 물체 정렬의 기울임 변화 폭이 크다는 것을 나타낸다. 최대 변화 폭을 분산 값 100이라 하고 0부터 100까지 크기 10을 간격으로 데이터를 구성하였다. 사용된 총 데이터 집합의 수는 1,000개이다. 1개의 데이터 집합은 90개의 연속적인 센싱 파형을 가진다. 한 파형의 크기는 3,000이며 따라서 전체 데이터는 총 1,000*90*3,000개의 크기를 가진다. 전체 데이터 집합 중 600개는 RNN 모델을 학습(Training)시키는데 사용되었고 나머지 400개는 실험(Testing)에 사용되었다.

그림 5. 컨베이어 벨트 물체의 정렬과 비정렬 상태에서의 근접센서 CR18-8DN의 정상 출력

Fig. 5. Normal output of proximity sensor CR18-8DN when objects on conveyor belt are parallel and non-parallel

디지털 센서 고장 진단을 위한 알고리즘인 RNN은 Python 3.5 버전에서 TensorFlow 1.2.1 버전을 통해 구현되었다. RNN 기반 디지털 센서 고장 진단 모델은 LSTM을 기반으로 설계 되었으며 Input layer, Hidden layer, Output layer, Fully connected layer로 구성 되어 있다. Input layer에서는 3개의 파형, 곧 9,000개의 데이터를 입력으로 사용한다. 이때, 데이터는 1,000개씩 9번에 걸쳐 순차적으로 입력된다. 입력된 데이터는 활성화 함수로 tanh함수를 사용하는 Hidden layer에 입력되고 그 결과는 Output Layer에 전달, 다시 Output Layer의 결과는 Fully connected layer에 입력으로 사용된다. Fully connected layer는 Output layer와 연결되는 500개의 입력 노드와 고장인지 아닌지에 대한 클래스 출력을 나타내는 2개의 출력 노드로 구성되어 있다. 출력된 결과에는 Softmax 함수와 Softmax 함수에 대한 Cross entropy 함수가 사용되었다. 최종적으로 나오는 출력 라벨과 실제 라벨과의 Cost는 아래 식에 의해 계산된다.

\(C(y, \hat{y})=\sum_{t=1}^{T}\left(y_{t}-\hat{y}_{t}\right)^{2}\)       (5)

여기서 y는 RNN의 목표 값인 실제 데이터의 라벨 값을 나타내며, \(\hat{y}\)는 RNN의 출력값을, t는 데이터의 인덱스를, T는 최대 인덱스를 나타낸다. RNN은 위 Cost 함수를 최소화 시키는 방향으로 훈련이 되어야 한다. 이를 위해 사용한 Optimizer는 ADAM optimization이며 Learning rate는 0.00001로 설정되었다. 훈련 도중 Over-fitting을 막기 위해 Dropout 기법을 적용시켰고 확률은 0.7로 설정하였다.

Rule 기반의 고장 진단은 미리 고장 상황에 대한 정보를 입력하는 방식으로 분산이 0일 경우의 Low 파형의 길이를 임계값으로 미리 입력을 해두고 실험 시 이보다 짧은 파형이 들어온 경우에 대해서 고장이라 판단한다.

그림 6은 분산 값에 따른 RNN과 Rule 기반 디지털 센서 고장 진단 모델들이 얼마나 고장을 잘 판별했는지에 따른 Score의 평균을 취한 값인 정확도를 이용해 비교한 그래프이다. 분산이 0일 경우, 즉 물체가 고정적으로 수평하게 들어오는 경우에는 두 모델 모두 100%의 정확도를 보였다. 하지만, 분산값이 증가함에 따라, 즉 물체가 고정적이지 않는 경우에는 Rule 기반의 디지털 센서 고장 진단 모델의 성능이 급격하게 떨어져 40% 대의 정확도를 보이고 있다. 이는 Rule 기반의 디지털 센서 고장 진단 모델의 단점인 변화에 약하다는 것을 잘 보여주고 있다. RNN 디지털 센서 고장 진단 모델의 결과는 87 ∼ 93%의 정확도를 보이며 Rule 기반 디지털 센서 고장 진단 모델보다 좋은 결과를 보여주고 있다.

그림 6. LSTM과 Rule 기반 모델의 정확도 성능 비교

Fig. 6. Performance comparison between LSTM and Rule-based schemes in terms of accuracy

그림 7는 분산이 100인 경우에 RNN과 Rule 기반 디지털 센서 고장 진단 모델들의 성능 차이를 ROC 커브의 AUC를 통해 나타낸다. RNN 기반 디지털 센서 고장 진단 모델의 AUC는 Rule 기반 모델의 AUC보다 240.19% 향상된 수치를 보여준다.

그림 7. LSTM과 Rule 기반 모델의 ROC 곡선 성능 비교

Fig. 7. Performance comparison between LSTM and Rule -based scheme in terms of ROC.

Ⅴ. 결론

본 논문은 디지털 센서 고장 유형 중 Rising time과 Falling time에 대한 고장 진단을 하기 위해 LSTM으로 구현된 RNN 기반 디지털 센서 고장 진단 모델을 제안하였다. 성능 지표로 정확도와 ROC 곡선의 AUC를 이용하였으며 제안하는 방식과 Rule 기반 고장 진단 모델과 비교 분석하였다.

모의실험을 통해 컨베이어 벨트 상의 물체가 고정 되었을 때 두 모델 모두 100%의 분류 정확도를 보이고 고정되지 않을 때 제안한 모델이 주어진 분산 구간 안에서 평균 50% 정도 더 높은 분류 정확도를 가짐을 확인하였다. ROC 곡선 그래프의 AUC를 통해 Rule 기반 고장 진단 모델 대비 제안한 모델이 240% 정도의 AUC 성능 향상을 가짐을 확인할 수 있었다.