Evaluation Method of Structural Safety using Gated Recurrent Unit

Gated Recurrent Unit 기법을 활용한 구조 안전성 평가 방법

Abstract

Recurrent Neural Network technology that learns past patterns and predicts future patterns using technology for recognizing and classifying objects is being applied to various industries, economies, and languages. And research for practical use is making a lot of progress. However, research on the application of Recurrent Neural Networks for evaluating and predicting the safety of mechanical structures is insufficient. Accurate detection of external load applied to the outside is required to evaluate the safety of mechanical structures. Learning of Recurrent Neural Networks for this requires a large amount of load data. This study applied the Gated Recurrent Unit technique to examine the possibility of load learning and investigated the possibility of applying a stacked Auto Encoder as a way to secure load data. In addition, the usefulness of learning mechanical loads was analyzed with the Gated Recurrent Unit technique, and the basic setting of related functions and parameters was proposed to secure accuracy in the recognition and prediction of loads.

1. 서론

산업의 발전은 사람의 지능을 컴퓨터로 구현하기 위한 인공적인 지능의 구현까지 이르고 있으며, 과거 패턴을 학습하여 분류, 인지, 생성 및 관리의 스스로 수행하는 기술까지 점진되어, 경제, 언어, 제조 및 물류 등에 적용되어 새로운 생산과 관리의 지능화와 실용화가 늘어가고 있다. 이것은 인공 신경망의 구현에 대한 기술 연구의 진전으로 가능하게 되었다. D. S. Cho는 이미지 인식의 개선을 위해 시스템 메모리 사이즈 설계안을 제시하는 기법 연구와 I. Goodfellow 등은 문장과 이미지 인식을 위한 방법을 교재로 제시하고 있다 [1, 2].

그러나 산업적 효과가 큰 플랜트(Plant)나 기계 설비에 대한 구조적 안전과 안정성에 대한 연구는 미진한 상태이다. 즉, 공장이나 수송 장비의 운용 및 관리의 무인화는 단계적으로 진행되고 있으나 공장이나 수송 장비의 장기간 운용과 관리에 필요한 구조적 안전과 위험에 대한 감지와 예측에 대한 연구는 드문 상태이다. 기계 분야의 인공지능 적용 사례 연구로는 주로 로봇과 자동화 분야이며, K. J. Choi는 로봇의 자세를 수정 및 최적화에 적용하였고, B. S. Shin 등은 인공 지능 비전 시스템으로 자동 품질 검사의 미세 패턴을 인식 방법을 제안하고 있다[3, 4].

공장이나 수송 장비의 주류를 이루는 기계 장치들은 운용되는 주변 환경으로부터 구조에 가해지는 외력에 공학적인 원리와 공식을 대입하여 설계된다. 기계 장치의 장기간 운용에서 발생하는 과적(Overload) 또는 열화(Deterioration)로 인한 안전성 분석은 외력에 의한 응력 해석(Stress analysis)으로 이루어진다. 그래서 기계 장치들의 운용 중에 발생하는 외력을 제한하여 과적과 열화의 방지와 관리가 필요하다[5, 6].

본 연구는 인공신경망 기법이 다양한 기계 구조물의 안전 운용과 건전성의 지능적인 관리와 평가에 적용될 수 있도록 크롤러 크레인을 대상으로 순환 신경망 중에서 유용성이 검증된 게이트 순환 유닛 기법인 GRU(Gated Recurrent Unit)의 활용에 대해 검토하였다.

2. 게이트 순환 유닛의 적용

게이트 순환 유닛(GRU)은 순환 신경망인 RNN (Recurrent Neural Network)의 종류이며, 데이터를 시간 순차적으로 입력하여 학습하게 함으로써 예측 기능을 특화한 인공 신경망 기법이다. 일반적인 RNN은 학습이 거듭될수록 이전 데이터의 정보가 사라지는 것을 보완하여, 과거의 오래된 데이터까지 학습에 반영하는 체계로 구성되어 있다[7, 8].

GRU의 셀(Cell)은 Fig. 1과 같이 리셋 게이트(Reset gate)와 2개의 업데이트 게이트(Update gate)가 있고, 업데이트 게이트에는 망각의 비율을 결정하는 게이트(Update gate for forget)와 새로운 입력 데이터를 어느 정도 반영할 것인가를 결정하는 게이트(Update gate for input data)로 구성되어 있다. 3개의 게이트이지만 실제로는 리셋 게이트와 업데이트 게이트로 되어 있어 다른 RNN 유닛보다 학습 구조가 비교적 단순화되어 있고, 학습 시간이 빠르기에 비용이 적게 발생한다. 그러나 데이터의 특성에 따라 RNN의 종류별로 학습결과가 다르므로, 각 RNN 기법을 적용함으로서 학습의 정확성에 대해 검토와 확인이 필요하다.

Fig. 1 Cell mechanism of GRU

Fig. 1의 보라색은 산술연산자, 주황색은 각 게이트에 입력되는 값을 연산을 한 후 어느 정도 활성화할 것인가를 결정하는 것이며 GRU에서는 그림에서와 같이 고정되어 사용된다.

Fig. 2는 리셋 게이트의 산술 체계를 나타낸 것이다. x_t는 학습모델에 입력되는 값으로 크롤러 크레인의 롤러 하중값이고, h_t-1는 이전(Previous time) 셀의 은닉(Hidden) 상태값이다. 이들은 식 (1)에 의해 계산되어, 이전 셀의 데이터 정보를 어느 정도 반영할 것인가를 결정하고, 적색라인을 따라 다음 산출식에 입력된다. 이에 대한 산술식인 식(1)에서 W_r와 U_r은 각 입력값에 대한 가중치이며, 편향인 b_r와 같이 초기에는 임의로 정해진다. 이렇게 계산된 값을 시그모이드(Sigmoid)화하여 리셋 게이트의 출력값으로 산출된다.

R_t = σ(W_rx_t + U_rh_t-1 + b_r)       (1)

여기에서,

W_r : 입력값에 대한 리셋 게이트 가중치

U_r : 은닉 상태값의 가중치.

b_r : 리셋 게이트의 편향

σ : Sigmoid

Fig. 2 Reset gate of GRU cell

Fig. 3은 어느 정도의 값을 이후 셀에 반영할 것인가를 결정하는 것이다. 즉 Z_t의 값이 1에 가까우면 Z_t의 값이 더 많이 반영되고, Z_t의 값이 0에 가까우면 M_t의 값이 많이 반영된다. 이에 대한 산술식은 식(2)에 의해 계산된다.

Z_t = σ(W_zx_t + U_zh_t-1 + b_z)       (2)

여기에서,

W_r : 입력값에 대한 리셋 게이트 가중치

U_r : 은닉 상태값의 가중치.

b_r : 리셋 게이트의 편향

σ : Sigmoid

Fig. 3 Update gate for forget of GRU cell

Fig. 4는 GRU 셀의 메모리 게이트(Memory gate)로 입력 데이터인 새로운 롤러 하중을 M_t에 임시로 저장하여 이후 Z_t의 값에 따라 이후 셀에 반영되는 비율이 정해진다. 이후 셀에 반영되는 값은 식(3)에 의해서 계산되며, 리셋 게이트의 값과 이전 셀의 은닉 상태값은 하다마르 곱(Hadamard product)으로 계산된 후 하이퍼블릭 탄젠트 (Hyperbolic tangent)화하여 ╶1∼ +1 사이의 값이 이후 산출식에 반영된다.

M_t = tanh(R_t ∘ Uh_t-1 + Wx_t + b_M)       (3)

여기에서,

W : 메모리 게이트에서 입력값의 가중치

U : 메모리 게이트에서 은닉 상태값의 가중치

b_M : 메모리 게이트의 편향

tanh : Hyperbolic tangent

Fig. 4 Memory gate of GRU cell

Fig. 5는 이후(Forward) 셀에 입력되는 은닉 상태값을 산출한다.

Fig. 5 Hidden state of GRU cell

은닉 상태값(Hidden state)은 식(4)에 의해 계산되며, Z_t의 값이 “0(Zero)”에 가까우면 메모리 게이트에 저장되어 있는 M_t값이 많이 반영이 되고, Z_t값이 1에 가까우면 망각(Forget) 게이트의 오래된 값이 많이 반영이 된 은닉 상태값 h_t가 이후 셀에 전달된다.

h_t = (1 - Z_t) ∘ M_t + Z_t ∘ h_t-1       (4)

3. 게이트 순환 유닛의 학습 체계

게이트 순환 유닛(GRU)의 학습을 위한 순환 체계를 Fig. 6에 나타내었다. 크롤러 크레인의 22개 롤러 하중 값의 변화에 따라 다른 권상하중 값을 비교해야 하므로 본 연구는 Many to many 방식으로 학습을 진행하게 된다.

Fig. 6 Learning system of GRU cell

1 단계(Step)은 0톤에 해당하는 22개의 롤러 하중과 히든 상태값 h_t-1을 각 셀에 입력하고, 출력되는 y₁과 0톤을 비교하여 오차를 도출하는 순방향 학습이 진행된다. 이러한 순방향으로 40 단계까지 학습이 진행되지만, 역방향으로는 오차에 대한 각 셀의 계산식에 포함되어 있는 가중치와 편향의 영향을 편미분으로 구한다.

이러한 학습은 40단계까지 과정으로 여러 번 반복(Epoch)학습을 진행하면서 점점 편미분의 기울기가 0(Zero)에 가까워지도록 즉 가중치와 편향의 영향이 최소화되는 지점을 찾아가는 모듈로 구성되어 있다. 오차에 대한 가중치와 편향의 영향이 최소화되면 정답과 예측 값의 오차가 작아짐에 따라 인식 정확도(Accuracy)는 향상되는 것이다.

또한, 이러한 학습의 결과인 정확도에 관련된 파라미터로 출력층의 활성화 정도를 표현하는 비선형 활성화 함수(Non linear activation function), 정답과 예측값의 오차 산출 방식인 손실함수(Loss function) 및 학습의 경로와 보폭을 결정하는 최적화 함수(Optimizer)에 대해서도 많은 연구가 진행되고 있지만, 본 연구는 기계 하중에 적합하고 대표적인 방법에 대해서 검토하였다.

4. 학습 데이터의 준비

본 연구는 기계 구조의 하중 데이터를 확보하고 GRU 학습의 가능성과 유용성을 확인하기 위하여 대형 기계 구조물인 크롤러 크레인을 대상으로 하였다. 크롤러 크레인은 화물 무게에 해당하는 권상하중(Hoisting load)에 의해 구조 내부의 하중이 민감하게 변화하고, 정확한 화물 무게의 검출이 어려운 기계 구조물이다. Fig. 7은 본 연구에 사용된 신한 휴벤스(주)의 90톤급 크롤러 크레인의 모델링한 것이다. 붐(Boom)이 있는 부분을 앞부분, 카운트 웨이트(Counter weight)가 뒷 부분에 위치해 있기에 화물 무게가 40톤인 권상 하중에도 안전 운용이 가능하도록 설계되어 있다[9, 10].

Fig. 7 Modeling of crawler crane

Fig. 8은 크롤러 크레인의 하부 구조인 크롤러부(Crawler part)의 트랙(Track)과 롤러부(Roller part)를 나타낸 것이다. 롤러의 개수는 붐의 좌측 11개와 우측 11개로 모두 22개의 롤러가 장착되어 있다. 무거운 권상하중(Hoisting load)이 가해지면 앞부분의 롤러에는 큰 하중이 발생하고 뒷부분의 롤러에는 작은 하중이 발생하게 된다[10∼12].

Fig. 8 Crawler part of crawler crane

Fig. 9는 롤러부의 세부 구조와 명칭을 나타낸 것이다. 구조 해석에는 범용 프로그램인 ANSYS 18.1을 사용하여 권상하중 0톤에서부터 40톤까지 0.5톤씩 각각 구조해석을 수행하였다. 구조해석의 결과는 Fig. 10과 같이 응력(Stress)으로 표현되므로, 과적의 제한하고 화물의 무게를 제한하기 위해서는 하중(Load)으로 산출할 필요가 있다.

Fig. 9 Modeling of roller part

Fig. 10 Analysis result of roller part

본 연구는 기계적 하중의 학습과 인식의 가능성을 검토하기 위하여 ANSYS의 구조해석의 결과로부터 하중을 산출하였지만, 실용화를 위해서는 로드 셀(Load cell) 또는 스트레인 게이지(Strain gage)의 부착이 가능한 위치를 선정할 필요가 있다. 롤러 하중의 측정 위치는 롤러의 중심이 가장 적합함 부분으로 판단하였다.

롤러 중심에 대한 하중의 산출에는 구조해석 결과인 응력 값이 필요하고, 응력을 비교적 쉽게 산출할 수 있는 부분으로 롤러 핀의 끝단에 위치한 무게 지지부(Weight support)를 선택하였다. 무게 지지부의 응력과 면적으로부터 하중을 도출하였다. 즉 롤러 핀 끝단으로부터 롤러의 상단(Roller upper)과 하단(Roller lower)의 중간 부분의 하중을 도출하여 롤러 하중으로 산출하였다.

응력으로부터 롤러 하중의 계산에는 전통적인 하중과 응력의 관계식인 식(5)와 식(6)을 이용하였고, 이렇게 얻어진 전단응력에 롤러핀의 면적을 곱함으로써 롤러 하중을 도출하였다[13, 14].

V = σ_avg × A_plane       (5)

V : 롤러 핀이 지지하고 있는 전단력

σ_ave : 롤러 핀 표면의 응력 평균

A_plane : 응력면의 면적

\(\begin{align}\tau=\frac{V Q}{I t}\end{align}\)       (6)

τ : 롤러 평균 전단응력

I : 롤러 핀 단면 2차 모멘트

t : 롤러 핀 지름

Q : 롤러 핀 단면 1차 모멘트

또한, 이렇게 계산된 권상하중에 대한 롤러 하중의 경우의 수는 80개 정도이기에 인공 신경망의 학습에는 상당히 부족한 데이터의 양이다. 학습이 가능한 데이터의 양을 확보하기 위해 손상된 이미지의 복원과 노이즈 생성에 사용되는 인공 지능 기법인 누적 오토 인코더인 SAE(Stacked Auto Encoder)를 이용하여 권상하중의 경우의 수를 800개로 확대하였다. Fig. 11은 SAE의 학습 절차를 나타낸 것이다. 입력층(Input layer)에 기존의 80개의 데이터가 입력되면 이후 은닉층(Hidden layer)의 모든 셀에 가중치와 편향으로 입력되는 과정으로 셀이 축소되고 다시 확대되면서 새로운 데이터가 생성되는 것이다. 이렇게 확보된 데이터로 GRU 학습의 가능성과 더불어 SAE 데이터의 유용성에 대해 검증을 수행하였다[15∼18].

Fig. 11 Generate flow of SAE data

5. GRU 학습 모델의 구성

화물의 무게에 해당하는 권상하중을 0.5톤 단위로 80회의 구조해석을 수행한 결과로부터 80개의 권상하중에 의한 22개의 롤러 하중을 각각 도출하고, 학습이 가능하도록 SAE로 10배의 데이터의 양인 810개의 데이터로 학습을 진행하였다.

GRU 학습 모델은 파이썬(Python) 3.10으로 작동되는 텐서플로(TensorFlow) 상의 Keras에서 산술 모듈을 불어와서 구성하였으며, 중요한 구성요소를 Fig. 12에 나타내었다.

Fig. 12 Learning model for load recognition of GRU

크롤러 크레인의 하중 데이터를 컴퓨터의 사용 언어인 자연어로 전환하는 커맨드를 사용하여 단어 길이는 vocab_size = 100, 표현하는 차원수를 embedding_dim = 64로 학습 모듈에 입력되도록 하였다. 순차적(Sequential)으로 입력되고, 첫 번째 GRU 셀의 은닉층의 셀의 개수를 add와 units의 커맨드로 50개, 각 셀에서 이후 은닉층에 입력될 경우 어느 정도 활성화(Activation)시킬 것인가를 결정하는 활성화 함수는 “Relu”, 모든 시점의 단계별 출력값을 확인할 수 있도록 return_sequences를 True로 설정하였다. 동일한 방법으로 4개의 은닉층과 각 은닉층의 셀의 개수를 60, 80 및 120개로 선정하여 마지막 출력층에 1개의 셀로 예측 권상하중으로 출력하도록 하였으며, 정답 권상하중과 비교하여 종합오차를 산출하도록 하였다. 위와 같이 구축된 은닉층과 셀에 대한 학습 방법을 model.compile을 통해서 정의하기 위해 최적화 함수(Optimizer)는 “Adam”, 손실함수(Loss)는 “Mse”, 학습 결과의 척도(Metrics)는 “Accuracy”로 하였다. 그리고 학습이 반복될 때마다 기록(History)해야 하는 학습 정보를 hist = model.fit을 이용하여 학습을 위한 데이터의 구분은 X_train, y_train, 학습 결과의 검증(Validation)을 위한 데이터 배분 비율을 0.2로 즉 810개의 데이트 중에서 162개의 데이터는 학습에 사용하지 않고, 검증을 위한 데이터로 사용하도록 하였다. 810개의 데이트에 대한 학습의 반복(Epochs) 횟수를 50회, 동시에 묶어서 읽을 데이터의 수(Batch size)를 컴퓨터 메모리 수와 동일하게 32로 설정하여 하중 데이터의 GRU 학습을 진행하였다.

6. GRU 학습 결과와 검증

6.1 GRU 학습 방법의 함수 결정

GRU 학습의 방법을 결정하는 함수로는 할성화 함수(Activation function), 손실함수(Loss function) 및 최적화 함수(Optimizer)가 있다. 이들 함수에도 여러 가지 종류가 연구되고 있고, 그 유용성이 입증되어 제시되고 있다. 본 연구에서는 대표적인 것 중에서 하중 데이터의 학습과 인식에 적합하다고 기대되고 사전 실험으로 비교적 정확도가 높을 것으로 판단된 각각 3가지 종류에 대해서 검토하였다.

활성화 함수는 이전 층의 셀의 값이 이후 층의 셀에 어느 정도 활성화 시켜서 주입할 것인가를 결정하는 함수이며, 대표적으로 사용되는 RELU (Rectified Linear Unit), ELU(Exponential Linear Unit), Soft plus에 대해서 검토한 결과를 Table 1에 100%를 1로 변환한 비율로 나타내었다[19, 20].

Table 1. Loss and accuracy of activation function

활성화 함수에 따른 SAE 데이터의 정확도(Accuracy rate)는 “0 (Zero)”이거나 모두 동일한 비율로 나타났다. 이것은 정답 권상하중과 오차를 나타낸 것이기 보다는 패턴의 일치 비율을 나타내는 것이다. SAE 데이터의 활성화 함수에 따른 데이터 손실(Loss rate)은 RELU가 가장 작고, ANSYS 데이터는 Soft plus가 가장 작은 손실을 나타내고 있다. SAE 데이터이든 ANSYS 데이터이든 모두 하중을 학습하고 인식하기 위해서는 동일한 활성화 함수를 사용해야 하므로 위의 결과로부터 RELU를 선정하였다.

손실함수는 예측된 권상하중과 정답 권상하중의 차이를 정의하는 방식으로 여러 정의가 있지만, 다양한 함수 중에서 본 연구는 MSE(Mean Squared Error), MAE(Mean Absolute Error)와 MSLE(Mean Squared Log Error)에 대해서 검토한 결과를 Table 2에 나타내었다. SAE 데이터와 ANSYS 데이터 모두 MSLE의 손실이 가장 작게 나타났다[21,22].

Table 2. Loss and accuracy of loss function

최적화 함수는 최적의 학습 경로를 탐색하는 방법이며, 본 연구는 RMSprop, Adam 및 Nadam에 대하여 검토한 결과를 Table 3에 나타내었다. SAE 데이터의 손실은 Adam이 가장 작고, ANSYS 데이터의 손실은 Nadam이 가장 작게 나타났으나 SAE 데이터에서 가장 크게 나타났다. 이러한 결과로부터 최적화 함수로 Adam을 선택하였다[23, 24].

Table 3. Loss and accuracy of optimizer

GRU를 이용한 하중 데이터에 대한 학습 정확성의 개선을 위해 활성화 함수는 RELU, 손실함수는 MSLE, 최적화 함수는 Adam으로 선정할 수 있었다.

6.2 GRU 학습 방법의 검증

크롤러 크레인을 대상으로 외력에 의해 기계 구조 내부에 발생하는 하중을 인식하기 위한 순환 신경망의 한 종류인 GRU의 활용 가능성을 검토하여 SAE 데이터의 결과는 Table 4, ANSYS 데이터의 결과는 Table 5에 나타내었다. 이 결과들은 학습 과정에서 수행되는 검증 Validation과는 별도의 검증 방법으로 검증한 결과이이다.

Table 4. Prediction result of SAE data

Table 5. Prediction result of ANSYS data

Table 4는 SAE 데이터로 학습이 완료 된 후 권상하중에 해당하는 22개의 롤러 하중을 입력하면 몇 톤의 권상하중으로 예측 (Prediction)하는 지를 조사한 결과이다. Table 4에서 1톤의 경우는 2.6741톤으로 예측되며, 오차는 1.674톤, 정확도는 –67.41%로 상당히 낮은 정확도로 예측을 하고 있다는 것을 알 수 있다. 전체 정확도는 69.6%이지만 1톤 이외의 경우는 95%이상으로 예측하고 있다는 것을 알 수 있다.

Table 5는 ANSYS 데이터로 학습이 완료 된 후 권상하중에 해당하는 22개의 롤러 하중을 입력하면 몇 톤의 권상하중으로 예측(Prediction)하는 지를 조사한 결과이다. Table 5에 의하면 5톤의 경우는 4.73톤으로 예측되며, 오차는 –0.271톤, 정확도는 94.57%로 비교적 높은 정확도로 예측을 하고 있다는 것을 알 수 있다. 전체 정확도는 98.1%이지만 5톤 이외의 경우는 98%이상으로 예측하고 있다는 것을 알 수 있다.

Fig. 13은 각 권상하중 톤수별로 SAE 데이터와 ANSYS 데이터의 인식 오차율(Error rate)를 나타낸 것이다. 1톤의 경우는 167% 비율로 상당히 높지만 톤수로는 1.674톤에 해당한다. 이것은 가장 낮은 1톤에 해당하는 권상하중이므로 크롤러 크레인의 전도와 사고에는 영향을 거의 미치지 않은 하중으로 판단되며, 이를 제외한 오차율은 거의 5% 이내로 예측할 수 있다는 것을 알 수 있다.

Fig. 13 Recognition rate for Load of GRU

Fig. 14는 각 톤수별로 오차를 톤수의 크기로 나타낸 것이다. SAE 데이터가 ANSYS 데이터에 비하여 다소 큰 크기의 오차로 예측되고 있다는 것을 알 수 있다. 즉 SAE 데이터는 1.7톤 이내의 오차로 예측하고 있고, ANSYS 데이터의 경우는 0.5톤 이내의 오차로 예측하고 있다는 것이다. 두 데이터 형태를 모두를 고려하면 40톤에 대해 1.7톤 이내범위에서 하중의 학습과 예측이 가능하다는 것을 알 수 있다.

Fig. 14 Error for load recognition of GRU

7. 결론

기계 구조의 안전성 평가에는 기계적 하중의 정확한 인식과 예측이 중요한 요소이다. 본 연구는 기계적 하중 데이터의 학습과 인식의 가능성을 검토하기 위해 크롤러 크레인을 대상으로 순환 신경망 기법인 GRU를 적용하여 다음과 같은 결과를 얻었다.

1. 순환 신경망의 학습에는 수 만개 이상의 데이터가 필요하므로 GRU의 학습에 필요한 하중 데이터의 확보 방안으로 SAE 기법의 적용을 제안하며, SAE의 유용성은 구조 해석으로부터 얻어진 실제 하중 데이터와 비교하여 확인하였다.

2. SAE에 의한 하중 데이터와 구조해석에 의한 하중 데이터로 각각 GRU 학습을 수행한 후 예측된 권상하중과 정답 권상하중을 비교한 결과, SAE의 데이터는 1.7톤, 구조해석의 데이터는 0.5톤 이내의 오차 범위로 예측이 가능하다는 것을 확인할 수 있었다.

3. 하중 데이터의 GRU 학습을 위한 적합한 활성화 함수는 RELU, 손실함수는 MSLE, 최적화 함수는 Adam를 제안한다.

4. 크롤러 크레인을 대상으로 수행한 본 연구의 결과는 다른 다양한 구조의 평가에 적용이 가능할 것으로 판단된다.