Load Prediction using Finite Element Analysis and Recurrent Neural Network

유한요소해석과 순환신경망을 활용한 하중 예측

Abstract

Artificial Neural Networks that enabled Artificial Intelligence are being used in many fields. However, the application to mechanical structures has several problems and research is incomplete. One of the problems is that it is difficult to secure a large amount of data necessary for learning Artificial Neural Networks. In particular, it is important to detect and recognize external forces and forces for safety working and accident prevention of mechanical structures. This study examined the possibility by applying the Current Neural Network of Artificial Neural Networks to detect and recognize the load on the machine. Tens of thousands of data are required for general learning of Recurrent Neural Networks, and to secure large amounts of data, this paper derives load data from ANSYS structural analysis results and applies a stacked auto-encoder technique to secure the amount of data that can be learned. The usefulness of Stacked Auto-Encoder data was examined by comparing Stacked Auto-Encoder data and ANSYS data. In addition, in order to improve the accuracy of detection and recognition of load data with a Recurrent Neural Network, the optimal conditions are proposed by investigating the effects of related functions.

1. 서론

인공 신경망 기술(Artificial Neural Network)은 정보의 분류의 목적으로 학습을 수행함으로써 주로 음성, 문자 및 이미지를 인식할 뿐만 아니라 새로운 정보를 생성하거나 음성 예측, 문장 예측 및 경제적 동향까지 예측하는 것에 응용되고 있다[1, 2]. 그러나 기계 구조에 대한 검출, 인식 및 예측에 대한 연구는 미진한 상태이다.

본 연구는 이러한 인공 신경망 기술을 기계 장치와 장비 구조에 발생하는 하중의 검출, 인식, 학습 및 예측에 대한 적용 가능성과 이를 위하여 부족한 데이터 생성 방안의 유용성에 대해 검토하였다. 여러 인공 신경망 중에서 이전의 상황을 지각하고 학습한 후 이후 상황을 예측하는 것에 특화된 RNN(Recurrent Neural Network)의 적용에 대해 검토하였다. 일반적인 다층 신경망 기술인 MLP(Multi Layler Perceptron)은 학습시간이 장시간 소요되고 시간적인 변화를 감지하지 못한다는 단점을 보완한 인공 신경망 기술이다. 이러한 MLP의 단점을 보완한 RNN은 수요 예측, 트렌드 예측, 언어 번역 및 경제적 변동 예측 등에 실용적으로 적용되고 있다[3, 4].

본 연구에서는 유기적 관계로 구성된 기계장치와 장비의 구조에 대해 변화를 인식하고 사고(Accident, Event)를 예측하게 함으로써, 작업 환경에 즉시적으로 반응하고 사전 대처가 가능하도록 RNN 기법의 적용과 적합한 방법을 제시한다.

그러나 인공 신경망 기술은 빅 데이터(Big data)와 같은 수만 개의 데이터가 필요하다는 것이 전제되어 있다. 즉 컴퓨터가 경험하고 학습할 수 있는 자료를 기반으로 적합한 학습 체계인 알고리즘의 구성이 필요하며, 이러한 알고리즘으로 새로운 환경을 분석하고 민첩하게 대응하거나 예측하게 된다. 적합한 알고리즘 구성 방법에는 정답이 포함된 지도 학습과 스스로 정답을 찾아 알고리즘을 최적화하는 비지도 학습이 있지만, 기계장치와 장비의 구조에는 한계값을 포함하고 있으므로 지도학습이 적합한 것으로 판단되며, 여기에는 데이터가 많을수록 검출 및 예측 정확도가 향상될 것이다.

그러나 기계 장치와 장비는 수만 개의 데이터를 확보하기에는 어려운 구조로 되어 있다. 한 개의 작업 환경 변화에 기계 구조에 발생하는 변화를 검출할 수 있는 데이터의 양은 한정적이다. 기계구조는 유기적으로 연결되어 있기 때문에 한 개의 변화에 동일한 반응을 일으키지만 인공 신경망에 사용되는 데이터들은 다양한 반응에도 동일한 1개의 변화를 감지, 분석 및 예측을 할 수 있다. 본 연구는 기계 구조설계 분야에서 가장 중요한 요소인 하중에 대해 인공 신경망의 RNN기술을 적용하여 학습의 가능성 및 유용성에 대해 검토하였다.

대상 구조물로는 외부 하중에 민감하여 사고발생의 위험성이 큰 크롤러 크레인으로 하였다. 크롤러 크레인은 외부 하중인 화물의 무게를 즉시적으로 측정되어야 하는 것이 중요하다. 즉 과도하중의 화물 무게로 인해 전도되는 위험성이 큰 구조물이기에 산업 현장에서 화물 무게를 검출하는 것이 중요한 요소이다[5, 6].

본 연구는 크롤러 크레인을 대상으로 순환 신경망 RNN 기법을 적용하여 하중의 검출, 인식 및 예측의 가능성을 검토하고, 오차를 줄이고 정확도를 향상시킬 수 있는 최적의 방안을 제시한다.

2. 실험 및 방법

2.1 순환신경망의 적용

인공 신경망의 딥러닝(Deep Learning) 중 일반적인 MLP(Multi-Layer Perceptron)과 CNN(Convolutional Neural Network) 기술은 오래된 정보의 소실과 시간적인 분류의 어려움이 있어, 이것을 보완한 것이 RNN이다. CNN은 이미지 인식 또는 문자 인식 등의 패턴을 인식한 것에 주로 응용되지만 데이터 간의 유기적 관계를 인식하지 못하는 것이 단점이다. 이에 비해 RNN은 이전학습의 결과를 이후 학습에 반영하는 방식의 시계열 데이터를 반영하는 구성(Architecture)으로 문장의 흐름 또는 음성의 특성을 인식하고 예측을 가능하게 하는 기법이다[7, 8].

본 연구에서 이러한 RNN 기법을 활용하여 과도한 하중의 검출과 더불어 하중의 인식 및 예측에 대하여 검토하였다.

Fig. 1은 RNN 학습과정의 1개의 단계(Step)를 나타낸 것이다. 입력 데이터(Input Layer)에는 1 Cell ∼ 3 Cell과 같이 3개의 셀(Cell)만 표기되어 있지만 크롤러 크레인의 롤러 하중이 입력되며 실제로는 22개의 셀로 구성된다. 입력된 롤러의 데이터들은 식(1)과 같이 임의의 가중치(W), 입력된 롤러 하중 값(x) 및 편향 값(b)으로 은닉층(Hidden Layer) 1의 1셀 ∼ 4셀 각 셀에 주입된 후 은닉층 1의 결과는 은닉층 2로 주입이 된다. 이러한 과정이 출력층(Output layler)의 셀에 식 (2)에 의해 출력된다[9, 10].

Fig. 1 Component of RNN step

h_t = tanh(W_xx_t + W_xx_t-1 + b)       (1)

y_t = f(W_yh_t + b)       (2)

h_t : 은닉층의 상태값(State value)

tanh : Hyperbolic tangent

W : 셀의 가중치 (Weight value)

b : 편향 (Bias)

f : 비선형 활성화 함수 (Non-linear activation function)

Fig. 1에서 나타낸 RNN 1개의 단계(Step)가 전체 학습 과정과의 관계를 Fig. 2에 나타내었다. 2단계에는 이전 단계인 1단계 각 층의 셀에 대한 상태값(State value) h_t가 입력되므로 각 단계의 학습 결과와 유기적인 관계로 학습이 진행하게 된다. 이를테면, Fig. 2에서는 크롤러 크레인의 화물 무게인 권상하중이 0톤에서 2톤의 경우를 나타내었지만, 실제의 경우는 0톤에서 40톤까지 0.5톤 단위로 증가시켜가면서 입력되며, 출력값과 정답 권상하중 y에 비교하면서 학습이 진행된다[10, 11].

Fig. 2 Learning concept of RNN

여기에서 중요한 파라미터로 각 셀의 비선형 활성화 함수(Non-linear activation function), 정답과 예측값의 차이인 손실함수(Loss function), 손실값의 최소치를 찾아가는 기법인 최적화 함수(Optimizer)에 대해서 검토를 해야 한다. 이들 함수에는 여러 가지가 있으나 비선형 활성화 함수에는 대표적으로 RELU(Rectified Linear Unit), ELU(Exponential Linear Unit), Soft plus, 손실함수로는 MAE(Mean Absolute Error), MSE(Mean Absolute Erro), MSLE(Mean Squared Logarithmic Error), 최적화 함수로는 RMSprop(Root Mean Square Propagation), Adam(Adaptive Moment estimation, Nadam(Nesterov-accelerated Adam)이 전체 손실(Loss)과 정확도(Accuracy)의 영향에 대해서 검토하였다[12, 13].

이러한 검토에는 입력 데이터와 정답 데이터가 필요하며, 입력 데이터는 입력층에 입력되는 22개의 롤러 하중이며, 정답 데이터는 출력층에서 출력되는 예측 권상하중과 비교하기 위한 정답 권상하중 데이터이다. 이들 데이터의 조합을 이루는 데이터의 준비와 생성이 필요하다.

본 연구는 RNN 학습이 가능하도록 하중 데이터의 수집과 생성 및 확보 방안을 제시하며, 학습의 효율성 향상을 위해 관련 함수와 변수를 검토하여 이후 다양한 기계 구조의 하중 데이터에 적용될 수 있도록 적합한 조건을 제시한다.

2.2 데이터의 생성

하중 검출과 인식의 가능성 검토를 위하여 사용한 기계 구조는 신한 휴벤스(주)의 90톤급 크롤러 크레인을 사용하였고, 크레인의 개요도를 Fig. 3에 나타내었고, 구조해석을 위한 모델링을 Fig. 4에 나타내었다[14].

Fig. 3 90t crawler crane of S hinhan Huvance

Fig. 4 Modeling of crawler crane

훅(Hook) 부분에 걸리는 화물의 무게는 권상하중(Hoisting)으로 전체 구조에 가해지고 크롤러 크레인의 내부 하중을 발생하게 된다. 무거운 권상하중이 가해지면 붐(Boom)이 위치한 앞부분은 아래로 기울어지려고 하는 전도 모멘트가 발생하고 이와 반대로 뒷부분의 카운터 웨이트(Counter weight)에는 전도 모멘트에 대해 버티려고 하는 저항 모멘트가 발생하여 안전한 운용과 작업이 가능하도록 구성되어 있다. 그러나 현장에서 화물의 무게를 정확하게 측정할 수 없기 때문에 과도한 화물 무게에 의해 전도되는 사고가 발생한다[15∼17].

권상하중의 크기에 따라 구성하고 있는 크레인의 구조에는 내부 내력의 변화가 발생하며, 변화의 크기는 구성 요소의 위치와 형상에 따라 다르다. 그러므로 하중 검출의 위치는 연구 결과의 실용화를 위해서는 상당히 중요한 항목이 된다.

본 연구는 권상하중에 민감하게 반응하고 로드셀 또는 스트레인 게이지를 이용하여 하중을 검출하기 쉬운 부분으로 Fig. 5와 같이 롤러의 중심부를 선택하였다.

Fig. 5 Result of structural analysis for roller

Fig. 5는 ANSYS 구조해석을 수행 한 후 롤러부의 응력의 분포를 나타낸 것이다. 이러한 롤러부와 롤러 중심(Roller center)의 응력 분포는 권상하중의 크기에 따라 다르기 때문에 80번의 구조해석을 수행하여 롤러부의 응력을 각각 구했다. 본 연구의 목적이 하중의 검출과 인식이기에 응력을 하중으로 전환할 필요가 있다. 응력으로부터 하중 계산식은 식(3)과(4)를 이용하였다. 구조해석에서 얻어진 롤러부 끝다늬 수직응력 성분에 해당 면적을 곱함으로써 롤러에 가해진 하중을 구하였고, 이를 이용하여 전단응력 산출 공식에 전단력과 단면 특성 함수를 대입하여 전단응력을 구하였다. 롤러 중심부의 전단응력으로부터 롤러 상부(Roller top)의 하부 대칭점에 발생하는 롤러 하중을 구할 수 있을 것이다. 이러한 계산 방식으로 좌측 11개과 우측 11개의 합계 22개의 롤러에 부하되는 하중을 계산하였고, 이를 이용하여 화물무게인 권상하중을 검출하였다[17, 18].

V = σ_avg × A_plane       (3)

V : 롤러 핀이 지지하고 있는 전단력

σ_avg : 응력의 평균값

A_plane : 응력면의 면적 값

\(\begin{align}\tau=\frac{V Q}{I t}\end{align}\)       (4)

τ : 롤러 평균 전단응력

I : 롤러 핀 단면 2차 모멘트

t : 롤러 핀 지름

Q : 롤러 핀 단면 1차 모멘트

그러나 이러한 데이터는 인공지능의 학습 과정의 1개 데이터로 입력되므로 권상하중 40톤까지 하더라도 80개 데이터가 되어 인공 신경망의 학습에 사용되기에는 상당히 부족한 양일 것이다. 또한, 1개의 톤수에 의한 구조해석은 거의 동일한 결과가 나타나고, 컴퓨터 사양에 다르지만 장시간의 구조 해석 시간이 소요된다. 0.5톤씩 구조해석을 수행하여 약 80개 경우의 톤수별 롤러 하중을 데이터로 사용하였으나 학습 데이터로는 부족한 양으로 판단하였다.

그러므로 인공 신경망 기법 중에서 데이터의 복원과 새로운 데이터 생성에 사용되는 SAE(Stacked Auto Encoder) 기법을 적용하였다. SAE 기법에 대한 개요를 Fig. 6에 나타내었다. 입력층(Input layer)의 1개 셀(Cell)에 하중 값이 입력되면 은닉층(Hidden layer)의 모든 셀에 가중치와 편향을 가진 함수로 입력이 되는 방식으로 출력층(Output layer)까지 학습이 진행되어 새로운 데이터의 복원과 생성을 하게 된다. SAE는 주로 손상된 사진과 오래된 이미지 등을 복원하는 것에 주로 사용되지만, 본 연구에서는 한정적인 기계적 하중 데이터의 증폭에 적용하여 하중 인식에 대한 영향에 대해서 검토하였다[19∼22].

Fig. 6 Principle of SAE

3. 실험결과 및 고찰

3.1 비선형 활성화 함수

RNN의 단계별 학습과정의 출력층에 대한 활성화 함수는 여러 개의 입력값으로 1개의 출력값을 출력할 경우 어느 정도 활성화하여 출력할 것인지를 결정하는 함수이다. 본 연구는 RELU, ELU, Soft plus에 대하여 검토한 결과를 Fig. 7에 나타내었다[23, 24].

Fig. 7 Effect of activation function

비율(Rate)은 백분율 100%를 1로 전환하여 1에 대한 비로 표현한 것이며, SAE로 재구성된 데이터를 SAE, ANSYS의 구조해석 데이터를 ANSYS로 각각 학습을 진행한 후 각 활성화 함수별 정확도(Accuracy)와 손실(Loss)을 비율로 나타내었다. 손실의 경우는 데이터 타입인 SAE와 ANSYS는 각 활성화 함수에 따라 차이가 있지만, 정확도는 동일한 비율을 나타내었다. 정확도의 비율차이는 하중의 수치값에 대한 오차가 아니며 인식의 오차이므로 동일한 비율로 나타난 것으로 판단된다.

손실의 경우, 막대 그래프의 길이로 판단하면, SAE 데이터는 ELU가 손실이 적고, ANSYS 데이터는 RELU가 적은 손실을 나타내었다. 그러나 손실의 비율값으로 판단하면 ANSYS의 RELU가 가장 작다는 것을 알 수 있다. 하중 데이터의 인식을 위한 활성화 함수는 SAE 데이터와 ANSYS 데이터 또는 다른 경우의 하중 데이터라고 하더라도 동일한 활성화 함수를 적용해야 하므로, 본 연구의 결과에 의하여, 활성화 함수는 RELU를 선택하였다.

3.2 손실 함수

손실함수는 정답인 권상하중과 예측된 권상하중과의 차이를 정의하는 함수이다. RNN의 학습과정과 알고리즘이 적합하게 구성되어 있는 지를 어떻게 할 것인가를 나타내는 것이 지표 함수이다. 지표 함수의 정의에 따른 손실과 정확도에 미치는 영향을 Fig. 8에 나타내었다[25, 26].

Fig. 8 Effect of loss function

본 연구에서는 다수의 손실 함수에 대해 비교해 보고 비교적 손실은 적게 나타낸 MSE, MAE 및 MSLE에 대해 분석한 결과를 설명한다. 정확도의 경우는 활성화 함수의 경우와 동일하게 나타났지만, 손실의 경우는 상대적으로 큰 차이가 나타내었다. SAE와 ANSYS 데이터 모두 MSLE 함수가 적게 나타났으므로 손실함수로는 MSLE를 선택하였다.

3.3 최적화 함수

최적화 함수는 손실함수에 정의된 정답 권상하중과 예측 권상하중의 차이를 최소화하기 위한 경로 탐색 방법이다. 기본적인 개념은 경사하강법(Gradient Descent)으로 학습 단계의 셀 가중치와 편향이 오차에 미치는 영향의 정도를 편미분으로 분석하여 이후 학습에 최적의 가중치를 찾아 반영하게 하는 방법이며, 경사 하강 방향(Vector)과 하강의 보폭 결정 방법에 따라 여러 방법이 있다[27, 28].

최적화 함수 중에서 RMSprop, Adam 및 Nadam이 전체 손실(Loss)과 정확도(Accuracy)의 영향에 대한 결과를 Fig. 9에 나타내었다. 정확도는 활성화 함수와 동일한 결과가 나타났지만, 손실의 경우는 SAE와 ANSYS 데이터의 결과를 고려하면 Adam의 경우가 가장 적게 나타났다.

Fig. 9 Effect of optimizer

이러한 결과로부터, 유한 요소 해석으로부터 도출된 하중을 인공 신경망의 RNN 기법으로 인식과 예측의 가능성을 확인하기 위하여 활성화 함수로는 RELU, 손실함수로는 MSLE, 최적화 함수로는 Adam을 선정하였다. 이렇게 선정된 파라미터로 RNN의 학습을 수행한 후 예측된 예측 권상하중과 정답 권상하중을 비교하여 RNN 학습의 정확도를 검증하였다.

3.4 학습 결과에 대한 검증

학습 결과인 권상하중의 예측 정확도를 확인하기 위해 학습과정에서 지정된 20%의 Validation의 데이터에 의한 정확성은 이미지가 정확하게 일치하는 비율의 정확도를 의미하는 것이므로 합리적인 검증이라고 판단하기는 어렵다. 본 연구는 합리적인 정확성을 평가하기 위해 학습 완료 후에 1, 5, 19, 29, 35 및 39톤에 해당하는 1∼22번 롤러까지의 하중을 입력하여 예측된 권상하중(Prediction hoisting load)과 정답 권상하중(Actual hoisting load)을 비교하는 방법으로 정확도를 검증하였다. 검증 결과를 SAE 데이터의 경우는 Table 1와 ANSYS 데이터의 경우는 Table 2에 나타내었다.

Table 1 Accuracy of SAE

Table 2 Accuracy of ANSYS

Table 1의 SAE 전체 정확도는 96.6%로 가장 큰 정확도는 98.74%, 가장 작은 정확도는 91.91%였다. 가장 작은 정확도를 나타낸 것은 1톤의 권상하중에 해당하며, 1톤에 대해 0.081톤의 오차(Error load)이므로 백분율로는 작은 오차라도 크게 나타났다. 이에 반해 5톤 이상의 경우는 모두 95% 이상으로 나타났다.

Table 2의 ANSYS 전체 정확도는 97.0%로 가장 큰 정확도는 99.65%, 가장 작은 정확도는 94.71%였다. 가장 작은 정확도를 나타낸 것은 19톤의 권상하중에 해당하며, 19톤에 대해 약 1톤의 오차로 다소 높게 나타났지만, 한계 하중이 40톤인 것에 비하면 위험한 수준이 아닌 것으로 판단된다. 가장 작은 오차 톤수는 권상하중 1톤의 경우로 0.035톤으로 나타났다.

위의 결과와 더불어 본 연구는 인공 신경망인 RNN 기법의 학습에 필요한 데이터 확보 방안으로 SAE 기법의 적용하였기 때문에 이에 대한 유용성을 ANSYS 데이터와 비교하여 확인하여, Fig. 10과 11에 나타내었다.

Fig. 10 Error load of RNN

Fig. 11 Error rate of RNN

Fig. 10은 정답 권상하중에 대한 예측된 권상하중의 오차 하중(Error load)을 SAE 데이터와 ANSYS 데이터로 비교하여 나타내었다. SAE와 ANSYS 모두 1.1톤 이하의 오차 하중을 나타내고 있다. 전반적으로 SAE 데이터 경우가 오차가 다소 적다는 것을 알 수 있다. 정예화된 데이터라고 판단할 수 있는 ANSYS 데이터가 무작위로 재구성된 데이터라고 할 수 있는 SAE 데이터의 오차가 다소 크게 나타났다고 판단할 수 있다.

Fig. 11는 SAE와 ANSYS의 오차 비율(Error rate)에 대한 결과를 나타낸 것으로 1톤의 경우를 제외하면 오차 비율이 5% 정도라는 것을 알 수 있다. 1톤의 SAE 경우는 8%정도의 비율로 다소 높게 나타났지만, 0.08톤에 해당하므로 작은 양의 오차이다.

5. 결론

유한 요소 해석에 의한 하중 데이터로 인공신경망의 RNN을 활용한 기계적 하중의 학습 가능성과 적용의 유용성을 검토하기 위하여 대형 기계 구조물인 크롤러 크레인에 적용한 결과는 다음과 같다.

1. 기계 장치 및 장비의 구조에 대해 순환 신경망의 RNN기법의 적용은 기계적 하중에 대한 인식, 검출 및 학습이 가능하였으며, 데이터 확보 방안으로 SAE 기법의 유용성을 확인할 수 있었다.

2. 순환 신경망 RNN으로 SAE 데이터는 96.6%, ANSYS 데이터는 97.0%로 하중의 인식 및 예측이 가능할 수 있다고 판단된다.

3. 기계적 하중의 RNN 학습에 필요한 데이터 확보 방안으로 SAE 기법의 적용을 제안하며, SAE에 의한 하중 데이터의 재구성 및 활용의 유용성을 확인하였다.

4. 다양한 기계적 하중 데이터의 인식과 예측에 SAE와 RNN의 적용을 제안하며, 적합하고 기준이 되는 학습 절차, 함수 조건 및 방안을 제안한다.