• 제목/요약/키워드: hidden layer

검색결과 511건 처리시간 0.029초

인공신경망 모형을 이용한 급속혼화공정에서 적정 응집제 주입농도 결정 및 응집처리후 탁도의 예측 (Prediction of Turbidity in Treated Water and the Estimation of the Optimum Feed Concentration of Coagulants in Rapid Mixing Process using an Artificial Neural Network Model)

  • 정동환;박규홍
    • 한국물환경학회지
    • /
    • 제21권1호
    • /
    • pp.21-28
    • /
    • 2005
  • The training and prediction modeling using an artificial neural network was implemented to predict the turbidity of treated water as well as to estimate the optimized feed concentration of polyaluminium chloride (PACl) in a water treatment plant. The parameters used in the input layers were pH, temperature, turbidity and alkalinity, while those in output layers were PACl and turbidity of treated water. Levenberg-Marquadt method of feedforward back-propagation perceptron in the neural network toolbox of MATLAB program was used in this study. Correlation coefficients of the training data with the measured data were 0.9997 for PACl and 0.6850 for turbidity and those of the testing data with measured data were 0.9140 for PACl and 0.3828 for turbidity, when four parameters at input layer, 12-12 nodes each at both the first and the second hidden layers, and two parameters(PACl and turbidity) at output layer were used. Although the predictability of PACl was improved, compared to that of the previous studies to use the only coagulant dose as output layer, turbidity in treated water could not be predicted well. Acquisition of more data through several years obtained with the advanced on-line measuring system could make the artificial neural network useful and practical in actual water treatment plants.

CAPTCHA에 사용되는 숫자데이터를 자동으로 판독하기 위한 Autoencoder 모델들의 특성 연구 (A Study on the Characteristics of a series of Autoencoder for Recognizing Numbers used in CAPTCHA)

  • 전재승;문종섭
    • 인터넷정보학회논문지
    • /
    • 제18권6호
    • /
    • pp.25-34
    • /
    • 2017
  • 오토인코더(Autoencoder)는 입력 계층과 출력 계층이 동일한 딥러닝의 일종으로 은닉 계층의 제약 조건을 이용하여 입력 벡터의 특징을 효과적으로 추출하고 복원한다. 본 논문에서는 CAPTCHA 이미지 중 하나의 숫자와 자연배경이 혼재된 영역을 대상으로 일련의 다양한 오토인코더 모델들을 적용하여 잡음인 자연배경을 제거하고 숫자 이미지만을 복원하는 방법들을 제시한다. 제시하는 복원 이미지의 적합성은 오토인코더의 출력을 입력으로 하는 소프트맥스 함수를 활성화 함수로 사용하여 검증하고, CAPTCHA 정보를 자동으로 획득하는 다른 방법들과 비교하여, 본 논문에서 제시하는 방법의 우수함을 검증하였다.

다층 퍼셉트론에서 구조인자 제어 영향의 비교 (Comparison of Factors for Controlling Effects in MLP Networks)

  • 윤여창
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제31권5호
    • /
    • pp.537-542
    • /
    • 2004
  • 다층 퍼셉트론(Multi-Layer Perceptron, MLP) 구조는 그의 비선형 적합능력으로 인하여 매우 다양한 실제 문제에 적용되고 있다. 그러나 일반화된 MLP 구조의 적합능력은 은닉노드의 개수. 초기 가중 값 그리고 학습 회수 또는 학습 오차와 같은 구조인자(factor)들에 크게 영향을 받는다. 만약 이들 구조인자가 부적절하게 선택되면 일반화된 MLP 구조의 적합능력이 매우 왜곡될 수 있다. 따라서 MLP구조에 영향을 주는 인자들의 결합 영향을 살펴보는 것은 중요한 문제이다. 이 논문에서는 제어상자(controller box)를 통한 학습결과와 더불어 MLP구조를 일반화할 때 영향을 줄 수 있는 신경망의 일반적인 구조인자 들을 실증적으로 살펴보고 이들의 상대효과를 비교한다.

신경회로망을 이용한 직류전동기의 센서리스 속도제어 (Sensorless Speed Control of Direct Current Motor by Neural Network)

  • 강성주;오세진;김종수
    • Journal of Advanced Marine Engineering and Technology
    • /
    • 제28권1호
    • /
    • pp.90-97
    • /
    • 2004
  • DC motor requires a rotor speed sensor for accurate speed control. The speed sensors such as resolvers and encoders are used as speed detectors. but they increase cost and size of the motor and restrict the industrial drive applications. So in these days. many Papers have reported on the sensorless operation or DC motor(3)-(5). This paper Presents a new sensorless strategy using neural networks(6)-(8). Neural network structure has three layers which are input layer. hidden layer and output layer. The optimal neural network structure was tracked down by trial and error and it was found that 4-16-1 neural network has given suitable results for the instantaneous rotor speed. Also. learning method is very important in neural network. Supervised learning methods(8) are typically used to train the neural network for learning the input/output pattern presented. The back-propagation technique adjusts the neural network weights during training. The rotor speed is gained by weights and four inputs to the neural network. The experimental results were found satisfactory in both the independency on machine parameters and the insensitivity to the load condition.

초음파 금속용접 시 다층 퍼셉트론 뉴럴 네트워크를 이용한 용접품질의 In-process 모니터링 (In-process Weld Quality Monitoring by the Multi-layer Perceptron Neural Network in Ultrasonic Metal Welding)

  • ;박동삼
    • 한국기계가공학회지
    • /
    • 제21권6호
    • /
    • pp.89-97
    • /
    • 2022
  • Ultrasonic metal welding has been widely used for joining lithium-ion battery tabs. Weld quality monitoring has been an important issue in lithium-ion battery manufacturing. This study focuses on the weld quality monitoring in ultrasonic metal welding with the longitudinal-torsional vibration mode horn developed newly. As the quality of ultrasonic welding depends on welding parameters like pressure, time, and amplitude, the suitable values of these parameters were selected for experimentation. The welds were tested via tensile testing machine and weld strengths were investigated. The dataset collected for performance test was used to train the multi-layer perceptron neural network. The three layer neural network was used for the study and the optimum number of neurons in the first and second hidden layers were selected based on performances of each models. The best models were selected for the horn and then tested to see their performances on an unseen dataset. The neural network models for the longitudinal-torsional mode horn attained test accuracy of 90%. This result implies that proposed models has potential for the weld quality monitoring.

A Study of Predicting Method of Residual Stress Using Artificial Neural Network in $CO_2$Arc welding

  • Cho, Y.;Rhee, S.;Kim, J.H.
    • International Journal of Korean Welding Society
    • /
    • 제1권2호
    • /
    • pp.51-60
    • /
    • 2001
  • A prediction method for determining the welding residual stress by artificial neural network is proposed. A three-dimensional transient thermo-mechanical analysis has been performed for the $CO_2$ arc welding using the finite element method. The first part of numerical analysis performs a three-dimensional transient heat transfer analysis, and the second part then uses the results of the first part and performs a three-dimensional transient thermo-elastic-plastic analysis to compute transient and residual stresses in the weld. Data from the finite element method are used to train a back propagation neural network to predict the residual stress. Architecturally, the fully interconnected network consists of an input layer for the voltage and current, a hidden layer to accommodate the failure mechanism mapping, and an output layer for the residual stress. The trained network is then applied to the prediction of residual stress in the four specimens. It is concluded that the accuracy of the neural network predicting method is fully comparable with the accuracy achieved by the traditional predicting method.

  • PDF

Classification and prediction of the effects of nutritional intake on diabetes mellitus using artificial neural network sensitivity analysis: 7th Korea National Health and Nutrition Examination Survey

  • Kyungjin Chang;Songmin Yoo;Simyeol Lee
    • Nutrition Research and Practice
    • /
    • 제17권6호
    • /
    • pp.1255-1266
    • /
    • 2023
  • BACKGROUND/OBJECTIVES: This study aimed to predict the association between nutritional intake and diabetes mellitus (DM) by developing an artificial neural network (ANN) model for older adults. SUBJECTS/METHODS: Participants aged over 65 years from the 7th (2016-2018) Korea National Health and Nutrition Examination Survey were included. The diagnostic criteria of DM were set as output variables, while various nutritional intakes were set as input variables. An ANN model comprising one input layer with 16 nodes, one hidden layer with 12 nodes, and one output layer with one node was implemented in the MATLAB® programming language. A sensitivity analysis was conducted to determine the relative importance of the input variables in predicting the output. RESULTS: Our DM-predicting neural network model exhibited relatively high accuracy (81.3%) with 11 nutrient inputs, namely, thiamin, carbohydrates, potassium, energy, cholesterol, sugar, vitamin A, riboflavin, protein, vitamin C, and fat. CONCLUSIONS: In this study, the neural network sensitivity analysis method based on nutrient intake demonstrated a relatively accurate classification and prediction of DM in the older population.

대청댐 유입량 예측을 위한 Adaptive Moments와 Improved Harmony Search의 결합을 이용한 다층퍼셉트론 성능향상 (Improvement of multi layer perceptron performance using combination of adaptive moments and improved harmony search for prediction of Daecheong Dam inflow)

  • 이원진;이의훈
    • 한국수자원학회논문집
    • /
    • 제56권1호
    • /
    • pp.63-74
    • /
    • 2023
  • 높은 신뢰도의 댐 유입량 예측은 효율적인 댐 운영을 위해 필요하다. 최근 다층퍼셉트론(Multi Layer Perceptron, MLP)을 활용하여 댐의 유입량을 예측하는 연구들이 진행되었다. 기존 연구들은 MLP의 연산자 중 자료 간의 최적 상관관계를 찾는 optimizer로 경사하강법(Gradient Descent, GD) 기반의 optimizer를 사용하였다. 하지만, GD 기반의 optimizer들은 지역 최적값으로의 수렴 가능성과 저장공간 부재로 인해 예측성능이 저하된다는 단점이 있다. 본 연구는 GD 기반 optimizer 중 Adaptive moments와 Improved Harmony Search (IHS)를 결합한 Adaptive moments combined with Improved Harmony Search (AdamIHS)를 개발하여 GD 기반 optimizer의 단점을 개선하였다. AdamIHS를 사용한 MLP의 학습 및 예측성능을 평가하기 위해 대청댐 유입량을 학습 및 예측하였으며, GD 기반 optimizer를 사용한 MLP의 학습 및 예측성능과 비교하였다. 학습결과를 비교하면, AdamIHS를 사용한 은닉층 5개인 MLP의 Mean Squared Error (MSE) 평균값이 11,577로 가장 낮았다. 예측결과를 비교하면, AdamIHS를 사용한 은닉층 1개인 MLP의 MSE 평균값이 413,262로 가장 낮았다. 본 연구에서 개발된 AdamIHS를 활용하면 다양한 분야에서 향상된 예측성능을 보여줄 수 있을 것이다.

신경망 모형을 이용한 홍수유출 예측시스템의 재발 (A Development of System for Flood Runoff Forecasting using Neural Network Model)

  • 안상진;전계원
    • 한국수자원학회논문집
    • /
    • 제37권9호
    • /
    • pp.771-780
    • /
    • 2004
  • 본 논문에서는 신경망 모형을 이용해서 개발된 홍수유출 예측 시스템의 적용성을 검토하였다. 홍수유출 예측을 위한 신경망 모형을 공주, 부여지점에 적용하였으며, 신경망 모형을 입력층, 은닉층, 출력층으로 구성하였다. 입력층에는 강우자료와 홍수량 자료를 출력층에는 홍수유출량이 예측되도록 구성하였다. 홍수유출 예측 시스템 구성시 예측모형 선정을 위해 신경망 모형과 상태공간 모형을 이용하여 홍수시 실시간 하천유출량 예측을 수행하였다. 두 모형의 예측결과 비교시 신경망 모형이 실시간 홍수량 예측에 적합한 모형으로 선정되었다. 신경망 모형은 Web 상에서 사용이 가능하게 변환하여 홍수유출 예측시스템의 기본모형으로 개발되었다. Web 기반 모형으로 개발된 신경망 모형을 서버에 탑재하고 금강수계의 본류와 주요 지점에 적용하여 Web 상에서 개발된 모형의 적용성을 검증하였다.

RNN모델에서 하이퍼파라미터 변화에 따른 정확도와 손실 성능 분석 (Analysis of Accuracy and Loss Performance According to Hyperparameter in RNN Model)

  • 김준용;박구락
    • 융합정보논문지
    • /
    • 제11권7호
    • /
    • pp.31-38
    • /
    • 2021
  • 본 논문은 감성 분석에 사용되는 RNN 모델의 최적화를 얻기 위한 성능분석을 위하여 하이퍼파라미터 튜닝에 따른 손실과 정확도의 추이를 관찰하여 모델과의 상관관계를 연구하였다. 연구 방법으로는 시퀀셜데이터를 처리하는데 가장 최적화된 LSTM과 Embedding layer로 히든레이어를 구성한 후, LSTM의 Unit과 Batch Size, Embedding Size를 튜닝하여 각각의 모델에 대한 손실과 정확도를 측정하였다. 측정 결과, 손실은 41.9%, 정확도는 11.4%의 차이를 나타내었고, 최적화 모델의 변화추이는 지속적으로 안정적인 그래프를 보여 하이퍼파라미터의 튜닝이 모델에 지대한 영향을 미침을 확인하였다. 또한 3가지 하이퍼파라미터 중 Embedding Size의 결정이 모델에 가장 큰 영향을 미침을 확인하였다. 향후 이 연구를 지속적으로 이어나가 모델이 최적의 하이퍼파라미터를 직접 찾아낼 수 있는 알고리즘에 대한 연구를 지속적으로 이어나갈 것이다.