• 제목/요약/키워드: Error Back Propagation

Search Result 463, Processing Time 0.023 seconds

언센티드 칼만필터 훈련 알고리즘에 의한 순환신경망의 파라미터 추정 및 비선형 채널 등화에의 응용 (Parameter Estimation of Recurrent Neural Networks Using A Unscented Kalman Filter Training Algorithm and Its Applications to Nonlinear Channel Equalization)

  • 권오신
    • 한국지능시스템학회논문지
    • /
    • 제15권5호
    • /
    • pp.552-559
    • /
    • 2005
  • 실시간 순환형 훈련 알고리즘(RTRL)과 같이 경사법에 의해 훈련되는 순환형 뉴럴 네트웍(RNN)은 수렴속도가 매우 느린 단점을 지니고 있다. 이 알고리즘은 또한 오차 역전달 처리과정에서 결코 쉽지 않은 미분 계산을 필요로 한다. 본 논문에서는 완전하게 결합된 RNN의 훈련을 위하여 소위 언센티드 칼만필터라고 불리우는 미분없는 칼만필터 훈련 알고리즘을 시스템의 상태공간 상에서 표현하였다. 미분없는 칼만필터 훈련 알고리즘은 순환형 뉴럴 네트웍 훈련시 미분 계산 없이 매우 빠른 수렴속도와 좋은 추정 성능을 보여준다. 비선형 채널 등화 실험을 통하여 미분 없는 칼만필터 훈련 알고리즘을 이용한 RNN의 성능이 향상되었음을 보였다.

A Novel RFID Dynamic Testing Method Based on Optical Measurement

  • Zhenlu Liu;Xiaolei Yu;Lin Li;Weichun Zhang;Xiao Zhuang;Zhimin Zhao
    • Current Optics and Photonics
    • /
    • 제8권2호
    • /
    • pp.127-137
    • /
    • 2024
  • The distribution of tags is an important factor that affects the performance of radio-frequency identification (RFID). To study RFID performance, it is necessary to obtain RFID tags' coordinates. However, the positioning method of RFID technology has large errors, and is easily affected by the environment. Therefore, a new method using optical measurement is proposed to achieve RFID performance analysis. First, due to the possibility of blurring during image acquisition, the paper derives a new image prior to removing blurring. A nonlocal means-based method for image deconvolution is proposed. Experimental results show that the PSNR and SSIM indicators of our algorithm are better than those of a learning deep convolutional neural network and fast total variation. Second, an RFID dynamic testing system based on photoelectric sensing technology is designed. The reading distance of RFID and the three-dimensional coordinates of the tags are obtained. Finally, deep learning is used to model the RFID reading distance and tag distribution. The error is 3.02%, which is better than other algorithms such as a particle-swarm optimization back-propagation neural network, an extreme learning machine, and a deep neural network. The paper proposes the use of optical methods to measure and collect RFID data, and to analyze and predict RFID performance. This provides a new method for testing RFID performance.

Comparison of artificial intelligence models reconstructing missing wind signals in deep-cutting gorges

  • Zhen Wang;Jinsong Zhu;Ziyue Lu;Zhitian Zhang
    • Wind and Structures
    • /
    • 제38권1호
    • /
    • pp.75-91
    • /
    • 2024
  • Reliable wind signal reconstruction can be beneficial to the operational safety of long-span bridges. Non-Gaussian characteristics of wind signals make the reconstruction process challenging. In this paper, non-Gaussian wind signals are converted into a combined prediction of two kinds of features, actual wind speeds and wind angles of attack. First, two decomposition techniques, empirical mode decomposition (EMD) and variational mode decomposition (VMD), are introduced to decompose wind signals into intrinsic mode functions (IMFs) to reduce the randomness of wind signals. Their principles and applicability are also discussed. Then, four artificial intelligence (AI) algorithms are utilized for wind signal reconstruction by combining the particle swarm optimization (PSO) algorithm with back propagation neural network (BPNN), support vector regression (SVR), long short-term memory (LSTM) and bidirectional long short-term memory (Bi-LSTM), respectively. Measured wind signals from a bridge site in a deep-cutting gorge are taken as experimental subjects. The results showed that the reconstruction error of high-frequency components of EMD is too large. On the contrary, VMD fully extracts the multiscale rules of the signal, reduces the component complexity. The combination of VMD-PSO-Bi-LSTM is demonstrated to be the most effective among all hybrid models.

신경회로망을 이용한 IPMSM의 효율 최적화 제어 (Efficiency Optimization Control of IPMSM using Neural Network)

  • 최정식;고재섭;정동화
    • 조명전기설비학회논문지
    • /
    • 제22권1호
    • /
    • pp.40-49
    • /
    • 2008
  • IPMSM 드라이브는 하중 비에 대한 출력이 우수하여 전기자동차 등 응용분야에서 관심이 증가하고 있다. 이러한 응용분야에서 최대 효율을 얻기 위하여 본 논문은 신경회로망 제어기법을 제시한다. 동손과 철손으로 구성된 제어가능한 전기적 손실은 신경회로망의 오류 역전파 알고리즘(EBPA)를 이용하여 최소화시킬 수 있다. 손실의 최소화는 IPMSM 드라이브의 효율 최적화 제어를 가능하게 한다. 본 논문에서는 신경회로망의 EBPA를 이용하여 전동기 구동에 대하여 d축 인덕턴스, 전기자 저항, 역기전력 상수 변화와 같은 파라미터 변동을 시간으로 계산하여 고성능 및 강인성 제어를 제시한다. 제시한 알고리즘은 IPMSM 드라이브 시스템에 적용하고 효율최적화 제어에 의해 제어된 동작특성을 분석하여 논문의 타당성을 입증한다.

Prediction Acidity Constant of Various Benzoic Acids and Phenols in Water Using Linear and Nonlinear QSPR Models

  • Habibi Yangjeh, Aziz;Danandeh Jenagharad, Mohammad;Nooshyar, Mahdi
    • Bulletin of the Korean Chemical Society
    • /
    • 제26권12호
    • /
    • pp.2007-2016
    • /
    • 2005
  • An artificial neural network (ANN) is successfully presented for prediction acidity constant (pKa) of various benzoic acids and phenols with diverse chemical structures using a nonlinear quantitative structure-property relationship. A three-layered feed forward ANN with back-propagation of error was generated using six molecular descriptors appearing in the multi-parameter linear regression (MLR) model. The polarizability term $(\pi_1)$, most positive charge of acidic hydrogen atom $(q^+)$, molecular weight (MW), most negative charge of the acidic oxygen atom $(q^-)$, the hydrogen-bond accepting ability $(\epsilon_B)$ and partial charge weighted topological electronic (PCWTE) descriptors are inputs and its output is pKa. It was found that properly selected and trained neural network with 205 compounds could fairly represent dependence of the acidity constant on molecular descriptors. For evaluation of the predictive power of the generated ANN, an optimized network was applied for prediction pKa values of 37 compounds in the prediction set, which were not used in the optimization procedure. Squared correlation coefficient $(R^2)$ and root mean square error (RMSE) of 0.9147 and 0.9388 for prediction set by the MLR model should be compared with the values of 0.9939 and 0.2575 by the ANN model. These improvements are due to the fact that acidity constant of benzoic acids and phenols in water shows nonlinear correlations with the molecular descriptors.

신경회로망을 이용한 가전기기 전기 사용량 모니터링 및 예측 (Monitoring and Prediction of Appliances Electricity Usage Using Neural Network)

  • 정경권;최우승
    • 한국컴퓨터정보학회논문지
    • /
    • 제16권8호
    • /
    • pp.137-146
    • /
    • 2011
  • 에너지 소모에 대한 증가되는 소비자의 관심을 지원하기 위하여 가전기기의 에너지 모니터링과 예측 방식을 제안한다. 제안한 시스템은 0.5초마다 전류 센서를 지나가는 전류량을 측정하는 스마트 플러그라는 일반 전기 콘센트로 설계하고, 신경회로망의 훈련과 시험 데이터를 얻기 위해 평균기온, 최저기온, 초고기온, 습도, 일조시간의 날씨 정보를 입력 데이터로 사용하고, 스마트 플러그를 통한 전기 사용량을 목표값으로 사용하였다. 훈련을 위한 실험데이터를 사용하여 역전파 알고리즘을 기반으로 한 신경회로망을 구성하였다. 입력과 출력 데이터의 비선형 매핑을 위해 다층신경회로망을 사용하였다. 제안한 신경회로망 모델은 상관관계 계수가 0.9965로 우수하게 전기 사용량을 예측할 수 있는 것을 확인하였으며, 예측의 평균 제곱 오차는 0.02033이다.

제빵 굽기 공정의 신경회로망 모형화 (Neural Network Modeling for Bread Baking Process)

  • 김승찬;조성인;전재근
    • 한국식품과학회지
    • /
    • 제27권4호
    • /
    • pp.525-531
    • /
    • 1995
  • 제빵 공정 중의 굽기 공정을 대상으로 공정에 이용되는 오븐의 예측 제어를 위해 빵의 부피, 색깔, 빵의 온도 변화를 예측할 수 있는 모형을 개발하였다. 첫째, 모형 개발을 위해 필요한 데이터 획득을 위해 영상 처리 장치, K-type 열전쌍 온도 센서 등을 이용하여, 굽기 공정 중의 물리적 변화를 측정하였다. 빵의 상태 변화는 부피가 먼저 증가하고, 부피 증가가 멈춘 후에 색깔의 변화가 수반되었다. 표면 온도는 초기에 급격히 상승한 후에 완만한 상승으로 전환되었고, 내부 온도는 초기에 어느 정도 일정한 온도를 유지하다가, 중반에 급격한 상승을 나타내고, 이후에 다시 일정하게 유지되었다. 부피, 색과, 품온 간의 상호관계는 비선형적인 관계를 가진 것으로 판명되었다. 둘째, 빵의 부피, 색 변화를 예측하기 위해 MLP구조와 BP학습을 이용하여, 30초, 2분 이후의 부피 및 색 변화를 예측할 수 있는 모형과 부피, 색, 오븐 온도를 입력으로 품은 및 표면 온도를 예측할 수 있는 모형을 개발하였다. 개발된 모형의 예측 오차가 각각 4.62%, 7.38%, 1.09%로, 굽기 공정 중의 빵의 상태를 유의성 있게 예측할 수 있었다.

  • PDF

선박 골블록의 경사 필렛 이음부의 적정 용접조건 (I) (Optimal Welding Condition for the Inclined and Skewed Fillet Joints ill the Curved Block of a Ship (I))

  • 박주용
    • 한국해양공학회지
    • /
    • 제18권6호
    • /
    • pp.79-83
    • /
    • 2004
  • The curved blocks which compose the bow and stem of a ship contain many skewed joints that are inclined horizontally and vertically. Most of these joints have a large fitness error and are continuously changing their form and are not easily accessible. The welding position and parameter values should be appropriately set in correspondence to the shape and the inclination of the joints. The welding parameters such as current, voltage, travel speed, and melting rate, are related to each other and their values must be in a specific limited range for the sound welding. These correlations and the ranges are dependent up on the kind and size of wire, shielding gas, joint shape and fitness. To determine these relationships, extensive welding experiments were performed. The experimental data were processed using several information processing technologies. The regression method was used to determine the relationship between current voltage, and deposition rate. When a joint is inclined, the weld bead should be confined to a the limited size, inorder to avoid undercut as well as overlap due to flowing down of molten metal by gravity. The dependency of the limited weld size which is defined as the critical deposited area on various factors such as the horizontally and vertically inclined angle of the joint, skewed angle of the joint, up or down welding direction and weaving was investigated through a number of welding experiments. On the basis of this result, an ANN system was developed to estimate the critical deposited area. The ANN system consists of a 4 layer structure and uses an error back propagation learning algorithm. The estimated values of the ANN were validated using experimental values.

R의 neuralnet을 활용한 신경망분석 (Neural network analysis using neuralnet in R)

  • 백재욱
    • 산업진흥연구
    • /
    • 제6권1호
    • /
    • pp.1-7
    • /
    • 2021
  • 본 연구는 다층 퍼셉트론과 지도형 학습알고리즘에 대해 알아보았고, 아울러 neuralnet이라는 패키지를 사용하여 공변수들과 반응변수 간의 함수적 관계를 어떻게 모델링하는지 살펴보았다. 본 연구에서 적용된 알고리즘은 반응변수 값의 실제치와 예측치 간의 비교에 근거한 오차함수의 최소화를 위한 모수인 가중치들의 계속적인 조정을 특징으로 한다. 본 연구에서 설명하는 neuralnet 패키지는 활성화함수와 오차함수를 주어진 상황에 맞게 적절히 선택하고 나머지 매개변수들은 기본값으로 둘 수 있다. 본 연구에서 살펴본 불임 데이터에 대해 neuralnet 패키지를 활용한 결과 4개의 독립변수 중에서 age는 불임에 영향력이 거의 없음을 파악할 수 있었다. 아울러 신경망의 가중치는 -751.6부터 7.25에 이르기까지 다양한 값을 취하며, 첫 번째 은닉층의 절편은 -92.6과 7.25이며, 첫 번째 은닉뉴런으로 가는 공변수 age, parity, induced, spontaneous에 대한 가중치는 각각 3.17, -5.20, -36.82, -751.6임을 파악했다.

Estimating the compressive strength of HPFRC containing metallic fibers using statistical methods and ANNs

  • Perumal, Ramadoss;Prabakaran, V.
    • Advances in concrete construction
    • /
    • 제10권6호
    • /
    • pp.479-488
    • /
    • 2020
  • The experimental and numerical works were carried out on high performance fiber reinforced concrete (HPFRC) with w/cm ratios ranging from 0.25 to 0.40, fiber volume fraction (Vf)=0-1.5% and 10% silica fume replacement. Improvements in compressive and flexural strengths obtained for HPFRC are moderate and significant, respectively, Empirical equations developed for the compressive strength and flexural strength of HPFRC as a function of fiber volume fraction. A relation between flexural strength and compressive strength of HPFRC with R=0.78 was developed. Due to the complex mix proportions and non-linear relationship between the mix proportions and properties, models with reliable predictive capabilities are not developed and also research on HPFRC was empirical. In this paper due to the inadequacy of present method, a back propagation-neural network (BP-NN) was employed to estimate the 28-day compressive strength of HPFRC mixes. BP-NN model was built to implement the highly non-linear relationship between the mix proportions and their properties. This paper describes the data sets collected, training of ANNs and comparison of the experimental results obtained for various mixtures. On statistical analyses of collected data, a multiple linear regression (MLR) model with R2=0.78 was developed for the prediction of compressive strength of HPFRC mixes, and average absolute error (AAE) obtained is 6.5%. On validation of the data sets by NNs, the error range was within 2% of the actual values. ANN model has given the significant degree of accuracy and reliability compared to the MLR model. ANN approach can be effectively used to estimate the 28-day compressive strength of fibrous concrete mixes and is practical.