• 제목/요약/키워드: Levenberg-Marquardt Back-Propagation

검색결과 20건 처리시간 0.026초

Levenberg-Marquardt 알고리즘의 지반공학 적용성 평가 (Evaluation for Applications of the Levenberg-Marquardt Algorithm in Geotechnical Engineering)

  • 김영수;김대만
    • 한국지반환경공학회 논문집
    • /
    • 제10권5호
    • /
    • pp.49-57
    • /
    • 2009
  • 본 연구에서는 Levenberg-Marquardt(LM) 알고리즘 인공신경망을 통하여 지반공학 문제 중의 하나인 압축지수를 예측하였고, 예측된 결과는 현재 지반공학에 널리 사용되고 있는 Back Propagation(BP) 알고리즘 인공신경망의 예측 결과와 비교하여 LM 알고리즘의 지반공학 적용성을 평가하였다. 또한 두 알고리즘에 의한 예측치는 기존에 제안된 압축지수의 경험식들에 의하여 산정된 결과들과 비교를 통하여 예측결과의 정확성을 확인하였다. 경험식에 의한 압축지수의 산정치는 전반적으로 BP 알고리즘과 LM 알고리즘 인공신경망에 의한 예측치에 비하여 더 큰 오차를 나타냈다. LM 알고리즘에 의한 압축지수의 예측치는 BP 알고리즘의 예측치와 비교할 때 정확도는 비슷하나 수렴속도에서 더 좋은 결과를 보여 LM 알고리즘의 지반공학 적용성은 우수한 것으로 나타났다.

  • PDF

Iris Recognition using Multi-Resolution Frequency Analysis and Levenberg-Marquardt Back-Propagation

  • Jeong Yu-Jeong;Choi Gwang-Mi
    • Journal of information and communication convergence engineering
    • /
    • 제2권3호
    • /
    • pp.177-181
    • /
    • 2004
  • In this paper, we suggest an Iris recognition system with an excellent recognition rate and confidence as an alternative biometric recognition technique that solves the limit in an existing individual discrimination. For its implementation, we extracted coefficients feature values with the wavelet transformation mainly used in the signal processing, and we used neural network to see a recognition rate. However, Scale Conjugate Gradient of nonlinear optimum method mainly used in neural network is not suitable to solve the optimum problem for its slow velocity of convergence. So we intended to enhance the recognition rate by using Levenberg-Marquardt Back-propagation which supplements existing Scale Conjugate Gradient for an implementation of the iris recognition system. We improved convergence velocity, efficiency, and stability by changing properly the size according to both convergence rate of solution and variation rate of variable vector with the implementation of an applied algorithm.

다해상도 주파수 분할과 Back-Propagation을 이용한 홍채인식 (Iris Recognition System using Multi-Resolution Frequency Analysis and Back-Propagation)

  • 박경우
    • 통합자연과학논문집
    • /
    • 제1권3호
    • /
    • pp.221-229
    • /
    • 2008
  • 본 논문에서는 기존의 개인 식별 방법의 한계를 해결하는 대안으로 떠오르고 있는 생체인식 기술 중 인식률이 뛰어나고 신뢰성 있는 홍채인식 시스템을 구현하고자 한다. 구현을 위하여 신호처리 분야에서 주로 사용되는 wavelet변환으로 계수 특징 값 추출을 하였으며, 인식률을 알아보기 위하여 신경망 기법을 이용하고자 한다. 그러나 신경망 기법에서 주로 사용되는 비선형 최적화기법인 Scale Conjugate Gradient는 최적화 문제점을 해결하기에는 수렴속도가 느리기 때문에 적합하지 않다. 따라서 본 논문에서는 기존 Scale Conjugate Gradient를 보완한 Levenberg-Marquardt Back-Propagation을 홍채인식에 적용하여 구현함으로써 인식율을 높이고자 한다. 적용한 알고리즘 구현으로 해의 수렴정도, 변수 벡터의 변화정도에 따라 크기를 적절히 변화시킴으로써 수렴속도를 개선하고, 효율성과 안정성을 동시에 얻을 수 있었다.

  • PDF

신경망 모형을 적용한 금강 공주지점의 수질예측 (Water Quality Forecasting at Gongju station in Geum River using Neural Network Model)

  • 안상진;연인성;한양수;이재경
    • 한국수자원학회논문집
    • /
    • 제34권6호
    • /
    • pp.701-711
    • /
    • 2001
  • 수질 인자들은 다양하고 관계가 복잡하여 수질 변화를 예측하는데 많은 어려움이 있다. 따라서 입력과 출력이 비교적 용이하고 비선형 예측에 적합한 신경망 모형을 이용하여 금강유역 공주지점의 DO, BOD, TN에 대한 월수질 예측을 수행하고 ARIMA 모형과 비교하여 적용 가능성을 검토하였다. 사용된 신경망 모형은 학습을 위해 BP(Back Propagation) 알고리즘을 적용하였으며 학습을 향상시키기 위한 모멘트-적응학습율(Moment-Adaptive learming rate) 방법을 이용한 MANN 모형, 레번버그-마쿼트(Levenberg-Marquardt) 방법을 이 용한 LMNN 모형, 그리고 정성적인 판단인자를 첨가하여 정량적인 월 수질 자료와 분별, 학습하 도록 은닉층을 분리한 MNN 모형으로 구분하였다. 대체로 신경망 모형의 예측치가 실측치에 근사한 결과를 보였으며, 은닉층을 분리한 MNN 모형이 가장 우수한 결과를 보였다.

  • PDF

얼굴 검출을 위한 Gabor 특징 기반의 웨이블릿 분해 방법 (Gabor-Features Based Wavelet Decomposition Method for Face Detection)

  • 이정문;최찬석
    • 산업기술연구
    • /
    • 제28권B호
    • /
    • pp.143-148
    • /
    • 2008
  • A real-time face detection is to find human faces robustly under the cluttered background free from the effect of occlusion by other objects or various lightening conditions. We propose a face detection system for real-time applications using wavelet decomposition method based on Gabor features. Firstly, skin candidate regions are extracted from the given image by skin color filtering and projection method. Then Gabor-feature based template matching is performed to choose face cadidate from the skin candidate regions. The chosen face candidate region is transformed into 2-level wavelet decomposition images, from which feature vectors are extracted for classification. Based on the extracted feature vectors, the face candidate region is finally classified into either face or nonface class by the Levenberg-Marguardt back-propagation neural network.

  • PDF

MOS 센서어레이를 이용한 냄새 분류 및 농도추정을 위한 LM-BP 알고리즘 응용 (LM-BP algorithm application for odour classification and concentration prediction using MOS sensor array)

  • 최찬석;변형기;김정도
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 2000년도 제15차 학술회의논문집
    • /
    • pp.210-210
    • /
    • 2000
  • In this paper, we have investigated the properties of multi-layer perceptron (MLP) for odour patterns classification and concentration estimation simultaneously. When the MLP may be has a fast convergence speed with small error and excellent mapping ability for classification, it can be possible to use for classification and concentration prediction of volatile chemicals simultaneously. However, the conventional MLP, which is back-Propagation of error based on the steepest descent method, was difficult to use for odour classification and concentration estimation simultaneously, because it is slow to converge and may fall into the local minimum. We adapted the Levenberg-Marquardt(LM) algorithm [4,5] having advantages both the steepest descent method and Gauss-Newton method instead of the conventional steepest descent method for the simultaneous classification and concentration estimation of odours. And, We designed the artificial odour sensing system(Electronic Nose) and applied LM-BP algorithm for classification and concentration prediction of VOC gases.

  • PDF

웨이블렛 변환과 LMBP를 이용한 대뇌출혈성 병변 인식 시스템 (Intracranial Hemorrhagic Lesion Feature Extraction System Of Using Wavelet Transform and LMBP)

  • 정유정;정채영
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2002년도 가을 학술발표논문집 Vol.29 No.2 (2)
    • /
    • pp.625-627
    • /
    • 2002
  • 본 논문에서는 의료영상 인식 기술 중 인식률이 뛰어나고 신뢰성 있는 대뇌출혈성 병변인식 시스템을 구현하기 위하여 신호처리 분야에서 주로 사용되는 Wavelet 변환과 신경망 기법을 이용하고자 한다. 그러나 신경망 기법에서 주로 사용되는 비선형 최적화기법인 Gradient descent BP는 최적화 문제점을 해결하기에는 수렴속도가 느리기 때문에 적합하지 않다. 따라서 본 논문에서는 기존 Gradient descent BP를 보완한 Levenberg-Marquardt Back-Propagation을 대뇌출혈성 병변인식에 적용하여 구현함으로써 총 50개의 패턴 중 45개의 영상이 인식에 성공하였고 전체 평균 인식률은 각각 90%와 87%의 인식률을 보였다.

  • PDF

신경망 알고리즘을 적용한 유출수문곡선의 예측 (Forecasting of Runoff Hydrograph Using Neural Network Algorithms)

  • 안상진;전계원;김광일
    • 한국수자원학회논문집
    • /
    • 제33권4호
    • /
    • pp.505-515
    • /
    • 2000
  • 본 연구는 하천에서 호우의 발생에 따라 하천 유출수문곡선을 예측코자 블랙박스모형의 신경망이론을 적용하여 수문학적인 문제를 규명하고자 하였다. 이를 위해 신경망 이론 중 Levenverg-Marquardt 방법에 의한 오차역전파 알고리즘과 Radial Basis Function Network(RBFN)를 이용하여 IHP 대표유역인 보청청유역에 수문곡선을 적용하여 선행유출량 예측과 미학습 유역의 적용성을 검토하였다. 그 결과 복잡하고 비선형적인 수문계의 강우-유출 과정의 학습에 있어 RBFN은 은닉층에서 자율학습, 출력층에서 지도학습의 두 단계로 나누어 학습을 함으로서 BP 알고리즘보다 학습시간이 빠르게 나타났고, 선행유출량의 예측결과 여러 통계적 지표에서 RBFN이 BP 알고리즘보다 좋은 결과를 얻을 수 있었다. 미학습 유역의 적용성 검토에서도 BP알고리즘과 RBFN 모두 첨두치가 비교적 실측자료의 경향과 비슷한 경향으로 나타났다.

  • PDF

LATERAL CONTROL OF AUTONOMOUS VEHICLE USING SEVENBERG-MARQUARDT NEURAL NETWORK ALGORITHM

  • Kim, Y.-B.;Lee, K.-B.;Kim, Y.-J.;Ahn, O.-S.
    • International Journal of Automotive Technology
    • /
    • 제3권2호
    • /
    • pp.71-78
    • /
    • 2002
  • A new control method far vision-based autonomous vehicle is proposed to determine navigation direction by analyzing lane information from a camera and to navigate a vehicle. In this paper, characteristic featured data points are extracted from lane images using a lane recognition algorithm. Then the vehicle is controlled using new Levenberg-Marquardt neural network algorithm. To verify the usefulness of the algorithm, another algorithm, which utilizes the geometric relation of a camera and vehicle, is introduced. The second one involves transformation from an image coordinate to a vehicle coordinate, then steering is determined from Ackermann angle. The steering scheme using Ackermann angle is heavily depends on the correct geometric data of a vehicle and a camera. Meanwhile, the proposed neural network algorithm does not need geometric relations and it depends on the driving style of human driver. The proposed method is superior than other referenced neural network algorithms such as conjugate gradient method or gradient decent one in autonomous lateral control .

Prediction of compressive strength of bacteria incorporated geopolymer concrete by using ANN and MARS

  • X., John Britto;Muthuraj, M.P.
    • Structural Engineering and Mechanics
    • /
    • 제70권6호
    • /
    • pp.671-681
    • /
    • 2019
  • This paper examines the applicability of artificial neural network (ANN) and multivariate adaptive regression splines (MARS) to predict the compressive strength of bacteria incorporated geopolymer concrete (GPC). The mix is composed of new bacterial strain, manufactured sand, ground granulated blast furnace slag, silica fume, metakaolin and fly ash. The concentration of sodium hydroxide (NaOH) is maintained at 8 Molar, sodium silicate ($Na_2SiO_3$) to NaOH weight ratio is 2.33 and the alkaline liquid to binder ratio of 0.35 and ambient curing temperature ($28^{\circ}C$) is maintained for all the mixtures. In ANN, back-propagation training technique was employed for updating the weights of each layer based on the error in the network output. Levenberg-Marquardt algorithm was used for feed-forward back-propagation. MARS model was developed by establishing a relationship between a set of predictors and dependent variables. MARS is based on a divide and conquers strategy partitioning the training data sets into separate regions; each gets its own regression line. Six models based on ANN and MARS were developed to predict the compressive strength of bacteria incorporated GPC for 1, 3, 7, 28, 56 and 90 days. About 70% of the total 84 data sets obtained from experiments were used for development of the models and remaining 30% data was utilized for testing. From the study, it is observed that the predicted values from the models are found to be in good agreement with the corresponding experimental values and the developed models are robust and reliable.