• 제목/요약/키워드: Levenberg-Marquardt Algorithm

검색결과 96건 처리시간 0.031초

Levenberg-Marquardt 알고리즘의 지반공학 적용성 평가 (Evaluation for Applications of the Levenberg-Marquardt Algorithm in Geotechnical Engineering)

  • 김영수;김대만
    • 한국지반환경공학회 논문집
    • /
    • 제10권5호
    • /
    • pp.49-57
    • /
    • 2009
  • 본 연구에서는 Levenberg-Marquardt(LM) 알고리즘 인공신경망을 통하여 지반공학 문제 중의 하나인 압축지수를 예측하였고, 예측된 결과는 현재 지반공학에 널리 사용되고 있는 Back Propagation(BP) 알고리즘 인공신경망의 예측 결과와 비교하여 LM 알고리즘의 지반공학 적용성을 평가하였다. 또한 두 알고리즘에 의한 예측치는 기존에 제안된 압축지수의 경험식들에 의하여 산정된 결과들과 비교를 통하여 예측결과의 정확성을 확인하였다. 경험식에 의한 압축지수의 산정치는 전반적으로 BP 알고리즘과 LM 알고리즘 인공신경망에 의한 예측치에 비하여 더 큰 오차를 나타냈다. LM 알고리즘에 의한 압축지수의 예측치는 BP 알고리즘의 예측치와 비교할 때 정확도는 비슷하나 수렴속도에서 더 좋은 결과를 보여 LM 알고리즘의 지반공학 적용성은 우수한 것으로 나타났다.

  • PDF

Jacobian 행렬의 주부분 행렬을 이용한 Levenberg-Marquardt 알고리즘의 개선 (Improving Levenberg-Marquardt algorithm using the principal submatrix of Jacobian matrix)

  • 곽영태;신정훈
    • 한국컴퓨터정보학회논문지
    • /
    • 제14권8호
    • /
    • pp.11-18
    • /
    • 2009
  • 본 논문은 Levenberg-Marquardt 알고리즘에서 Jacobian 행렬의 주부분 행렬을 이용하여 학습속도를 개선하는 방법을 제안한다. Levenberg-Marquardt 학습은 오차함수에 대한 2차 도함수를 계산하기 위해 Hessian 행렬을 사용하는 대신 Jacobian 행렬을 이용한다. 이런 Jacobian 행렬을 가역행렬로 만들기 위해, Levenberg-Marquardt 학습은 ${\mu}$값을 증가시키거나 감소시키는 과정을 수행하고 ${\mu}$값의 변경에 따른 역행렬의 재계산이 필요하다. 따라서 본 논문에서는 ${\mu}$값의 설정을 위해 Jacobian 행렬의 주부분 행렬을 생성하고 주부분 행렬의 고유값 합을 이용하여 ${\mu}$값을 설정한다. 이와 같은 방법은 추가적인 역행렬 계산을 하지 않으므로 학습속도를 개선할 수 있다. 제안된 방법은 일반화된 XOR 문제와 필기체 숫자인식 문제를 대상으로 실험하여 학습속도의 향상을 검증하였다.

가변 감쇠 파라미터를 이용한 Levenberg-Marquardt 알고리즘의 학습 속도 향상 (Accelerating Levenberg-Marquardt Algorithm using Variable Damping Parameter)

  • 곽영태
    • 한국컴퓨터정보학회논문지
    • /
    • 제15권4호
    • /
    • pp.57-63
    • /
    • 2010
  • Levenberg-Marquardt 알고리즘에서 감쇠 파라미터는 오류역전파 학습과 Gauss-Newton 학습의 스위치 역할을 하며 학습 속도에 영향을 준다. 이런 감쇠 파라미터를 고정시키는 것은 오차 함수의 진동을 유발하고 학습 속도를 감소시킨다. 따라서 본 논문은 오차 함수의 변화 과정을 참조하여 감쇠 파라미터를 가변적으로 적용하는 방법을 제안한다. 제안된 방법은 오차의 변화량이 크면 감쇠 파라미터를 크게, 오차의 변화량이 작으면 감쇠 파라미터를 작게 조정한다. 이것은 모멘텀과 유사한 역할을 하여 학습 속도를 향상시킨다. 제안된 방법의 검증을 위한 실험으로는 iris 분류 문제와 wine 분류 문제를 사용하였다. 제안된 방법은 iris 분류 문제에서는 67% 학습에서, wine 분류 문제에서는 78% 학습에서 학습 속도가 향상되었으며 기존 방법과 비교하여 오차의 진동도 적은 것을 확인할 수 있었다.

Levenberg-Marquardt 알고리즘과 유전 알고리즘을 이용한 유전체 파이프의 영상재구성 (Image Reconstruction of Dielectric Pipes by using Levenberg-Marquardt and Genetic Algorithm)

  • 김정석;나정웅
    • 한국전자파학회논문지
    • /
    • 제14권8호
    • /
    • pp.803-808
    • /
    • 2003
  • 손실 반공간에 두 개의 원통형 파이프가 묻혀 있는 경우 파이프와 주변 매질의 특성을 반복 기법 최적화 역산란을 적용하여 구했다. 산란 전계는 경계요소법을 이용하여 계산하였으며 파이프의 크기, 위치, 내부매질의 비유전을, 도전을, 주변 매질의 비유전을, 도전을 등의 파라미터는 측정 산란 전계로부터 유전 알고리즘과 Levenberg-Marquardt 알고리즘의 혼합 알고리즘을 이용하여 역으로 계산하였다. 두 파이프가 거의 근접해 있는 경우도 역산란이 가능함을 보였다. 산란 전계의 측정오차에 의한 illposednes 는 파수 영역에서 지수 함수적으로 감쇄하는 감쇄모드를 제거하여 안정화시켰다.

Levenberg-Marquardt와 유전 알고리듬을 결합한 잡종 알고리듬을 이용한 거대 강산란체의 초고주파 영상 (Microwave Imaging of a Large High Contrast Scatterer by Using the Hybrid Algorithm Combining a Levenberg-Marquardt and a Genetic Algorithm)

  • 박천석;양상용
    • 한국전자파학회논문지
    • /
    • 제8권5호
    • /
    • pp.534-544
    • /
    • 1997
  • Levenberg-Marquardt (LMA)와 유전 알고리즘(GA)을 결합한 새로운 잡종알고리틈을 반복적으로 사용하여, 비용함수의 실 극소값(global minimum)을 주는 2차원 강산란체의 유전율 분포를 재구성한다. 비용함수에 사용되는 산란파는 원통형 각모드로 전개되며, 이 중 유효 전파모드만이 이용된다. 유효 전파모드만을 사용하여 비용함수를 정의함으로써 주어진 산란체를 재구성하는데 필요한 입사파 개수의 최소값이 공식화된다. 수치해석 결과로부터,LMA는 수렴 속도가 빠르나 강산란체를 재구성할 수 없고, GA는 강산란체의 재구성은 가능하나 수렴 속도가 느린 반면, 결합 알고리즘을 이용하는 역산란 방법은 LMA와 GA의 장점만을 취합한 방법임이 입증된다.

  • PDF

모바일 환경에 적합한 적응형 마쿼트 알고리즘 제시 (Adaptive Marquardt Algorithm based on Mobile environment)

  • 이종수;황은한;송상섭
    • 스마트미디어저널
    • /
    • 제3권2호
    • /
    • pp.9-13
    • /
    • 2014
  • 본 논문은 형광 X선 분석 시스템에서 관찰되는 스펙트럼에서 원하는 원소의 피크값을 검출하는데 쓰이는 마쿼트 알고리즘을 모바일 환경에서 더욱 효과적으로 사용하는 데에 있다. 이러한 마쿼트 알고리즘은 본래 잡음이 섞이기 전의 순수한 데이터가 무엇인지 알아가기 위한 유추해 가는 과정의 방법이다. 이러한 마쿼트 알고리즘에서 매우 중요한 역할을 하는 매개변수가 있는데 이 매개변수에 따라서 구하고자 하는 변수 값을 더욱 빠르게 구할 수도 있고 아닐 수도 있다. 기존의 방법에서 불필요한 계산량을 줄이기 위하여 매우 중요한 역할을 하는 매개변수인 ${\mu}$ 자리에 이 매개변수 대신 다른 매개변수를 도입한다. 또한 하드웨어적 측면을 고려시, 여러개의 정규분포의 모양으로 되어있는 함수를 여러개의 정규분포로 나누어서 생각하면 원하는 값을 구하기 더욱 간단해지지만 신뢰도 문제가 발생할 수 있다. 이러한 문제를 해결할 새로운 시스템을 제시한다.

An accelerated Levenberg-Marquardt algorithm for feedforward network

  • Kwak, Young-Tae
    • Journal of the Korean Data and Information Science Society
    • /
    • 제23권5호
    • /
    • pp.1027-1035
    • /
    • 2012
  • This paper proposes a new Levenberg-Marquardt algorithm that is accelerated by adjusting a Jacobian matrix and a quasi-Hessian matrix. The proposed method partitions the Jacobian matrix into block matrices and employs the inverse of a partitioned matrix to find the inverse of the quasi-Hessian matrix. Our method can avoid expensive operations and save memory in calculating the inverse of the quasi-Hessian matrix. It can shorten the training time for fast convergence. In our results tested in a large application, we were able to save about 20% of the training time than other algorithms.

유전자 알고리즘과 Levenberg-Marquardt 알고리즘을 이용한 원전 증기발생기 수위 거동 모텔링 (Modeling of Nuclear Power Plant S/G Downcomer Level using GA and Levenberg-Marquardt Algorithm)

  • 박창환;이상경;이은철
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2001년도 합동 추계학술대회 논문집 정보 및 제어부문
    • /
    • pp.204-208
    • /
    • 2001
  • In this paper, we induce the linear transfer function of Downcomer water level of NPP(Nuclear Power Plant) Steam Generator using Genetic Algorithm and Levenberg-Marquardt Algorithm. The characteristic of NPP S/G mechanism is so high-non-linear that it is hard to achieve mathematical expression. So we use non-mathematical Algorithms to get the model function of NPP S/G water level. S/G level controller would be designed with this transfer function as the plant.

  • PDF

로그 목적함수의 유사 헤시안을 이용한 라플라스 영역 파형 역산과 레벤버그-마쿼트 알고리듬 (Laplace-domain Waveform Inversion using the Pseudo-Hessian of the Logarithmic Objective Function and the Levenberg-Marquardt Algorithm)

  • 하완수
    • 지구물리와물리탐사
    • /
    • 제22권4호
    • /
    • pp.195-201
    • /
    • 2019
  • 파형 역산에 사용하는 로그 목적함수는 관측 자료와 모델링 자료의 로그값의 차이를 최소화하는 목적함수이다. 라플라스 영역 파형 역산에서는 주로 로그 목적함수와 유사 헤시안의 대각 성분을 이용하여 최적화를 수행한다. 이 때 유사 헤시안의 대각 성분이 0 또는 0에 가까운 값이 되는 것을 막기 위해 레벤버그-마쿼트 알고리듬을 적용한다. 본 연구에서는 로그 목적함수의 유사 헤시안의 대각 성분을 분석하여 음향파 라플라스 영역 파형 역산에서는 유사 헤시안의 대각 성분이 0 또는 0에 가까운 값을 가지지 않음을 보였다. 따라서 로그 목적함수의 유사 헤시안을 이용한 경사 방향 정규화시 레벤버그-마쿼트 알고리듬을 적용할 필요가 없다. 수치 예제에서 인공합성 자료와 현장 자료를 이용해 레벤버그-마쿼트 기법 없이도 역산 결과를 얻을 수 있음을 보였다.

BJT의 DC 해석 용 SPICE 모델 파라미터 추출 방법에 관한 연구 (A Study on the SPICE Model Parameter Extraction Method for the BJT DC Model)

  • 이은구
    • 전기학회논문지
    • /
    • 제58권9호
    • /
    • pp.1769-1774
    • /
    • 2009
  • An algorithm for extracting the BJT DC model parameter values for SPICE model is proposed. The nonlinear optimization method for analyzing the device I-V data using the Levenberg-Marquardt algorithm is proposed and the method for calculating initial conditions of model parameters to improve the convergence characteristics is proposed. The base current and collector current obtained from the proposed method shows the root mean square error of 6.04% compared with the measured data of the PNP BJT named 2SA1980.