• 제목/요약/키워드: steepest gradient descent

검색결과 34건 처리시간 0.017초

다중 클래스 데이터를 위한 분류오차 최소화기반 특징추출 기법 (Optimizing Feature Extractioin for Multiclass problems Based on Classification Error)

  • 최의선;이철희
    • 대한전자공학회논문지SP
    • /
    • 제37권2호
    • /
    • pp.39-49
    • /
    • 2000
  • 본 논문에서는 다중 클래스 데이터를 위한 특징 추출 방법을 최적화하는 기법을 제안한다 제안된 특징 추출 기법은 분류 오차에 기반한 방법으로 특징 공간(feature space)을 탐색하여 가우시안 최대우도 분류기 (Gaussian ML Classifier)의 분류오차(classification error)가 최소가 되도록 하는 특징벡터 집합을 구하는 방법이다 제안된 방법은 임의의 초기 특징벡터를 설정한 후 steepest descent 알고리즘을 적용하여 분류오차가 감소하는 방향으로 초기벡터를 갱신시킨다 본 논문에서는 순차탐색 및 전체탐색 두 가지의 방법을 제안하며 순차탐색은 추가로 특징벡터를 구하는 경우 이미 구해진 특징벡터를 포함하여 최소의 분류오차를 얻을 수 있는 특징벡터를 구한다 반면에 전체탐색 방법은 추가의 특징벡터를 구할 경우 새로운 초기 특징벡터 집합을 설정하여 이미 구해진 특징벡터를 포함하는 제약을 받지 않는다. 실험결과 제안된 두 가지 방법은 기존의 특징추출 방법보다 우수한 성능을 보여주고 있다.

  • PDF

광대역 전자파를 이용한 역산란 해석 연구 (Analysis of Microwave Inverse Scattering Using the Broadband Electromagnetic Waves)

  • 이정훈;정용식;소준호;김준연;장원
    • 한국전자파학회논문지
    • /
    • 제17권2호
    • /
    • pp.158-164
    • /
    • 2006
  • 본 논문에서는 시간 영역 유한차분법(FDTD: Finite-Difference Time-Domain Method)과 설계 민감도법(design sensitivity analysis)을 이용하여 미지의 유전체 산란체(dielectric scatterer) 복원을 위한 역산란 문제(inverse scattering)의 새로운 해석 기법을 제안하였다. 본 연구에서는 빠른 수렴을 위하여 목적 함수의 도함수를 이용한 설계 민감도법을 도입하였고, 시간 영역 유한차분법으로부터 직접 설계 민감도 수식을 도출하였다. 해석의 효율성을 위하여 보조 변수법(adjoint variable method)을 도입하여 보조 변수 방정식을 도출하고 최적화 알고리듬으로 최대 경사도법을 이용하여 반복적인 추정을 통하여 미지의 유전체를 복원하였다. 본 연구의 타당성의 보이기 위하여 2차원 $TM^z$에서의 유전체 복원 사례를 제시한다.

이방성을 고려한 탄성매질에서의 시간영역 파형역산 (Time-domain Seismic Waveform Inversion for Anisotropic media)

  • 이호용;민동주;권병두;유해수
    • 한국지구물리탐사학회:학술대회논문집
    • /
    • 한국지구물리탐사학회 2008년도 공동학술대회
    • /
    • pp.51-56
    • /
    • 2008
  • 등방성 매질에서의 파형역산에 대한 연구는 1980년대부터 꾸준히 이루어져 왔으나 이방성 매질에 대한 연구는 그렇지 못하다. 본 연구에서는 이방성 매질에 대한 시간영역 셀기반 유한 차분 모델링 기법을 이용해 2차원 TI 구조에서의 파형역산 알고리듬을 개발하였다. 반복적인 비선형 역산에서 최대 급경사 방향은 역시간 구조보정의 역전파 방법을 이용하여 간접적으로 계산하였고, 이를 정규화 시키기 위해 슈도-헤시안 행렬을 이용하였다. 본 연구에서 제시된 시간영역 파형역산 기법을 이방성 매질을 포함한 2층 구조와 이방성 Marmousi 모형 자료에 적용하고 이를 등방성 매질만을 고려한 기존의 파형역산 결과와 비교하였다. 본 연구의 결과를 통해 이방성 매질을 등방성 매질로 가정하고 파형역산을 수행할 경우 정확한 영상을 얻을 수 없기 때문에, 실제 탐사 자료의 파형역산을 수행할 경우 이방성 매질을 고려해야 좀 더 정확한 지하 구조를 파악할 수 있음을 확인하였다.

  • PDF

패턴인식의 MLP 고속학습 알고리즘 (A Fast-Loaming Algorithm for MLP in Pattern Recognition)

  • 이태승;최호진
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제8권3호
    • /
    • pp.344-355
    • /
    • 2002
  • MLP(multilayer perceptron)는 다른 패턴인식 방법에 비해 여러 가지 훌륭한 특성을 가지고 있어 패턴인식에서 폭넓게 사용되고 있다. 그러나 MLP의 학습에 일반적으로 사용되는 EBP(error backpropagation) 알고리즘은 학습시간이 비교적 오래 걸린다는 단점이 있다. 패턴인식에 사용되는 학습 데이타는 풍부한 중복특성을 내포하고 있으므로 패턴마다 MLP의 내부변수를 갱신하는 온라인 계열의 학습방식이 속도의 향상에 상당한 효과가 있다. 일반적인 온라인 EBP 알고리즘에서는 내부변수 갱신시 고정된 학습률을 적용한다. 고정 학습률을 적절히 선택함으로써 패턴인식 웅용에서 상당한 속도개선을 얻을 수 있지만, 학습률이 고정되고 학습이 진행됨에 따라 학습패턴 영역이 달라지는 학습과정의 각 단계에 효과적으로 대웅하지 못하는 문제가 있다. 이 문제에 대해 본 논문에서는 학습과정을 세 단계로 정의하고, 각 단계별로 필요한 패턴만을 학습에 반영하는 패턴별 가변학습속도 및 학습생략(ILVRS) 방법을 제안한다. ILVRS의 기본개념은 다음과 같다. 학습단계마다 학습에 필요한 패턴의 부분이 달라지므로 이를 구별 하여 학습에 적용할 수 있도록 (1)패턴마다 발생하는 오류치를 적절한 범위 이내로 제한하여 가변 학습률로 사용하고, (2)학습이 진행됨에 따라 불필요한 부분의 패턴을 학습에서 생략한다. 제안한 ILVRS의 성능을 입증하기 위해 본 논문에서는 패턴인식 응용의 한 갈래인 화자증명을 실험하고 그 결과를 제시한다.