• 제목/요약/키워드: Backpropagation Neural Network

검색결과 449건 처리시간 0.029초

한국어 음소 인식을 위한 신경회로망에 관한 연구 (A Study on the Neural Networks for Korean Phoneme Recognition)

  • 최영배;양진우;이형준;김순협
    • 한국음향학회지
    • /
    • 제13권1호
    • /
    • pp.5-13
    • /
    • 1994
  • 본 논문은 음소인식을 위한 신경회로망에 관한 연구로서, 시간 지연 신경회로망을 이용하여 음소인식을 수행하였다. 또한, 본 논문은 대규모 시간지연 신경망에도 적합한 음성 인식 신경망의 학습 방법에 제안한다. 연속 음성의 인식을 위해 반드시 선행되어야 하는 음소의 정확한 인식을 위하여 우수한 성능을 보이고 있는 시간지연 신경망을 사용하였으며, 인식 대상 음소수가 증가하여도 신경망을 최적으로 수렴시킬 수 있는 시간지연 신경망의 새로운 알고리즘을 제시하였다. 확률론적 접근법인 코우쉬 알고리즘을 에러 역전파 알고리즘에 결합하는 시간지연 신경망의 새로운 학습 알고리즘을 사용한 실험이 수행되었다. 화자 2인을 대상으로 한 3분류의 음소군 인식 실험에서 $98.1\%$의 인식률을 얻었으며, 제안된 알고리즘이 시간지연 신경망의 더욱 우수한 인식률과 수렴 시간의 단축에 효율적이었음을 보였다.

  • PDF

기울기하강과 동적터널링에 기반을 둔 학습알고리즘의 신경망을 이용한 영상데이터의 주요특징추출 (Principal Feature Extraction on Image Data Using Neural Networks of Learning Algorithm Based on Steepest Descent and Dynamic tunneling)

  • 조용현
    • 한국정보처리학회논문지
    • /
    • 제6권5호
    • /
    • pp.1393-1402
    • /
    • 1999
  • 본 논문에서는 새로운 학습알고리즘의 3층 전향 신경망을 이용한 입력데이터의 주요 특징추출에 대해서 제안하였다. 제안된 학습알고리즘에서에서는 빠른 수렴속도의 최적화가 가능하도록 하기 위하여 기울기하강의 역전파 알고리즘을 이용하고, 국소최적해를 만났을 때 이를 벗어난 새로운 연결가중치의 설정을 위하여 동적터널링의 역전파 알고리즘을 이용함으로써 빠른 수렴속도로 전역최적해로에 수렴되도록 학습시킬 수 있다. 제안된 학습 알고리즘을 이용한 다층신경망을 $12{\times}12$ 픽셀의 영상 데이터들과 $128{\times}128$ 픽셀의 Lenna 영상데이터를 대상으로 시뮬레이션한 결과, 단층신경망을 이용하는 Sanger 방법이나 측면연결을 가지는 단충신경망을 이용하는 Foldiak 방법 및 기울기하강에 기초를 둔 기존의 역전파 알고리즘을 이용한 다층신경망에 의한 결과와 비교할 때 더욱 우수한 수렴성능과 추출성능이 있음을 확인할 수 있었다.

  • PDF

역전파 학습 신경망을 이용한 한글 숫자 인식에 관한 연구 (A Study on the Handwritten Korean Numeric Recognition using a Backpropagation Learning Neural Network)

  • 박창민;박귀순;김대원;이동춘;김명원;배현주;차의영
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 1989년도 한글날기념 학술대회 발표논문집
    • /
    • pp.137-141
    • /
    • 1989
  • 본 논문에서는 신경망 구조의 한 모델인 feed-forward multi-layered network에 역전파 학습(back-propagation learning) 기법을 이용하여 필기체 한글 숫자를 인식하고 그 가능성을 보였다. 문자 인식에 있어 입력 대상의 모양이 왜곡되거나, 대상의 크기 혹은 위치의 변화 등과 같은 잡음 (noise)에 대해서 정확히 대상을 인식하는 데는 대상의 구조 추출에 크게 관여되므로 한글의 구조 추출에 적합하다고 생각되는 bar mask 투사법을 제안하였다. 모델의 학습을 필기체 한글 숫자 16자의 입력 패턴과 타겟 ( target) 입력의 쌍을 이용해 학습시켰다. 또한, 모델의 인식 정도를 측정해 보기 위해 시험패턴을 적용하여 훈련된 패턴과 훈련되지 않은 패턴간의 인식률을 비교하여 보았다.

  • PDF

미시추 구간의 정량적 지반 등급 분류를 위한 윈도우-쉬프팅 인공 신경망 학습 기법의 개발 (Development of a window-shifting ANN training method for a quantitative rock classification in unsampled rock zone)

  • 신휴성;권영철
    • 한국터널지하공간학회 논문집
    • /
    • 제11권2호
    • /
    • pp.151-162
    • /
    • 2009
  • 본 연구에서는 터널 설계구간의 대부분을 차지하는 미시추 구간의 지반 등급 분류를 정량적으로 수행할 수 있는 새로운 접근방법을 제안한다. 본 제안방법은 시추공에서 얻은 직접조사 결과와 시추구간의 전기 비저항 탐사결과를 이용해 인공 신경망을 학습시카고, 학습된 인공 신경망은 미시추 구간의 암반분류 등급을 추론하는데 적용된다. 지반등급 추론은 미시추 구간 영역에서 움직이는 격자형 창(window)의 중심점에서 이루어 지며 창내 귀속된 전기 비저항들은 추론을 위한 참고자료로 시용된다. 인공 신경망 학습은 최선 RPROP(Resilient backpropagation) 인공 신경망 학습 알고리즘과 early-stopping 기법을 이용하여 수행되었다. 본 연구에서는 실제 시추조사가 이루어진 터널현장에 제안기법을 적용하여 미시추 구간의 지반 등급을 추론하였으며, 전통적인 지구통계학적 크리깅(kriging) 기법에 의한 결과와도 상호 비교하였다. 결과적으로 본 연구를 통해 학습된 인공 신경망은 전통 크리깅 방법에 비해 매우 구체적이고 현실적인 예측결과를 제공하였다 또한, 인공 신경망 추론으로부터 얻어진 터널 종단 방향의 RMR과 Q-값의 분포에서는 전기 비저항 탐사로부터 추정된 취약지반 구간의 위치와 잘 일치하였으며, 두 값 상호간의 관계도 선행 연구 결과와 부합하였다.

역전파 신경회로망과 Q학습을 이용한 장기보드게임 개발 ((The Development of Janggi Board Game Using Backpropagation Neural Network and Q Learning Algorithm))

  • 황상문;박인규;백덕수;진달복
    • 대한전자공학회논문지TE
    • /
    • 제39권1호
    • /
    • pp.83-90
    • /
    • 2002
  • 본 논문은 2인용 보드게임의 정보에 대한 전략을 학습할 수 있는 방법을 역전파 신경회로망과 Q학습알고리즘을 이용하여 제안하였다. 학습의 과정은 단순히 상대프로세스와의 대국에 의하여 이루어진다. 시스템의 구성은 탐색을 담당하는 부분과 기물의 수를 발생하는 부분으로 구성되어 있다. 수의 발생부분은 보드의 상태에 따라서 갱신되고, 탐색커널은 αβ 탐색을 기본으로 역전파 신경회로망과 Q학습을 결합하여 게임에 대해 양호한 평가함수를 학습하였다. 학습의 과정에서 일련의 기물의 이동에 있어서 인접한 평가치들의 차이만을 줄이는 Temporal Difference학습과는 달리, 기물의 이동에 따른 평가치에 대해 갱신된 평가치들을 이용하여 평가함수를 학습함으로써 최적의 전략을 유도할 수 있는 Q학습알고리즘을 사용하였다. 일반적으로 많은 학습을 통하여 평가함수의 정확도가 보장되면 승률이 학습의 양에 비례함을 알 수 있었다.

An optimal design of wind turbine and ship structure based on neuro-response surface method

  • Lee, Jae-Chul;Shin, Sung-Chul;Kim, Soo-Young
    • International Journal of Naval Architecture and Ocean Engineering
    • /
    • 제7권4호
    • /
    • pp.750-769
    • /
    • 2015
  • The geometry of engineering systems affects their performances. For this reason, the shape of engineering systems needs to be optimized in the initial design stage. However, engineering system design problems consist of multi-objective optimization and the performance analysis using commercial code or numerical analysis is generally time-consuming. To solve these problems, many engineers perform the optimization using the approximation model (response surface). The Response Surface Method (RSM) is generally used to predict the system performance in engineering research field, but RSM presents some prediction errors for highly nonlinear systems. The major objective of this research is to establish an optimal design method for multi-objective problems and confirm its applicability. The proposed process is composed of three parts: definition of geometry, generation of response surface, and optimization process. To reduce the time for performance analysis and minimize the prediction errors, the approximation model is generated using the Backpropagation Artificial Neural Network (BPANN) which is considered as Neuro-Response Surface Method (NRSM). The optimization is done for the generated response surface by non-dominated sorting genetic algorithm-II (NSGA-II). Through case studies of marine system and ship structure (substructure of floating offshore wind turbine considering hydrodynamics performances and bulk carrier bottom stiffened panels considering structure performance), we have confirmed the applicability of the proposed method for multi-objective side constraint optimization problems.

Zerinke 모멘트와 신경망을 이용한 온라인 필기체 숫자 인식 (Recognition of Online Handwritten Digit using Zernike Moment and Neural Network)

  • 문원호;최연석;차의영
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2010년도 춘계학술대회
    • /
    • pp.205-208
    • /
    • 2010
  • 본 논문에서는 Zernike 모멘트와 backpropagation신경망을 이용한 온라인 필기체 숫자 인식 방법을 소개한다. 마우스로 통해 입력된 숫자 정보는 전처리를 통해 시간에 순서적이고, 연속적인 좌표 정보로 변환된다. 전처리된 입력 좌표는 Zernike 모멘트(moment)와 각도 특징(angulation feature)을 이용하여 각 숫자가 가지는 고유의 특징을 만들어 낸다. 이러한 특징은 크기, 모양, 틀어진 정도에 상관없이 항상 일정한 성질을 가진다. 제안된 방법으로 추출된 특징은 패턴 구분을 위해 back propagation 신경망의 입력으로 사용된다. 본 논문은 200개의 필기체 숫자 데이터베이스를 이용하여 실험을 한 결과, 제시된 방법은 적은 학습데이터만으로 학습이 가능할 뿐만 아니라 좋은 인식률을 보여준다.

  • PDF

지지벡터기계를 이용한 다중 분류 문제의 학습과 성능 비교 (Learning and Performance Comparison of Multi-class Classification Problems based on Support Vector Machine)

  • 황두성
    • 한국멀티미디어학회논문지
    • /
    • 제11권7호
    • /
    • pp.1035-1042
    • /
    • 2008
  • 이진 분류기로서 지지벡터기계는 다양한 응용을 통해 이진 분류 문제에서 기존의 패턴 분류기들보다 우수한 성능을 보였다. 지지벡터기계의 바탕이 되는 최대 마진 분류 이론을 다중 분류 문제에 확장은 어려움이 있다. 이 논문에서는 다중 분류 문제를 위한 지지벡터기계의 학습 전략을 논의하였으며 성능 비교를 수행하였다. 학습 데이터의 분배 전략에 따라 지지벡터기계는 고유의 이진 분류 특징을 수정하지 않고 다중분류 문제에 쉴게 적용될 수 있다. 다양한 벤치마킹 데이터에 대해 선택된 학습 전략, 커널함수, 학습 소요시간 등에 따라 성능비교가 수행되었고 오류역전파 학습의 신경망의 테스트 결과와 비교되었다. 신경망 모델과 비교 실험에서 지지벡터기계는 일반적인 다중 분류 문제에 응용성과 효과가 있음을 보였다.

  • PDF

천연가스 누출 예측을 위한 OrdinalEncoder 기반 DNN (OrdinalEncoder based DNN for Natural Gas Leak Prediction)

  • 홍고르출;이상무;김미혜
    • 한국융합학회논문지
    • /
    • 제10권10호
    • /
    • pp.7-13
    • /
    • 2019
  • 대부분의 천연가스(NG)는 공기 중으로 누출 되며 그중에서도 메탄가스의 누출은 기후에 많은 영향을 준다. 미국 도시의 거리에서 메탄가스 누출 데이터를 수집하였다. 본 논문은 메탄가스누출 정도를 예측하는 딥러닝(Deep Neural Network)방법을 제안하였으며 제안된 방법은 OrdinalEncoder(OE) 기반 K-means clustering과 Multilayer Perceptron(MLP)을 활용하였다. 15개의 특징을 입력뉴런과 오류역전파 알고리즘을 적용하였다. 데이터는 실제 미국의 거리에서 누출되는 메탄가스농도 오픈데이터를 활용하여 진행하였다. 우리는 OE 기반 K-means알고리즘을 적용하여 데이터를 레이블링 하였고 NG누출 예측을 위한 정규화 방법 OE, MinMax, Standard, MaxAbs. Quantile 5가지 방법을 실험하였다. 그 결과 OE 기반 MLP의 인식률이 97.7%, F1-score 96.4%이며 다른 방법보다 상대적으로 높은 인식률을 보였다. 실험은 SPSS 및 Python으로 구현하였으며 실제오픈 데이터를 활용하여 실험하였다.

대표 패턴을 사용한 가변 기울기 역전도 알고리즘의 점진적 학습방법 (The Incremental Learning Method of Variable Slope Backpropagation Algorithm Using Representative Pattern)

  • 심범식;윤충화
    • 한국컴퓨터정보학회논문지
    • /
    • 제3권1호
    • /
    • pp.95-112
    • /
    • 1998
  • 역전도 알고리즘은 연관 기억장치, 음성 인식, 패턴인식, 로보틱스등 여러 응용 분야에 다양하게 사용되고 있다. 그러나 새로운 학습 패턴을 추가적으로 학습시키려면 이전에학습했던 모든 패턴과 추가되는 패턴을 갖고 처음부터 새로운 학습을 수행하여야 한다. 이는 패턴의 개수가 점차 늘어날수록 학습에 소요되는 시간이 기하 급수적으로 길어지는 결과를 초래하게 된다. 따라서 주기적으로 다량의 데이터를 추가로 학습을 할 경우에 이러한 점진적 학습은 반드시 해결해야 할 문제점으로 간주된다. 본 논문에서는 기존의 신경망 구조는 그대로 유지하면서 대표 패턴을 추출해 추가 학습을 수행하는 방법을 제안하고 제안된 기법의 효율성을 위해 기계 학습 분야의 벤치마크로 많이 사용되는 Monk's data와 Iris data에 적용해 보았다.

  • PDF