• 제목/요약/키워드: 전방향 역전파

검색결과 17건 처리시간 0.026초

GA를 이용한 신경망의 가중치 최적화 (Neural Network Weight Optimization using the GA)

  • 문상우;공성곤
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 1998년도 추계학술대회 학술발표 논문집
    • /
    • pp.374-378
    • /
    • 1998
  • 신경망은 복잡하게 나타나는 비선형성을 가지는 실제의 다양한 문제들에 적용이 가능할 뿐만 아니라, 정보들이 가중치에 분산되어 저장됨으로서 강인성을 가지고 있다. 그러나 전방향 다층 신경망 구조를 학습할 수 있는 역전파 알고리즘은 초기 가중치의 영향에 의하여 학습된 결과가 지역 최소점에 빠지기 쉬운 경향이 있다. 본 논문에서는 이러한 문제점을 해결하기 위한 한가지 방법으로서 유전자 알고리즘을 이용하여 전방향 다층 신경망의 가중치를 학습하여, 지역 최소점에 빠지지 않고 학습이 이루어짐을 보인다.

  • PDF

함수근사를 위한 로버스트 역전파 알고리즘 (A Robust Propagation Algorithm for Function Approximation)

  • 김상민;황창하
    • 한국정보처리학회논문지
    • /
    • 제4권3호
    • /
    • pp.747-753
    • /
    • 1997
  • 함수근사는 과학과 공학분야에서 광범위하게 응용된다. 다층 전방향 신경망은 비선형 함수근사를 위한 도구로서 제안되어져 왔으며, 다층 신경망을 학습시키기 위한 학습 알고리즘으로 역전파 알고리즘이 널리 이용되어져 왔다. 그러나 이상치(outlier) 를 포함한 학습자료가 존재할 때에는 학습되는 함수는 존재하는 모든 자료 사이를 보간 하므로 이상치가 있는 자료의 위치까지도 보간 하여, 원하지 않은 구조를 파악하게 된다. 따라서 이상치의 영향을 최소화 시키기 위해 본 논문에서는 로버스트 에너지 함수를 유도하여 개량된 로버스트 역전파 알고리즘을 제안한다.

  • PDF

2개층 전방향 인공신경망에서의 이원적인 기울기 하강 알고리즘 (Dual Gradient Descent Algorithm On Two-Layered Feed-Forward Artificial Neural Networks)

  • 최범기;이주홍;박태수
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2006년도 추계학술발표대회
    • /
    • pp.3-6
    • /
    • 2006
  • 멀티레벨의 feed-forward 네트워크에 대한 학습 방법은 기울기 방법과 전역 최적화방법으로 나눌 수 있다. 역전파 또는 그 변형적인 방법들과 같은 기울기 하강 방법은 편리하기 때문에 여러 분야에서 다양하게 사용되고 있다. 하지만, 역전파와 관련된 가장 큰 문제는 지역 최소점에 빠진다는 것이다. 따라서 본 논문에서 기울기 하강 방법의 단순성을 침범하지 않고 지역 최소점을 극복할 수 있는 개선된 기울기 하강 방법을 제안한다. 제안하는 방법은 상위 연결과 하위연결을 분리하여 훈련하고 평가하기 때문에 이원적인 기울기 하강 방법이라 칭한다. 그렇기 때문에, 은닉층 유닛의 목표 값들은 하위 연결의 평가 툴로써 사용한다. 논문에서 제안하는 방법의 성능은 다양한 실험을 통해서 검증된다.

  • PDF

역전파 신경망을 이용한 상황인식 기반 디지털 선박 진단 시스템 (Digital Marine Vessel Diagnosis System Based on Context Aware using Backpropagation Algorithm)

  • 송병호;이우영;임무성;이연우;정민아;이성로
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2010년도 춘계학술발표대회
    • /
    • pp.334-337
    • /
    • 2010
  • 디지털 선박 운행시 예기치 못한 상황에 의한 선박 내 화재나 충돌 등 긴급 상황 발생 시에 대형의 해난 사고가 발생할 수 있다. 이에 본 논문에서는 선박 상태를 자체 진단하여 모니터링하고 위험 분석을 통해 관리할 수 있는 시스템을 구현하고자 한다. 해양 디지털선박의 환경, 상황을 수집할 수 있는 무선 센서를 이용하여 수집된 환경 정보를 분석하는 시스템을 제안하였으며, 센싱된 데이터를 분석하기 위하여 역전파 신경망을 설계하였다. 300개의 데이터 집합을 사용하여 역전파 신경망을 실험한 결과 약 96%의 정확도를 가졌다. 제안된 시스템은 하드웨어 (UStar-2400 ISP, UStar-2400, Wireless sensors) 부분과 소프트웨어 부분(User Interface module)으로 구성되며 소프트웨어 부분은 HOST PC에 삽입된다. 그리고 시스템의 정확도를 개선하기 위하여 전방향 에러 정정 시스템(LDPC)을 구현하였고 진단된 결과는 CDMA 방식으로 전송하여 해양디지털선박 감지 모니터링 시스템을 구현했다.

Generalized Clustering Network를 이용한 전방향 학습 알고리즘 (Feed-forward Learning Algorithm by Generalized Clustering Network)

  • 민준영;조형기
    • 한국정보처리학회논문지
    • /
    • 제2권5호
    • /
    • pp.619-625
    • /
    • 1995
  • 본 연구에서는 역전파(backpropagationlk)학습 알고리즘에 대체될 수 있는 전방향 학습 알고리즘에 준하는 혼합 인식모형을 구성한다. 본 알고리즘은 Nikhil R. Pal (1993)이 제안한 GLVQ(Generalized Learning Vector Quantization)를 이용하여 패턴을 클러스터링 한 다음 비유사성(dissimilarity)을 가진 패턴끼리 재구성(regrouping) 하여 단순 퍼셉트론(simple perceptron)을 이용하여 group별 학습을 한다. 일반적으로 역전파학습인 학습시간이 많이 소요된다는 단점이 있다[1]. 본 알고리즘의 특징으로 는 feed-forward학습이기 때문에 학습시간이 단축될 뿐만 아니라 전체 패턴을 그룹별 로 나누어 학습을 하기 때문에 인식률도 향상 시킬 수 있다. 본 알고리즘에 적용한 데 이타는 250개의 ASCII코드를 16$\times$8격자에 정규화시킨 비트 패턴(bit pattern)을 이용 하였다. 실험결과 250개의 패턴을 10개의 클러스터로 나누어 학습을 시켰을 때 각 클 러스터별 평균반복횟수 94.7회만에 250개의 ASCII코드를 100% 인식할 수 있었다.

  • PDF

영상복원을 위한 유전자기반 시스템 모델링 : 러프-퍼지엔트로피 (System Modeling based on Genetic Algorithms for Image Restoration : Rough-Fuzzy Entropy)

  • 박인규;황상문;진달복
    • 감성과학
    • /
    • 제1권2호
    • /
    • pp.93-103
    • /
    • 1998
  • 효율적이고 체계적인 퍼지제어를 위해 조작자의 제어동작을 모델링하거나 공정을 모델링하는 기법이 필요하고, 또한 퍼지 추론시에 조건부의 기여도(contribution factor)의 결정과 동작부의 제어량의 결정이 추론의 결과에 중요하다. 본 논문에서는 추론시 조건부의 기여도와 동작부의 세어량이 퍼지 엔트로피의 개념하에서 수행되는 적응 퍼지 추론시스템을 제시한다. 제시된 시스템은 전방향 신경회로망의 토대위에서 구현되며 주건부의 기여도가 퍼지 엔트로피에 의하여 구해지고, 동작부의 제어량은 확장된 퍼지 엔트로피에 의하여 구해진다. 이를 위한 학습 알고리즘으로는 역전파 알고리즘을 이용하여 조건부의 파라미터의 동정을 하고 동작부 파라미터의 동정에는 국부해에 보다 강인한 유전자 알고리즘을 이용하다. 이러한 모델링 기법을 임펄스 잡음과 가우시안 잡음이 첨가된 영상에 적용하여 본 결과, 영상복원시에 발생되는 여러 가지의 경우에 대한 적응성이 보다 양호하게 유지되었고, 전체영상의 20%의 데이터만으로도 객관적 화질에 있어서 기존의 추론 방법에 비해 향상을 보였다.

  • PDF

신경망을 이용한 실시간 고장 진단 시스템 (On-Line Fault Diagnosis System using Neural Network)

  • 김문성;유승선;소정훈;곽훈성
    • 한국통신학회논문지
    • /
    • 제26권11C호
    • /
    • pp.75-84
    • /
    • 2001
  • 본 논문에서는 신경망을 이용한 실시간 고장 검출 및 진단(FDD : Fault Detection and Diagnosis) 시스템을 제안한다. 제안된 시스템은 공조 시스템(FDD : Air Handling Unit)에서 발생 가능한 여러 고장들을 검출하고 진단할 수 있다. 고장 검출 및 진단 기법으로 3층 구조의 전방향(feed-forward) 신경망을 사용하였고, 여기에 사용된 학습 방법은 역전파(back-propagation) 학습 알고리즘이다. 공조 시스템에 적용된 실시간 고장 검출 및 진단 시스템은 비주얼 C++와 비주얼 베이직을 사용하여 구현하였다. 제안된 고장 검출 및 진단 시스템을 실제 운전 중인 공조 시스템에 적용하여 실험하였고, 정확한 고장 검출 및 진단이 수행됨을 실험 결과로서 입증하였다.

  • PDF

가강수량과 인공신경망을 이용한 중규모수치예보의 강수확률예측 개선기법 (Improving Probability of Precipitation of Meso-scale NWP Using Precipitable Water and Artificial Neural Network)

  • 강부식;이봉기
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2008년도 학술발표회 논문집
    • /
    • pp.1027-1031
    • /
    • 2008
  • 본 연구는 한반도 영역을 대상으로 2001년 7, 8월과 2002년 6월로 홍수기를 대상으로 RDAPS 모형, AWS, 상층기상관측(upper-air sounding)의 자료를 이용하였다. 또한 수치예보자료를 범주적 예측확률로 변환하고 인공신경망기법(ANN)을 이용하여 강수발생확률의 예측정확성을 향상시키는데 있다. 신경망의 예측인자로 사용된 대기변수는 500/ 750/ 1000hpa에서의 지위고도, 500-1000hpa에서의 층후(thickness), 500hpa에서의 X와 Y의 바람성분, 750hpa에서의 X와 Y의 바람성분, 표면풍속, 500/ 750hpa/ 표면에서의 온도, 평균해면기압, 3시간 누적 강수, AWS관측소에서 관측된 RDAPS모형 실행전의 6시간과 12시간동안의 누적강수, 가강수량, 상대습도이며, 예측변수로는 강수발생확률로 선택하였다. 강우는 다양한 대기변수들의 비선형 조합으로 발생되기 때문에 예측인자와 예측변수 사이의 복잡한 비선형성을 고려하는데 유용한 인공신경망을 사용하였다. 신경망의 구조는 전방향 다층퍼셉트론으로 구성하였으며 역전파알고리즘을 학습방법으로 사용하였다. 강수예측성과의 질을 평가하기 위해서 $2{\times}2$ 분할표를 이용하여 Hit rate, Threat score, Probability of detection, Kuipers Skill Score를 사용하였으며, 신경망 학습후의 강수발생확률은 학습전의 강수발생확률에 비하여 한반도영역에서 평균적으로 Kuipers Skill Score가 0.2231에서 0.4293로 92.39% 상승하였다.

  • PDF

퍼지와 역전파신경망 기법을 사용한 터보프롭 엔진의 진단에 관한 연구 (Study on Fault Diagnostics of a Turboprop Engine Using Fuzzy Logic and BBNN)

  • 공창덕;임세명;김건우
    • 한국추진공학회지
    • /
    • 제15권2호
    • /
    • pp.1-7
    • /
    • 2011
  • 다양한 비행환경에서 장시간 체공하며 운용되는 UAV에서 추진시스템을 신뢰성 있게 운용하는 것은 매우 중요하다. 이런 UAV에 사용되는 터보프롭 엔진의 정확한 손상진단은 신뢰성과 이용률을 향상시킬 수 있다. 본 연구에서는 엔진 측정 파라미터들의 변화로부터 퍼지 이론을 적용하여 손상된 구성품을 식별한 후 훈련된 신경망 알고리즘을 식별된 손상 패턴에 적용하여 손상된 양을 정확히 진단할 수있는 방법을 제안하였다. 이렇게 제안된 진단 방법은 단일손상과 다중손상 모두 진단할 수 있다.

퍼지와 역전파신경망 기법을 사용한 터보프롭 엔진의 진단에 관한 연구 (Study on Fault Diagnostics of a Turboprop Engine Using Fuzzy Logic and BBNN)

  • 공창덕;임세명;김건우
    • 한국추진공학회:학술대회논문집
    • /
    • 한국추진공학회 2010년도 제35회 추계학술대회논문집
    • /
    • pp.499-505
    • /
    • 2010
  • 다양한 비행환경에서 장시간 체공하며 운용되는 UAV에서 추진시스템을 신뢰성 있게 운용하는 것은 매우 중요하다. 이런 UAV에 사용되는 터보프롭 엔진의 정확한 손상진단은 신뢰성과 이용률을 향상시킬 수 있다. 본 연구에서는 엔진 측정 파라미터들의 변화로부터 퍼지 이론을 적용하여 손상된 구성품을 식별한 후 훈련된 신경망 알고리즘을 식별된 손상 패턴에 적용하여 손상된 양을 정확히 진단할 수 있는 방법을 제안하였다. 이렇게 제안된 진단 방법은 단일손상과 다중손상 모두 진단할 수 있다.

  • PDF