• Title/Summary/Keyword: 신경망 알고리즘

Search Result 1,672, Processing Time 0.052 seconds

A New Unsupervised Learning Network and Competitive Learning Algorithm Using Relative Similarity (상대유사도를 이용한 새로운 무감독학습 신경망 및 경쟁학습 알고리즘)

  • 류영재;임영철
    • Journal of the Korean Institute of Intelligent Systems
    • /
    • v.10 no.3
    • /
    • pp.203-210
    • /
    • 2000
  • In this paper, we propose a new unsupervised learning network and competitive learning algorithm for pattern classification. The proposed network is based on relative similarity, which is similarity measure between input data and cluster group. So, the proposed network and algorithm is called relative similarity network(RSN) and learning algorithm. According to definition of similarity and learning rule, structure of RSN is designed and pseudo code of the algorithm is described. In general pattern classification, RSN, in spite of deletion of learning rate, resulted in the identical performance with those of WTA, and SOM. While, in the patterns with cluster groups of unclear boundary, or patterns with different density and various size of cluster groups, RSN produced more effective classification than those of other networks.

  • PDF

The Multisignal Improvement of Adaptive Receiver using Adaptive Back-Propagation Algorithm (적응 역전파 알고리즘을 이용한 적응 수신기의 다중 신호 개선)

  • Kim, Chul-Young;Jang, Hyuk;Suk, Kyung-Hyu;Na, Sand-Dong
    • Proceedings of the Korean Institute of Information and Commucation Sciences Conference
    • /
    • 2000.05a
    • /
    • pp.188-194
    • /
    • 2000
  • 이동 통신에서 제한된 대역폭 채널에 내부 심볼 간섭을 감소시키기 위해, 등화기 기법을 필요로한다. 채널간의 비선형 왜곡을 효율적으로 다루는 대안을 가진 신경망을 사용하여 새로운 활성 함수로 구성된 적응 역전파 알고리즘을 연구한다. 신경망은 적응 역전파 알고리즘을 통해 신호를 복조하도록 학습한다. 특히 수정된 적응 역전파 알고리즘이 근접된 최적 수행성을 갖는 단일 및 다중 사용자 검출을 위한 샘플링 기법은 다중 사용자 환경에서 필요한 수신기들의 수행성을 평가하기 위한 시뮬레이션을 위하여 사용이 된다. 채널간의 비선형 왜곡에 효율적으로 다루기 위한 대안을 가진 신경망을 적용하여 본 논문에서 는 새로운 활성 함수로 구성된 적응 역전파 알고리즘을 제안하고, 컴퓨터 시뮬레이션에 의해서 분석된다. 반복적 최소 평균 자승(RLS) 알고리즘을 적용한 기존 수신기 및 적응 역전파 신경망과 비교하여, 채널 왜곡이 비선형 일 때에 비트 에러율(BER)이 현저하게 개선됨을 나타낸다. 적응 역전파 알고리즘 기법을 통해 기존 수신기와 신경망을 사용한 수신기의 수행을 컴퓨터 시뮬레이션을 통해 비교 분석하여 제안된 신경망 수신기의 성능이 우수함을 인증한다.

  • PDF

The Fuzzy Wavelet Neural Network System based on the improved ANFIS (개선된 ANFIS 기반 퍼지 웨이브렛 신경망 시스템)

  • 변오성;박인규;백덕수;문성룡
    • Proceedings of the Korea Multimedia Society Conference
    • /
    • 2002.11b
    • /
    • pp.129-132
    • /
    • 2002
  • 본 논문은 웨이브렛 변환 다중해상도 분해(multi-resolution Analysis : MRA)와 적응성 뉴로-퍼지 인터페이스 시스템(Adaptive Neuro-Fuzzy Inference System : ANFIS)을 기반으로 한 웨이브렛 신경망을 가지고 임의의 비선형 함수 학습 근사화를 개선하는 것이다. ANFIS 구조는 벨형 퍼지 함수로 구성이 되었고, 웨이브렛 신경망은 전파 알고리즘과 역전파 신경망 알고리즘으로 구성되었다. 여기 웨이브렛 구성은 단일 크기이고, ANFIS 기반 웨이브렛 신경망의 학습을 위해 역전파 알고리즘을 사용하였다. 1차원과 2차원 함수에서 웨이브렛 전달 파라미터 학습과 ANFIS의 벨형 소속 함수를 이용한 ANFIS 모델 기반 웨이브렛 신경망의 웨이브렛 기저 수 감소와 수렴 속도 성능이 기존의 알고리즘 보다 개선되었음을 확인하였다.

  • PDF

An Efficient Extraction of Data Feature By Using Neural Networks of Hybrid Learning Algorithm (조합형 학습알고리즘의 신경망을 이용한 데이터의 효율적인 특징추출)

  • Jo, Yong-Hyeon;Yun, Jung-Hwan;Park, Yong-Su
    • The KIPS Transactions:PartB
    • /
    • v.8B no.2
    • /
    • pp.130-136
    • /
    • 2001
  • 본 논문에서는 새로운 학습알고리즘의 비선형 주요성분분석 신경망을 이용한 영상데이터의 효율적인 특징추출에 대하여 제안한다. 제안된 학습알고리즘에서는 최적해로 수렴하는 과정에서 발생할 수도 있는 진동을 억제하여 빠른 속도의 수렴이 가능하도록 하기 위해 모멘트를 이용하였고, 국소최적해를 만났을 때 이를 벗어난 전역최적해로의 수렴을 위한 새로운 연결가중치의 설정을 위하여 동적터널링을 이용함으로써 빠른 수렴속도로 전역최적해에 수렴되도록 학습시킬 수 있다. 제안된 학습알고리즘을 이용한 신경망을 256$\times$256 픽셀의 간암영상과 128$\times$128 픽셀의 얼굴영상을 대상으로 실험한 결과, 기울기하강의 학습알고리즘을 이용한 기존 비선형 주요성분분석 신경망보다 우수한 수렴성능과 특징추출성능이 있음을 확인 할 수 있었다.

  • PDF

A Study on Analysis of Dynamic Generation of Initial Weights in EBP Learning (EBP 신경망 학습에서의 동적 초기 가중치 선택에 관한 연구)

  • Kim, Tea-Hun;Lee, Yill-Byung
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2006.11a
    • /
    • pp.35-38
    • /
    • 2006
  • 다층 퍼셉트론(MLP) 학습 이론인 오류 역전파 알고리즘은 델타룰과 최급 하강법을 사용하기 때문에 학습시 많은 시간이 소요된다는 단점을 가지고 있다. 때문에 신경망에서의 잘못된 초기 가중치 선택은 오류 역전파 알고리즘을 사용하는 신경망에서의 현격한 학습 성능저하를 발생시키게 된다. 본 논문에서는 학습시 오류 역전파 알고리즘의 수렴시간을 개선하기 위한 신경망의 동적 초기 가중치 선택 알고리즘을 제안한다. 이 알고리즘은 학습전 기존의 선택 가중치와 모든 가중치가 1.0 또는 -1.0 값을 가지는 가중치 집합에서 가중치 변동률을 선측정하여 이들 중 가장 변동률이 큰 경우를 초기 가중치 집합으로 선정하게 된다. 즉, 초기의 가중치 변동률을 차후 성능을 판단하는 지표로 사용하여 잘못된 가중치 선택으로 인한 최악의 학습효율의 가능성을 배제시키고 다층 신경망의 학습특성상 평균 이상의 학습효율을 보장하는 초기 가중치 선택방법이다.

  • PDF

Competitive Co-Evolving Neural Network : Host and Parasites (기생체 숙주 이론 기반의 경쟁 공진화 신경망)

  • 박정은;박민재;오경환
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2003.10a
    • /
    • pp.142-144
    • /
    • 2003
  • 유전자 알고리즘을 사용하여 신경망의 가중치를 학습하는 방법은 역전파 알고리즘이 가지는 여러 가지 문제점을 해결하기 위해 제안되었으나, 유전자 알고리즘 역시 전역 탐색이 아니기 때문에 실세계의 데이터에 적용하기 어려운 가장 큰 장애 요소인 지역 최소점 문제를 완벽하게 해결할 수는 없다. 이러한 지역 최소점 문제를 완화하기 위해 본 논문에서는 기생체-숙주 공진화 현상을 기반으로 한 유전자 알고리즘을 사용한 경쟁 공진화 신경망 학습 방법을 제시하고 있다. 경쟁 공진화는 서로 다를 개체간의 경쟁적인 진화를 통해 궁극적으로 보다 적합도가 높은 개체가 생성되는 이론을 기반으로 하고 있다. 이러한 경쟁 공진화를 통한 신경망 가중치의 학습이 일반적인 유전자 알고리즘을 사용하여 신경망을 학습시키는 것보다 더욱 우수한 가중치 집단을 탐색할 수 있음을 두 종류의 기계 학습 데이터를 통해 입증하였다.

  • PDF

Image denoising using Generative Adversarial Network (생성적 적대 신경망을 이용한 영상 잡음 제거)

  • Park, Gu Yong;Kim, Yoonsik;cho, Nam Ik
    • Proceedings of the Korean Society of Broadcast Engineers Conference
    • /
    • 2019.11a
    • /
    • pp.213-216
    • /
    • 2019
  • 영상 잡음 제거 알고리즘은 잡음으로 오염된 영상으로부터 잡음이 제거된 깨끗한 영상을 추정하여 복원하는 연구이다. 기존의 모델 기반 방법의 영상 잡음 제거 알고리즘은 영상을 복원하는 과정에서 최적화 문제를 풀어야 한다는 단점과 매개변수를 직접 선택을 해주어야 한다는 단점을 가진다. 본 논문에서는 딥러닝을 이용한 학습기반 방법의 영상 잡음 제거 연구를 소개한다. 먼저, 신경망의 구축을 위하여 신경망의 구성 요소는 Instance Normalization 과 컨볼루션 신경망을 이용한 모델을 제안하였고, 여러 연구 분야에서 좋은 성능을 보이는 U-Net 구조를 전체적인 구조로 차용하였다. 신경망의 학습을 위하여 DnCNN 에서 제안한 잡음을 학습하는 잔여 학습 기법을 채택하였고, 기존의 영상 잡음 제거 알고리즘의 단점인 결과 영상이 흐릿해지는 현상을 보완하기 위하여 생성적 적대 신경망 학습 방법을 적용하였다. 본 논문에서 제안한 신경망을 이용한 잡음 제거 영상의 결과가 기존의 연구 방법들 보다 인지적인 측면에서 좋은 결과를 보임을 확인하였다.

  • PDF

A Shortest Path Routing Algorithm using a Modified Hopfield Neural Network (수정된 홉필드 신경망을 이용한 최단 경로 라우팅 알고리즘)

  • Ahn, Chang-Wook;Ramakrishna, R.S.;Choi, In-Chan;Kang, Chung-Gu
    • Journal of KIISE:Information Networking
    • /
    • v.29 no.4
    • /
    • pp.386-396
    • /
    • 2002
  • This paper presents a neural network-based near-optimal routing algorithm. It employs a modified Hopfield Neural Network (MHNN) as a means to solve the shortest path problem. It uses every piece of information that is available at the peripheral neurons in addition to the highly correlated information that is available at the local neuron. Consequently, every neuron converges speedily and optimally to a stable state. The convergence is faster than what is usually found in algorithms that employ conventional Hopfield neural networks. Computer simulations support the indicated claims. The results are relatively independent of network topology for almost all source-destination pairs, which nay be useful for implementing the routing algorithms appropriate to multi -hop packet radio networks with time-varying network topology.

Forecasting algorithm using an improved genetic algorithm based on backpropagation neural network model (개선된 유전자 역전파 신경망에 기반한 예측 알고리즘)

  • Yoon, YeoChang;Jo, Na Rae;Lee, Sung Duck
    • Journal of the Korean Data and Information Science Society
    • /
    • v.28 no.6
    • /
    • pp.1327-1336
    • /
    • 2017
  • In this study, the problems in the short term stock market forecasting are analyzed and the feasibility of the ARIMA method and the backpropagation neural network is discussed. Neural network and genetic algorithm in short term stock forecasting is also examined. Since the backpropagation algorithm often falls into the local minima trap, we optimized the backpropagation neural network and established a genetic algorithm based on backpropagation neural network for forecasting model in order to achieve high forecasting accuracy. The experiments adopted the korea composite stock price index series to make prediction and provided corresponding error analysis. The results show that the genetic algorithm based on backpropagation neural network model proposed in this study has a significant improvement in stock price index series forecasting accuracy.

An Initialization of Backpropagation Network Using Genetic Algorithm (유전자 알고리즘을 이용한 오차 역전파 신경망의 초기화)

  • 박형태;이행세
    • Proceedings of the IEEK Conference
    • /
    • 2003.07d
    • /
    • pp.1275-1278
    • /
    • 2003
  • 본 논문에서는 오차 역전파 알고리즘의 전역 최소값을 찾지 못하는 문제점에 대해서 설명하였고, 이 문제를 해결하기 위한 방법으로 유전자 알고리즘에 대해서 설명하였다. 오차 역전파 알고리즘은 기본적으로 경도 하강법을 따른다. 따라서 신경망의 각 가중값 행렬이 만드는 고차의 오차 평면이 대부분의 문제에서 다수의 국부 최소값들을 가지는게 일반적인데, 가중값의 변화가 한방으로 진행하기 시작하여, 오차가 증가되어지는 언덕이 학습 계수보다 크다면 더 이상 학습은 진행되지 않고 거기에서 빠져나가지 못한다. 따라서 초기의 위치가 중요한 역할을 하는데, 이 문제를 해결하기 위해서 유전자 알고리즘을 이용한 신경망 초기화 방법을 제안하였다. 끝으로, 간단한 실험으로 제안된 방법을 구현하고 결과에 대해서 논하였다

  • PDF