• 제목/요약/키워드: Delta 학습 방법

검색결과 34건 처리시간 0.021초

퍼지 RBF 네트워크의 학습 성능 개선 (Learning Performance Improvement of Fuzzy RBF Network)

  • 김광백
    • 한국멀티미디어학회논문지
    • /
    • 제9권3호
    • /
    • pp.369-376
    • /
    • 2006
  • 본 논문에서는 퍼지 RBF네트워크의 학습 성능을 개선하기 위하여 Delta-bar-Delta 알고리즘을 적용하여 학습률을 동적으로 조정하는 개선된 퍼지 RBF 네트워크를 제안한다. 제안된 학습 알고리즘은 일반화된 델타 학습 방법에 퍼지 C-Means 알고리즘을 결합한 방법으로, 중간층의 노드를 자가 생성하고 중간층과 출력층의 학습에는 일반화된 델타 학습 방법에 Delta-bar-Delta 알고리즘을 적용하여 학습률을 동적으로 조정하여 학습 성능을 개선한다. 제안된 RBF 네트워크의 학습 성능을 평가하기 위하여 컨테이너 영상에서 추출한 40개의 식별자를 학습 데이터로 적용한 결과, 기존의 ART2 기반 RBF 네트워크와 기존의 퍼지 RBF 네트워크 보다 학습 시간이 적게 소요되고, 학습의 수렴성이 개선된 것을 확인하였다.

  • PDF

ART1과 Delta-Bar-Delta 방법을 이용한 개선된 자가 생성 지도 학습 알고리즘 (Enhanced Self-Generation Supervised Learning Alrorithm Using ARTI and Delta-Bar-Delta Method)

  • 백인호;김태경;김광백
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2003년도 추계 학술대회 학술발표 논문집
    • /
    • pp.71-75
    • /
    • 2003
  • 오류 역전파 학습 알고리즘을 이용하여 영상 인식에 적용 할 경우에는 은닉층의 노드 수를 경험적으로 설정하므로, 학습시간과 지역최소화 및 정체현상이 발생한다. 그리고 ARTI 알고리즘은 입력 패턴과 저장 패턴간의 측정 방법인 유사성 검증 방법과 경계 변수의 설정에 따라 인식률이 좌우된다. 경계 변수의 값이 크면 입력 패턴과 저장 패턴사이에 약간의 차이만 있어도 새로운 카테고리(Category)로 분류하고, 반대로 경계 변수의 값이 적으면 입력 패턴과 저장 패턴 사이에 많은 차이가 있더라도 유사성이 인정되어 입력 패턴들을 대략적으로 분류한다. 따라서 ART1 알고리즘을 영상 인식에 적용하기 위해서는 경계 변수를 경험적으로 설정하므로 인식률에 부정적인 영향을 갖는 문제점이 있다. 따라서 본 논문에서는 개선된 ART1 알고리즘과 지도 학습 방법을 결합하여 신경망의 은닉층 노드를 동적으로 변화시키는 자가 생성지도 학습 알고리즘을 제안한다. 제안된 신경망에서 입력층과 은닉층의 학습 구조에는 ART1 알고리즘을 개선하여 적용하고, 은닉층과 출력층의 학습 구조에는 은닉층에서 승자로 선택된 노드와 출력층 노드와 연결된 가중치만을 조정하고 Delta-Bar-Delta 알고리즘을 적용한다. 제안된 방법의 학습 성능을 분석하기 위하여 학생증 영상에서 추출한 학번 패턴 분류에 적용한 결과, 기존의 신경망 학습 알고리즘보다 학습 성능이 개선됨을 확인하였다.

  • PDF

퍼지 논리 시스템을 이용한 학습률 자동 조정 방법에 관한 연구 (A Study on Auto-Tuning Method of learning Rate by Using Fuzzy Logic System)

  • 주영호;김태영;김광백
    • 한국지능정보시스템학회:학술대회논문집
    • /
    • 한국지능정보시스템학회 2003년도 춘계학술대회
    • /
    • pp.484-489
    • /
    • 2003
  • 본 논문에서는 역전파 알고리즘의 성능 개선을 위해 퍼지 논리 시스템을 이용한 학습률 자동 조정 방법을 제안한다. 제안된 방법은 목표값과 출력값의 차이에 대한 절대값이 $\varepsilon$ 보다 적거나 같으면 정확성으로 분류하고 크면 부정확성으로 분류한다. 정확성의 총 개수를 퍼지 논리 시스템에 적용하여 학습률과 모멘텀을 동적으로 조정한다. 제안된 방법을 XOR 문제와 숫자패턴 문제에 적용하여 실험한 결과, 기존의 역전파 알고리즘, 모멘텀 방식, Jacob의 delta-bar-delta 방식보다 성능이 개선됨을 확인하였다.

  • PDF

퍼지 RBF 네트워크의 학습 성능 개선 (Learning Performance Improvement of Fuzzy RBF Network)

  • 김재용;김광백
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2005년도 춘계학술대회 학술발표 논문집 제15권 제1호
    • /
    • pp.335-339
    • /
    • 2005
  • 본 논문에서는 퍼지 RBF 네트워크의 학습 성능을 개선하기 위하여 Delta-bar-Delta 알고리즘을 적용하여 학습률을 동적으로 조정하는 개선된 퍼지 RBF 네트워크를 제안한다. 제안된 학습 알고리즘은 일반화된 델타 학습 방법에 퍼지 C-Means 알고리즘을 결합한 방법으로, 중간층의 노드를 자가 생성하고 중간층과 출력충의 학습에는 일반화된 델타 학습 방법에 Delta-bar-Delta 알고리즘을 적용하여 학습률을 동적으로 조정하여 학습 성능을 개선한다. 제안된 RBF 네트워크의 학습 성능을 평가하기 위하여 컨테이너 영상에서 추출한 40개의 식별자를 학습 데이터로 적용한 결과, 기존의 ART2 기반 RBF 네트워크와 기존의 퍼지 RBF 네트워크 보다 학습 시간이 적게 소요되고, 학습의 수렴성이 개선된 것을 확인하였다.

  • PDF

퍼지 추론과 개선된 퍼지 RBF 네트워크를 이용한 컨테이너 식별자 인식

  • 주이환;김재용;김광백
    • 한국지능정보시스템학회:학술대회논문집
    • /
    • 한국지능정보시스템학회 2004년도 추계학술대회
    • /
    • pp.195-202
    • /
    • 2004
  • 일반적으로 운송 컨테이너의 식별자들은 크기나 위치가 정형화되어 있지 않고 외부 잡음으로 인하여 식별자의 형태가 변형될 수 있기 때문에 일정한 규칙으로 찾기는 힘들다. 본 논문에서는 이러한 특성을 고려하여 컨테이너 영상에 대해 Canny 마스크를 이용하여 에지를 검출하고, 검출된 에지 정보에서 영상획득 시 외부 광원에 의해 수직으로 길게 발생하는 잡음들을 퍼지추론 방법을 적용하여 제거한 후에 수직 블록과 수평 블록을 검출하여 컨테이너의 식별자 영역을 추출하고 이진화 한다. 이진화된 식별자 영역에 대해 검정색의 빈도수를 이용하여 흰바탕과 민바탕을 구분하고 윤곽선 추적 알고리즘을 적용하여 개별 식별자를 추출한다. 추출된 개별 식별자의 인식은 개선된 퍼지 RBF 네트워크를 제안하여 적용한다. 제안된 퍼지 RBF 네트워크는 퍼지 C-Means 알고리즘을 중간층으로 적용하고 중간층과 출력층 간의 학습에는 일반화된 델타 학습 방법과 Delta-bar-Delta 알고리즘을 적용하여 학습 성능을 개선한다. 실제 컨테이너 영상을 대상으로 실험한 결과, 기존의 식별자 추출 방법보다 제안된 식별자 추출 방법이 개선되었고 기존의 퍼지 RBF 네트워크 보다 제안된 퍼지 RBF 네트워크가 컨테이너 식별자의 학습 및 인식에 우수함을 확인하였다.

  • PDF

퍼지 제어 시스템을 이용한 학습률 자동 조정 방법에 의한 개선된 역전파 알고리즘 (Enhanced Backpropagation Algorithm by Auto-Tuning Method of Learning Rate using Fuzzy Control System)

  • 김광백;박충식
    • 한국정보통신학회논문지
    • /
    • 제8권2호
    • /
    • pp.464-470
    • /
    • 2004
  • 본 논문에서는 역전파 알고리즘의 성능 개선을 위해 퍼지 제어 시스템을 적용하여 학습률을 자동으로 조정하는 개선된 역전파 알고리즘을 제안한다. 제안된 방법은 목표값과 출력값의 차이에 대한 절대값이 $\varepsilon$ 보다 적거나 같으면 정확성으로 분류하고 크면 부정확성으로 분류한다. 정확성과 부정확성의 개수를 퍼지 제어 시스템에 적용하여 학습률을 동적으로 조정한다. 제안된 방법을 XOR 문제와 숫자 패턴 분류에 적용하여 실험한 결과, 기존의 역전파 알고리즘, 모멘텀 방식, Jacob의 delta-bar-delta 방식보다 성능이 개선됨을 확인하였다.

영상 인식을 위한 개선된 자가 생성 지도 학습 알고리듬에 관한 연구 (A Study on Enhanced Self-Generation Supervised Learning Algorithm for Image Recognition)

  • 김태경;김광백;백준기
    • 한국통신학회논문지
    • /
    • 제30권2C호
    • /
    • pp.31-40
    • /
    • 2005
  • 오류 역전파 알고리즘의 문제점과 ART 신경회로망의 문제점을 개선하기 위해 Jacobs가 제안한 delta-bar-delta 방법과 신경회로망을 결합한 자가 생성 지도 학습 알고리듬을 제안한다. 입력층과 은닉층에서는 ART-1과 ART-2 알고리듬을 이용하고, winner-take-all 방식은 완전 연결 구조이나 연결된 가중치만을 조정하도록 채택하였다. 실험을 위해 학생증, 주민등록증, 컨테이너의 영상으로 추출한 패턴을 신경회로망의 은닉층 노드에 대해 실험하였고, 실험결과 제안된 자기 생성 지도 학습알고리듬이 지역최소화, 학습 속도, 정체 현상이 기존의 방법보다 성능이 개선된 것을 확인하였다.

다층 구조 신경회로망의 학습 속도 향상을 위한 활성화 함수의 변화 (Variation of activation functions for accelerating the learning speed of the multilayer neural network)

  • 이병도;이민호
    • 센서학회지
    • /
    • 제8권1호
    • /
    • pp.45-52
    • /
    • 1999
  • 이 논문에서는 오차 역전파 학습 알고리듬의 학습 속도를 향상시키기 위한 새로운 학습 방법을 제안한다. 제안하고자 하는 방법은 시그모이드 형태를 갖는 신경회로망의 활성화 함수(activation function) 자체에 고차항(higher order)을 적절히 이용하여 초기 학습 단계에서 발생할 수 있는 조기 포화(premature saturation) 현상을 계산량의 큰 증가 없이 효과적으로 대처할 수 있다. 고차항을 이용함으로써 은닉층 활성화 함수의 도합수가 작은 값으로 감소함에 따라 신경망의 연결 강도를 학습시키는 학습율은 적응적으로 큰 값을 갖게 된다. 또한, 은닉층에 고차항을 이용하는 제안한 방법에 모멘텀(momentum) 학습 알고리듬을 결합하는 새로운 hybrid 학습 방법을 제안한다. 컴퓨터 모의 실험을 통해 제안하고자 하는 학습 방법과 기존의 방법들과의 학습 속도 성능을 비교한다.

  • PDF

학습률 및 모멘텀의 자동 조정 방법과 ART2를 이용한 개선된 RBF네트워크 (Enhanced RBF Network by Using Auto-Turning Method of Learning Rate, Momentum and ART2)

  • 주영호;김태경;김광백
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2003년도 추계 학술대회 학술발표 논문집
    • /
    • pp.91-94
    • /
    • 2003
  • 본 논문에서는 RBF 네트워크의 중간층과 출력층 사이의 연결강도를 효율적으로 조정하기 위해 퍼지 논리 시스템을 이용하여 학습률과 모멘텀을 동적으로 조정하는 개선된 RBF 네트워크를 제안한다. 입력층과 중간층 사이의 학습 구조로 ART2를 적용하고 중간층과 출력층 사이의 연결 강도 조정 방법으로는 제안된 학습률 자동 조정 방식을 적용한다. 제안된 방법의 학습 성능을 평가하기 위해 기존의 delta-bar-delta 알고리즘, 기존의 ART2 기반의 RBF 네트워크와 비교 분석한 결과, 제안된 방법이 학습 속도와 수렴성에서 개선된 것을 확인하였다.

  • PDF

기계학습과 동적델타헤징을 이용한 옵션 헤지 전략 (An Option Hedge Strategy Using Machine Learning and Dynamic Delta Hedging)

  • 유재필;신현준
    • 한국산학기술학회논문지
    • /
    • 제12권2호
    • /
    • pp.712-717
    • /
    • 2011
  • 동적 델타 헤징(Dynamic Delta Hedging)이란 옵션 발행자가 옵션의 만기정산금액(payoff)을 지급하기 위해 주기적으로 델타에 근거한 헤지 포지션을 조절함으로써 옵션의 payoff를 복제하고 옵션 가치변화에 따른 위험을 회피하는 방법이다. 본 연구에서는 헤지에 있어서 주요 변수인 블랙-숄즈의 모형에 의해 산출된 델타의 대체 값을 찾기 위해 기계학습의 일종인 인공신경망 학습을 적용하여 옵션의 만기 시 헤지 비용의 최소화 및 차익 실현을 위한 방법론을 제시하고자 한다. 기초자산의 현재가격, 변동성, 무위험이자율, 만기 등의 시장 상황 변화에 따른 다양한 시나리오에 대한 실험을 통해 본 연구에서 제시하는 방법론의 성능을 분석하고 그 우수성을 보인다.