• 제목/요약/키워드: 퍼셉트론

검색결과 384건 처리시간 0.029초

다층 퍼셉트론에서 구조인자 제어 영향의 비교 (Comparison of Factors for Controlling Effects in MLP Networks)

  • 윤여창
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제31권5호
    • /
    • pp.537-542
    • /
    • 2004
  • 다층 퍼셉트론(Multi-Layer Perceptron, MLP) 구조는 그의 비선형 적합능력으로 인하여 매우 다양한 실제 문제에 적용되고 있다. 그러나 일반화된 MLP 구조의 적합능력은 은닉노드의 개수. 초기 가중 값 그리고 학습 회수 또는 학습 오차와 같은 구조인자(factor)들에 크게 영향을 받는다. 만약 이들 구조인자가 부적절하게 선택되면 일반화된 MLP 구조의 적합능력이 매우 왜곡될 수 있다. 따라서 MLP구조에 영향을 주는 인자들의 결합 영향을 살펴보는 것은 중요한 문제이다. 이 논문에서는 제어상자(controller box)를 통한 학습결과와 더불어 MLP구조를 일반화할 때 영향을 줄 수 있는 신경망의 일반적인 구조인자 들을 실증적으로 살펴보고 이들의 상대효과를 비교한다.

고속 필기 한글 주소 인식을 위한 낱자 인식 (Character Recognition for Fast Handwritten Korean Address Reading)

  • 정선화;임길택;송재관;남윤석
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2001년도 추계학술발표논문집 (상)
    • /
    • pp.589-592
    • /
    • 2001
  • 본 논문에서는 고속 필기 한글 주소 인식을 위한 낱자 인식기를 제안한다. 인식 대상은 우편번호 여섯 자리에 할당된 주소에 출현 빈도가 높은 필기 한글 469 자이다. 제안된 방법은 낱자 인식 기법을 채택하고 있으며, 인식률과 처리속도를 향상시키기 위하여 2 단계 인식 전략을 채택하였다. 인식기로는 다층퍼셉트론, 최소거리분류기, Subspace 방법을 고려한다. 다층퍼셉트론은 비교적 높은 인식률과 처리속도를 보유하지만 출력값이 확률이 아님으로써 후처리를 필요로 하는 시스템에서 사용하기 어렵다. 최소거리분류기는 간단한 알고리즘으로 처리속도가 높고 확률을 출력하는 장점을 갖지만 인식률이 낮아 활용되기 어렵다. 또한 Subspace 방법은 인식률이 높고 확률을 출력하지만 처리속도가 매우 느리다는 단점이 있다. 따라서 제안방법에서는 처리속도가 높은 인식기 - 다층퍼셉트론, 최소거리분류기 - 를 사용하여 선인식을 수행한 후, 이 결과를 활용하여 인식 대상을 제한한 후 Subspace 방법을 사용하여 정확하게 인식하는 전략을 도입함으로써, 높은 인식결과를 유지하면서 처리속도를 높이고 후처리에 적합하도록 하였다. PE92 데이터베이스를 사용하여 실험한 결과 제안방법이 한글 469 자에 대하여 비교적 높은 인식률과 처리속도를 갖음을 알 수 있었다.

  • PDF

ESS 용량 산정을 위한 다층 퍼셉트론을 이용한 풍력 발전량 예측 (Prediction of Wind Power Generation for Calculation of ESS Capacity using Multi-Layer Perceptron)

  • 최정곤;최효상
    • 한국전자통신학회논문지
    • /
    • 제16권2호
    • /
    • pp.319-328
    • /
    • 2021
  • 본 논문에서는 풍력 발전 수익 극대화 및 비용 최소화를 위해 설치하는 ESS에 대하여 정확한 용량 산정을 하기 위한 목적으로 풍력 단지용 전력량 예측을 다층 퍼셉트론을 이용하여 수행한다. 풍력 발전량을 예측하기 위해 풍속, 풍향, 공기밀도를 변수로 하고 그 변수를 병합하고 정규화한다. 모델을 훈련시키기 위해 병합된 변수를 70% 대 30% 비율로 훈련 및 테스트 데이터로 나눈다. 그런 다음 학습 데이터를 사용하여 모델을 학습시키고 테스트 데이터를 사용하여 모델의 예측 성능도 평가한다. 마지막으로 풍력량 예측 결과를 제시한다.

지하수위 예측을 위한 경사하강법과 화음탐색법의 결합을 이용한 다층퍼셉트론 성능향상 (Improvement of multi layer perceptron performance using combination of gradient descent and harmony search for prediction of groundwater level)

  • 이원진;이의훈
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2022년도 학술발표회
    • /
    • pp.186-186
    • /
    • 2022
  • 강수 및 침투 등으로 발생하는 지하수위의 변동을 예측하는 것은 지하수 자원의 활용 및 관리에 필수적이다. 지하수위의 변동은 지하수 자원의 활용 및 관리뿐만이 아닌 홍수 발생과 지반의 응력상태 등에 직접적인 영향을 미치기 때문에 정확한 예측이 필요하다. 본 연구는 인공신경망 중 다층퍼셉트론(Multi Layer Perceptron, MLP)을 이용한 지하수위 예측성능 향상을 위해 MLP의 구조 중 Optimizer를 개량하였다. MLP는 입력자료와 출력자료간 최적의 상관관계(가중치 및 편향)를 찾는 Optimizer와 출력되는 값을 결정하는 활성화 함수의 연산을 반복하여 학습한다. 특히 Optimizer는 신경망의 출력값과 관측값의 오차가 최소가 되는 상관관계를 찾는 연산자로써 MLP의 학습 및 예측성능에 직접적인 영향을 미친다. 기존의 Optimizer는 경사하강법(Gradient Descent, GD)을 기반으로 하는 Optimizer를 사용했다. 하지만 기존의 Optimizer는 미분을 이용하여 상관관계를 찾기 때문에 지역탐색 위주로 진행되며 기존에 생성된 상관관계를 저장하는 구조가 없어 지역 최적해로 수렴할 가능성이 있다는 단점이 있다. 본 연구에서는 기존 Optimizer의 단점을 개선하기 위해 지역탐색과 전역탐색을 동시에 고려할 수 있으며 기존의 해를 저장하는 구조가 있는 메타휴리스틱 최적화 알고리즘을 이용하였다. 메타휴리스틱 최적화 알고리즘 중 구조가 간단한 화음탐색법(Harmony Search, HS)과 GD의 결합모형(HS-GD)을 MLP의 Optimizer로 사용하여 기존 Optimizer의 단점을 개선하였다. HS-GD를 이용한 MLP의 성능검토를 위해 이천시 지하수위 예측을 실시하였으며 예측 결과를 기존의 Optimizer를 이용한 MLP 및 HS를 이용한 MLP의 예측결과와 비교하였다.

  • PDF

생체분자 퍼셉트론의 신뢰성 향상을 위한 열역학 기반 가중치 코딩 방법 (Thermodynamics-Based Weight Encoding Methods for Improving Reliability of Biomolecular Perceptrons)

  • 임희웅;유석인;장병탁
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제34권12호
    • /
    • pp.1056-1064
    • /
    • 2007
  • 생체분자 컴퓨팅은 DNA와 같은 생체 분자를 이용하여 정보를 표현하고 처리하는 새로운 컴퓨팅 패러다임이다. 작은 부피에 존재하는 무수히 많은 분자와 화학 반응에 내재된 대규모 병렬성은 새로운 개념의 고성능 계산 기법에 영감을 주었고 이를 바탕으로 다양한 계산 모델 및 문제 해결을 위한 분자알고리즘이 개발되었다. 한편 생체 분자를 이용한 정보처리라는 특징은 생물학 문제에 적용될 수 있는 가능성을 시사한다. 유전자 발현 패턴과 같은 생화학적 분자 정보의 분석을 위한 도구로서의 가능성을 가지고 있는 것이다. 이러한 맥락에서 DNA 컴퓨팅 기반의 생체분자 퍼셉트론 모델이 제안되었고 그 실험적 구현 결과가 제시된 바 있다. 생체분자 퍼셉트론의 핵심인 가중치 표현 및 가중치-합 연산은 입력 분자와 가중치를 표현하는 프로브 분자간의 경쟁적 혼성화 반응에 기반하고 있다. 그러나 그 혼성화 반응에서 열역학적 대칭성을 가정하고 있기 때문에 사용하는 프로브에 따라 가중치 표현의 오차가 있을 수 있다. 본 논문에서는 비대칭적인 열역학적 특성을 고려하여 일반화된 혼성화 반응 모델을 제시하고, 이를 바탕으로 신뢰성 있는 생체 분자 퍼셉트론의 구현을 위한 가중치 코딩 방법을 제안한다. 그리고 본 논문에서 제시한 가중치 표현 방법의 정확성을 이전 모델과 컴퓨터 시뮬레이션을 통해 비교하고 한계 오차를 만족하기 위한 조건을 제시한다.

선형탐색 터널링을 이용한 정규화 신경망 학습 알고리즘과 옵션가격결정에의 응용 (Regularized Neural Network Training Algorithm Using Line Search Tunneling and It's Application to Option Pricing)

  • 김보현;정규환;최형준;이재욱
    • 한국경영과학회:학술대회논문집
    • /
    • 한국경영과학회/대한산업공학회 2005년도 춘계공동학술대회 발표논문
    • /
    • pp.746-752
    • /
    • 2005
  • 본 논문에서는 다층 퍼셉트론 신경망 학습을 위한 새로운 두 단계 학습방법을 제안하고 이를 옵션 가격결정 모형에 응용하였다. 제안된 신경망 학습 알고리즘의 첫번째 단계는 Levenberg-Marquardt 알고리즘을 이용하여 빠르게 국소최적해를 찾는 것이고 두 번째 단계는 첫 번째 단계에서 찾은 국소최적해가 원하는 수준에 미치지 못할 경우 선형탐색 터널링을 이용해서 더 나은 해를 찾는 것이다. 이 두 단계를 반복적으로 수행함으로써 연결가중치 공간에서 구하고자 하는 해를 빠르고 안정적으로 찾을 수 있다. 현재 옵션가격결정 모형으로 많이 이용되고 있는 Black-Scholes 모형의 문제점을 극복하기 위해서 제안된 신경망 모형을 옵션가격결정 문제에 사용하였다. 이 모형을 KOSPI200 옵션 데이터로 실험한 결과 Black-Scholes 모형에 비해 검증오차를 60% 가량 줄일 수 있었다.

  • PDF

DS/SS 통신에서 BISP 알고리즘을 이용한 탭 가중치 갱신 (Tap-Weight Update Multilayer Neural Network using BISP Algorithm in DS/SS Communication)

  • 석경휴;김문환;임영진;김광준;배철수;나상동
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2003년도 춘계종합학술대회
    • /
    • pp.712-716
    • /
    • 2003
  • 본 논문은 신경망을 이용한 간섭 신호 제어로써 복합 다중 퍼셉트론에서 DS/SS 이동 통신에서의 수신된 신호들을 역전파 학습알고리즘을 이용하여 검출하는 것에 대하여 연구한다. 수신 신호가 일정한 비트율을 갖는 채널에 전송하기 위하여 신경망을 이용한 새로운 탭 가중치 갱신 제어 방법을 제안한다. 적응 횡단선 필터는 심볼간의 채널에 발생하는 상호 심볼간 간섭을 억압하기 위해 LMS 알고리즘 사용한다. 이 알고리즘은 원하는 응답과 실제 출력간의 차인 에러를 이용하여 탭 가중치 조절 메카니즘을 통해 탭 가중치를 갱신함으로서 효과적으로 간섭을 제거하였다. 본 논문은 상호 심볼간 간섭을 효율적으로 억압해온 기존의 LMS 알고리즘에 다계층 퍼셉트론 신경망을 조합한 새로운 BISP 알고리즘을 제안하였으며, 제안된 알고리즘을 통해 탭 가중치 갱신이 보다 효율적으로 이루어짐을 알 수 있다. 시뮬레이션 결과를 통해 제안된 알고리즘의 평균 자승 에러의 수렴 특성이 기존 LMS 알고리즘을 이용한 수렴특성보다 우월하다는 것을 나타내었다.

  • PDF

비선형 변환에 의한 중간층 뉴런 상관계수 감소 (Decreasing of Correlations Among Hidden Neurons of Multilayer Perceptrons)

  • 오상훈
    • 한국콘텐츠학회논문지
    • /
    • 제3권3호
    • /
    • pp.98-102
    • /
    • 2003
  • 다층퍼셉트론의 중간층 뉴런이 지닌 역할을 정보처리의 관점에서 밝혀내기 위해서, 이 논문에서는 중간층 뉴런의 가중치 합들 간의 상관계수가 비선형 변환에 의해 감소하게 됨을 증명하였다. 고립단어 인식을 다층퍼셉트론에 학습시킨 경우의 시뮬레이션으로 이러한 증명이 맞음도 보였다. 이 결과로부터 중간층 뉴런이 지닌 비선형 변환은 정보의 중복을 감소시키는 효과가 있음을 알 수 있다.

  • PDF

선형예측계수를 사용한 화자인식 (Speaker Recognition using Linear Prediction Coefficient)

  • 최재승;정병구
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2011년도 춘계학술대회
    • /
    • pp.509-511
    • /
    • 2011
  • 본 논문에서는 다층 퍼셉트론 신경회로망과 선형예측계수를 사용한 화자인식 알고리즘을 제안한다. 제안하는 화자인식 알고리즘은 입력받은 음성신호에 대해서 유성음 구간을 추출한다. 추출된 유성음구간에 대하여 선형예측 분석에 의하여 화자의 특성을 가지고 있는 선형예측계수를 구한다. 구해진 선형예측계수를 분류하기 위하여 선형예측계수를 퍼셉트론 신경회로망의 입력으로 사용하여 네트워크의 학습을 수행한다. 본 실험에서는 선형예측계수와 신경회로망을 사용하여 본 화자인식 알고리즘이 유효하다는 것을 인식률을 통하여 확인한다.

  • PDF

실험계획법을 이용한 다층 퍼셉트론 인공 신경망의 구조 설계

  • 이석호;강대천;이찬;강무진
    • 한국정밀공학회:학술대회논문집
    • /
    • 한국정밀공학회 1996년도 춘계학술대회 논문집
    • /
    • pp.536-540
    • /
    • 1996
  • 경험과 학습을 바탕으로 새로운 상황에 대처하는 인간의 신경계에서의 신경세포들의 상호작용을 규명하는 일은 많은 과학자들을 매료시켜 왔다. 이와 함께, 생물학적인 신경계를 닮은 인공적인 신경망을 구축하여 감지하고, 인식하고, 구별하고, 판단하는 일에 이용하고자 하는 노력도 끊임없이 진행되어 왔다. 인공 신경망의 구성은 전적으로 많은 경우의 수에 대한 테스트에 의존하게 되는 데, 이 경우 시간도 대단히 많이 소요 될 뿐더러 체계적으로 가장 좋아 보이는 신경망 모델에 도달하였는 지도 확실치 않다. 따라서 , 본 논문에서는 실험계획법을 다층 퍼셉트론 신경망의구조설계에 적용하여 적은 실험횟수로 적합한 신경망 모델을 구성할 수 있음을 검증하고, 실제사례에 적용하여 그 유용성을 제시하고자 한다.

  • PDF