• 제목/요약/키워드: 베이시안

검색결과 87건 처리시간 0.021초

적응적 정규화 자연기울기 학습과 자연프루닝을 통한 신경망의 일반화 성능 향상 (Improving Generalization in Neural Networks using Natural Gradient Learning with Adaptive Regularization and Natural Pruning)

  • 이현진;박혜영;지태창;이일병
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2002년도 봄 학술발표논문집 Vol.29 No.1 (B)
    • /
    • pp.265-267
    • /
    • 2002
  • 본 논문에서는 적응적 정규화 자연기울기 학습법과 자연 프루닝(pruning) 방법의 결합을 통하여 일반화 성능이 우수만 신경망을 구성하고자 한다. 먼저 적응적 정규화 자연기울기 학습을 통하여 신경망의 가중치를 최적화 시키고, 자연 프루닝에 의하여 신경망의 구조를 단순화 시킨다. 이러한 모델들 중 최적의 모델은 베이시안 정보 기준에 의해 선택함으로써 일반화 성능이 우수만 신경망을 구성하는 방법을 제안한다 벤치마크 (benchmark) 데이터로 제안하는 방법과 유클리디안(Euclidean) 거리에 기반한 결합 방법과 자연 프루닝만을 적용한 방법을 비교함으로써 우수성을 검증한다.

  • PDF

재귀 베이시안 추정을 이용한 회전기기 진단 (Diagnostics of Rotating Machinery using Recursive Bayesian Estimation)

  • Oh, Joon-Seok;Sohn, Seok-Man;Kim, Hee-Soo;Lee, Seung-Cheol;Bae, Yong-Chae
    • KEPCO Journal on Electric Power and Energy
    • /
    • 제6권1호
    • /
    • pp.49-52
    • /
    • 2020
  • Since power plant is an important system to provide electricity, it is necessary to monitor it in order to operate safely. Much information related with machine diagnosis exists in written form instead of digital data. So, it causes difficulties of analyzing and finding solutions. Rulebased expert system can provide flexible and effective solutions to users. In this paper, Recursive Bayesian Estimation is applied in order to increase accuracy of solutions.

적응적 가중치 감소항을 적용한 Optimal Brain Surgeon (Optimal Brain Surgeon with Adaptive Weight Decay Term)

  • 이현진;지태창;박혜영;이일병
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2000년도 가을 학술발표논문집 Vol.27 No.2 (2)
    • /
    • pp.305-307
    • /
    • 2000
  • 본 논문에서는 다층 퍼셉트론 신경망에서 연결선 수를 최소로 하면서 일반화 성능을 향상시키기 위해 가장 널리 쓰여지고 있는 Optimal Brain Surgeon을 이용한 프루닝(pruning)을 기반으로 하여 오차 함수의 가중치 감소항을 추가시키는 방법을 사용한다. 이때 학습 및 프루닝의 성능에 많은 영향을 미치는 가중치 감소항의 방영정도를 베이시안 테크닉에 기반하여 적응적으로 최적화 하는 방법을 제안한다. 제안하는 방법의 성능을 검증하기 위해 벤치마크 데이터를 이용하여 실험을 수행하였다. 순수한 OBS 방법과 고정된 반영정도를 가진 가중치 감소항을 추가시킨 OBS, 그리고 제안하는 적응적 가중치 감소항을 적용한 OBS 방법을 비교하여 제한하는 방법이 기존의 두 방법에 비해 신경망 구조의 최적화 능력이 뛰어남을 확인할 수 있었다.

  • PDF

지능형 알고리즘을 이용한 랜덤 시간지연을 갖는 네트워크 기반 시스템의 비선형 제어 (Nonlinear Control of Network based Systems with Random Time Delays using Intelligent Algorithms)

  • 조현철;이권순
    • 한국지능시스템학회논문지
    • /
    • 제17권5호
    • /
    • pp.660-667
    • /
    • 2007
  • 본 논문은 확률특성을 갖는 네트워크 기반 제어시스템(NCS; Networked Control Systems)을 위하여 동적 베이시안 네트워크(DBN; Dynamic Bayesian Networks)와 신경회로망 기법을 이용한 지능제어기법을 제안한다. 신경회로망은 시변 시간지연을 갖는 비선형 시스템의 실시간 오차를 보상하기 위한 제어기의 최적화에 적용된다. 모듈화 신경회로망이 구성되며 이것은 제어기의 파라미터를 출력한다 가장 간단한 DBN 구조인 마코브 체인(MC; Markov Chain)이 구성되며 NCS의 랜덤 관측값을 모델링에 적용되며 예측 제어기의 구성에 또한 사용된다. 제안한 제어기법은 위성시스템의 자세제어에 적용하여 컴퓨터 시뮬레이션을 통해 성능을 검증하였다.

문서요약 및 동적 분류체계를 사용한 E-mail 분류의 재구성 (Reconstruction of E-mail Category Using Dynamic Category Hierarchy and Document Summarization)

  • 안찬민;박선;김태순;최범기;이주홍
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2004년도 춘계학술발표대회
    • /
    • pp.511-514
    • /
    • 2004
  • 현재의 이메일 분류는 규칙기반, 베이시안, SVM 등을 이용하여 스팸메일을 필터링 하는 이원분류가 주로 연구되어지고 있고, 이외에도 다원분류에 대한 연구로는 클러스터링을 이용한 방법이 있다. 그러나 클러스터링에 의한 방법은 단순히 유사도에 의해 메일을 묶는 수준에 그치고 있다. 본 논문에서는 자동 문서요약 방법과 동적분류체계 방법을 결합하여 새로운 이메일 자동 다원분류 방법을 제안했다. 본 논문에서 제안한 방법은 이메일을 자동으로 분류하며 분류한 결과를 검색할 때 사용자의 요구사항을 만족하지 못하면 재분류하여 분류 빛 검색의 정확성을 높였다.

  • PDF

RSSI 판독 라이브러리 함수 및 옥내 측위 모듈 구현 (Implementation of a Library Function of Scanning RSSI and Indoor Positioning Modules)

  • 임재걸;정승환;심규박
    • 한국멀티미디어학회논문지
    • /
    • 제10권11호
    • /
    • pp.1483-1495
    • /
    • 2007
  • IEEE 802.11 기술 덕분에 학교와 대형 쇼핑몰을 비롯한 사무실, 병원, 역 등지에서도 무선 LAN을 통한 인터넷 접속이 가능하다. 본 논문은 무선 LAN에 현재 가장 많이 사용되는 2.4GHz 대역의 802.11b와 802.11g 프로토콜이 탑재된 액세스포인트(AP: Access Point)로부터 수신한 신호의 세기(RSSI: Received Signal Strength Indicator)를 판독할 수 있는 C# 라이브러리 함수를 제안한다. 위치기반서비스는 사용자의 현재 위치를 실시간으로 측정하여 현재 위치를 기반으로 길을 안내하거나, 현재 위치와 관련한 콘텐츠를 제공하는 등의 유용한 서비스를 제공한다. 옥내에서 위치기반서비스를 제공하려면 옥내에 있는 사용자의 위치를 판정하는 옥내측위가 반드시 선결되어야 한다. 옥내측위 기술로 적외선, 초음파, UDP 패킷의 신호세기 등을 이용하는 방법들이 소개된 바 있다. 이러한 방법들은 측위를 위한 특수 장비를 설비해야만 한다는 단점이 있다. 본 논문은 RSSI를 판독하는 라이브러리 함수를 제공할 뿐만 아니라 제공하는 함수를 이용한 옥내 측위 구현 예도 소개한다. 구현에 적용된 방법들은 이미 널리 알려진 K-NN(K Nearest Neighbors), 베이시안 방법 그리고 삼각측량법이다. K-NN 방법과 베이시안 방법은 일종의 지문방식인데, 지문방식은 준비단계와 실시간단계로 구성되며, 실시간 단계의 처리 과정은 처리속도가 빨라야만 한다. 본 논문은 실시간 단계의 속도를 개선하는 방법으로 판단나무 방법(Decision Tree Method)을 제안하고, 이러한 방법들의 성능을 실험적으로 평가한 결과를 소개한다.

  • PDF

자연 프루닝과 베이시안 선택에 의한 신경회로망 일반화 성능 향상 (Improving Generalization Performance of Neural Networks using Natural Pruning and Bayesian Selection)

  • 이현진;박혜영;이일병
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제30권3_4호
    • /
    • pp.326-338
    • /
    • 2003
  • 신경회로망 설계 및 모델선택의 목표는 최적의 구조를 가지는 일반화 성능이 우수한 네트워크를 구성하는 것이다. 하지만 학습데이타에는 노이즈(noise)가 존재하고, 그 수도 충분하지 않기 때문에 최종적으로 표현하고자 하는 진확률 분포와 학습 데이타에 의해 표현되는 경험확률분포(empirical probability density) 사이에는 차이가 발생한다. 이러한 차이 때문에 신경회로망을 학습데이타에 대하여 과다하게 적합(fitting)시키면, 학습데이타만의 확률분포를 잘 추정하도록 매개변수들이 조정되어 버리고, 진확률 분포로부터 멀어지게 된다. 이러한 현상을 과다학습이라고 하며, 과다학습된 신경회로망은 학습데이타에 대한 근사는 우수하지만, 새로운 데이타에 대한 예측은 떨어지게 된다. 또한 신경회로망의 복잡도가 증가 할수록 더 많은 매개변수들이 노이즈에 쉽게 적합되어 과다학습 현상은 더욱 심화된다. 본 논문에서는 통계적인 관점을 바탕으로 신경회로망의 일반화 성능을 향상시키는 신경회로 망의 설계 및 모델 선택의 통합적인 프로세스를 제안하고자 한다. 먼저 학습의 과정에서 적응적 정규화가 있는 자연기울기 학습을 통해 수렴속도의 향상과 동시에 과다학습을 방지하여 진확률 분포에 가까운 신경회로망을 얻는다. 이렇게 얻어진 신경회로망에 자연 프루닝(natural pruning) 방법을 적용하여 서로 다른 크기의 후보 신경회로망 모델을 얻는다. 이러한 학습과 복잡도 최적화의 통합 프로세스를 통하여 얻은 후보 모델들 중에서 최적의 모델을 베이시안 정보기준에 의해 선택함으로써 일반화 성능이 우수한 최적의 모델을 구성하는 방법을 제안한다. 또한 벤치마크 문제를 이용한 컴퓨터 시뮬레이션을 통하여, 제안하는 학습 및 모델 선택의 통합프로세스의 일반화 성능과 구조 최적화 성능의 우수성을 검증한다.

클러스터링 알고리즘의 후처리 방안과 분할된 영역들의 분류에 대한 연구 (A Study of Post-processing Methods of Clustering Algorithm and Classification of the Segmented Regions)

  • 오준택;김보람;김욱현
    • 정보처리학회논문지B
    • /
    • 제16B권1호
    • /
    • pp.7-16
    • /
    • 2009
  • 클러스터링 알고리즘은 영역들간의 공간정보를 고려하지 않고 사전에 정의된 수만큼의 군집들로 분할하기 때문에 영상의 과분할을 유발하며, 이에 실제적인 응용분야에 적용하기에는 어려움이 존재한다. 본 논문에서는 클러스터링 알고리즘에 의해 획득한 군집들을 대상으로 보다 나은 분할결과를 획득하기 위한 후처리 방안으로, 비동질적인 군집의 재분류와 베이시안 알고리즘에 의한 유사영역의 합병알고리즘을 제안한다. 먼저, 클러스터링 알고리즘에 의해 분할된 영상의 군집들에 대해서 가장 비동질적인 군집을 선택하여 이를 나머지 군집들 중 하나로 재분류하며, 최소평균내부거리값에 의해 결정된 군집수만큼 반복적으로 수행된다. 그리고 여전히 존재하는 유사한 인접영역들을 제거하기 위해서 영역간의 Kullbeck-Leibler 거리값을 기반으로 베이시안 알고리즘을 이용한 영역 합병을 수행한다. 마지막으로, 제안한 방법의 유효함을 검증하기 위한 목적으로, 분할된 영역들의 우세컬러와 텍스처 정보를 기반으로 하는 SVM(support vector machine) 기반 영역분류시스템을 설계한다. 실험결과, 제안한 방법은 다양한 실험영상들에 대해서 단계별 더 나은 성능을 보였으며, 분할된 영역들의 분류에서도 효과적인 결과를 보여 제안방법의 유효함을 확인하였다.

고차원 국부이진패턴과 결합베이시안 알고리즘을 이용한 얼굴인증 임베디드 시스템 구현 (Implementation of a Face Authentication Embedded System Using High-dimensional Local Binary Pattern Descriptor and Joint Bayesian Algorithm)

  • 김동주;이승익;강석근
    • 한국정보통신학회논문지
    • /
    • 제21권9호
    • /
    • pp.1674-1680
    • /
    • 2017
  • 본 논문에서는 고차원 국부이진패턴과 결합베이시안 알고리즘을 이용한 얼굴인증 임베디드 시스템을 제안한다. 또한, 제안된 알고리즘에 대한 임베디드 시스템을 라즈베리파이 3을 이용하여 구현한 결과를 제시한다. 제안된 얼굴인증 알고리즘에 대한 평가는 500명의 얼굴 데이터가 저장된 데이터베이스를 이용하여 수행하였다. 여기서 각각의 얼굴 데이터는 학습용과 테스트용 이미지로 구성하였다. 성능평가를 위한 척도로는 주성분분석법의 차원에 따른 스코어 분포와 얼굴인증 시간을 이용하였다. 그 결과, 최적화된 임베디드 환경에서 우수한 얼굴인증 성능을 가지는 임베디드 시스템을 상대적으로 저렴한 비용으로 구현할 수 있음을 확인하였다.

비디오 셧의 감정 관련 특징에 대한 통계적 모델링 (Statistical Model for Emotional Video Shot Characterization)

  • 박현재;강행봉
    • 한국통신학회논문지
    • /
    • 제28권12C호
    • /
    • pp.1200-1208
    • /
    • 2003
  • 비디오 데이터에 존재하는 감정을 처리하는 것은 지능적인 인간과 컴퓨터와의 상호작용을 위해서 매우 중요한 일이다. 이러한 감정을 추출하기 위해서는 비디오로부터 감정에 관련된 특징들을 검출하기 위한 컴퓨팅 모델을 구축하는 것이 바람직하다. 본 논문에서는 비디오 셧에 존재하는 저급 특징들의 확률적인 분포를 이용하여 감정 이벤트 발생에 관련된 통계학적인 모델을 제안한다. 즉, 비디오 셧의 기본적인 특징을 추출하고 그 특징을 통계적으로 모델화 하여 감정을 유발하는 셧을 찾아낸다. 비디오 셧의 특징으로는 칼라, 카메라 모션 및 셧 길이의 변화를 이용한다. 이러한 특징들을 EM(Expectation Maximization) 알고리즘을 이용하여 GMM(Gaussian Mixture Model) 으로 모델링하고, 감정과 시간과의 관계를 MLE(Maximum Likelihood Estimation)를 이용하여 시간에 따른 확률분포 모델로 구성한다. 이런 두 개의 통계적인 모델들을 융합하여 베이시안 분류법을 적용하여 비디오 데이터로부터 감정에 관련된 셧을 찾아낸다.