• 제목/요약/키워드: 베이지안 최적화

검색결과 49건 처리시간 0.026초

가우시안 혼합 출력 HMM을 위한 변분 베이지안 방법 (Variational Bayesian Methods for Learning HMM with Mixture of Gaussian Outputs)

  • 오장민;장병탁
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2005년도 한국컴퓨터종합학술대회 논문집 Vol.32 No.1 (B)
    • /
    • pp.619-621
    • /
    • 2005
  • 은닉 마코프 모델은 이산 동역학을 표현할 수 있는 확률 모형이다. 우도 함수 최적화를 수행하는 전통적인 Baum-Welch 학습 알고리즘은 국소해로 수령하기 쉬우며, 우도함수의 특성상 복잡한 모델을 선호하는 바이어스가 존재한다. 베이지안 프레임워크에서는 파라미터를 랜덤 변수로 보고 이에 대한 사후 확률 분포를 추정하여 이 문제를 해결할 수 있다. 본 논문에서는 베이지안 추정을 위한 결정론적 근사화 기법인 변분 베이지안 방법을 이용, 출력 노드에 가우시안 혼합 노드를 지니는 일반화된 HMM의 추론 방법을 유도한다. 인공 데이터에 대한 실험을 통해, 본 방법이 효과적인 HMM 학습을 수행할 수 있음을 보인다.

  • PDF

계층적인 가버 특징들과 베이지안 망을 이용한 필기체 숫자인식 (Hierarchical Gabor Feature and Bayesian Network for Handwritten Digit Recognition)

  • 성재모;방승양
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제31권1호
    • /
    • pp.1-7
    • /
    • 2004
  • 본 논문에서는 필기체 숫자인식을 위해서 계층적으로 서로 다른 레벨의 정보를 표현할 수 있는 구조화된 특징들의 추출 방법과 특징들 사이에 의존도를 이용하여 분류하는 베이지안 망을 제안한다. 이러한 계층적 특징들을 추출하기 위해서 레벨 단위로 가버 필터들을 정의하고, FLD(Fisher Linear Discriminant) 척도를 이용하여 최적화된 가버 필터들을 선택한다. 계층적 가버 특징들은 최적화된 가버 특징들을 이용하여 추출되며, 하위 레벨일수록 더욱 국부적인 정보를 표현한다. 추출된 계층적 가버 특징들의 분류성능 향상을 위해서 가버 특징들 사이의 계층적 의존도를 이용하는 베이지안 망을 생성한다. 본 논문에서 제안하는 방법은 naive Bayesian 분류기, k-nearest neighbor 분류기, 그리고 신경망 분류기들과 함께 필기체 숫자인식에 적용되어 계층적 가버 특징들의 효율성과 계층적 의존도를 이용하는 베이지안 망은 분류성능을 향상시킬 수 있다는 것을 보여준다.

컴포넌트 기반 미들웨어 자기최적화와 자가치료을 위한 베이지안 네트워크를 사용한 시스템 자원 상태 추론 (Inference of System Resource States Using Bayesian Network for Self-Optimizing and Self-Healing Component-based Middleware)

  • 최보윤;김경중;조성배
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2005년도 가을 학술발표논문집 Vol.32 No.2 (1)
    • /
    • pp.829-831
    • /
    • 2005
  • 최근 컴포넌트 기반 미들웨어의 최적화에 대한 연구가 활발히 이루어지고 있다. CPU점유율이 높은 어플리케이션의 동시 실행은 시스템에 부하를 주기 때문에, 시스템 성능을 약화시키고 실행중인 어플리케이션에 영향을 준다. 컴포넌트 기반 미들웨어는 여러 개의 재사용 가능한 컴포넌트를 조합하여 어플리케이션을 구성하기 때문에 동적으로 재구성이 가능하다. 본 논문은 컴포넌트 기반 미들웨어가 시스템 상황에 대한 정보를 받아들여 시스템의 상황을 스스로 판단하고 자가치료 또는 시스템의 성능을 최적화시키는 컴포넌트를 선택하는 방법을 제안한다. 상황판단을 위해 유연한 추론이 가능하고, 데이터로부터 자동학습이 가능한 베이지안 네트워크를 사용하였다. 두 시간 가량의 데이터를 리눅스 사용자로부터 획득하여 실험한 결과, 테스트 데이터에 대해 $76.5\%$의 성능을 보였다.

  • PDF

베이지안 최적화를 이용한 이동 경로 예측 모델의 성능 개선 (Improving Trajectory Pattern Prediction Model Using Bayesian Optimization)

  • 송하윤;남세현
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2020년도 추계학술발표대회
    • /
    • pp.846-849
    • /
    • 2020
  • 하이퍼파라미터(초매개변수) 최적화란 모델의 학습에 앞서 미리 설정해야 하는 값인 하이퍼파라미터의 최적값을 탐색하는 문제이다. 이때의 최적값은 학습을 끝낸 모델의 성능을 가능한 최대치로 높이게 하는 값이다. 한편, 최근 모바일 장치를 이용한 포지셔닝 데이터의 대량 수집이 가능해지면서 이를 활용하여 위치 기반 서비스(Location-Based Service)를 위한 데이터 분석 및 예측에 관한 연구가 활발히 이루어졌다. 그중 이동 경로를 이미지로 패턴화하여 국소 지역 내에서 다음 위치를 예측하는 CNN 모델에 대해서 하이퍼파라미터 튜닝을 진행하였다. 결과적으로 베이지안 최적화(Bayesian Optimization)를 통해 모델의 성능을 평균 3.7%, 최대 9.5%까지 개선할 수 있음을 확인하였다.

향상된 교차 버전 결함 예측을 위한 베이지안 최적화 프레임워크 (Bayesian Optimization Framework for Improved Cross-Version Defect Prediction)

  • 최정환;류덕산
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제10권9호
    • /
    • pp.339-348
    • /
    • 2021
  • 최근 소프트웨어 결함 예측 연구는 교차 프로젝트 간의 결함 예측뿐만 아니라 교차 버전 프로젝트 간의 결함 예측 또한 이루어지고 있다. 종래의 교차 버전 결함 예측 연구들은 WP(Within-Project)로 가정한다. 하지만, CV(Cross-Version) 환경에서는 프로젝트 버전 간의 분포 차이의 중요성을 고려한 연구들이 없다. 본 연구에서는 다른 버전 간의 분포 차이까지 고려하는 자동화된 베이지안 최적화 프레임워크를 제안한다. 이를 통해 분포차이에 따라 전이 학습(Transfer Learning) 수행 여부를 자동으로 선택하여 준다. 해당 프레임워크는 버전 간의 분포 차이, 전이 학습과 분류기(Classifier)의 하이퍼파라미터를 최적화하는 기법이다. 실험을 통해 전이 학습 수행 여부를 분포차 기준으로 자동으로 선택하는 방법이 효과적이라는 것을 알 수 있다. 그리고 최적화를 이용하는 것이 성능 향상에 효과가 있으며 이러한 결과 소프트웨어 인스펙션 노력을 감소할 수 있다는 것을 확인할 수 있다. 이를 통해 교차 버전 프로젝트 환경에서 신규 버전 프로젝트에 대하여 효과적인 품질 보증 활동 수행을 지원할 것으로 기대된다.

진화 알고리즘을 이용한 베이지안 네트워크 병합의 최적화 (Optimization of Bayesian Networks Aggregation Using Genetic Algorithm)

  • 김경중;조성배
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2006년도 한국컴퓨터종합학술대회 논문집 Vol.33 No.1 (B)
    • /
    • pp.121-123
    • /
    • 2006
  • 베이지안 네트워크 병합은 여러 개의 베이지안 네트워크를 하나의 네트워크로 합치는 것을 말한다. 일반적으로 사용되는 병합 알고리즘은 병합 순서에 따라 최종결과 네트워크의 복잡도가 달라지는 문제를 갖고 있고, 최종 병합 네트워크의 에지 수를 최소화하는 병합 순서를 찾는 것은 NP-hard라고 증명되었다. 본 논문에서는 최적의 병합 순서를 결정하기 위해 진화 알고리즘을 사용하는 방법을 제안한다. 해공간 분석을 통해 permutation index 표현방법이 해탐색에 유리함을 보이고 이를 이용한 진화 알고리즘을 제안한다. 실험결과, 기존의 휴리스틱과 greedy 탐색 방법에 비해 제안한 방법이 우수한 성능을 보였다.

  • PDF

잠수함 위치 추정을 위한 베이지안 최적화 기반의 온라인 소노부이 배치 기법 (Online Sonobuoy Deployment Method with Bayesian Optimization for Estimating Location of Submarines)

  • 김두영
    • 한국군사과학기술학회지
    • /
    • 제25권1호
    • /
    • pp.72-81
    • /
    • 2022
  • Maritime patrol aircraft is an efficient solution for detecting submarines at sea. The aircraft can only detect submarines by sonobuoy, but the number of buoy is limited. In this paper, we present the online sonobuoy deployment method for estimating the location of submarines. We use Gaussian process regression to estimate the submarine existence probability map, and Bayesian optimization to decide the next best position of sonobuoy. Further, we show the performance of the proposed method by simulation.

실외 자율주행 로봇을 위한 실시간 Point Cloud Ground Segmentation (A Real-time Point Cloud Ground Segmentation Study for Outdoor Autonomous Robots)

  • 손지원;문형필
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2024년도 춘계학술발표대회
    • /
    • pp.482-483
    • /
    • 2024
  • Real-time Point Cloud Ground Segmentation은 자율주행에서 판단 및 객체 탐지/추적 등 다양한 분야에 도움을 준다. 이에 따라, Real-time Point Cloud Ground Segmentation을 했으며, 센서로는 라이다, 알고리즘으로는 TRAVEL논문을 인용했다. 또한 Real-time Point Cloud Ground Segmentation뿐 만 아니라 이동가능지형 판단(Traversability)을 하였다. 그리고 최종적으로, 위와 같은 알고리즘들을 회사 로봇(Scout Mini Robot)에 접목시켰으며 그 과정에서 TRAVEL 알고리즘내에 내제된 파라미터 값들을 최적화시키는 과정이 필요하였다. 그래서 3가지의 방법을 통해 파라미터 값을 선정한 후, 결과값을 비교 분석하였다. 연구 결과, Rellis-3D와 베이지안 최적화를 사용한 베이지안 파라미터가 최적의 파라미터임을 확인할 수 있었다.

크리깅 기반 차원감소법을 이용한 베이지안 신뢰도 해석 (Bayesian Reliability Analysis Using Kriging Dimension Reduction Method(KDRM))

  • 안다운;최주호;원준호
    • 한국전산구조공학회논문집
    • /
    • 제21권3호
    • /
    • pp.275-280
    • /
    • 2008
  • 신뢰성 기반 형상 최적화(RBDO)글 위한 기술은 한정된 정보로 인한 인식론적 불확실성을 다룰 수 있는 베이지안 접근에 근거하여 발달된다. 최근까지, 전통적인 RBDO는 측정 데이터가 무한히 많아서 확실한 확률정보를 알고 있다는 가정 하에 실행되었다. 하지만 실제로는, 부족한 데이터로 인해 기존의 RBDO 방법의 유용성을 떨어뜨린다. 본 연구에서는, 확률정보의 불확실성을 인식하고, 따라서 산포를 갖게 되는 시스템 신뢰도의 확률 분포에서의 신뢰수준의 하한 값을 고려하기 위해 '베이지안 신뢰성'이 소개된다. 이런 경우, 베이지안 신뢰성 해석은 기존 신뢰도 해석의 이중 해석을 요구하게 된다. 크리깅 기반 차원 감소 방법(KDRM)은 신뢰도 해석을 위한 새로운 효율적인 방법으로써 사용되며, 제시된 방법은 몇 가지 수치예제를 사용하여 설명된다.

나이브베이즈 문서분류시스템을 위한 선택적샘플링 기반 EM 가속 알고리즘 (Accelerating the EM Algorithm through Selective Sampling for Naive Bayes Text Classifier)

  • 장재영;김한준
    • 정보처리학회논문지D
    • /
    • 제13D권3호
    • /
    • pp.369-376
    • /
    • 2006
  • 본 논문은 온라인 전자문서환경에서 전통적 베이지안 통계기반 문서분류시스템의 분류성능을 개선하기 위해 EM(Expectation Maximization) 가속 알고리즘을 접목한 방법을 제안한다. 기계학습 기반의 문서분류시스템의 중요한 문제 중의 하나는 양질의 학습문서를 확보하는 것이다. EM 알고리즘은 소량의 학습문서집합으로 베이지안 문서분류 알고리즘의 성능을 높이는데 활용된다. 그러나 EM 알고리즘은 최적화 과정에서 느린 수렴성과 성능 저하 현상을 나타내는데, EM 알고리즘의 기본 가정을 따르지 않는 온라인 전자문서환경에서 특히 그러하다. 제안 기법의 주요 아이디어는 전통적 EM 알고리즘을 개선하기 위해 불확정성도 기반 선택적 샘플링 기법을 활용한 것이다. 성능평가를 위해 Reuter-21578 문서집합을 사용하여, 제안 알고리즘의 빠른 수렴성을 보이고 전통적 베이지안 알고리즘의 분류 정확성을 향상시켰음을 보인다.