• 제목/요약/키워드: 확률적 수렴

검색결과 132건 처리시간 0.027초

은닉 마르코프 모델의 확률적 최적화를 통한 자동 독순의 성능 향상 (Improved Automatic Lipreading by Stochastic Optimization of Hidden Markov Models)

  • 이종석;박철훈
    • 정보처리학회논문지B
    • /
    • 제14B권7호
    • /
    • pp.523-530
    • /
    • 2007
  • 본 논문에서는 자동 독순(automatic lipreading)의 인식기로 쓰이는 은닉 마르코프 모델(HMM: hidden Markov model)의 새로운 확률적 최적화 기법을 제안한다. 제안하는 기법은 전역 최적화가 가능한 확률적 기법인 모의 담금질과 지역 최적화 기법을 결합하는 것으로써, 알고리즘의 빠른 수렴과 좋은 해로의 수렴을 가능하게 한다. 제안하는 알고리즘이 전역 최적해로 수렴함을 수학적으로 보인다. 제안하는 기법을 통해 HMM을 학습함으로써 기존의 알고리즘이 지역해만을 찾는 단점을 개선함으로써 향상된 독순 성능을 나타냄을 실험으로 보인다.

개체군 크기 2 이상인 베이지안 진화 알고리즘의 수렴 특성 (Convergence Properties of Bayesian Evolutionary Algorithms with Population Size Greater Than 1)

  • 이시은;장병탁
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2000년도 가을 학술발표논문집 Vol.27 No.2 (2)
    • /
    • pp.15-17
    • /
    • 2000
  • 진화 연산의 확률적 모델인 베이지안 진화 알고리즘이 개체군의 크기를 1로 제한하고 고정된 차원의 탐색 공간을 갖는 경우, 목표 확률분포에 수렴함이 이전 연구[2]를 통해 증명되었다. 본 논문에서는 개체군의 크기가 2 이상인 경우의 베이지안 진화 알고리즘을 개체군 자체를 하나의 상태로 보는 단일 체인의 베이지안 입자 필터(particle filter)로 변환하여, 입자 필터의 수렴 특성을 이용하여 목표 확률분포에 수렴함을 증명한다.

  • PDF

독립인 확률변수들의 Tail 합의 극한 성질에 대하여 (Limiting Behavior of Tail Series of Independent Random Variable)

  • 장윤식;남은우
    • 한국콘텐츠학회논문지
    • /
    • 제6권4호
    • /
    • pp.63-68
    • /
    • 2006
  • 본 연구에서는, 서로 독립인 확률변수들의 합 $S_n$이 수렴하는 경우에, 확률변수들의 Tail 합 $T_n=S-S_{n-1}=\sum_{i=n}^{\infty}X_i$의 극한 성질을 연구함으로써, $S_n$이 하나의 확률변수 S로 수렴하는 속도를 연구한다. 좀 더 구체적으로 말하자면, 유사-단조감소(Quasi-monotone decreasing)하는 상수(Norming constants)의 수열에 대하여, 확률변수들의 Tail 합에 대한 약대수법칙과 하나의 수렴법칙이 동등함을 정리로 기술하고 증명하여, 기존의 연구 결과를 더 넓은 부류의 상수들의 경우에 적용할 수 있도록 확장한다.

  • PDF

확률적 근사법과 공액기울기법을 이용한 다층신경망의 효율적인 학습 (An Efficient Traning of Multilayer Neural Newtorks Using Stochastic Approximation and Conjugate Gradient Method)

  • 조용현
    • 한국지능시스템학회논문지
    • /
    • 제8권5호
    • /
    • pp.98-106
    • /
    • 1998
  • 본 논문에서는 신경망의 학습성능을 개선하기 위해 확룰적 근사법과 공액기울기법에 기초를 둔 새로운 학습방법을 제안하였다. 제안된 방법에서는 확률적 근사법과 공액기울기법을 조합 사용한 전역 최적화 기법의 역전파 알고리즘을 적용함으로써 학습성능을 최대한 개선할 수 있도록 하였다. 확률적 근사법은 국소최소점을 벗어나 전역최적점에 치우친 근사점을 결정해 주는 기능을 하도록 하며, 이점을 초기값으로 하여 결정론적 기법의 공액기울기법을 적용함으로써 빠른 수렴속도로 전역최적점으로의 수렴확률을 놓였다. 제안된 방법을 패리티 검사와 패턴 분류에 각각 적용하여 그 타당성과 성능을 확인한 결과 제안된 방법은 초기값을 무작위로 설정하는 기울기하강법에 기초를 둔 기존의 역전파 알고리즘이나 확률적 근사법과 기울기하강법에 기초를 둔 역전파 알고리즘에 비해 최적해로의 수렴 확률과 그 수렴속도가 우수함을 확인할 수 있었다.

  • PDF

Banach 공간에서 독립인 확률요소들의 Tail 합에 대한 대수의 법칙에 대하여 (On the Tail Series Laws of Large Numbers for Independent Random Elements in Banach Spaces)

  • 남은우
    • 한국콘텐츠학회논문지
    • /
    • 제6권5호
    • /
    • pp.29-34
    • /
    • 2006
  • 본 연구에서는, Banach 공간의 값을 갖는 확률요소들의 합 $S_n=\sum_{i=1}^nV-i$ 수렴하는 경우에, Tail 합 $T_n=S-S_{n-1}=\sum_{i=n}^{\infty}V-i$에 대한 대수의 법칙을 고찰하여 $S_n$이 하나의 확률변수 S로 수렴하는 속도를 연구한다. 좀 더 구체적으로 말하자면, 확률변수들의 Tail 합과 확률요소들의 Tail 합에 대한 극한 성질의 유사성을 연구하여, Banach 공간에서 독립인 확률요소들의 Tail 합에 대한 약 대수의 법칙과 하나의 수렴법칙이 동등함을 기술하는 기존의 정리를 다른 대체적인 방법으로 증명한다.

  • PDF

아시아 국가들 환경오염배출량의 확률수렴성과 환경쿠즈네츠곡선가설 검정 (The Test of Stochastic Convergence of Environment Emission and Environmental Kuznets Curve Hypothesis in Asian Developing Countries)

  • 김지욱
    • 자원ㆍ환경경제연구
    • /
    • 제19권3호
    • /
    • pp.571-595
    • /
    • 2010
  • 본 연구는 1971년~2007년까지 아시아 11개국에 대한 일인당 상대(relative per capita) $CO_2$배출량의 확률적 수렴성(stochastic convergence)을 검정하고 일인당 상대 GDP와의 환경쿠즈네츠곡선(Environmental Kuznets Curve: EKC)가설을 검정하고자 하였다. 본 분석을 위하여 다중의 내생적 구조변화(multiple structural breaks)를 허용하고 횡단면 주체간 의존성(cross-sectional dependence)을 고려하는 Carrion-i-Silvestre et al. (2005)의 패널정상성검정(panel stationarity test)과 Banerjee and Carrion-i-Silvestre (2006)과 Westerlund and Edgerton (2007)의 패널공적분(panel cointegration) 검정 방법 등을 사용하였다. 분석 결과 아시아 국가들에서의 일인당 상대 $CO_2$배출량에서 장기 그룹평균 수준으로 확률적 수렴이 이루어지고 있었고 일인당 상대 GDP와의 사이에 공적분관계가 성립하였지만 EKC 가설의 존재를 발견하지 못하였다. 경제성장 발전에 우선적으로 정책을 집행하고 있는 아시아 국가에서는 오염배출량 감소보다 증가하는 국가들의 영향력이 크게 나타나 EKC 가설이 성립하지 않는 것으로 나타났다.

  • PDF

다중 마르코프 체인의 베이지안 진화 알고리즘 (A Bayesian Evolutionary Algorithm with Multiple Markov Chains)

  • 이시은;장병탁
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2002년도 봄 학술발표논문집 Vol.29 No.1 (B)
    • /
    • pp.322-324
    • /
    • 2002
  • 진화 연산의 확률적 모델인 베이지안 진화 알고리즘의 수렴 특성에 대한 이전 연구를 통해 개체군 크기가 1인 경우에 대해 베이지안 진화 알고리즘을 단일 테인 MCMC로 변환하여 수렴 특성을 보였다. 본 논문에서는 개체군 크기가 1로 제한되지 않는 경우 베이지안 진화알고리즘을 다중 체 인의 개체군으로 생각하여 수렴 특성을 살펴본다.

  • PDF

확률적 보상과 유효성을 갖는 Sleeping Bandits의 다수의 전략을 융합하는 기법 (Combining Multiple Strategies for Sleeping Bandits with Stochastic Rewards and Availability)

  • 최상희;장형수
    • 정보과학회 논문지
    • /
    • 제44권1호
    • /
    • pp.63-70
    • /
    • 2017
  • 본 논문에서는 확률적 보상과 유효성을 갖고, 매 시간 유효한 arm들의 집합이 변하는 sleeping bandit 문제를 해결하는 다수의 전략들의 집합 ${\Phi}$가 주어졌을 때, 이들을 융합하는 문제를 고려하고, 이 문제를 해결하기 위한 융합 알고리즘 sleepComb(${\Phi}$)를 제안한다. 제안된 알고리즘인 sleepComb(${\Phi}$)는 확률적(stochastic) multi-armed bandit 문제를 해결하는 매개변수 기반 휴리스틱으로 잘 알려진 ${\epsilon}_t$-greedy의 확률적 스위칭 기법을 바탕으로 매 시간 적절한 전략을 선택하는 알고리즘이다. 시퀀스 {${\epsilon}_t$}와 전략들에 대한 적절한 조건이 주어졌을 때, 알고리즘 sleepComb(${\Phi}$)는 sleeping bandit 문제에 대해 적절히 정의된 "best" 전략으로 수렴한다. 실험을 통해 이 알고리즘이 "best" 전략으로 수렴한다는 사실을 확인하고, 기존의 다른 융합 알고리즘보다 "best" 전략으로 더 빠르게 수렴함과 "best" 전략을 선택하는 비율이 더 높음을 보인다.

바나하 공간에서의 완전 수렴성 (Complete Convergence in a Banach Space)

  • 성수학
    • 자연과학논문집
    • /
    • 제9권1호
    • /
    • pp.57-60
    • /
    • 1997
  • {$X_{ni}$,1$\leq$i$\leq$,n$\geq$1}은 2p차 적률을 갖는 적당한 확률변수 X에 의해서 유계된 바나하 공간상의 값을 갖는 확률변수 열이다. 상수 열 {$a_{ni}$,1$\leq$i$\leq$,n$\geq$1}에 적당한 조건을 부여할 때 $sum_{i=1}^n a_{ni}X_{ni}$가 0에 확률적으로 수렴할 조건과 완전수렴할 조건은 서로 동치이다.

  • PDF

동적체계기반 확률적 사용자균형 통행배정모형 (Elastic Demand Stochastic User Equilibrium Assignment Based on a Dynamic System)

  • 임용택
    • 대한교통학회지
    • /
    • 제25권4호
    • /
    • pp.99-108
    • /
    • 2007
  • 본 연구에서는 가변수요를 고려한 확률적 사용자균형 통행배정모형을 제시한다. 교통망에서 수요와 공급간의 균형을 가정할 경우, 통행비용의 함수인 가변수요는 통행저항함수(공급함수)와 함께 균형상태로 수렴하며, 이때 확률적 통행배정모형은 통행자들간의 경로인지 통행비용이 동일해지는 확률적 사용자균형상태에 도달하게 된다. 본 연구에서 제시하는 확률적 사용자균형모형은 기존 연구들과는 달리 동적체계(dynamic system)를 기초로 개발된다. 동적체계는 시간의 흐름에 따라 하나의 상태가 다음 상태로 변화하는 과정을 표현하는 수리적인 방법으로 시간의 변화에 따라 그 상태가 변하는 여러 분야에 적용이 가능한데, 주로 제어공학(control engineering)분야에서 활용되어 왔다. 동적 체계의 개념을 도입하면, 기존 모형들과는 달리 쉽게 모형화(formulation)할 수 있으며 풀이과정(solution algorithm)도 간단하다는 장점이 있다. 본 연구에서도 동적체계를 이용하여 확률적 사용자균형 통행배정(user equilibrium traffic assignment)모형을 제시하고 제시된 모형이 안정적인 해(stable solution)로 수렴한다는 것을 Lyapunov함수를 통하여 증명한다. 또한, 예제 교통망을 통하여 여러가지 의미있는 결과를 도출한다.