• 제목/요약/키워드: stochastic update

검색결과 25건 처리시간 0.024초

Viscoplasticity model stochastic parameter identification: Multi-scale approach and Bayesian inference

  • Nguyen, Cong-Uy;Hoang, Truong-Vinh;Hadzalic, Emina;Dobrilla, Simona;Matthies, Hermann G.;Ibrahimbegovic, Adnan
    • Coupled systems mechanics
    • /
    • 제11권5호
    • /
    • pp.411-438
    • /
    • 2022
  • In this paper, we present the parameter identification for inelastic and multi-scale problems. First, the theoretical background of several fundamental methods used in the upscaling process is reviewed. Several key definitions including random field, Bayesian theorem, Polynomial chaos expansion (PCE), and Gauss-Markov-Kalman filter are briefly summarized. An illustrative example is given to assimilate fracture energy in a simple inelastic problem with linear hardening and softening phases. Second, the parameter identification using the Gauss-Markov-Kalman filter is employed for a multi-scale problem to identify bulk and shear moduli and other material properties in a macro-scale with the data from a micro-scale as quantities of interest (QoI). The problem can also be viewed as upscaling homogenization.

순회 판매원 문제에서 개미 군락 시스템을 이용한 효율적인 경로 탐색 (Efficient Path Search Method using Ant Colony System in Traveling Salesman Problem)

  • 홍석미;이영아;정태충
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제30권9호
    • /
    • pp.862-866
    • /
    • 2003
  • 조합 최적화 문제인 순회 판매원 문제(Traveling Salesman Problem, TSP)를 유전자 알고리즘(Genetic Algorithm)과 Local Search Heuristic인 Lin-Kernighan(LK) Heuristic[1]을 이용하여 접근하는 것은 최적 해를 구하기 위해 널리 알려진 방법이다. 본 논문에서는 TSP 문제를 해결하기 위한 또 다른 접근법으로 ACS(Ant Colony system) 알고리즘을 소개하고 새로운 페로몬 갱신 방법을 제시하고자 한다. ACS 알고리즘은 다수의 개미들이 경로를 만들어 가는 과정에서 각 에지상의 페로몬 정보를 이용하며, 이러한 반복적인 경로 생성 과정을 통해 최적 해를 발견하는 방법이다. ACS 기법의 전역 갱신 단계에서는 생성된 모든 경로들 중 전역 최적 경로에 속한 에지들에 대하여 페로몬을 갱신한다. 그러나 본 논문에서는 전역 갱신 규칙이 적용되기 전에 생성된 모든 에지에 대하여 페로몬을 한번 더 갱신한다. 이 때 페로몬 갱신을 위해 각 에지들의 발생 빈도수를 이용한다. 개미들이 생성한 전체 에지들의 발생 빈도수를 페로몬 정보에 대한 가중치(weight)로 부여함으로써 각 에지들에 대하여 통계적 수치를 페로몬 정보로 제공할 수 있었다. 또한 기존의 ACS 알고리즘보다 더 빠른 속도로 최적 해를 찾아내며 더 많은 에지들이 다음 번 탐색에 활용될 수 있게 함으로써 지역 최적화에 빠지는 것을 방지할 수 있다.

딥러닝을 위한 경사하강법 비교 (Comparison of Gradient Descent for Deep Learning)

  • 강민제
    • 한국산학기술학회논문지
    • /
    • 제21권2호
    • /
    • pp.189-194
    • /
    • 2020
  • 본 논문에서는 신경망을 학습하는 데 가장 많이 사용되고 있는 경사하강법에 대해 분석하였다. 학습이란 손실함수가 최소값이 되도록 매개변수를 갱신하는 것이다. 손실함수는 실제값과 예측값의 차이를 수치화 해주는 함수이다. 경사하강법은 오차가 최소화되도록 매개변수를 갱신하는데 손실함수의 기울기를 사용하는 것으로 현재 최고의 딥러닝 학습알고리즘을 제공하는 라이브러리에서 사용되고 있다. 그러나 이 알고리즘들은 블랙박스형태로 제공되고 있어서 다양한 경사하강법들의 장단점을 파악하는 것이 쉽지 않다. 경사하강법에서 현재 대표적으로 사용되고 있는 확률적 경사하강법(Stochastic Gradient Descent method), 모멘텀법(Momentum method), AdaGrad법 그리고 Adadelta법의 특성에 대하여 분석하였다. 실험 데이터는 신경망을 검증하는 데 널리 사용되는 MNIST 데이터 셋을 사용하였다. 은닉층은 2개의 층으로 첫 번째 층은 500개 그리고 두 번째 층은 300개의 뉴런으로 구성하였다. 출력 층의 활성화함수는 소프트 맥스함수이고 나머지 입력 층과 은닉 층의 활성화함수는 ReLu함수를 사용하였다. 그리고 손실함수는 교차 엔트로피 오차를 사용하였다.

국제비교를 통해 바라본 한국의 장래인구추계 현황과 전망 (Current Status and Future Challenges of the National Population Projection in South Korea Concerning Super-Low Fertility Patterns)

  • 전광희;최슬기
    • 한국인구학
    • /
    • 제33권2호
    • /
    • pp.85-111
    • /
    • 2010
  • 한국사회가 최근 초저출산율이 지속되고, 사망율이 괄목할 만큼 개선되면서 장래인구 추계는 새로운 도전을 받고 있다. 이 연구는 장래 인구를 보다 정확한 예측하고, 양질의 정보를 제공하기 위한 방안을 한국의 경우를 중심으로 여타 저출산 국가들과 비교연구를 통해 논의하였다. 구체적으로 이 연구는 1) 통계청이 실시한 2009년도 인구추계를 2006년도 공식 인구추계와 비교분석 하였고, 2) 한국의 인구추계방식을 다른 나라의 경우와 비교 분석하였다. 비교에는 어떤 기관이 인구추계를 담당하는지, 얼마나 먼 장래까지 추계 하는지, 얼마나 자주 행해지는지, 그리고 추계에 사용되는 출산, 사망, 이주에 관련된 가정과 시나리오의 수를 고려하였다. 3) 향후 50년간장래인구를 확률적 인구추계 방식을 도입하여 예측해 보았다. 4) 마지막으로 2011년 장래인구추계에 사용될 시나리오를 살펴보았다. 이러한 논의를 바탕으로 이 연구는, 장래인구추계의 정확성을 높이기 위해서 인구추계를 좀더 자주 실시할 것과, 단기와 장기추계의 구분, 시나리오 수를 기존 네 가지에서 더 늘릴 것을 제안하였다. 또한 기준인구 산정에 있어 국내 체류중인 외국인 인구를 고려할 것과 확률적 인구추계 방식도 도입할 것을 제안하였다.

Noisy 한 CFD 결과에 대한 구속조건을 고려한 EGO 방법 연구 (A STUDY ON CONSTRAINED EGO METHOD FOR NOISY CFD DATA)

  • 배효길;권장혁
    • 한국전산유체공학회지
    • /
    • 제17권4호
    • /
    • pp.32-40
    • /
    • 2012
  • Efficient Global Optimization (EGO) method is a global optimization technique which can select the next sample point automatically by infill sampling criteria (ISC) and search for the global minimum with less samples than what the conventional global optimization method needs. ISC function consists of the predictor and mean square error (MSE) provided from the kriging model which is a stochastic metamodel. Also the constrained EGO method can minimize the objective function dealing with the constraints under EGO concept. In this study the constrained EGO method applied to the RAE2822 airfoil shape design formulated with the constraint. But the noisy CFD data caused the kriging model to fail to depict the true function. The distorted kriging model would make the EGO deviate from the correct search. This distortion of kriging model can be handled with the interpolation(p=free) kriging model. With the interpolation(p=free) kriging model, however, the search of EGO solution was stalled in the narrow feasible region without the chance to update the objective and constraint functions. Then the accuracy of EGO solution was not good enough. So the three-step search method was proposed to obtain the accurate global minimum as well as prevent from the distortion of kriging model for the noisy constrained CFD problem.

SURF와 Label Cluster를 이용한 이동형 카메라에서 동적물체 추출 (Moving Object Detection Using SURF and Label Cluster Update in Active Camera)

  • 정용한;박은수;이형호;왕덕창;허욱열;김학일
    • 제어로봇시스템학회논문지
    • /
    • 제18권1호
    • /
    • pp.35-41
    • /
    • 2012
  • This paper proposes a moving object detection algorithm for active camera system that can be applied to mobile robot and intelligent surveillance system. Most of moving object detection algorithms based on a stationary camera system. These algorithms used fixed surveillance system that does not consider the motion of the background or robot tracking system that track pre-learned object. Unlike the stationary camera system, the active camera system has a problem that is difficult to extract the moving object due to the error occurred by the movement of camera. In order to overcome this problem, the motion of the camera was compensated by using SURF and Pseudo Perspective model, and then the moving object is extracted efficiently using stochastic Label Cluster transport model. This method is possible to detect moving object because that minimizes effect of the background movement. Our approach proves robust and effective in terms of moving object detection in active camera system.

Improvement of inspection system for common crossings by track side monitoring and prognostics

  • Sysyn, Mykola;Nabochenko, Olga;Kovalchuk, Vitalii;Gruen, Dimitri;Pentsak, Andriy
    • Structural Monitoring and Maintenance
    • /
    • 제6권3호
    • /
    • pp.219-235
    • /
    • 2019
  • Scheduled inspections of common crossings are one of the main cost drivers of railway maintenance. Prognostics and health management (PHM) approach and modern monitoring means offer many possibilities in the optimization of inspections and maintenance. The present paper deals with data driven prognosis of the common crossing remaining useful life (RUL) that is based on an inertial monitoring system. The problem of scheduled inspections system for common crossings is outlined and analysed. The proposed analysis of inertial signals with the maximal overlap discrete wavelet packet transform (MODWPT) and Shannon entropy (SE) estimates enable to extract the spectral features. The relevant features for the acceleration components are selected with application of Lasso (Least absolute shrinkage and selection operator) regularization. The features are fused with time domain information about the longitudinal position of wheels impact and train velocities by multivariate regression. The fused structural health (SH) indicator has a significant correlation to the lifetime of crossing. The RUL prognosis is performed on the linear degradation stochastic model with recursive Bayesian update. Prognosis testing metrics show the promising results for common crossing inspection scheduling improvement.

A cross-entropy algorithm based on Quasi-Monte Carlo estimation and its application in hull form optimization

  • Liu, Xin;Zhang, Heng;Liu, Qiang;Dong, Suzhen;Xiao, Changshi
    • International Journal of Naval Architecture and Ocean Engineering
    • /
    • 제13권1호
    • /
    • pp.115-125
    • /
    • 2021
  • Simulation-based hull form optimization is a typical HEB (high-dimensional, expensive computationally, black-box) problem. Conventional optimization algorithms easily fall into the "curse of dimensionality" when dealing with HEB problems. A recently proposed Cross-Entropy (CE) optimization algorithm is an advanced stochastic optimization algorithm based on a probability model, which has the potential to deal with high-dimensional optimization problems. Currently, the CE algorithm is still in the theoretical research stage and rarely applied to actual engineering optimization. One reason is that the Monte Carlo (MC) method is used to estimate the high-dimensional integrals in parameter update, leading to a large sample size. This paper proposes an improved CE algorithm based on quasi-Monte Carlo (QMC) estimation using high-dimensional truncated Sobol subsequence, referred to as the QMC-CE algorithm. The optimization performance of the proposed algorithm is better than that of the original CE algorithm. With a set of identical control parameters, the tests on six standard test functions and a hull form optimization problem show that the proposed algorithm not only has faster convergence but can also apply to complex simulation optimization problems.

신경망의 결정론적 이완에 의한 자기공명영상 분류 (Classification of Magnetic Resonance Imagery Using Deterministic Relaxation of Neural Network)

  • 전준철;민경필;권수일
    • Investigative Magnetic Resonance Imaging
    • /
    • 제6권2호
    • /
    • pp.137-146
    • /
    • 2002
  • 목적: 본 논문에서는 신경망을 이용한 자기공명영상의 분류에 있어 결정론적 이완 방법(deterministic relaxation)과 응집 군집화(agglomerative clustering) 방법에 의한 개선된 영상 분류방법을 제시한다. 제안된 방법은 신경망을 이용한 영상의 분류시 지역적 최소치로의 수렴문제와 입력 패턴의 증대로 인하여 수렴 속가 늦어지는 문제를 해결한다. 대상 및 방법: 신경망을 이용한 영상의 분류는 지역적 계산과 병렬 계산이 가능한 특성을 갖고 있어 기존의 통계적 방법을 대신하는 방법으로 주목을 받고 있다. 그러나 일반적으로 신경망에 의한 분류알고리즘이 지닌 문제점의 하나는 에너지함수가 항상 전역적 최소치로 수렴하지 않고 지역적 최소치로도 수렴할 수 있다는 점이고, 또 다른 문제점은 반복수렴을 수행하는 에너지함수의 수렴속도가 너무 늦다는 점이다. 따라서 지역적 최소치로의 수렴을 방지하고 전역적 최소치로의 수렴속도를 가속화시키기 위하여 본 논문에서는 결정적 이완 알고리즘의 하나인 MFA(Mean Field Annealing) 방법을 적용하여 지역적 최소치로의 수렴문제를 해결하는 방법을 제시한다. MFA는 모의 애닐링의 통계적 성질을 변수의 평균값에 적용하는 결정론적인 수정 법칙들로 대신하고, 이러한 평균값을 최소화함으로서 수렴속도를 개선한 방법이다 아울러 신경망이 갖고 있는 문제점인 과다한 클래스 패턴의 생성에 따른 처리속도 지연의 문제점을 해결하기 위하여 응집 군집화 알고리즘을 이용하여 영상을 구성하는 군집을 결정하여 신경망에 입력되는 값을 초기화하여 영상패턴이 증가되는 것을 제한하였다. 결과: 본 논문에서 제시된 응집 군집화 방법 및 결정론적 이완 방법은 신경망에 의한 자기공명영상의 분류 시 발생할 수 있는 지역적 최적 치로의 수렴 문제를 해결하여 전역적 최적화로 신속히 수렴함을 알 수 있었다. 결론: 본 논문에서는 클러스터의 분석과 결정론적 이완 방법에 의하여 신경망에 의한 자기공명영상의 분류결과를 향상시키기 위한 새로운 방법을 소개하였으며 실험결과를 통하여 그러한 사실을 확인할 수 있었다.

  • PDF

확률적 모델예측제어를 이용한 물리기반 제어기 지도 학습 프레임워크 (A Supervised Learning Framework for Physics-based Controllers Using Stochastic Model Predictive Control)

  • 한다성
    • 한국컴퓨터그래픽스학회논문지
    • /
    • 제27권1호
    • /
    • pp.9-17
    • /
    • 2021
  • 본 논문에서는 확률적 모델예측제어(model predictive control) 기법을 이용하여 예제 동작 데이터가 주어지면 물리 기반 시뮬레이션 환경에서 그 동작을 모방할 수 있는 캐릭터 동작 제어기를 빠르게 학습할 수 있는 간편한 지도 학습(supervised learning) 프레임워크를 제안한다. 제안된 프레임워크는 크게 학습 데이터 생성과 오프라인 학습의 두 컴포넌트로 구성된다. 첫번째 컴포넌트는 예제 동작 데이터가 주어지면 확률적 모델예측제어를 통해 그 동작 데이터를 추적하기 위한 최적 제어기를 캐릭터의 현재 상태로부터 시작하여 가까운 미래 상태까지의 시간 윈도우에 대해 주기적으로 업데이트하면서 그 최적 제어기를 통해 캐릭터의 동작을 확률적으로 제어한다. 이러한 주기적인 최적 제어기의 업데이트와 확률적 제어는 주어진 예제 동작 데이터를 모방하는 동안 캐릭터가 가질 수 있는 다양한 상태들을 효과적으로 탐색하게 하여 지도 학습에 유용한 학습 데이터를 수집할 수 있게 해준다. 이렇게 학습 데이터가 수집되면, 오프라인 학습 컴포넌트에서는 그 수집된 데이터를 정규화 시켜서 데이터에 내제된 크기와 단위의 차이를 조정하고 지도 학습을 통해 제어기를 위한 간단한 구조의 인공 신경망을 학습시킨다. 걷기 동작과 달리기 동작에 대한 실험은 본 논문에서 제안한 학습 프레임워크가 물리 기반 캐릭터 동작 제어기를 빠르고 효과적으로 생성할 수 있음을 보여준다.