• International Journal of Reliability and Applications
• /
• 제4권1호
• /
• pp.41-50
• /
• 2003

This paper represents the first comprehensive comparison of the Newton-Raphson's method and Simple Iterative Procedure (SIP) in the maximum likelihood estimation of the two-parameter Weibull distribution. Computer simulation is employed to compare these two methods for multiply censored, singly censored data (Type I or Type Ⅱ censoring) and complete data. Results indicate the Newton-Raphson's with the Menon's estimated value, as an initial point remains the effective iterative procedure for estimating the parameters.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 2004년도 가을 학술발표논문집 Vol.31 No.2 (2)
• /
• pp.697-699
• /
• 2004

Stochastic Neighbor Embedding(SNE) is a probabilistic method of mapping high-dimensional data space into a low-dimensional representation with preserving neighbor identities. Even though SNE shows several useful properties, the gradient-based naive SNE algorithm has a critical limitation that it is very slow to converge. To overcome this limitation, faster optimization methods should be considered by using trust region method we call this method fast TR SNE. Moreover, this paper presents a couple of useful optimization methods(i.e. conjugate gradient method and Newton's method) to embody fast SNE algorithm. We compared above three methods and conclude that TR-SNE is the best algorithm among them considering speed and stability. Finally, we show several visualizing experiments of TR-SNE to confirm its stability by experiments.

• Communications for Statistical Applications and Methods
• /
• 제20권3호
• /
• pp.217-223
• /
• 2013

Two influence diagnostic methods for the common mean model are proposed. First, an investigation of the influence of observations according to minor perturbations of the common mean model is made by adapting the local influence method which is based on the likelihood displacement. It is well known that the maximum likelihood estimates are in general sensitive to influential observations. Case-deletions can be a candidate for detecting influential observations. However, the maximum likelihood estimators are iteratively computed and therefore case-deletions involve an enormous amount of computations. An approximation by Newton's method to the maximum likelihood estimator obtained after a single observation was deleted can reduce much of computational burden, which will be treated in this work. A numerical example is given for illustration and it shows that the proposed diagnostic methods can be useful tools.

• Communications for Statistical Applications and Methods
• /
• 제12권2호
• /
• pp.443-451
• /
• 2005

The studied in this paper is a new algorithm for searching the maximum likelihood estimate(MLE) in which probability density function is not explicitly expressed. Newton-Raphson's root-finding routine and a nonlinear numerical optimization algorithm with constraint (so-called feasible sequential quadratic programming) are used. This algorithm is applied to the Wakeby distribution which is importantly used in hydrology and water resource research for analysis of extreme rainfall. The performance comparison between maximum likelihood estimates and method of L-moment estimates (L-ME) is studied by Monte-carlo simulation. The recommended methods are L-ME for up to 300 observations and MLE for over the sample size, respectively. Methods for speeding up the algorithm and for computing variances of estimates are discussed.

• Nuclear Engineering and Technology
• /
• 제54권1호
• /
• pp.49-60
• /
• 2022

Motivated by the high-resolution properties of high-order Weighted Essentially Non-Oscillatory (WENO) and flux limiter (FL) for steep-gradient problems and the robust convergence of Jacobian-free Newton-Krylov (JFNK) methods for nonlinear systems, the preconditioned JFNK fully implicit high-order WENO and FL schemes are proposed to solve the transient two-phase two-fluid models. Specially, the second-order fully-implicit BDF2 is used for the temporal operator and then the third-order WENO schemes and various flux limiters can be adopted to discrete the spatial operator. For the sake of the generalization of the finite-difference-based preconditioning acceleration methods and the excellent convergence to solve the complicated and various operational conditions, the random vector instead of the initial condition is skillfully chosen as the solving variables to obtain better sparsity pattern or more positions of non-zero elements in this paper. Finally, the WENO_JFNK and FL_JFNK codes are developed and then the two-phase steep-gradient problem, phase appearance/disappearance problem, U-tube problem and linear advection problem are tested to analyze the convergence, computational cost and efficiency in detailed. Numerical results show that WENO_JFNK and FL_JFNK can significantly reduce numerical diffusion and obtain better solutions than traditional methods. WENO_JFNK gives more stable and accurate solutions than FL_JFNK for the test problems and the proposed finite-difference-based preconditioning acceleration methods based on the random vector can significantly improve the convergence speed and efficiency.

• 한국전산구조공학회논문집
• /
• 제15권4호
• /
• pp.675-691
• /
• 2002

본 연구의 목적은 Navier-Stokes 유체와 같은 대용량 문제를 위한 최적화 기법의 개발에 있다. 이를 위해 본 연구에서는 reduced Hessian sequential quadratic programming을 개발하였다. 첫째, 유체의 해석을 위한 평형 방정식을 최적화 과정에서 제거하여 변수를 줄였고, 또한 평형방정식과 최적화 과정에서 연속기법을 사용하여 최적해를 보장하면서 더욱 해에 쉽게 접근하도록 하였다. 그리고 각 단계에서는 테일러 시리즈를 이용한 근사치를 이용하여 각 단계에서 대단히 좋은 초기치 값을 제공하여 최적해에 더욱 빠르게 접근하게 하고 아울러 유체의 평형방정식을 풀 때에도 해에 더욱 빠르고 쉽게 접근하도록 하였다. 이 기법을 항력을 줄이기 위한 유체의 최적 제어를 위한 문제에 적용하였다. 유체의 흐름을 제어하기 위하여 물체의 경계면에서 유체의 흡입(suction)과 방축(injection)이라는 기법을 사용하여 경계면에서 속도를 제어하였고, 목적함수로써 항력을 표현하기 위하여 에너지 소실의 변화율을 사용하였다. 예제를 통해 본 연구에서 개발한 최적화 기법의 효용성을 입증하였다.

• 전기전자학회논문지
• /
• 제19권1호
• /
• pp.33-40
• /
• 2015

전기 임피던스 단층촬영법(EIT)에서 역문제는 매우 높은 비정치성이므로 이것을 완화시키기 위해서 사전정보가 사용되고 EIT 역문제를 푸는 과정에서 만족스러운 복원성능을 갖기 위해 조정 기법은 적용된다. 반복적 Gauss-Newton 방법은 정확성과 빠른 수렴속도로 인해서 일반적으로 역문제를 푸는데 사용되지만 항상 좋은 성능을 내는 것은 아니며 조정 인자 선택에 따라 성능이 좌지우지된다. 비록 L-곡선과 같이 조정 인자를 결정하는데 이용할 수 있는 여러 가지 방법들이 존재하지만 이러한 방법들이 모든 경우에 적용할 수 있는 것은 아니다. 게다가 조정 인자는 스칼라이고 반복 연산동안 변하지 않는다. 그러므로 이 논문에서는 복원 성능을 향상시키기 위해서 조정 인자를 결정해주는 새로운 방법을 사용하였다. 각각의 반복 연산과정에서 도전율의 norm을 구하고 이것을 대각 행렬형태인 조정 인자를 구하는데 사용한다. 제안한 방법을 인체 흉부 영상 복원에 적용하였고, 기존의 방법들과 복원 성능을 비교하였다. 모의실험 결과, 기존의 방법들과 비교해서 개선된 성능을 확인할 수 있었다.

• 한국전산구조공학회논문집
• /
• 제15권3호
• /
• pp.481-490
• /
• 2002

본 논문의 목적은 공간 트러스 비선형 해석기법에 대한 수치해석적 장단점을 비교하고, 효율적인 해석기법을 제안하는 것이다. 사용된 해석기법은 하중 제어법으로 뉴턴-랩슨법, 수정 뉴턴-랩슨법, 할선-뉴턴법, 하중-변위 제어법으로 호장법, 증분일 제어법, 그리고 본 논문에서 제안한 하중-변위의 복합적 제어법으로 복합 호장법 Ⅰ, 복합 호장법Ⅱ, 복합 증분일 제어법이 있다. 공간 트러스에 대한 해석기법의 효율성 평가를 위하여 해의 정확성, 수렴성, 계산시간 등을 제시된 예에 비교한 결과 본 논문에서 제안한 하중-변위의 복합적 제어법의 신뢰성을 입증하였으며, 기하학적 비선형 해석 및 좌굴후 거동의 추적에 있어서 효율적이었다. 특히, 자유도수가 많은 공간 트러스의 좌굴하중 추척에 있어서는 복합 증분일 제어법이 효율적이었다.

• 대한전자공학회논문지
• /
• 제21권2호
• /
• pp.8-12
• /
• 1984

비선형 공정제어 문제에서 자주 요구되는 비선형 대수방정식들을 푸는 알고리즘을 제시하고자 한다. 먼저 방정식 변수들을 매개 변수화한 후 순환 식별 기법(recursive identification technique)을 적용하여 새로운 알고리즘을 구성한다. 결과적인 알고리즘의 형태와 그 특성은 Broyden의 Quasi-Newton법과 유사하지만, 그 유도과정과 순환식은 차이가 있으며, Broaden의 방법이 갖고 있는 거의 모든 장점을 갖고 있으면서 몇몇 풀기 어려운 함수에 대하여 더욱 빠르고 믿을 수 있음을 수치 비교로 알 수 있었다.

• 한국항해항만학회:학술대회논문집
• /
• 한국항해항만학회 2006년도 International Symposium on GPS/GNSS Vol.1
• /
• pp.485-489
• /
• 2006

In last decades, several linearization methods for the AOA measurements have been proposed, for example, Gauss-Newton method and closed-form solution. Gauss-Newton method can achieve high accuracy, but the convergence of the iterative process is not always ensured if the initial guess is not accurate enough. Closed-form solution provides a non-iterative solution and it is less computational. It does not suffer from convergence problem, but estimation error is somewhat larger. This paper proposes a self-tuning weighted least square AOA algorithm that is a modified version of the conventional closed-form solution. In order to estimate the error covariance matrix as a weight, two-step estimation technique is used. Simulation results show that the proposed method has smaller positioning error compared to the existing methods.