• 제목/요약/키워드: least-squares problems

검색결과 185건 처리시간 0.021초

계면경계를 갖는 포텐셜 문제 해석을 위한 내적확장된 이동최소제곱 유한차분법 (Intrinsically Extended Moving Least Squares Finite Difference Method for Potential Problems with Interfacial Boundary)

  • 윤영철;이상호
    • 한국전산구조공학회논문집
    • /
    • 제22권5호
    • /
    • pp.411-420
    • /
    • 2009
  • 본 연구는 계면경계를 갖는 포텐셜 문제의 해석를 위한 이동최소제곱 기반의 확장된 유한차분법을 제시한다. 이동최소제곱법을 이용한 Taylor 전개로부터 얻어진 근사함수에 쐐기함수를 도입하여 계면경계의 특이성을 모사한다. 지배방정식은 요소나 그리드없이 절점만을 이용해 이산화한다. 계면경계의 특이성은 절점에서 구성되는 근사식에 매입되기 때문에 계면경계의 기하학적 모델링으로 발생하는 수치적인 어려움을 피할 수 있다. 계면경계 조건으로 인해 전체 계방정식에 추가되는 미지수는 없지만, 계방정식을 과결정 시스템으로 만드므로 강성도 행렬을 대칭화하여 미지수와 방정식의 개수를 일치시켰다. 이로 인한 계산량 증가는 계면경계 모델링의 간소화로 인한 수치적인 이득과 맞바꿀 수 있다. 다양한 수치적 검증을 통해 개발된 해석기법이 쐐기거동과 점프를 성공적으로 묘사할 뿐만 아니라 계면경계를 갖는 포텐셜 문제 효율적이고 정확하게 해석할 수 있음을 보였다.

Deep LS-SVM for regression

  • Hwang, Changha;Shim, Jooyong
    • Journal of the Korean Data and Information Science Society
    • /
    • 제27권3호
    • /
    • pp.827-833
    • /
    • 2016
  • In this paper, we propose a deep least squares support vector machine (LS-SVM) for regression problems, which consists of the input layer and the hidden layer. In the hidden layer, LS-SVMs are trained with the original input variables and the perturbed responses. For the final output, the main LS-SVM is trained with the outputs from LS-SVMs of the hidden layer as input variables and the original responses. In contrast to the multilayer neural network (MNN), LS-SVMs in the deep LS-SVM are trained to minimize the penalized objective function. Thus, the learning dynamics of the deep LS-SVM are entirely different from MNN in which all weights and biases are trained to minimize one final error function. When compared to MNN approaches, the deep LS-SVM does not make use of any combination weights, but trains all LS-SVMs in the architecture. Experimental results from real datasets illustrate that the deep LS-SVM significantly outperforms state of the art machine learning methods on regression problems.

Fixed size LS-SVM for multiclassification problems of large data sets

  • Hwang, Hyung-Tae
    • Journal of the Korean Data and Information Science Society
    • /
    • 제21권3호
    • /
    • pp.561-567
    • /
    • 2010
  • Multiclassification is typically performed using voting scheme methods based on combining a set of binary classifications. In this paper we use multiclassification method with a hat matrix of least squares support vector machine (LS-SVM), which can be regarded as the revised one-against-all method. To tackle multiclass problems for large data, we use the $Nystr\ddot{o}m$ approximation and the quadratic Renyi entropy with estimation in the primal space such as used in xed size LS-SVM. For the selection of hyperparameters, generalized cross validation techniques are employed. Experimental results are then presented to indicate the performance of the proposed procedure.

PROJECTION ALGORITHMS WITH CORRECTION

  • Nicola, Aurelian;Popa, Constantin;Rude, Ulrich
    • Journal of applied mathematics & informatics
    • /
    • 제29권3_4호
    • /
    • pp.697-712
    • /
    • 2011
  • We present in this paper two versions of a general correction procedure applied to a classical linear iterative method. This gives us the possibility, under certain assumptions, to obtain an extension of it to inconsistent linear least-squares problems. We prove that some well known extended projection type algorithms from image reconstruction in computerized tomography fit into one or the other of these general versions and are derived as particular cases of them. We also present some numerical experiments on two phantoms widely used in image reconstruction literature. The experiments show the importance of these extension procedures, reflected in the quality of reconstructed images.

A MULTILEVEL BLOCK INCOMPLETE CHOLESKY PRECONDITIONER FOR SOLVING NORMAL EQUATIONS IN LINEAR LEAST SQUARES PROBLEMS

  • Jun, Zhang;Tong, Xiao
    • Journal of applied mathematics & informatics
    • /
    • 제11권1_2호
    • /
    • pp.59-80
    • /
    • 2003
  • An incomplete factorization method for preconditioning symmetric positive definite matrices is introduced to solve normal equations. The normal equations are form to solve linear least squares problems. The procedure is based on a block incomplete Cholesky factorization and a multilevel recursive strategy with an approximate Schur complement matrix formed implicitly. A diagonal perturbation strategy is implemented to enhance factorization robustness. The factors obtained are used as a preconditioner for the conjugate gradient method. Numerical experiments are used to show the robustness and efficiency of this preconditioning technique, and to compare it with two other preconditioners.

Use of partial least squares analysis in concrete technology

  • Tutmez, Bulent
    • Computers and Concrete
    • /
    • 제13권2호
    • /
    • pp.173-185
    • /
    • 2014
  • Multivariate analysis is a statistical technique that investigates relationship between multiple predictor variables and response variable and it is a very commonly used statistical approach in cement and concrete industry. During model building stage, however, many predictor variables are included in the model and possible collinearity problems between these predictors are generally ignored. In this study, use of partial least squares (PLS) analysis for evaluating the relationships among the cement and concrete properties is investigated. This regression method is known to decrease the model complexity by reducing the number of predictor variables as well as to result in accurate and reliable predictions. The experimental studies showed that the method can be used in the multivariate problems of cement and concrete industry effectively.

A Recursive Data Least Square Algorithm and Its Channel Equalization Application

  • Lim, Jun-Seok;Kim, Jae-Soo
    • The Journal of the Acoustical Society of Korea
    • /
    • 제25권2E호
    • /
    • pp.43-48
    • /
    • 2006
  • Abstract-Using the recursive generalized eigendecomposition method, we develop a recursive form solution to the data least squares (DLS) problem, in which the error is assumed to lie in the data matrix only. Simulations demonstrate that DLS outperforms ordinary least square for certain types of deconvolution problems.

복합 불연속면을 갖는 포텐셜 문제 해석을 위한 확장된 MLS 차분법 (Extended MLS Difference Method for Potential Problem with Weak and Strong Discontinuities)

  • 윤영철;노혁천
    • 한국전산구조공학회논문집
    • /
    • 제24권5호
    • /
    • pp.577-588
    • /
    • 2011
  • 본 논문은 복합 불연속면을 갖는 포텐셜 문제의 해석을 위해 확장된 MLS(Moving Least Squares) 차분법을 제시한다. 계면경계를 따라 해(solution)와 수직방향, 접선방향 미분들이 모두 불연속 특이성을 나타내는 복합 불연속면을 묘사하기 위해 계단함수, 쐐기함수, 가위함수와 같은 불연속 특이함수를 추가하여 기존의 MLS 차분법을 개선했다. 계면경계조건은 기지의 조건으로서 지배방정식의 이산화과정에서 추가의 미지계수를 발생시키지 않는다. 포아송 방정식 형태의 지배미분 방정식을 풀기 위해 내부영역과 경계에 절점을 배치하고 차분식을 구성한다. 차분식을 조립한 계 방정식을 직접 풀기 때문에 계산효율성이 매우 우수하다. 수치예제는 제시된 해석기법의 우수성을 잘 보여주며, 균열전파, 이동경계, 상호작용 문제 등 다양한 불연속 문제로의 확장이 기대된다.

이동최소제곱 유한차분법을 이용한 응력집중문제 해석(I) : 고체문제의 정식화 (Analysis of Stress Concentration Problems Using Moving Least Squares Finite Difference Method(I) : Formulation for Solid Mechanics Problem)

  • 윤영철;김효진;김동조;윙 캠 리우;테드 벨리치코;이상호
    • 한국전산구조공학회논문집
    • /
    • 제20권4호
    • /
    • pp.493-499
    • /
    • 2007
  • 본 연구에서는 미분 가능한 함수가 Taylor 전개로 표현되고 그 계수들은 주어진 함수와 미분에 대한 근사값을 제공할 수 있다는 점에 착안하여 m차 Taylor 다항식을 구성하고 이동최소제곱법을 이용하여 그 계수들을 구했다. 계산된 근사함수와 미분을 콜로케이션 개념을 바탕으로 균열 문제를 포함하는 고체문제에 대한 지배 미분방정식에 적용하여 차분식 형태의 이산화된 계방정식을 구성하였다. 본 연구의 해석기법은 격자망(grid)에 의존적이고 근사함수가 없는 유한차분법과 형상함수의 미분과 약형식의 적분산정, 필수경계조건 처리가 어려운 Galerkin법 기반의 무요소법의 단점을 효과적으로 극복한 새로운 수치기법이다.

탄성균열 해석을 위한 이동최소제곱 유한차분법의 내적확장 (Intrinsic Enrichment of Moving Least Squares Finite Difference Method for Solving Elastic Crack Problems)

  • 윤영철;이상호
    • 대한토목학회논문집
    • /
    • 제29권5A호
    • /
    • pp.457-465
    • /
    • 2009
  • 본 연구는 균열선단에서 응력특이성을 갖는 탄성균열문제를 해석하기 위한 이동최소제곱 유한차분법을 제시한다. 응력특이성을 유발하는 균열선단 주변장을 모형화하기 위해 근사식에 선단주변함수를 내재적으로 도입하여 이동최소제곱 근사의 틀을 그대로 유지하면서 실제 미분계산을 거의 하지 않고 미분근사를 할 수 있는 이동최소제곱 Taylor 다항식 근사의 장점을 살렸다. 균열문제 정식화시 시간소모적인 적분과정이 필요한 약정식화 대신 해석영역에 배치된 절점에서 지배 미분방정식에 대한 차분식을 직접 구성하는 강정식화를 적용하여 계산 효율성을 향상시켰다. 균열문제 해석을 통해 내적확장된 이동최소제곱 유한차분법이 응력 특이성을 내포한 선단주변 변위장을 정확히 묘사할 수 있을 뿐만 아니라 응력확대계수를 정확히 계산 할 수 있음을 보였다.