• 제목/요약/키워드: regularization method

검색결과 301건 처리시간 0.029초

GLOBAL GENERALIZED CROSS VALIDATION IN THE PRECONDITIONED GL-LSQR

  • Chung, Seiyoung;Oh, SeYoung;Kwon, SunJoo
    • 충청수학회지
    • /
    • 제32권1호
    • /
    • pp.149-156
    • /
    • 2019
  • This paper present the global generalized cross validation as the appropriate choice of the regularization parameter in the preconditioned Gl-LSQR method in solving image deblurring problems. The regularization parameter, chosen from the global generalized cross validation, with preconditioned Gl-LSQR method can give better reconstructions of the true image than other parameters considered in this study.

Updating finite element model using dynamic perturbation method and regularization algorithm

  • Chen, Hua-Peng;Huang, Tian-Li
    • Smart Structures and Systems
    • /
    • 제10권4_5호
    • /
    • pp.427-442
    • /
    • 2012
  • An effective approach for updating finite element model is presented which can provide reliable estimates for structural updating parameters from identified operational modal data. On the basis of the dynamic perturbation method, an exact relationship between the perturbation of structural parameters such as stiffness change and the modal properties of the tested structure is developed. An iterative solution procedure is then provided to solve for the structural updating parameters that characterise the modifications of structural parameters at element level, giving optimised solutions in the least squares sense without requiring an optimisation method. A regularization algorithm based on the Tikhonov solution incorporating the generalised cross-validation method is employed to reduce the influence of measurement errors in vibration modal data and then to produce stable and reasonable solutions for the structural updating parameters. The Canton Tower benchmark problem established by the Hong Kong Polytechnic University is employed to demonstrate the effectiveness and applicability of the proposed model updating technique. The results from the benchmark problem studies show that the proposed technique can successfully adjust the reduced finite element model of the structure using only limited number of frequencies identified from the recorded ambient vibration measurements.

정칙화 구속 변수를 사용한 Steepest-Descent 영상 복원 (A Steepest-Descent Image Restoration with a Regularization Parameter)

  • 홍성용;이태홍
    • 한국통신학회논문지
    • /
    • 제19권9호
    • /
    • pp.1759-1771
    • /
    • 1994
  • 잡음이 섞인 흐려진 영상을 복원하기 위해 정칙화 구속조건을 사용한 steepest-descent 영상복원방법을 제시하였다. Beimond 등에 의해 제시되어진 기존의 정착화방법의 경우 복원과정에서 발생가능한 잡음의 증폭과 악조건이나 특이점등에 의해 발생하는 오차를 억제하기 위해 사용하는 정칙화변수의 값을 실험적으로 설정하여 영상의 복원에 적용함으로써 잡음의 증폭과 파문현상 등을 초래하는 등 복원효과가 줄어드는 단점을 나타낸다. 본 방법은 복원영상의 각화소값으로부터 적응적으로 구속조건의 값을 구하여 훼손된 영상의 복원에 적용함으로써 잡음의 증폭을 억제하고 파문현상을 줄일 수 있는 장점을 갖는다. 또 복원결과가 원래의 해와 근사하거나 발산할 경우 자동적으로 반목을 멈추는 종료규칙을 제시하였다. 실험결과를 통하여 'Lena' 영상과 'Jaguar' 영상을 원영상으로 사용하였을 경우 제시된 방법은 평편한 영역에서의 잡음의 증폭이 억제되었을뿐 아니라 파문현상도 줄어들었는데, 이것은 우리의 사각이 갖는 평면에서의 잡음의 가시도에 의해 시각적인 효과가 개선되었음을 알 수 있고, 영상의 전반적인 평균자승오차도 Biemond 등에 의한 방법을 각각 216과 467인데 비하여 본 논문에서 제시된 방법의 경우 각각 196과 453으로서 더욱 낮은 평균자승오차를 얻을 수 있었다.

  • PDF

윤곽 방향성을 고려한 적응적 영상복원 (Adaptive Image Restoration Considering the Edge Direction)

  • 전우상;이명섭;장호
    • 정보처리학회논문지B
    • /
    • 제16B권1호
    • /
    • pp.1-6
    • /
    • 2009
  • 움직임에 의해 흐려지고 잡음으로 훼손된 영상을 복원하는 것은 매우 어렵다. 기존의 방법들은 영상의 국부적인 특성을 고려하지 않고 영상 전체에 일률적으로 복원처리를 행함으로써 윤곽부분에서 리플잡음을 초래하고 평면부분에서도 잡음증폭을 피할 수 없다. 이러한 문제점을 개선하기 위하여, 본 논문에서는 윤곽방향을 고려한 방향성 정칙화 연산자를 사용하여 적응적으로 처리되는 반복 정칙화 방법을 제안한다. 그것과 더불어 적응 정칙화 파라메타와 이완 파라메타를 적용하는 알고리즘도 함께 제안한다. 결론적으로, 이 방법은 기존의 방법과 비교할 때, 평면부분에서 잡음증폭을 억제하고, 시각적으로 중요한 윤곽부분의 리플잡음을 억제함으로써 윤곽부분 복원에 더욱 효율적임을 실험을 통하여 확인할 수 있었으며 또한 ISNR 면에서도 우수하였다는 것을 확인할 수 있다.

안정화된 딥 네트워크 구조를 위한 다항식 신경회로망의 연구 (A Study on Polynomial Neural Networks for Stabilized Deep Networks Structure)

  • 전필한;김은후;오성권
    • 전기학회논문지
    • /
    • 제66권12호
    • /
    • pp.1772-1781
    • /
    • 2017
  • In this study, the design methodology for alleviating the overfitting problem of Polynomial Neural Networks(PNN) is realized with the aid of two kinds techniques such as L2 regularization and Sum of Squared Coefficients (SSC). The PNN is widely used as a kind of mathematical modeling methods such as the identification of linear system by input/output data and the regression analysis modeling method for prediction problem. PNN is an algorithm that obtains preferred network structure by generating consecutive layers as well as nodes by using a multivariate polynomial subexpression. It has much fewer nodes and more flexible adaptability than existing neural network algorithms. However, such algorithms lead to overfitting problems due to noise sensitivity as well as excessive trainning while generation of successive network layers. To alleviate such overfitting problem and also effectively design its ensuing deep network structure, two techniques are introduced. That is we use the two techniques of both SSC(Sum of Squared Coefficients) and $L_2$ regularization for consecutive generation of each layer's nodes as well as each layer in order to construct the deep PNN structure. The technique of $L_2$ regularization is used for the minimum coefficient estimation by adding penalty term to cost function. $L_2$ regularization is a kind of representative methods of reducing the influence of noise by flattening the solution space and also lessening coefficient size. The technique for the SSC is implemented for the minimization of Sum of Squared Coefficients of polynomial instead of using the square of errors. In the sequel, the overfitting problem of the deep PNN structure is stabilized by the proposed method. This study leads to the possibility of deep network structure design as well as big data processing and also the superiority of the network performance through experiments is shown.

자기 정규화를 통한 도메인 불변 특징 학습 (Learning Domain Invariant Representation via Self-Rugularization)

  • 현재국;이찬용;김호성;유현정;고은진
    • 한국군사과학기술학회지
    • /
    • 제24권4호
    • /
    • pp.382-391
    • /
    • 2021
  • Unsupervised domain adaptation often gives impressive solutions to handle domain shift of data. Most of current approaches assume that unlabeled target data to train is abundant. This assumption is not always true in practices. To tackle this issue, we propose a general solution to solve the domain gap minimization problem without any target data. Our method consists of two regularization steps. The first step is a pixel regularization by arbitrary style transfer. Recently, some methods bring style transfer algorithms to domain adaptation and domain generalization process. They use style transfer algorithms to remove texture bias in source domain data. We also use style transfer algorithms for removing texture bias, but our method depends on neither domain adaptation nor domain generalization paradigm. The second regularization step is a feature regularization by feature alignment. Adding a feature alignment loss term to the model loss, the model learns domain invariant representation more efficiently. We evaluate our regularization methods from several experiments both on small dataset and large dataset. From the experiments, we show that our model can learn domain invariant representation as much as unsupervised domain adaptation methods.

건물모델 정규화를 적용한 항공라이다의 3차원 건물 모델링 (3D building modeling from airborne Lidar data by building model regularization)

  • 이정호;가칠오;김용일;이병길
    • 한국측량학회지
    • /
    • 제30권4호
    • /
    • pp.353-362
    • /
    • 2012
  • 건물모델의 정규화 없이 3차원 건물 모델링을 하면 건물모델에 왜곡이 발생하거나 위상적 불일치가 발생할 수 있다. 반면에, 정규성을 고려할 경우 제약조건으로 인하여 재구성이 가능한 건물 유형이 제한적일 수 있다. 이에 본 연구에서는 보다 다양한 건물을 고려한 건물모델 정규화 방법을 적용하여 항공라이다 데이터로부터 3차원 건물을 모델링하였다. 우선 특징공간에서의 군집화와 객체공간에서의 분할을 통해 건물점들을 지붕면으로 분할한다. 건물모델 구성요소 간의 평행성, 대칭성, 일치성 등을 충족시키기 위하여 면-선-점의 순차적 조정에 의한 정규화를 통해 3차원 건물을 재구성한다. 도시 지역에 대한 실험을 통해 기존의 방법들보다 다양한 형태의 건물에 대하여 정규성을 충족하는 3차원 모델을 생성할 수 있음을 확인하였다. 또한, 정규화가 건물모델의 정확도에 미치는 영향을 정량적으로 분석하였다.

Multi-strategy structural damage detection based on included angle of vectors and sparse regularization

  • Liu, Huanlin;Yu, Ling;Luo, Ziwei;Chen, Zexiang
    • Structural Engineering and Mechanics
    • /
    • 제75권4호
    • /
    • pp.415-424
    • /
    • 2020
  • Recently, many structural damage detection (SDD) methods have been proposed to monitor the safety of structures. As an important modal parameter, mode shape has been widely used in SDD, and the difference of vectors was adopted based on sensitivity analysis and mode shapes in the existing studies. However, amplitudes of mode shapes in different measured points are relative values. Therefore, the difference of mode shapes will be influenced by their amplitudes, and the SDD results may be inaccurate. Focus on this deficiency, a multi-strategy SDD method is proposed based on the included angle of vectors and sparse regularization in this study. Firstly, inspired by modal assurance criterion (MAC), a relationship between mode shapes and changes in damage coefficients is established based on the included angle of vectors. Then, frequencies are introduced for multi-strategy SDD by a weighted coefficient. Meanwhile, sparse regularization is applied to improve the ill-posedness of the SDD problem. As a result, a novel convex optimization problem is proposed for effective SDD. To evaluate the effectiveness of the proposed method, numerical simulations in a planar truss and experimental studies in a six-story aluminum alloy frame in laboratory are conducted. The identified results indicate that the proposed method can effectively reduce the influence of noises, and it has good ability in locating structural damages and quantifying damage degrees.

그룹 구조를 갖는 고차원 유전체 자료 분석을 위한 네트워크 기반의 규제화 방법 (Network-based regularization for analysis of high-dimensional genomic data with group structure)

  • 김기풍;최지윤;선호근
    • 응용통계연구
    • /
    • 제29권6호
    • /
    • pp.1117-1128
    • /
    • 2016
  • 고차원 유전체 자료를 사용하는 유전체 연관 분석에서는 벌점 우도함수 기반의 회귀계수 규제화 방법이 질병 및 표현형질에 영향을 주는 유전자를 발견하는데 많이 이용된다. 특히, 네트워크 기반의 규제화 방법은 유전체 연관성 연구에서의 유전체 경로나 신호 전달 경로와 같은 생물학적 네트워크 정보를 사용할 수 있으므로, Lasso나 Elastic-net과 같은 다른 규제화 방법들과 비교했을 경우 네트워크 기반의 규제화 방법이 보다 더 정확하게 관련 유전자들을 찾아낼 수 있다는 장점을 가지고 있다. 그러나 네트워크 기반의 규제화 방법은 그룹 구조를 갖고 있는 고차원 유전체 자료에는 적용시킬 수 없다는 문제점을 가지고 있다. 실제 SNP 데이터와 DNA 메틸화 데이터처럼 대다수의 고차원 유전체 자료는 그룹 구조를 가지고 있으므로 본 논문에서는 이러한 그룹 구조를 가지고 있는 고차원 유전체 자료를 분석하고자 네트워크 기반의 규제화 방법에 주성분 분석(principal component analysis; PCA)과 부분 최소 자승법(partial least square; PLS)과 같은 차원 축소 방법을 결합시키는 새로운 분석 방법을 제안하고자 한다. 새롭게 제안한 분석 방법은 몇 가지의 모의실험을 통해 변수 선택의 우수성을 입증하였으며, 또한 152명의 정상인들과 123명의 난소암 환자들로 구성된 고차원 DNA 메틸화 자료 분석에도 사용하였다. DNA 메틸화 자료는 대략 20,000여개의 CpG sites가 12,770개의 유전자에 포함되어 있는 그룹 구조를 가지고 있으며 Illumina Innium uman Methylation27 BeadChip으로부터 생성되었다. 분석 결과 우리는 실제로 암에 연관된 몇 가지의 유전자를 발견할 수 있었다.

최소제곱 서포터벡터기계 형태의 준지도분류 (Semi-supervised classification with LS-SVM formulation)

  • 석경하
    • Journal of the Korean Data and Information Science Society
    • /
    • 제21권3호
    • /
    • pp.461-470
    • /
    • 2010
  • 라벨 있는 자료가 분류규칙을 만들 만큼 충분하지 않거나, 라벨 없는 자료가 분류규칙을 만드는데 도움을 줄 수 있는 경우에는 라벨 있는 자료와 라벨 없는 자료를 모두 사용하는 준지도분류가 더 효과적이다. 준지도분류 중 그래프기반 다양체정칙법이 개발되어 최근에 많은 연구가 이루어지고 있다. 본 연구에서는 통계적학습에서 좋은 성능을 보이는 최소제곱 서포터벡터기계를 준지도분류에 적용시키는 방법을 제안한다. 모의실험을 통해 제안된 방법이 라벨 없는 자료를 잘 활용하는 것을 볼 수 있었다.