• Journal of applied mathematics & informatics
• /
• 제29권5_6호
• /
• pp.1245-1256
• /
• 2011

In this paper, we proposed a regularization interior point method for semidefinite programming with free variables which can be taken as an extension of the algorithm for standard semidefinite programming. Since an inexact search direction at each iteration is used, the computation of the designed algorithm is much less compared with the existing solution methods. The convergence analysis of the method is established under weak conditions.

• 대한전자공학회논문지SP
• /
• 제46권2호
• /
• pp.78-88
• /
• 2009

본 논문에서는 LDA를 이용한 얼굴 인식에서 발생하는 small sample size 문제를 해결하기 위한 효율적인 방법인 resampling 방법을 제안한다. 기존에는 regularization method를 사용하여 small sample size 문제를 해결하였는데, 이 방법을 사용하면 클래스내 분산행렬의 특이성을 없앨 수 있지만, 클래스내 분산행렬과 상수를 곱하는 과정에서 상수 값을 임의로 정해 주어야 하고, 이 상수 값에 따라 인식률이 개선되지 않을 수 있다는 문제점이 발생한다. 제안된 resampling 방법을 이용하여 학습 데이터의 수를 늘리면, regularization method보다 개선된 인식률을 얻을 수 있고, 또한 경험적으로 상수 값을 지정해 주는 과정을 거치지 않아도 되는 장점이 있다.

• 한국정밀공학회:학술대회논문집
• /
• 한국정밀공학회 2007년도 추계학술대회 논문집
• /
• pp.555-556
• /
• 2007

• 한국멀티미디어학회논문지
• /
• 제2권3호
• /
• pp.320-328
• /
• 1999

정칙화 반복복원 과정에 사용되는 정칙화 연산자는 Laplacian 연산자를 주로 사용하고 있으나, 일반적으로 미분 연산자를사용하게 되어있다. 본 논문에서는 정칙화 연산자로서의 일반적인 미분연산자틀과 본 연구실에서 사용 되어 온 I-H 연산자의 성능을 비교, 검토하여 분석하였다. 선형적인 움직임에 의한 훼손된 영상에서는, 평면부분은 I-H 연산자가 Laplacian 연산자보다 복원효과와 MSE의 수렴성이 안정된 것을 알 수 있었으며 윤곽부분은 Laplacian 연산자가 I-H 연산자보다 MSE의 수렴성 및 복원효과가 뛰어남을 알 수 있었다. 가우시안에 의해 훼손된 영상에서는, 융곽부분은 I-H 연산자가 Laplacian 연산자보다 MSE의 수렴성 및 복원효과가뛰어나며 평변부분에서는Laplacian 연산자가 I-H 연산자보다 MSE 변에서 안정적으로 F수렴함을 알 수 있었다. 정칙화 이론은 잡음의 평활화와 윤곽의 복원을 동시에 고려하여 처리하기 때문에 영역을 평면부분과 중간 부분 그리고 윤곽부분으로 나누어서 처리결과에 대한 MSE를 비교하였다. Laplacian 연산자와 I-H 연산자는 정칙화 연산자로 사용하기에 적합하였고 다른 미분 연산자들은 반복횟수에 따라 발산하는 것으로 나타났다.

• 한국측량학회지
• /
• 제30권4호
• /
• pp.353-362
• /
• 2012

건물모델의 정규화 없이 3차원 건물 모델링을 하면 건물모델에 왜곡이 발생하거나 위상적 불일치가 발생할 수 있다. 반면에, 정규성을 고려할 경우 제약조건으로 인하여 재구성이 가능한 건물 유형이 제한적일 수 있다. 이에 본 연구에서는 보다 다양한 건물을 고려한 건물모델 정규화 방법을 적용하여 항공라이다 데이터로부터 3차원 건물을 모델링하였다. 우선 특징공간에서의 군집화와 객체공간에서의 분할을 통해 건물점들을 지붕면으로 분할한다. 건물모델 구성요소 간의 평행성, 대칭성, 일치성 등을 충족시키기 위하여 면-선-점의 순차적 조정에 의한 정규화를 통해 3차원 건물을 재구성한다. 도시 지역에 대한 실험을 통해 기존의 방법들보다 다양한 형태의 건물에 대하여 정규성을 충족하는 3차원 모델을 생성할 수 있음을 확인하였다. 또한, 정규화가 건물모델의 정확도에 미치는 영향을 정량적으로 분석하였다.

• 말소리와 음성과학
• /
• 제7권3호
• /
• pp.131-138
• /
• 2015

In this paper, we propose L1-norm regularization for state vector adaptation of subspace Gaussian mixture model (SGMM). When you design a speaker adaptation system with GMM-HMM acoustic model, MAP is the most typical technique to be considered. However, in MAP adaptation procedure, large number of parameters should be updated simultaneously. We can adopt sparse adaptation such as L1-norm regularization or sparse MAP to cope with that, but the performance of sparse adaptation is not good as MAP adaptation. However, SGMM does not suffer a lot from sparse adaptation as GMM-HMM because each Gaussian mean vector in SGMM is defined as a weighted sum of basis vectors, which is much robust to the fluctuation of parameters. Since there are only a few adaptation techniques appropriate for SGMM, our proposed method could be powerful especially when the number of adaptation data is limited. Experimental results show that error reduction rate of the proposed method is better than the result of MAP adaptation of SGMM, even with small adaptation data.

• 융합신호처리학회논문지
• /
• 제5권3호
• /
• pp.173-180
• /
• 2004

이 논문에서는 중복된 웨이블렛 변환영역에서 다중척도 정칙화를 이용한 새로운 영상복원방법을 제시하였다. 제안된 방법은 중복된 웨이블렛 변환을 이용하여 단일척도 영상복원문제를 다중척도의 영상복원문제로 변환한 후에, 각 척도에 의존하는 정칙화 방법을 이용하여 각 척도별로 영상복원을 하고 그 결과를 중복 웨이블렛 역변환을 통해 최종적인 영상복원을 얻는 방법이다. 제안된 방법은 웨이블렛 관련 복원부분에서는 다소 적은 정칙화 계수를 적용하여 뚜렷한 경계를 복원하는 반면, 적은 정칙화 계수에 적용한 것에 의해 발생하는 잡음은 웨이블렛 축소법을 이용하여 제거하였다. 제안된 방법의 향상된 영상복원 성능은 전통적인 Wiener 필터링과의 비교실험을 통해 검증하였다.

• 충청수학회지
• /
• 제27권4호
• /
• pp.675-688
• /
• 2014

In this paper, we present an efficient way to determine a suitable value of the regularization parameter using the global generalized cross validation and analyze the experimental results from preconditioned global conjugate gradient linear least squares(Gl-CGLS) method in solving image deblurring problems. Preconditioned Gl-CGLS solves general linear systems with multiple right-hand sides. It has been shown in [10] that this method can be effectively applied to image deblurring problems. The regularization parameter, chosen from the global generalized cross validation, with preconditioned Gl-CGLS method can give better reconstructions of the true image than other parameters considered in this study.

• 한국산학기술학회논문지
• /
• 제18권10호
• /
• pp.75-80
• /
• 2017

본 논문에서는 딥러닝에서 활용되는 정규화(regularization) 및 항등사상(identity mapping)이 활성함수(activation function) 성능에 미치는 영향에 대해 설명한다. 딥러닝에서 활성함수는 비선형 변환을 위해 사용된다. 초기에는 sigmoid 함수가 사용되었으며, 기울기가 사라지는 기존의 활성함수의 문제점을 극복하기 위해 ReLU(Rectified Linear Unit), LReLU(Leaky ReLU), PReLU(Parametric ReLU), ELU(Exponetial Linear Unit)이 개발되었다. 활성함수와의 연구와는 별도로 과적합(Overfitting)문제를 해결하기 위해, Dropout, 배치 정규화(Batch normalization) 등의 정규화 방법들이 개발되었다. 추가적으로 과적합을 피하기 위해, 일반적으로 기계학습 분야에서 사용되는 data augmentation 기법이 활용된다. 딥러닝 구조의 측면에서는 기존에 단순히 컨볼루션(Convolution) 층을 쌓아올리는 구조에서 항등사상을 추가하여 순방향, 역방향의 신호흐름을 개선한 residual network가 개발되었다. 위에서 언급된 활성함수들은 각기 서로 다른 특성을 가지고 있으나, 새로운 정규화 및 딥러닝 구조 연구에서는 가장 많이 사용되는 ReLU에 대해서만 검증되었다. 따라서 본 논문에서는 정규화 및 항등사상에 따른 활성함수의 성능에 대해 실험적으로 분석하였다. 분석을 통해, 정규화 및 항등사상 유무에 따른 활성함수 성능의 경향을 제시하였으며, 이는 활성함수 선택을 위한 교차검증 횟수를 줄일 수 있을 것이다.

• KSII Transactions on Internet and Information Systems (TIIS)
• /
• 제11권9호
• /
• pp.4658-4679
• /
• 2017

Android is now the most popular smartphone platform and remains rapid growth. There are huge number of sensitive privacy information stored in Android devices. Kinds of methods have been proposed to detect Android malicious applications and protect the privacy information. In this work, we focus on extracting the fine-grained features to maximize the information of Android malware detection, and selecting the least joint features to minimize the number of features. Firstly, permissions and APIs, not only from Android permissions and SDK APIs but also from the developer-defined permissions and third-party library APIs, are extracted as features from the decompiled source codes. Secondly, feature selection methods, including information gain (IG), regularization and particle swarm optimization (PSO) algorithms, are used to analyze and utilize the correlation between the features to eliminate the redundant data, reduce the feature dimension and mine the useful joint features. Furthermore, regularization and PSO are integrated to create a new joint feature mining method. Experiment results show that the joint feature mining method can utilize the advantages of regularization and PSO, and ensure good performance and efficiency for Android malware detection.