• The KIPS Transactions:PartB
• /
• v.11B no.4
• /
• pp.429-436
• /
• 2004

This paper proposes an independent component analyses(ICAs) of the fixed-point (FP) algorithm based on Newton and secant method by adding the kurtosis, respectively. The kurtosis is applied to cluster the analyzed components, and the FP algorithm is applied to get the fast analysis and superior performance irrelevant to learning parameters. The proposed ICAs have been applied to the problems for separating the 6-mixed signals of 500 samples and 10-mixed images of $512\times512$ pixels, respectively. The experimental results show that the proposed ICAs have always a fixed analysis sequence. The results can be solved the limit of conventional ICA without a kurtosis which has a variable sequence depending on the running of algorithm. Especially. the proposed ICA can be used for classifying and identifying the signals or the images. The results also show that the secant method has better the separation speed and performance than Newton method. And, the secant method gives relatively larger improvement degree as the problem size increases.

• Journal of the Korean Institute of Intelligent Systems
• /
• v.10 no.6
• /
• pp.533-541
• /
• 2000

본 논문에서는 독립변수들의 차원을 감소시켜 일반회귀 신경망의 성능을 개선하는 방법을 제안하였다. 제안된 방법에서는 적응적 학습 알고리즘의 주요성분분석 기법을 이용하여 독립변수 패턴의 특징을 추출하고 이를 일반회귀 신경망의 학습데이터로 이용하였다. 이는 주요성분분석 기법이 가지는 대용량의 입력 데이터를 통계적으로 독립인 특징들의 집합으로 변환시키는 속성을 살려 학습데이터의 차원을 감소시킴으로서 고차원의 학습데이터에 따른 일반회귀 신경망이 가지는 제약을 해결하기 위함이다. 제안된 기법의 일반회귀 신경망을 3개의 독립변수 패턴을 가진 암모니아 제조공정문제와 10개의 독립변수 패턴을 가진 자동차 연비문제에 각각 적용하여 시뮬레이션한 결과, 기존의 일반회귀 신경망에 의한 결과와 비교할 때 더욱 우수한 학습성능과 회귀성능이 있음을 확인할 수 있었다. 그리고 커널함수의 평활요소 설정 면에서도 우수한 특성이 있음을 확인할 수 있었다.

• Proceedings of the Korea Multimedia Society Conference
• /
• 2001.06a
• /
• pp.116-119
• /
• 2001

본 논문에서는 주요성분분석 기법을 도입하여 회귀분석을 위한 신경망의 성능 개선방안을 제안하였다. 이는 대용량의 입력 데이터를 통계적으로 독립인 특징들의 집합으로 변환시키는 주요성분분석 기법의 속성을 살려 학습데이터의 타원을 감소시킴으로서 고차원의 학습데이터에 따른 신경망의 학습성능 의존성을 줄이기 위함이다. 제안된 기법의 신경망을 10개의 독립변수 패턴을 가진 자동차 연비문제에 적용하여 시뮬레이션한 결과, 기존의 학습데이터를 그대로 이용하는 신경 망보다 우수한 학습성능과 회귀성능이 있음을 확인할 수 있었다.

• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 2006.11a
• /
• pp.175-178
• /
• 2006

본 논문에서는 주요성분분석과 상호정보 추정을 조합한 입력변수선택 기법을 제안하였다. 여기서 주요성분분석은 2차원 통계성을 이용하여 입력변수 간의 독립성을 찾기 위함이고, 상호정보의 추정은 적응적 분할을 이용하여 입력변수의 확률밀도함수를 계산함으로써 변수상호간의 종속성을 좀더 정확하게 측정하기 위함이다. 제안된 기법을 인위적으로 제시된 각 500개의 샘플을 가지는 6개의 독립신호와 1개의 종속신호를 대상으로 실험한 결과, 빠르고 정확한 변수의 선택이 이루어짐을 확인하였다.

• Proceedings of the Korea Multimedia Society Conference
• /
• 2002.11b
• /
• pp.133-136
• /
• 2002

본 연구에서는 뉴우턴법과 모멘트를 이용한 수정된 고정점 알고리즘의 독립성분분석기법을 이용한 영상의 특징추출을 제안하였다. 여기서 뉴우턴법은 엔트로피 최적화로부터 유도된 기법으로 그 계산을 간략화하여 역혼합행렬의 빠른 경신을 위함이고, 모멘트는 접선을 구하는 과정에서 함수의 기울기변화 계산에서 발생하는 발진을 줄여 좀 더 빠른 학습을 위함이다. 제안된 기법을 13개 자연영상들로부터 선택된 12×12 픽셀(pixel)의 10,000개 패치를 대상으로 시뮬레이션 한 결과, 추출된 16×16픽셀의 160개 독립성분 기저벡터 각각은 자연영상들에 포함된 공간적인 주파수 특성과 방향성을 가지는 경계 특성이 잘 드러나는 국부적인 특징들임을 확인할 수 있었다. 또한 모멘트의 이용으로 개선된 특징추출을 얻을 수 있었다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2001.10a
• /
• pp.515-518
• /
• 2001

본 논문에서는 전처리단계로 영평균 정규화 기법과 주요성분분석 기법을 도입하여 다층신경망을 이용한 고신뢰성의 회귀분석 모델을 제안한다. 영평균 정규화 기법은 데이터의 1차적 통계성을 고려하여 알고리즘을 간략화시키며, 주요성분분석 기법은 입력 데이터의 2차적 통계성을 고려하여 독립인 특징들의 집합으로 변환시켜 학습데이터의 차원을 감소시킬 수 있어 고차원의 학습데이터에 따른 회귀분석 모델의 제약을 해결할 수 있었다. 제안된 기법의 신경망을 3개의 독립변수를 가진 암모니아 제조공정문제와 10개의 독립변수를 가진 자동차 연비문제에 각각 적용하여 시뮬레이션한 결과, 단순정규화나 PCA를 적용하지 않는 경우보다 제안된 기법의 학습속도와 회귀성능이 더욱 더 우수함을 확인할 수 있었다.

• Proceedings of the Korea Multimedia Society Conference
• /
• 2002.05c
• /
• pp.320-324
• /
• 2002

본 연구에서는 모멘트와 뉴우턴법 및 모멘트와 할선법에 각각 기초한 고정점 알고리즘의 신경망 기반 독립성분분석 기법을 제안하였다. 여기서 뉴우턴법과 할선법은 각각 엔트로피에 기초한 목적함수의 근을 구하는 근사화 방법으로 빠른 경신을 위함이고, 모멘트는 근사화에 의한 역혼합행렬의 경신과정에서 발생하는 발진을 줄여 좀 더 빠른 학습을 위함이다. 제안된 기법을 256×256 픽셀(pixel)의 8개 지문영상으로부터 임의의 혼합행렬에 따라 발생되는 영상들을 각각 대상으로 시뮬레이션 한 결과, 모멘트와 할선법에 기초한 알고리즘이 모멘트와 뉴우턴에 기초한 알고리즘보다 우수한 분리성능과 빠른 학습속도가 있음을 확인하였다.

• Journal of the Korean Institute of Intelligent Systems
• /
• v.18 no.5
• /
• pp.617-623
• /
• 2008

This paper presents a human motion recognition method using both centroid shift and local basis images. The centroid shift based on 1st moment balance technique is applied to get the robust motion images against position or size changes, the extraction of local basis images based on independent component analysis(ICA) is also applied to find a set of statistically independent motion features, which is included in each motions. Especially, ICA of fixed-point(FP) algorithm based on Newton method is used for being quick to extract a local basis images of motions. The proposed method has been applied to the problem for recognizing the 160(1 person * 10 animals * 16 motions) sign language motion images of 240*215 pixels. The 3 distances such as city-block, Euclidean, negative angle are used as measures when match the probe images to the nearest gallery images. The experimental results show that the proposed method has a superior recognition performances(speed, rate) than the method using local eigen images and the method using local basis images without centroid shift respectively.

• Journal of the Korean Institute of Intelligent Systems
• /
• v.10 no.5
• /
• pp.417-422
• /
• 2000

In this paper, an efficient fuzzy rule generation scheme for adaptive neuro-fuzzy system modeling using the Independent Component Analysis(ICA) as a preprocessing is proposed. Correlation between inputs was not considered in the conventional neuro- fuzzy modeling schemes, such that enormous number of rules and large amount of error were unavoidable. The correlation between inputs is weakened by employing ICA so that the number of rules and the amount of error are reduced. In simulation, the Box-Jenkins furnace data is used to verify the effectiveness of the proposed method.

• Journal of the Korean Institute of Intelligent Systems
• /
• v.15 no.5
• /
• pp.581-587
• /
• 2005

This paper presents a hybrid face recognition method of both the first moment of image and the independent component analysis(ICA) of fixed point(FP) algorithm based on Newton method. First moment is a method for finding centroid of image, which is applied to exclude the needless backgrounds in the face recognitions by shifting to the centroid of face image. FP-ICA is also applied to find a set of independent basis images for the faces, which is a set of statistically independent facial features. The proposed method has been applied to the problem for recognizing the 48 face images(12 persons o 4 scenes) of 64*64 pixels. The 3 distances such as city-block, Euclidean, negative angle are used as measures when match the probe images to the nearest gallery images. The experimental results show that the proposed method has a superior recognition performances(speed, rate) than conventional FP-ICA without preprocessing. The city-block has been relatively achieved more an accurate similarity than Euclidean or negative angle.