• Journal of KIISE:Information Networking
• /
• v.30 no.1
• /
• pp.24-29
• /
• 2003

In this paper, a new method for the mixed image separation is presented using the independent component analysis, the innovation process, and the expectation-maximization. In general, the independent component analysis (ICA) is one of the widely used statistical signal processing schemes, which represents the information from observations as a set of random variables in the from of linear combinations of another statistically independent component variables. In various useful applications, ICA provides a more meaningful representation of the data than the principal component analysis through the transformation of the data to be quasi-orthogonal to each other. which can be utilized in linear projection.. However, it has been known that ICA does not establish good performance in source separation by itself. Thus, in order to overcome this limitation, there have been many techniques that are designed to reinforce the good properties of ICA, which improves the mixed image separation. Unfortunately, the innovation process still needs to be studied since it yields inconsistent innovation process that is attached to the ICA, the expectation and maximization process is added. The results presented in this paper show that the proposed improves the image separation as presented in experiments.

• Proceedings of the Korea Multimedia Society Conference
• /
• 2002.05c
• /
• pp.325-329
• /
• 2002

본 연구에서는 할선법과 모멘트를 조합한 학습알고리즘의 신경망 기반 독립성분분석 기법을 제안하였다. 제안된 알고리즘은 할선법과 모멘트에 기초를 둔 고정점 알고리즘의 독립성분분석 기법이다. 여기서 할선법은 독립성분 상호간의 정보를 최소화하기 위해 negentropy를 최대화는 과정에서 요구되는 1차 미분에 따른 계산량을 줄이기 위함이고, 모멘트는 최대화 과정에서 발생하는 발진을 억제하여 보다 빠른 학습을 위함이다. 제안된 기법을 256×256 픽셀의 8개 지문영상에서 임의 혼합행렬에 따라 발생되는 혼합지문들을 각각 대상으로 시뮬레이션한 결과, 할선법만에 기초한 기법보다 우수한 분리성능과 빠른 학습속도가 있음을 확인하였다.

• Proceedings of the Korea Multimedia Society Conference
• /
• 2003.11b
• /
• pp.569-572
• /
• 2003

본 연구에서는 뉴우턴법에 기초한 고정점 알고리즘의 신경망 기반 독립성분분석에 kurtosis를 추가한 독립성분의 군집화를 제안하였다. 여기서 뉴우턴법의 고정점 알고리즘은 엔트로피에 기초한 목적 함수의 근을 구하는 근사화 방법으로 빠른 성분분석을 위함이고, kurtosis는 독립성분의 추출순서를 고려하지 않는 속성을 개선하기 위함이다. 제안된 기법을 256$\times$256 픽셀의 8개 혼합영상의 분리에 적용한 결과, 제안된 방법은 기존의 독립성분분석에서 분석순서를 고려치 않는 제약을 효과적으로 해결 할 수 있음을 확인하였다.

• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 2002.12a
• /
• pp.370-373
• /
• 2002

본 논문에서는 단일영상들에 포함된 특징들을 효과적으로 추출하기 위하여 신경망 기반 독립성분분석기법의 이용을 제안하였다. 여기서 독립성분의 효과적인 분석을 위해 고정점 학습알고리즘의 신경망 기반 기법을 이용하였다. 이는 수치적 기법에 비해 신경망이 가지는 ？ㄱ습 등의 우수한 속성과 뉴우턴법의 고정점 알고리즘이 가지는 빠르고 간단한 계산속성을 동시에 살리기 위함이다. 제안된 기법을 512x412 픽셀의 L둠 영상과 480x225 픽셀의 지폐영상 각각에서 선택된 1,000개의 영상패치들을 대상으로 시뮬레이션 한 결과, 추출된 16x16 펙셀의 160개 독립성분 기저벡터는 지문영상과 지폐영상 각각에 포함된 공간적인 주파수 특성과 방향성을 가지는 경계 특성이 잘 드러나는 국부적인 특징들임을 확인할 수 있었다.

• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 2002.12a
• /
• pp.291-294
• /
• 2002

본 논문에서는 신경망 기반 독립성분분석기법을 이용하여 지문영상에 포함된 특징들을 효과적으로 추출하는 방법을 제안하였다. 여기서 독립성분의 효과적인 분석을 위해 고정점 학습알고리즘의 신경망 기반 기법을 이용하였다. 이는 수치적 기법에 비해 신경망이 가지는 학습 등의 우수한 속성과 뉴우턴법의 고정점 알고리즘이 가지는 빠르고 간단한 계산속성을 동시에 살리기 위함이다. 제안된 기법을 256$\times$256 픽셀의 8개 지문영상에서 선택된 10,000개의 영상패치를 대상으로 시뮬레이션 한 결과, 추출된 16$\times$16 펙셀의 160개 독립성분 기저벡터는 지문영상들에 포함된 공간적인 주파수 특성과 방향성을 가지는 경계 특성이 잘 드러나는 국부적인 특징들임을 확인할 수 있었다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2002.04b
• /
• pp.1037-1040
• /
• 2002

본 연구에서는 효율적인 학습알고리즘을 가지는 신경망 기반 독립성분분석 기법을 제안하였다. 제안된 기법은 할선법에 기초를 둔 fixed point 알고리즘의 신경망 기반 독립성분분석 기법이다. 여기서 할선법은 독립성분 상호간의 정보를 최소화하기 위해 negentropy를 최대화는 과정에서 요구되는 1차 미분에 따른 계산량을 줄이기 위함이다. 제안된 기법을 500개의 데이터를 가지는 4개 신호들로부터 임의의 혼합 행렬에 따라 발생되는 혼합신호들을 각각 대상으로 시뮬레이션 한 결과, 우수한 분리성능과 빠른 학습 속도가 있음을 확인하였다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2003.05b
• /
• pp.883-886
• /
• 2003

본 연구에서는 할선법과 모멘트의 고정점 알고리즘 독립성분분석을 이용하여 영상의 특징을 추출하는 기법을 제안하였다. 여기서 할선법은 독립성분 상호간의 정보를 최소화하기 위한 목적함수의 최적화 과정에서 요구되는 1차 미분에 따른 계산을 간략화하기 위함이고, 모멘트는 최적화 과정에서 발생하는 발진을 억제하여 보다 빠른 학습을 위함이다. 제안된 기법을 $256{\times}256$ 픽셀의 10개 지문영상에서 선택된 각각 10,000개의 3가지 영상패치들을 대상으로 적용한 결과, 제안된 기법은 뉴우턴법이나 할선법의 알고리즘 보다도 빠른 특징추출 속도가 있음을 확인하였다 한편 추출된 $16{\times}16$ 펙셀의 160개 독립성분 기저벡터 각각은 영상 각각에 포함된 공간적인 주파수 특성과 방향성을 가지는 경계 특성이 잘 드러나는 국부적인 특징들임을 확인하였다.

• Proceedings of the Korea Multimedia Society Conference
• /
• 2002.05c
• /
• pp.336-341
• /
• 2002

본 연구에서는 엔트로피 최적화를 위한 목적함수의 근을 구하기 위해 단순히 함수 값만을 이용하여 계산을 근사화한 할선법에 기초한 고정점 알고리즘의 독립성분분석 기법을 제안하였다. 이렇게 하면 기존의 뉴우턴법에 기초한 고정점 알고리즘에서 요구되는 복잡한 도함수의 계산과정을 간략화 할 수 있어 더 우수한 학습성능의 독립성분분석이 가능하다. 제안된 학습알고리즘의 독립성분분석 기법을 512$\times$512의 픽셀을 가지는 10개의 영상을 대상으로 임의의 혼합행렬에 따라 발생되는 혼합영상들을 실험하였다. 실험결과, 기존의 뉴우턴법에 기초한 고정점 알고리즘의 분석기법보다 빠른 학습속도와 개선된 분리성능이 있음을 확인하였다. 특히 기존의 알고리즘에서 임의로 설정되는 초기값에 덜 의존하는 학습성능이 있음도 확인할 수 있었다.

• Proceedings of the Korean Information Science Society Conference
• /
• 2001.04a
• /
• pp.505-507
• /
• 2001

본 논문에서는 그람-슈미트 방법 및 독립 성분 해석(Independent Component Analysis, ICA)기법을 이용한 영상분리방법을 제안한다. 이 제안된 방법은 전처리 없이 ICA나 주성분 해석(Principal Component Analysis, PCA)을 이용한 것에 비해 개선된 영상을 보여준다. 이는 원래의 ICA 모델에 대하여 동일한 조건으로 일반화하여 그람-슈미트의 독립된 성분들이 ICA 모델에 충분히 동일하다는 것을 보여준다.

• Annual Conference on Human and Language Technology
• /
• 2006.10e
• /
• pp.164-170
• /
• 2006

본 논문에서는 한국어 동사의 개념적 클러스터링 방법을 제안하다. 사용되는 기법은 독립성분분석, Box-Cox 변환, 상관분석 등이다. 독립성분분석은 잠재적인 성분을 통계적 독립(statistical independence)에 기반하여 추출하는 분석 방법이다. 그런데, 독립성분분석에서는 mixture(동사)의 분포는 정규 분포(가우시안 분포)에 따른다고 가정한다. 따라서 동사의 분포를 보다 정규 분포화 할 필요가 있다. 이에 본 논문에서는 Box-Cox 변환을 이용하여 동사의 분포를 정규 분포에 근사한다. 또한, 독립성분분석에서는 추출할 적당한 성분의 개수를 결정할 수가 없다. 이에 본 논문에서는 주성분분석의 결과로 획득되는 고유치의 누적 기여율을 이용하여 독립성분의 수를 결정한다. 그리고, 추출된 독립성분 벡터와 동사 벡터간의 상관계수에 이용하여 독립성분(개념)에 밀접하게 관련 있는 동사들을 하나의 클러스터로 구성한다. 한국어 동사를 대상으로 클러스터링한 결과, Box-Cox 변환을 적용한 경우가 더 좋은 성능을 보였다.