• 한국지능시스템학회:학술대회논문집
• /
• 한국퍼지및지능시스템학회 2006년도 추계학술대회 학술발표 논문집 제16권 제2호
• /
• pp.175-178
• /
• 2006

본 논문에서는 주요성분분석과 상호정보 추정을 조합한 입력변수선택 기법을 제안하였다. 여기서 주요성분분석은 2차원 통계성을 이용하여 입력변수 간의 독립성을 찾기 위함이고, 상호정보의 추정은 적응적 분할을 이용하여 입력변수의 확률밀도함수를 계산함으로써 변수상호간의 종속성을 좀더 정확하게 측정하기 위함이다. 제안된 기법을 인위적으로 제시된 각 500개의 샘플을 가지는 6개의 독립신호와 1개의 종속신호를 대상으로 실험한 결과, 빠르고 정확한 변수의 선택이 이루어짐을 확인하였다.

• 한국지능시스템학회논문지
• /
• 제17권4호
• /
• pp.511-518
• /
• 2007

본 논문에서는 영상의 중심이동과 상호정보 추정에 의한 효과적인 얼굴인식 기법을 제안하였다. 여기서 중심이동은 영상의 1차 모멘트에 의해 계산된 중심좌표로 얼굴영상을 이동하는 것이며, 이는 인식에 불필요한 배경을 배제시킴으로써 인식성능을 개선시키기 위함이다. 상호정보 추정은 상관관계를 나타내는 척도로 영상간의 유사성을 효과적으로 측정하기 위함이다. 특히 영상의 상호정보 추정을 위한 확률밀도함수 계산에 동일한 량의 샘플분할을 이용한 적응분할의 추정 방법을 이용함으로써 영상 상호간의 종속성을 더욱 더 정확하게 구하였다. 제안된 기법을 64*64 픽셀의 48장(12명*4장) 얼굴영상을 대상으로 실험한 결과, 제안된 기법은 중심이동을 거치지 않는 단순히 상호정보 추정만을 이용하는 기법보다 우수한 인식성능(인식률, 인식속도)이 있음을 확인하였다. 또한 얼굴의 표정, 위치, 그리고 각도 등의 변화에도 매우 강건한 인식성능이 있음을 확인하였다.

• 한국지능시스템학회논문지
• /
• 제17권2호
• /
• pp.220-225
• /
• 2007

본 논문에서는 주요성분분석과 상호정보 추정을 조합한 입력변수선택 기법을 제안하였다. 여기서 주요성분분석은 2차원 통계성에 기반을 둔 기법으로 입력변수 간의 종속성을 빠르게 제거하여 과추정을 방지하기 위함이고, 상호정보의 추정은 적응적 분할을 이용하여 입력변수의 확률밀도함수를 계산함으로써 변수상호간의 종속성을 좀 더 정확하게 측정하기 위함이다. 제안된 기법을 각 500개 샘플의 7개 신호를 가지는 인위적인 문제와 각 55개 샘플의 24개의 신호를 가지는 환경오염신호를 대상으로 각각 실험한 결과, 빠르고 정확한 변수의 선택이 이루어짐을 확인하였다. 또한 주요성분분석을 수행하지 않을 때와 정규분할의 상호정보 추정 때보다 제안된 방법은 각각 우수한 선택성능이 있음을 확인하였다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2006년도 추계학술발표대회
• /
• pp.605-608
• /
• 2006

본 논문에서는 고정점 알고리즘의 독립성분분석과 상호정보 추정을 조합한 입력변수선택 기법을 제안하였다. 여기서 뉴우턴법에 기반을 둔 빠른 분석성능을 가지는 고정점 알고리즘의 독립성분분석은 입력변수 간의 독립성을 빠르게 찾기 위함이고, 입력변수의 확률밀도함수의 계산을 위해 적응적 분할을 이용한 상호정보의 추정은 변수상호간 종속성을 좀 더 정확하게 정량화하기 위함이다. 제안된 기법을 인위적으로 제시된 각 500개의 샘플을 가지는 6개의 독립신호와 1개의 종속신호를 대상으로 실험한 결과 빠르고 정확한 변수의 선택이 이루어짐을 확인하였다.

• 한국컴퓨터그래픽스학회논문지
• /
• 제7권1호
• /
• pp.37-49
• /
• 2001

본 논문에서는 다중 모달리티 영상으로부터 상호보완적인 정보를 추출하여 통합된 형태로 표현하기 위하여 다해상도 영상정합을 위한 상호정보 최적화 방법을 제안한다. 본 방법은 두 영상이 기하학적으로 정렬되면 명암도 유사성 측정을 위한 평가함수인 상호정보가 최대화된다는 가정 하에 두 영상에서 대응되는 화소 명암도간 통계적 의존관계나 정보중복성을 계산하여 영상간 변환관계를 추정하여 정합한다. 실험결과로는 뇌 자기공명영상과 뇌 전산화단층 촬영영상을 사용하여 육안평가를 통한 정확성 측면과 초기조건 변화와 잡음 첨가를 통한 견고성 측면으로 검증한다. 본 방법은 표면이나 특징 부위 추출에 의한 정합이 아닌 영상 자체 정보를 사용함으로써 사용자와의 빈번한 상호작용을 줄이며 비모수화 밀도추정으로 기존 평가함수보다 견고하게 밀도추정이 가능하다. 또한 다해상도 기법을 적용한 확률적 최적화로 견고한 수렴을 유도한다.

• 한국지능시스템학회논문지
• /
• 제16권5호
• /
• pp.525-530
• /
• 2006

본 논문에서는 고정점 알고리즘의 독립성분분석과 적응분할의 상호정보 추정을 조합한 입력변수선택 기법을 제안하였다. 여기서 고정점 알고리즘의 독립성분분석은 할선법에 기반을 둔 방법으로 입력변수 간의 독립성을 빠르게 찾기 위함이고, 적응분할의 상호정보 추정은 입력변수의 확률밀도함수 계산에서 동일한 량의 샘플분할을 가능하게 하여 변수상호간의 종속성을 좀 더 정확하게 구하기 위함이다. 제안된 기법을 인위적으로 제시된 각 500개의 샘플을 가지는 7개의 신호와 특정지역을 대상으로 측정된 각 55개의 샘플을 가진 24개의 환경오염신호를 대상으로 실험한 결과, 빠르고 정확한 변수의 선택이 이루어짐을 확인하였다. 또한 할선법의 고정점 알고리즘 독립성분분석을 수행하지 않을 때와 정규분할의 상호정보 추정 때보다 각각 우수한 선택성능이 있음을 확인하였다.

• Journal of the Korean Data and Information Science Society
• /
• 제25권5호
• /
• pp.1079-1094
• /
• 2014

상호정보 (mutual information)를 이용한 변수 선택법은 반응변수와 설명변수간의 선형적인 연관성뿐만 아니라 비선형적인 연관성을 감지하며, 설명변수 사이의 연관성도 고려하는 좋은 변수선택 방법이다. 하지만 고차원 자료에서 상호정보를 추정하기가 쉽지 않아 이에 대한 연구가 필요하다. Cai 등 (2009)은 조건부 상호정보를 이용한 전진선택법과 가지치기법을 이용하여 이러한 문제를 해결하였으며, 마이크로어레이 자료와 같은 고차원 자료에서 조건부 상호정보를 이용한 변수 선택법으로 선택된 변수들로 구성된 SVM의 분류 성능이 SVM-RFE 및 기존의 필터링 방법으로 선택된 변수들로 구성된 SVM의 분류 성능보다 뛰어남을 보였다. 하지만 조건부 상호정보를 추정할 때 사용된 Parzen window 방법은 변수의 수가 많아질수록 변수 선택 시간이 길어지는 단점으로 인해 이에 대한 보완이 필요하다. 본 논문에서는 조건부 상호정보 계산 시 필요한 설명변수의 분포를 다변량 정규분포로 가정함으로써 변수선택을 위한 계산시간을 단축시키며 동시에 변수선택의 성능을 향상시키고자 한다. 반면, 설명변수의 분포를 다변량 정규분포로 가정한다는 것은 강한 제약이 될 수 있으므로 이를 완화시킨 Edgeworth 근사를 이용한 조건부 상호정보 기반의 변수 선택법을 제안한다. 실증분석을 통해 본 논문에서 제안한 방법의 효율성을 살펴보았으며, 기존의 조건부 상호정보 기반 변수 선택법에 비해 계산 속도나 분류 성능 면에서 우수함을 보였다.

• 한국위성정보통신학회논문지
• /
• 제8권4호
• /
• pp.37-42
• /
• 2013

이 논문에서는 비이상적인 안테나 배열을 보상하는 방법과 안테나 배열을 이용하여 계산량 관점에서 효율적으로 도래각을 추정하는 방법을 제시하였다. 도래각을 추정하기 위해서는 안테나 배열을 주로 이용한다. 배열을 이루는 각 안테나 소자에 수신되는 신호의 위상차를 이용하여 도래각을 추정한다. 그러나 실제 안테나 배열의 경우 각 안테나 사이의 상호결합 때문에 각 안테나로부터 방사되는 전파의 빔 패턴이 변형되고 이로 인해 도래각 추정 성능이 저하된다. 제안 방식에서는 먼저 상호결합의 영향을 동일하게 받는 안테나 배열의 일부분인 부분배열을 이용하여 도래각을 추정한다. 도래각을 추정하기 위해서는 계산량 관점에서 효율적인 ESPRIT(estimation of signal parameters via rotational invariance techniques)알고리듬을 적용한다. 그 다음 추정한 도래각을 바탕으로 상호결합을 보상하고 부분배열의 크기를 본래의 배열 크기로 확장시킨다. 모의실험 결과 제안한 방법은 재밍대잡음비가 비교적 작을 때에도 우수한 성능을 나타내었다.

• Communications for Statistical Applications and Methods
• /
• 제15권6호
• /
• pp.977-991
• /
• 2008

본 논문에서는 연속형 변수에 대한 결합확률분포를 추정하지 않고도 상호정보(MI) 추정량을 구할 수 있는 k-최근접이웃 기반방법에 대하여 연구하였다. 변수가 동일한 값들을 가지는 경우 k-최근접이웃을 구할 때 생기는 문제점을 해결하기 위하여 지터링(jittering)과 붓스트랩(bootstrap) 방법을 제안하였다. 몬테칼로 모의실험과 실제 데이터에 대한 실험을 수행한 결과, k=1과 같이 작은 값을 사용한 k-최근접이웃 기반방법에 의해 효율적인 MI 추정량을 구할 수 있었다. k-최근접이웃 기반방법은 연속형 설명변수, 범주형 또는 연속형인 목적변수 형태의 데이터에 적용할 수 있으며, 목적변수에 영향을 주는 중요한 설명변수의 순서를 구할 수 있을 뿐만 아니라 다차원에도 적용할 수 있기 때문에 중요변수의 집합을 구하는 변수 선택(feature subset selection) 문제에도 적용할 수 있다.

• 응용통계연구
• /
• 제21권2호
• /
• pp.301-312
• /
• 2008

상호정보(mutual information: MI)는 설명변수의 목적변수에 대한 예측정도를 나타내는 척도로서, 목적변수에 대한 설명 변수의 중요도 순위를 구하거나 목적 변수를 잘 설명해주는 설명변수의 집합을 구하는 변수선택문제에 유용하게 사용된다. 본 논문에서는 연속형 설명변수와 범주형 목적변수로 구성된 데이터로부터 결합확률분포를 추정하지 않고도 MI 추정량을 구할 수 있는 Sample-spacing 방법에 대한 연구를 수행하였다. 몬테 칼로 모의 실험과 실제데이터에 대한 실험결과, MI 추정을 위해 Sample-spacing 방법을 사용할 때 m = 1을 사용하면 충분히 신뢰할만한 결과를 얻을 수 있다는 것을 알 수 있었다.