• Proceedings of the Korean Society of Broadcast Engineers Conference
• /
• 2017.11a
• /
• pp.202-203
• /
• 2017

비음수 행렬 인수분해(Non-negative Matrix Factorization, NMF)의 신호분리 성능을 개선하기 위해 희소조건을 인가한 방법이 희소 비음수 행렬 인수분해 알고리즘(Sparse NMF, SNMF)이다. 기존의 SNMF 알고리즘은 개별 음원의 희소성을 고려하지 않고 임의로 결정한 희소 조건을 사용한다. 본 논문에서는 음원의 특성에 따른 희소성을 추정하고 이를 SNMF 학습알고리즘에 적용하는 새로운 신호분리 기법을 제안한다. 혼합 신호에서의 잡음제거 실험을 통해, 제안한 방법이 기존의 NMF와 SNMF에 비해 성능이 더 우수함을 보였다.

• Proceedings of the Acoustical Society of Korea Conference
• /
• spring
• /
• pp.32-35
• /
• 1999

기존의 반연속 HMM의 파라미터들 중에서 평균 벡터와 분산 행렬은 Maximum Likelihood Estimation 방법을 사용하여 학습한다. 본 논문에서는 평균 벡터를 위하여 Fuzzy c-means(FCM) 알고리즘을 사용하였고 분산 행렬을 위하여 FCM 알고리즘의 평균 벡터를 적용, 변형한 새로운 함수를 사용하여 화자적응에 적용하였다. 이러한 평균 벡터와 분산 행렬의 추정 방법은 새로운 화자에 대한 적응 능력을 갖는다. 제안한 방법을 적용한 한국어 격리 단어에 대한 컴퓨터 모의 실험결과 새로운 화자에 대해 적응함을 확인하였다.

• Proceedings of the Korean Information Science Society Conference
• /
• 1998.10c
• /
• pp.321-323
• /
• 1998

이 논문에서는 크기가 큰 III-Conditioned Matrices 정방행렬의 좌측 또는 우측 역행렬 계산시 계산상의 정확도를 향상시키는 알고리듬에 대하여 기술한다. 이 알고리듬은 대상 행렬의 행벡터들을 Input으로 하고 해당 Input 벡터가 몇번째 행 벡터인지를 나타내는 단위 벡터를 Target 벡터로 하며 초기 Weight 값으로 Pivoting을 겸한 Gauss소거법을 적용하여 얻은 역행렬을 사용하는 Single Layer 인공신경망에 적용하는 역전파 알고리듬과 흡사한 것이다. 각각의 Input 행 벡터에 대하여 역행렬의 열 벡터들이 점진적으로 직교가 되거나 평행이 되도록 근접시키므로써 모든 Input 행 벡터들이 열벡터들에 비교적 균일하게 직교 또는 평행이 되도록 학습시키는 알고리듬이다.

• Proceedings of the Korean Society of Broadcast Engineers Conference
• /
• 2020.07a
• /
• pp.553-556
• /
• 2020

최근 이미지 인식을 위한 Convolutional Neural Network(CNN) 모델의 경량화에 관한 연구가 활발하게 이루어지고 있다. 그중 양자화는 모델을 구성하는 가중치의 크기를 낮추는 방법이다. 기존의 CNN 모델에서 가장 큰 비중을 하는 Fully Connected Layer(FCL)는 내부적으로 32 Bit의 실수 행렬로 표현된다. 본 논문에서는 미리 학습된 실수 가중치를 더 작은 비트의 정수 행렬로 양자화한다. 양자화된 행렬에 대해서 영상 압축 등에서 사용하는 Discrete Cosine Transform(DCT)을 통해 주파수 영역으로 변환한 후 고주파 영역을 생략하는 손실압축 방법을 제안한다. 실험을 통해 그 과정에서 손실에 따른 정확도의 변화를 나타낸다.

• Proceedings of the IEEK Conference
• /
• 2003.07d
• /
• pp.1275-1278
• /
• 2003

본 논문에서는 오차 역전파 알고리즘의 전역 최소값을 찾지 못하는 문제점에 대해서 설명하였고, 이 문제를 해결하기 위한 방법으로 유전자 알고리즘에 대해서 설명하였다. 오차 역전파 알고리즘은 기본적으로 경도 하강법을 따른다. 따라서 신경망의 각 가중값 행렬이 만드는 고차의 오차 평면이 대부분의 문제에서 다수의 국부 최소값들을 가지는게 일반적인데, 가중값의 변화가 한방으로 진행하기 시작하여, 오차가 증가되어지는 언덕이 학습 계수보다 크다면 더 이상 학습은 진행되지 않고 거기에서 빠져나가지 못한다. 따라서 초기의 위치가 중요한 역할을 하는데, 이 문제를 해결하기 위해서 유전자 알고리즘을 이용한 신경망 초기화 방법을 제안하였다. 끝으로, 간단한 실험으로 제안된 방법을 구현하고 결과에 대해서 논하였다

• Proceedings of the Korea Multimedia Society Conference
• /
• 1998.04a
• /
• pp.411-416
• /
• 1998

본 논문은 Wavelet 변환 영역에서 특징 벡터를 추출하여 ART2 신경회로망으로 실장 PCB 패턴을 인식하는 알고리즘을 제안한다. PCB 형태 정보는 Wavelet에 의해 주파수 영역으로 변환되고, 이들 계수 행렬로부터 특징 벡터로서 추출된다. ART2 신경회로망은 이러한 특징 벡터들을 입력벡터로 사용하여 인식한다. 실장 PCB 영상 55장을 사용하여 실험한 결고, 학습된 입력패턴은 물론 비학습 입력패턴에 대해서도 약 99%의 인식율을 얻었다. 또한 제안된 방법은 Wavelet 변환 영역사에서 수직, 수평, 대각선 정보만으로 특징 벡터를 구축함으로써 특징 추출 과정이 비교적 간단하고 특징 벡터의 수도 줄일 수 있어, 효과적인 특징벡터의 추출이 가능함을 보였다.

• Proceedings of the Korean Information Science Society Conference
• /
• 2003.04c
• /
• pp.389-391
• /
• 2003

컴퓨터 학습의 군집화는 주어진 데이터를 서로 유사한 몇 개의 집단으로 묶는 작업을 수행한다. 군집화를 위한 유사도 결정을 위한 측도는 많은 기법들에서 매우 다양한 측도들이 사용되고 또한 연구되어 왔다. 하지만 군집화의 결과에 대한 성능측정에 대한 객관적인 기준 설정이 어렵기 때문에 군집화 결과에 대한 해석은 매우 주관적이고 애매한 경우가 많다. 퍼지 군집화는 이러한 애매한 군집화 문제에 있어서 융통성 있는 군집 결정 방안을 제시해 준다. 각 개체들이 특정 군집에 속하게 될 퍼지 멤버 함수값을 원소로 하는 유사도 행렬을 통하여 군집화를 수행한다. 본 논문에서는 베이지안 학습을 통하여 군집화를 위한 퍼지 멤버 함수값을 구하였다. 본 연구에서는 최적의 퍼지 군집화 수행을 위하여 베이지안 학습 기반의 퍼지 규칙을 추출하였다. 인공적으로 만든 데이터와 기존의 기계 학습 데이터를 이용한 실험을 통하여 제안 방법의 성능을 확인하였다.

• Proceedings of the Korea Multimedia Society Conference
• /
• 2002.05c
• /
• pp.336-341
• /
• 2002

본 연구에서는 엔트로피 최적화를 위한 목적함수의 근을 구하기 위해 단순히 함수 값만을 이용하여 계산을 근사화한 할선법에 기초한 고정점 알고리즘의 독립성분분석 기법을 제안하였다. 이렇게 하면 기존의 뉴우턴법에 기초한 고정점 알고리즘에서 요구되는 복잡한 도함수의 계산과정을 간략화 할 수 있어 더 우수한 학습성능의 독립성분분석이 가능하다. 제안된 학습알고리즘의 독립성분분석 기법을 512$\times$512의 픽셀을 가지는 10개의 영상을 대상으로 임의의 혼합행렬에 따라 발생되는 혼합영상들을 실험하였다. 실험결과, 기존의 뉴우턴법에 기초한 고정점 알고리즘의 분석기법보다 빠른 학습속도와 개선된 분리성능이 있음을 확인하였다. 특히 기존의 알고리즘에서 임의로 설정되는 초기값에 덜 의존하는 학습성능이 있음도 확인할 수 있었다.

• The KIPS Transactions:PartB
• /
• v.13B no.6 s.109
• /
• pp.625-632
• /
• 2006

Collaborative filtering is a technology that aims at teaming predictive models of user preferences. Collaborative filtering systems have succeeded in Ecommerce market but they have shortcomings of high dimensionality and sparsity. In this paper we propose the nearest neighbor collaborative filtering method using non-negative matrix factorization(NNMF). We replace the missing values in the user-item matrix by using the user variance coefficient method as preprocessing for matrix decomposition and apply non-negative factorization to the matrix. The positive decomposition method using the non-negative decomposition represents users as semantic vectors and classifies the users into groups based on semantic relations. We compute the similarity between users by using vector similarity and selects the nearest neighbors based on the similarity. We predict the missing values of items that didn't rate by a new user based on the values that the nearest neighbors rated items.

• The KIPS Transactions:PartB
• /
• v.10B no.4
• /
• pp.397-402
• /
• 2003

This paper proposes an efficient fixed-point (FP) algorithm for improving performances of the independent component analysis (ICA) based on neural networks. The proposed algorithm is the FP algorithm based on Newton method for ICA using the adaptive learning parameters. The purpose of this algorithm is to improve the separation speed and performance by using the learning parameters in Newton method, which is based on the first order differential computation of entropy optimization function. The learning rate and the moment are adaptively adjusted according to an updating state of inverse mixing matrix. The proposed algorithm has been applied to the fingerprints and the images generated by random mixing matrix in the 8 fingerprints of 256${\times}$256-pixel and the 10 images of 512$\times$512-pixel, respectively. The simulation results show that the proposed algorithm has the separation speed and performance better than those using the conventional FP algorithm based on Newton method. Especially, the proposed algorithm gives relatively larger improvement degree as the problem size increases.