• 정보처리학회논문지B
• /
• 제8B권4호
• /
• pp.343-350
• /
• 2001

백터 양자화기 설계는 다차원의 목적함수를 최소화하는 학습 알고리즘을 필요로 한다. 일반화된 Lloyd 방법(GLA)은 벡터 양자화기 설계를 위해 오늘날 가장 널리 사용되는 알고리즘이다. GLA 는 일괄처리(batch) 방식으로 코드북을 생성하며 목적함수를 단조 감소시키는 강하법(descent algorithm)의 일종이다. 한편 Kohonen 학습법(KLA)은 학습벡터가 입력되는 동안 코드북이 갱신되는 온라인 벡터 양자화기 설계 알고리즘 이다. KLA는 원래 신경망 학습을 위해 Kohonen에 의해 제안되었다. KLA 역시 GLA와 마찬가지로 강하법의 일종이라 할 수 있다. 따라서 이들 두 알고리즘은, 비록 사용하기 편리하고 안정적으로 동작을 하지만, 극소(local minimum) 점으로 수렴하는 문제를 안고 있다. 우리는 이 문제와 관련하여 simulated annealing(SA) 방법의 응용을 논하고자 한다. SA는 현재까지 극소에 빠지지 않고 최소(global minimum)로 수렴하면서, 해의 수렴이 (통계적으로) 보장되는 유일한 방법이라 할 수 있다. 우리는 먼저 GLA에 SA를 응용한 그 동안의 연구를 개괄한다. 다음으로 온라인 방식의 벡터 양자화가 설계에 SA 방법을 응용함으로써 SA 방법에 기초한 새로운 온라인 학습 알고리즘을 제안한다. 우리는 이 알고리즘을 OLVQ-SA 알고리즘이라 부르기로 한다. 가우스-마코프 소스와 음성데이터에 대한 벡터양자화 실험 결과 제안된 방법이 KLA 보다 일관되게 우수한 코드북을 생성함을 보인다.

• 한국콘텐츠학회논문지
• /
• 제9권1호
• /
• pp.106-114
• /
• 2009

본 논문에서 K-Means 군집화 알고리즘을 빠르게 적용하는 방법을 제안했다. 제안하는 알고리즘의 특징은 속도 향상을 위해 변화될 가능성이 있는 데이터를 예측하는 것이다. 군집화 알고리즘의 각 단계에서 군집이 변경될 가능성이 있는 데이터만 선택하여 군집 중심과의 거리를 계산함으로써 전체 군집 계산 시간을 줄일 수 있었다. 군집이 변화될 예측 데이터를 계산할 때는 K-Means 알고리즘을 적용하면서 생성되는 거리 정보를 사용함으로써 추가되는 계산 시간이 적고, 특히, 거리 정보를 이용하기 때문에 차원의 개수에는 영향을 덜 받는 알고리즘을 제안할 수 있었다. 제안하는 알고리즘의 성능 비교를 위해서 원래의 K-Means인 Lloyd's와 이를 개선한 KMHybrid와 비교했다. 제안하는 알고리즘은 대용량 데이터( 입력 데이터의 크기가 크고, 데이터의 차원이 크며, 군집의 개수가 많은 경우)의 경우에 Lloyd's와 KMHybrid보다 높은 속도 향상을 보였다.

• 전자공학회논문지B
• /
• 제31B권7호
• /
• pp.26-32
• /
• 1994

The Lloyd-Max algorithm is an iterative scheme for design of the minimum mean square error quantizer. It is very simple in concept and easy to program into a computer. However its convergence and accuracy are primarily dependent upon the accuracy of the initial parameter. In this paper, a new initial parameter which converges to a specific value when the number of output levels becomes large is selected. And an estimator using curve fitting techique is suggested. In addition, performance of the proposed method is shown to be superior to that of the existing methods in accuracy and convergence.

• 한국지능시스템학회논문지
• /
• 제25권2호
• /
• pp.133-138
• /
• 2015

본 논문에서는 비균일 양자화에 기반을 둔 영상의 질감분석에 널리 이용되고 있는 gray level co-occurrence matrix(GLCM)의 성능개선을 제안하였다. 여기서 비균일 양자화는 평균자승오차의 최소화를 위한 반복계산 기법인 Lloyd 알고리즘을 이용하였다. 이는 영상에서의 비균일 양자화 과정으로 얻어지는 비선형의 명암레벨을 GLCM의 생성에 이용함으로써 행렬의 차원을 감소시켜, GLCM의 생성과 질감특성 파라미터들의 계산에 따른 부하를 줄이기 위함이다. 제안된 기법을 30개의 $120{\times}120$ 픽셀의 256 그레이 레벨을 가진 영상들을 대상으로 적용하여 angular second moment, contrast, variance, entropy, correlation, inverse difference moment 6개의 질감특성 파라미터들을 각각 계산한 실험결과, 양자화를 수행하지 않은 256 레벨 GLCM에 비해 계산시간과 저장 공간에서 개선된 성능이 있음을 확인하였다. 특히 48, 32, 16, 12, 8의 비균일 양자화 레벨 중에서 16일 때 가장 우수한 질감특성분석 성능이 있음을 알 수 있었다.

• 디지털콘텐츠학회 논문지
• /
• 제15권3호
• /
• pp.365-371
• /
• 2014

빅 데이터(Big Data)시대로 접어들면서 기존의 IT 환경에서 만들어진 알고리즘들은 하둡과 같은 분산 아키텍처에 그대로 적용할 수 없거나 효율이 떨어진다. 따라서, 맵리듀스와 같은 분산 프레임워크를 적용한 새로운 알고리즘들이 필요하다. 벡터 양자화에 많이 사용되는 Lloyd의 알고리즘도 맵리듀스를 사용하여 개발이 이루어지고 있다. 본 논문에서는 기존의 맵리듀스를 사용한 분산 VQ 코드북 생성 알고리즘을 수정하여 좀 더 빠른 분석 결과를 보일 수 있는 디컴바인드 분산 VQ 코드북 생성 알고리즘을 제안하였다. 제안하는 알고리즘을 빅 데이터에 적용한 결과 기존 방법보다 높은 성능을 보인 것을 확인할 수 있었다.

• 전기전자학회논문지
• /
• 제22권3호
• /
• pp.558-564
• /
• 2018

In distributed estimation where each node can collect only partial information on the parameter of interest without communication between nodes and quantize it before transmission to a fusion node which conducts estimation of the parameter, we consider a novel quantization technique employed at local nodes. It should be noted that the performance can be greatly improved if each node can transmit its measurement to one designated node (namely, head node) which can quantize its estimate using the total rate available in the system. For this case, the best strategy at the head node would be simply to partition the parameter space using the generalized Lloyd algorithm, producing the global codewords, one of which is closest to the estimate is transmitted to a fusion node. In this paper, we propose an iterative design algorithm that seeks to efficiently assign the codewords into each of quantization partitions at nodes so as to achieve the performance close to that of the system with the head node. We show through extensive experiments that the proposed algorithm offers a performance improvement in rate-distortion perspective as compared with previous novel techniques.

• 한국음향학회지
• /
• 제29권4호
• /
• pp.286-293
• /
• 2010

기존 데이터 압축 방식에는 크게 resolution-constrained quantization (RCQ) 방식과entropy-constrained quantization (ECQ) 방식이 있다. RCQ 방식은 고정 비트율 전송을 가능하게 하지만 셀 크기의 변화에 따른 이상 신호왜곡이 발생하며, ECQ 방식은 셀 크기가 고정된 대신에 이상 비트율 할당 문제가 발생한다. 본 논문에서는 기존 RCQ 방식의 대표적인 학습기법인 generalized Lloyd algorithm (GLA)을 개선한 cell-size constrained vector quantization (CCVQ) 방식을 제안한다. CCVQ 알고리즘은 셀 크기에 따라 유동적으로 패널티 척도를 주는 방식으로 기존의 RCQ와 ECQ 사이의 soft-decision을 가능하게 한다. 제안 알고리즘을 사용할 경우 기존의 GLA에 비해 약간의 평균왜곡 증가는 발생하나 이상 신호왜곡을 줄일 수 있다.

• 대한전자공학회논문지SP
• /
• 제40권2호
• /
• pp.11-19
• /
• 2003

본 논문에서는 3대역 RGB카메라를 이용하여 분광 반사율을 추정할 때 추정오차를 개선하는 방법을 제안한다. 제안된 방법에서는 색상의 영역별로 적응적인 주성분 집합을 구성함으로써 추정오차를 줄였다. 이때 적응적인 주성분 집합을 구성하기 위하여 Lloyd양자화기 설계 알고리즘을 적용하여 N개의 주성분 집합을 구성하기 위한 분광반사율 모집단을 구성하였다. 전체 모집단으로 사용한 1485 Munsell 색시료의 대표값을 찾아내기 위해서, 초기값으로 Macbeth Color Checker를 사용하였으며 Lloyd 알고리즘의 반복 적용으로 분광 반사율 모집단 전체를 영역별로 분류하고 각 영역에 대하여 주성분 분석을 통해 적응적인 주성분 집합을 구성하였다. 실험 결과, 제안한 방법은 색차 및 분광 반사율에 대한 평균자승오차가 기존의 두 가지의 3대역 주성분 분석 방법 및 5대역 위너 추정을 이용한 분광 반사율 추정 방법보다 개선됨을 확인하였다.

• Journal of information and communication convergence engineering
• /
• 제9권2호
• /
• pp.193-196
• /
• 2011

Transmit antenna selection techniques are prominent since they exploit the spatial selectivity at the transmitter side. In the literature, antenna selection techniques assume full knowledge of the channel state information (CSI). In this paper, we consider that the CSI is not perfectly known at the transmitter; however, a quantized version of the channel coefficients is fed back by the users. We employ the non-uniform Lloyd-Max quantization algorithm which takes into consideration the distribution of the channel coefficients. Simulation results show that the degradation in the BER of the system with imperfect CSI at the transmitter is tolerable, especially when the transmit diversity order is high.

• 한국지능시스템학회논문지
• /
• 제26권5호
• /
• pp.375-382
• /
• 2016

본 논문에서는 다차원 인접화소 간 명암차 기반 극좌표의 비선형 양자화 히스토그램을 이용한 서명인식을 제안한다. 다차원 인접화소 간 명암차는 기준화소를 중심으로 횡방향, 종방향, 대각 방향, 역대각 방향 각각의 이웃화소 간 명암차이고, 극좌표는 횡과 종 방향 및 대각과 비대각 방향 각각의 직교좌표로부터 변환된 좌표이며, 비선형 양자화 히스토그램은 반복계산 기법인 Lloyd 알고리즘에 의해 극좌표 값을 비균일 양자화한 히스토그램이다. 여기서 4방향 명암차의 극좌표 히스토그램은 대응하는 화소간의 상관성을 좀 더 많이 고려할 뿐만 아니라 히스토그램의 수를 감소시켜 계산부하를 줄이기 위함이다. 또한 비선형 양자화는 화소간의 명암변화의 속성을 더욱 더 잘 반영할 뿐만 아니라 저차원의 히스토그램 레벨을 얻기 위함이다. 제안된 기법을 256*256 픽셀의 90개(3인*30개) 서명들을 대상으로 city-block거리, Euclidean 거리, 순서값, 그리고 정규상호상관계수 각각의 정합척도에 기반 한 실험결과, 선형 양자화 기반 히스토그램에 비해 우수한 인식성능을 가지며, Euclidean 거리가 가장 우수한 정합척도임을 확인하였다.