The Segmented Polynomial Curve Fitting for Improving Non-linear Gamma Curve Algorithm

In this paper, we proposed non-linear gamma curve algorithm for gamma correction. The previous non-linear gamma curve algorithm is generated by the least square polynomial using the Gauss-Jordan inverse matrix. However, the previous algorithm has some weak points. When calculating coefficients using inverse matrix of higher degree, occurred truncation errors. Also, only if input sample points are existed regular interval on 10-bit scale, the least square polynomial is accurately works. To compensate weak-points, we calculated accurate coefficients of polynomial using eigenvalue and orthogonal value of mat11x from singular value decomposition (SVD) and QR decomposition of vandemond matrix. Also, we used input data part segmentation, then we performed polynomial curve fitting and merged curve fitting results. When compared the previous method and proposed method using the mean square error (MSE) and the standard deviation (STD), the proposed segmented polynomial curve fitting is highly accuracy that MSE under the least significant bit (LSB) error range is approximately $10^{-9}$ and STD is about $10^{-5}$.

비선형 감마 곡선 알고리즘 개선을 위한 구간 분할 다항식 곡선 접합

본 논문은 감마보정을 위한 비선형 곡선 알고리즘의 개선에 관한 연구이다. 기존의 비선형 감마 곡선 생성 방법은 Gauss-Jordan 역행렬을 적용한 최소 자승 다항식(Least Square Polynomial)을 사용하였다. 이 방법은 다항식 계수 값 계산 과정 중 고차행렬의 역행렬 연산에서 $10^{-11}$ 이하의 매우 작은 값은 절단함으로써 곡선접합의 정밀도가 감소된다. 또한 입력으로 사용되는 샘플 포인트가 10-bit 기준으로 0~1023의 밝기 값에 대하여 고루 분포되어있는 경우에만 정확한 동작이 가능하다. 본 논문은 이러한 기존 알고리즘의 단점을 보완하기 위하여, 고차 다항식의 계수 값을 반데몬드 행렬(Vandemond Matrix)에 SVD분해(Singular Value Decomposition)와 QR분해법(QR Decomposition)을 적용하여 행렬의 고유치와 직교성분만으로 연산하였다 또한, 입력 데이터의 구간을 분할하여 각 구간의 다항식을 생성하고, 새롭게 생성된 다항식을 이용하여 곡선 접합을 수행하도록 하였다. 입력 데이터와 곡선 접합결과의 평균제곱오차(Mean Square Error: MSE)와 표준편차(Standard Deviation: STD)를 통한 오차율 비교 결과 최하위 비트(Least Significant Bit: LSB) 에러 범위에서 MSE가 약 $10^{-9}$ 이고 STD는 약 $10^{-5}$로 정밀도가 향상되었다.