• 제목/요약/키워드: Rate-distortion optimization (RDO)

검색결과 48건 처리시간 0.024초

Two-Step Rate Distortion Optimization Algorithm for High Efficiency Video Coding

  • Goswami, Kalyan;Lee, Dae Yeol;Kim, Jongho;Jeong, Seyoon;Kim, Hui Yong;Kim, Byung-Gyu
    • Journal of Multimedia Information System
    • /
    • 제4권4호
    • /
    • pp.311-316
    • /
    • 2017
  • High Efficiency Video Coding (HEVC) is the newest video coding standard for improvement in video data compression. This new standard provides a significant improvement in picture quality, especially for high-resolution videos. A quadtree-based structure is created for the encoding and decoding processes and the rate-distortion (RD) cost is calculated for all possible dimensions of coding units in the quadtree. To get the best combination of the block an optimization process is performed in the encoder, called rate distortion optimization (RDO). In this work we are proposing a novel approach to enhance the overall RDO process of HEVC encoder. The proposed algorithm is performed in two steps. In the first step, like HEVC, it performs general rate distortion optimization. The second step is an extra checking where a SSIM based cost is evaluated. Moreover, a fast SSIM (FSSIM) calculation technique is also proposed in this paper.

H.264 인트라 프레임의 Rate Distortion 성능 향상을 위한 모드 결정 기법 (Rate Distortion Improved Mode Decision Method for H.264 Intra Coding)

  • 유종민;최창렬;정제창
    • 한국통신학회논문지
    • /
    • 제33권8C호
    • /
    • pp.591-597
    • /
    • 2008
  • H.264/AVC는 기존 영상 압축 표준과 달리 Intra 부호화에서도 가변 크기 블록과 예측 부호화를 사용하여 압축 효율을 높이고 있다. 한 매크로 블록을 부호화 하는 경우 $I16{\times}16$ 모드에서 4가지, $I4{\times}4$ 모드에서 9가지 예측 모드 중 가장 좋은 성능을 보이는 모드를 선택하여 부호화를 행한다. 현재 H.264 참조 소프트웨어인 JM에서는 모드 결정 방법으로 RDO (Rate Distortion Optimization)를 채택하여 사용하고 있으며 이는 RD 관점에서 가장 좋은 성능을 보이는 모드를 선택하여 부호화를 행하는 것이다. 본 논문에서는 H.264/AVC Intra 부호화의 부호화 효율을 향상 시킬 수 있는 모드 결정 방법을 제안한다. RDO는 영상 부호화기에 적용되는 과정에서 복잡도를 줄이기 위하여 부호화 되는 단위 블록들의 부호화 결과는 독립이라는 가정을 하였다. 하지만 실제 H.264/AVC 인트라 부호화 구조는 인접 블록의 이미 부호화 된 픽셀 값을 사용함으로써 인접 블록의 부호화 결과에 영향을 받도록 되어있다. 때문에 제안하는 방법은 이 블록 간 부호화 결과가 종속이라는 점을 고려하여, 기존 RDO 내 $I4{\times}4$ 예측 모드 결정 과정 중 다음 블록의 예측을 위해 사용되는 현재 블록 내 화소 값의 왜곡에 중점을 두어 모드 결정을 하는 과정을 추가함으로써 압축 성능 향상을 꾀한다. 제안하는 모드 결정 방법은 다양한 시퀀스와 QP에서 같은 화질대비 $0.64{\sim}l.65%$의 비트율 감소나 같은 비트율 대비 $0.049{\sim}0.101dB$의 PSNR 향상을 보인다.

H.264를 위한 적응적인 비트-왜곡 최적화 방법 (An Adaptive Rate-Distortion Optimization Method for H.264 Video Codec)

  • 오관정;호요성
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2005년도 추계종합학술대회
    • /
    • pp.323-326
    • /
    • 2005
  • Several video coding standards, such as MPEG-4 and H.263, have been investigated to reduce the resulting number of bits while pursuing the maximum video quality. The recent video coding standard, H.264, provides higher coding efficiency than previous coding standards by using the mode decision scheme. For mode decision, H.264 chooses the best macroblock mode among the several candidates using Lagrangian cost function which reflects both the rate and the distortion. H.264 employs only one rate-distortion optimization (RDO) model for all macroblocks. Since the characteristics of each macroblock is different, each macroblock should have its own RDO model. In this paper, we propose an adaptive rate-distortion optimization algorithm for H.264. We regulate the Lagrangian multiplier considering the picture type and characteristics of each macroblock.

  • PDF

매크로블록의 특성을 이용한 적응적인 라그랑지안 계수의 선정 방법 (Adaptive Lagrange Multiplier Selection Scheme using Characteristics of Macroblocks)

  • 최경석;강현수
    • 한국콘텐츠학회논문지
    • /
    • 제9권4호
    • /
    • pp.27-33
    • /
    • 2009
  • 비디오 부호화에서의 라그랑지안 계수의 선정은 Rate-Distortion Optimization의 성능을 결정하는 중요한 요소이다. H.264의 참조소프트웨어인 JM에서는 모든 매크로블록에 하나의 RDO모델을 사용한다. 그러나 각각의 매크로블록의 특성은 다르기 때문에 그에 맞는 RDO모델을 적용함으로써 성능향상을 기대할 수 있다. 본 논문에서는 매크로블록의 특성에 따라서 적응적인 RDO알고리즘을 제안한다. 우리는 실험적으로 각 매크로블록의 특성에 따른 최적의 라그랑지안 계수를 얻었다. 성능평가를 위하여 제안한 알고리즘은 참조 소프트웨어 JM10.2에 적용되었고, 실험결과 약 0.2dB정도의 화질 향상을 얻을 수 있었다.

3D-Distortion Based Rate Distortion Optimization for Video-Based Point Cloud Compression

  • Yihao Fu;Liquan Shen;Tianyi Chen
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제17권2호
    • /
    • pp.435-449
    • /
    • 2023
  • The state-of-the-art video-based point cloud compression(V-PCC) has a high efficiency of compressing 3D point cloud by projecting points onto 2D images. These images are then padded and compressed by High-Efficiency Video Coding(HEVC). Pixels in padded 2D images are classified into three groups including origin pixels, padded pixels and unoccupied pixels. Origin pixels are generated from projection of 3D point cloud. Padded pixels and unoccupied pixels are generated by copying values from origin pixels during image padding. For padded pixels, they are reconstructed to 3D space during geometry reconstruction as well as origin pixels. For unoccupied pixels, they are not reconstructed. The rate distortion optimization(RDO) used in HEVC is mainly aimed at keeping the balance between video distortion and video bitrates. However, traditional RDO is unreliable for padded pixels and unoccupied pixels, which leads to significant waste of bits in geometry reconstruction. In this paper, we propose a new RDO scheme which takes 3D-Distortion into account instead of traditional video distortion for padded pixels and unoccupied pixels. Firstly, these pixels are classified based on the occupancy map. Secondly, different strategies are applied to these pixels to calculate their 3D-Distortions. Finally, the obtained 3D-Distortions replace the sum square error(SSE) during the full RDO process in intra prediction and inter prediction. The proposed method is applied to geometry frames. Experimental results show that the proposed algorithm achieves an average of 31.41% and 6.14% bitrate saving for D1 metric in Random Access setting and All Intra setting on geometry videos compared with V-PCC anchor.

H.264에서 간소화된 기법에 의한 왜곡치 예측 (Simplified Approach for Distortion Estimation in H.264)

  • 박기홍;김윤호
    • 한국항행학회논문지
    • /
    • 제14권3호
    • /
    • pp.446-451
    • /
    • 2010
  • 본 논문은 H.264에서 모드 결정을 위한 간소화된 왜곡치 예측 방법을 소개하였다. 왜곡치 계산은 양자화된 변환 계수와 역양자화된 변환 계수의 차이로 계산되는데, 일반적으로 이 과정은 DCT 변환, 양자화, 역양자화 및 역 DCT 변환이 수행되어져야 한다. 제안하는 방식에서는 왜곡치를 계산하기 위하여 일련의 간소화된 수식을 사용함으로써 역양자화 및 역 DCT 과정을 생략하였다. 실험결과, PSNR은 거의 일치하면서도, RDO 모드 결정 시간은 기존의 방식보다 8~15 %의 감소를 보였다.

RDO-based joint bit allocation for MPEG G-PCC

  • Ye, Xiangyu;Cui, Li;Chang, Eun-Young;Cha, Jihun;Ahn, Jae Young;Jang, Euee S.
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2021년도 하계학술대회
    • /
    • pp.81-84
    • /
    • 2021
  • In this paper, a rate-distortion optimization (RDO) model is proposed to find the joint bit allocation of geometry data and color data based on geometry-based point cloud compression (G-PCC) of Moving Picture Experts Group (MPEG). The mechanism of the method is to construct the RD models for geometry and color data through the training process. Afterward, two rate-distortion (RD) models are integrated as well as the decision of the parameter λ to obtain the final RDO model. The experimental results show that the proposed method can decrease 20% of the geometry Bjøntegaard delta bit rate and increase 37% of the color Bjøntegaard delta bit rate compared to the MPEG G-PCC TMC13v12.0 software.

  • PDF

에지 및 상대적 RMD 비용을 고려한 HEVC 고속 화면내 부호화 모드 결정 방법 (Edge and Relative RMD Cost based Fast Intra Prediction Mode Decision in HEVC)

  • 권대혁;최해철
    • 전자공학회논문지
    • /
    • 제51권10호
    • /
    • pp.154-163
    • /
    • 2014
  • 본 논문에서는 HEVC를 위한 고속 화면내 부호화 모드 결정 방법을 제안한다. 제안방법은 화면내 부호화의 RMD(Rough Mode Decision) 및 RDO(Rate-Distortion Optimization) 과정에서 고려하는 각 후보 수를 줄여 화면내 부호화 과정에서의 복잡도를 감소시킨다. RMD가 고려하는 후보 수를 줄이기 위하여 영상의 에지 방향성 및 강도를 활용하며, RDO가 고려하는 후보수를 줄이기 위하여 상대적 RMD cost 차이를 이용한다. 실험결과에서는 제안방법이 약 0.79% BD-rate의 부호화 손실만으로 26.81%의 부호화 복잡도를 감소시켰음을 보인다.

H.264/AVC 표준에서 역트리 구조를 이용하여 고속으로 화면내 모드를 결정하는 방법 (Fast Intra-Mode Decision for H.264/AVC using Inverse Tree-Structure)

  • 고현석;유기원;서정동;손광훈
    • 방송공학회논문지
    • /
    • 제13권3호
    • /
    • pp.310-318
    • /
    • 2008
  • H.264/AVC는 각 매크로블록에 대해서 최적의 부호화 모드와 참조 프레임을 결정해 주는 RDO (Rate-Distortion Optimization) 기법을 사용하여 기존의 비디오 압축 표준보다 더 좋은 부호화 효율을 얻고 있다. 하지만, RDO 기법은 하나의 매크로블록 모드를 결정할 때마다, 다양한 블록 타입의 화면내 (Intra) 예측을 수행하고 화면간 (Inter) 예측에 대해서도 1/4 화소까지 고려하는 움직임 추정(Motion Estimation)을 수행한 후 발생되는 비트까지 고려하여 최적의 모드를 결정하기 때문에 부호화기의 복잡도가 매우 큰 문제점이 있다. 따라서 영상의 객관적 화질은 유지하면서 부호화기의 복잡도를 낮추기 위한 많은 고속 알고리즘들이 제안되었고 연구 중에 있다. 본 논문에서는, 역 트리 구조의 경계 방향 예측 알고리즘을 이용한 고속 화면내 모드 결정 기법을 제안한다. 제안된 방법은 $4{\times}4$ 블록의 지역 경계 정보를 이용하여 해당 블록의 DE (Dominant Edge)를 찾아내고 DE에 상응하는 화면내 모드를 이용하여 RDO를 수행한다 $8{\times}8$ 블록 (또는 $16{\times}16$ 블록)의 DE는 이전 단계 4개의 $4{\times}4$ 블록 (또는 $8{\times}8$ 블록) DE들로부터 계산되고, 이 단계에서의 RDO 또한 DE에 상응하는 화면내 모드를 이용한다. 실험결과 제안 방법은 화면내 부호화에 사용되는 후보 모드의 수를 줄임으로써 JM12.2와 비교하여 화면내 부호화 시간을 평균 64% 단축시킬 수 있었다.

H.264/AVC Scalability Extension의 부호화 효율 향상 기법 (A Method for Improvement of Coding Efficiency in Scalability Extension of H.264/AVC)

  • 강창수
    • 전자공학회논문지 IE
    • /
    • 제47권2호
    • /
    • pp.21-26
    • /
    • 2010
  • 본 논문에서는 H.264/AVC SE(Scalability Extension)의 부호화 효율을 향상시킬 수 있는 방법을 제안하였다. 제안한 방법은 율-왜곡 최적화 기법(Rate-Distortion Optimization, RDO)이 적용된 JM(Joint Model)의 FME(Fast Motion Estimation)를 대상으로 예측된 움직임 벡터의 방향성을 고려하여 탐색영역을 결정한 후 적용적인 후보 나선형 탐색을 수행한다. 다양한 영상들을 대상으로 실험한 결과 기존의 예측 방식에 최대 80%의 연산량을 줄일 수 있음을 확인하였다. 이에 따른 화질 열화는 평균 0.05dB-0.19dB에 불과하며, 압축률은 평균 0.58%의 미미한 감소를 보임으로써, 제안한 방법이 매우 효율적임을 확인하였다.