• 제목/요약/키워드: 잔차 블록

검색결과 31건 처리시간 0.023초

잔차 블록 기반의 깊은 합성곱 신경망을 통한 단일 영상 초해상도 복원 (Image Super-Resolution Using Deep Convolutional Neural Networks Based on Residual Blocks)

  • 김인구;유송현;정제창
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2018년도 추계학술대회
    • /
    • pp.62-65
    • /
    • 2018
  • 신경망은 깊어질수록 gradient vanishing/exploding과 같은 네트워크가 불안정해지는 문제가 발생 한다. 잔차 블록을 이용하여 이러한 문제를 해결 할 수 있다. 본 논문에서는 영상 인식 분야에서 훌륭한 성능을 보여준 잔차 블록 기반의 깊은 합성곱 신경망을 통한 단일 영상 초해상도 복원 기법을 제안 한다. 제안한 알고리듬은 EDSR에 사용된 잔차 블록을 다양한 크기의 합성곱 연산을 통해 영상의 특징들을 다르게 분석하도록 수정하고 VDSR과 비슷한 수준의 복잡도로 구성하여 향상된 성능을 얻었다. 실험 결과, VDSR에 비해 PSNR이 최대 0.1dB까지 증가했다.

  • PDF

자막방송을 위한 잔차 합성곱 순환 신경망 기반 음향 사건 분류 (Residual Convolutional Recurrent Neural Network-Based Sound Event Classification Applicable to Broadcast Captioning Services)

  • 김남균;김홍국;안충현
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2021년도 하계학술대회
    • /
    • pp.26-27
    • /
    • 2021
  • 본 논문에서는 자막방송 제공을 위해 방송콘텐츠를 이해하는 방법으로 잔차 합성곱 순환신경망 기반 음향 사건 분류 기법을 제안한다. 제안된 기법은 잔차 합성곱 신경망과 순환 신경망을 연결한 구조를 갖는다. 신경망의 입력 특징으로는 멜-필터벵크 특징을 활용하고, 잔차 합성곱 신경망은 하나의 스템 블록과 5개의 잔차 합성곱 신경망으로 구성된다. 잔차 합성곱 신경망은 잔차 학습으로 구성된 합성곱 신경망과 기존의 합성곱 신경망 대비 특징맵의 표현 능력 향상을 위해 합성곱 블록 주의 모듈로 구성한다. 추출된 특징맵은 순환 신경망에 연결되고, 최종적으로 음향 사건 종류와 시간정보를 추출하는 완전연결층으로 연결되는 구조를 활용한다. 제안된 모델 훈련을 위해 라벨링되지 않는 데이터 활용이 가능한 평균 교사 모델을 기반으로 훈련하였다. 제안된 모델의 성능평가를 위해 DCASE 2020 챌린지 Task 4 데이터 셋을 활용하였으며, 성능 평가 결과 46.8%의 이벤트 단위의 F1-score를 얻을 수 있었다.

  • PDF

적응형 가중치 잔차 블록을 적용한 다중 블록 구조 기반의 단일 영상 초해상도 기법 (Single Image Super Resolution using Multi Grouped Block with Adaptive Weighted Residual Blocks)

  • 한현호
    • 디지털정책학회지
    • /
    • 제3권3호
    • /
    • pp.9-14
    • /
    • 2024
  • 본 논문은 단일 영상 기반의 초해상도에서 결과의 품질을 개선하기 위해 적응형 가중치를 적용한 잔차 블록으로 구성된 다중 블록 구조를 이용하는 방법을 제안하였다. 딥러닝을 이용한 초해상도를 생성하는 과정에서 품질 향상을 위한 가장 중요한 요소는 특징 추출 및 적용이다. 해상도가 낮아 이미 손실된 세부사항을 복원하기 위해 다양한 특징을 추출하는 것이 최우선이지만 네트워크의 구조가 깊어지거나 복잡해지는 등의 문제가 발생하기 때문에 실제 적용에서 제한사항이 있다. 따라서 특징 추출 과정은 효율적으로 구성하고 적용 과정을 개선하여 품질을 개선하였다. 이를 위해 최초 특징 추출 이후 다중 블록 구조를 구성하였고 블록 내부에는 중첩된 잔차 블록을 구성한 뒤 적응형 가중치를 적용하였다. 또한 최종 고해상도 복원을 위해 다중 커널을 이용한 영상 재구성 과정을 적용함으로써 결과물의 품질을 향상시켰다. 평가를 위해 원본 영상 대비 PSNR과 SSIM 값을 구하였고 기존 알고리즘과 비교하여 제안하는 방법의 성능 향상을 확인하였다.

스케일러블 비디오 부호화에서 선택적 계층간 차분 신호 부호화 및 공간적 향상 계층에서의 모드 결정 (Selective Inter-layer Residual Prediction Coding and Fast Mode Decision for Spatial Enhancement Layers in Scalable Video Coding)

  • 이범식;함상진;박창섭;박근수;김문철
    • 방송공학회논문지
    • /
    • 제12권6호
    • /
    • pp.596-610
    • /
    • 2007
  • 본 논문에서는 스케일러블 비디오 부호화기의 복잡도 감소를 위해, 공간 계층간 잔차 신호 부호화를 선택적으로 수행하고 그 정보를 바탕으로 향상 계층에서 모드를 고속으로 결정하는 방법에 대해 소개한다. 계층간 잔차 신호 부호화는 스케일러블 비디오 부호화에서 공간 계층간 상관도를 이용하여 계층간의 두 잔차 신호에 대한 차 신호를 부호화하는 방법으로서 부호화 효율을 증대 할 수 있는 장점이 있으나 향상 계층의 모든 화면간 모드에 대해 율-왜곡 비용을 계산하기 때문에 부호화기의 복잡도를 크게 증가시키는 주요 요인이 된다. 제안 알고리듬은 하위 계층으로부터 업샘플된 잔차 신호와, 하위 계층의 움직임 벡터, 참조 화면 정보를 이용하여 향상 계층에서 얻은 잔차 신호의 SAD값을 통해 정수 변환 계수의 특징을 미리 판별하여 계층간 잔차 신호 부호화를 선택적으로 수행하는 방법이다. 제안 알고리듬에서는 계층간 잔차 영상의 차 신호에 대한 SAD값에 양자화 계수와 시간 계위에 따라 문턱치 값을 적응적으로 적용시키면서 SAD가 적응적으로 설정된 문턱치 보다 작을때는 잔차 블록에 대한 정수변환 계수가 매우 작다고 판단하여 그 블록에 대해서는 선택적으로 계층간 잔차 부호화를 수행하고 역시 공간적 향상 계층에서 $16{\times}16$블록에 대해서만 율-왜곡 최적화를 수행한다. 따라서 계층간 차분 신호에 대한 SAD값만으로 정수변환계수의 특성을 양자화 계수와 시간 계위에 따라 분류하여 고속의 부호화를 달성함으로써 SVC 부호화기의 복잡도 및 부호화 시간을 크게 감소 시켰다. 제안 알고리듬을 적용하면 다양한 특성을 갖는 영상에 대하여 부호화 시간을 원래의 SVC 참조 소프트웨어 대비 평균 51.5%의 부호화 속도를 향상하였음에도 이에 따른 PSNR의 감소는 평균 0.03dB, 비트율의 증가는 0.64%로 무시할 수 있을 정도로 작았다.

제 2차 잔차 변환을 이용한 HEVC 무손실 인트라 코딩 (Secondary Residual Transform for Lossless Intra Coding in HEVC)

  • 곽재희;이영렬
    • 방송공학회논문지
    • /
    • 제17권5호
    • /
    • pp.734-741
    • /
    • 2012
  • 차세대 영상압축 표준인 HEVC (High Efficiency Video Coding)에 적용되는 새로운 인트라 코딩 기법은 잔차 변환을 기반으로 하고 있다. HEVC는 공간상의 중복성을 줄이기 위해 다양한 방향의 공간 예측 방식을 하도록 만들어졌으며, 이를 위해 부호화 하려는 블록의 주변 화소들을 활용하고 있다. 본 논문에서 제안하는 HEVC 표준에서의 새로운 무손실 인트라 코딩 방식은, 공간적 예측을 위해 화소 단위 DPCM (Difference Pulse Code Modulation)을 수행하면서도 잔차 변환과, 잔차 변환의 결과로 얻어지는 잔차 신호에 대해 잔차 변환을 재차 시행하는 제 2차 잔차 변환을 사용하여 블록 단위 처리 구조를 유지하고 있다. 결과에서 보여지는 대로, 새로운 무손실 인트라 코딩 방식은 기존의 HEVC 표준과 비교하였을때 비트레이트를 평균 약 6.45%정도 감소시킨다.

비디오 코딩을 위한 다중 잔차신호 플리핑 및 변환 방법 (Multiple Transform and Residual Flipping for Video Coding)

  • 김남욱;강정원;임성창;이영렬
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2018년도 하계학술대회
    • /
    • pp.141-144
    • /
    • 2018
  • 비디오 압축에서, 변환은 데이터를 공간 영역에서 주파수 영역으로 변환 함으로써 에너지 압축에서 중요한 역할을 수행한다. HEVC(High Efficiency Video Coding)에서는 DCT-II(Discrete Cosine Transform type-II)를 사용하여 잔차신호 변환을 수행한다. DCT-II는 픽셀간 상관도가 높은 신호일수록 높은 에너지 집중도를 보이지만, 픽셀간 상관도가 비교적 낮은 블록일수록 낮은 에너지 집중도를 보인다. 본 논문에서는 DST-VII(Discrete Sine Transform type-VII) 및 잔차신호 플리핑을 사용하여 다양한 변환 방법으로 영상을 부호화 및 복호화 하는 알고리즘에 대해 제안한다. 다양한 변환 방법은 부호화기에서 블록단위로 1 가지를 선택하여 비트스트림으로 선택된 방법에 대한 정보를 전송한다. 제안된 방법은 HEVC 대비 약 2.47%의 BD-rate 감소를 보인다.

  • PDF

HEVC 코딩 트리 블록 분할 구조 고속 결정 방법 (A Fast Partition Structure Decision Method in a Coding Tree Block of HEVC)

  • 정순흥;김휘용
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2016년도 추계학술대회
    • /
    • pp.53-56
    • /
    • 2016
  • 본 논문에서는 HEVC 부호화시 코딩 트리 블록의 분할 구조를 고속 결정하는 방법을 제안한다. 코딩 트리블록은 다양한 크기의 코딩 블록으로 구성되어 부호화 효율을 향상시키지만, 구성되는 코딩 블록을 결정하기 위한 과정에서 많은 계산량을 필요로 하게 되어 부호화 시간을 증가시킨다. 제안하는 방법에서는 부호화 과정에서 복원된 잔차신호와 코딩 트리 블록의 분할 구조의 상관성을 이용하여 코딩 트리 블록의 분할 구조를 고속으로 결정하는 방법을 제시한다. 실험 결과를 통해 제안된 방법이 HM16.0 에 비해 random-access configuration 에서 50.98%, low-delay configuration 에서 43.77%의 부호화 시간을 감소시키는 것을 확인하였다. 이때, $BD-rate_{YUV}$ 증가는 각각 2.42%와 2.35%로 부호화 효율에는 미치는 영향은 낮았다.

  • PDF

Deep Learning Network를 이용한 Video Codec에서 휘도성분 노이즈 제거 (Luma Noise Reduction using Deep Learning Network in Video Codec)

  • 김양우;이영렬
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2019년도 하계학술대회
    • /
    • pp.272-273
    • /
    • 2019
  • VVC(Versatile Video Coding)는 YUV 입력 영상에 대하여 Luma 성분과 Chroma 성분에 대하여 각각 다른 최적의 방법으로 블록분할 후 해당 블록에 대해서 화면 내 예측 또는 화면 간 예측을 수행하고, 예측영상과 원본영상의 차이를 변환, 양자화하여 압축한다. 이 과정에서 복원영상에는 블록화 노이즈, 링잉 노이즈, 블러링 노이즈 발생한다. 본 논문에서는 인코더에서 원본영상과 복원영상의 잔차신호에 대한 MAE(Mean Absolute Error)를 추가정보로 전송하여 이 추가정보와 복원영상을 이용하여 Deep Learning 기반의 신경망 네트워크로 영상의 품질을 높이는 방법을 제안한다. 복원영상의 노이즈를 감소시키기 위하여 영상을 $32{\times}32$블록의 임의로 분할하고, DenseNet기반의 UNet 구조로 네트워크를 구성하였다.

  • PDF

CR-DPCM을 이용한 HEVC 무손실 인트라 예측 방법 (CR-DPCM for Lossless Intra Prediction Method in HEVC)

  • 홍성욱;이영렬
    • 방송공학회논문지
    • /
    • 제19권3호
    • /
    • pp.307-315
    • /
    • 2014
  • 차세대 영상압축 표준인 HEVC(High Efficiency Video Coding)에 적용 가능한 무손실 인트라 예측 방법 CR-DPCM(Cross-Residual Difference Pulse Code Modulation)을 제안한다. HEVC는 공간상의 중복성을 줄이기 위해 다양한 방향의 예측을 하도록 만들어졌으며, 이를 위해 부호화 하려는 블록의 주변 화소들을 사용하고 있다. 본 논문에서 제안하는 HEVC 적용 가능한 무손실 인트라 예측 방법은, 예측을 위해 화소 단위 DPCM을 수행하면서도 잔차 변환과, 잔차 변환의 결과로 얻어지는 잔차 신호에 대해 2차로 진행하는 잔차 변환을 예측 방향에 맞추어 교차시키는 CR-DPCM 방법을 사용하며, 이는 기존 제안한 방법인 제 2차 잔차 변환(Secondary Residual Transform)보다 높은 성능 향상을 가진다. 제안하는 무손실 인트라 코딩 방식인 CR-DPCM 방법은 기존의 HEVC 표준 방법과 비교 하였을 때 bit-rate 평균 약 8.43%정도 감소시키며, JPEG2000 무손실 압축 방법과 비교해서도 높은 성능 향상을 가진다.

영상 부호화 효율 향상을 위한 새로운 화면간 부호화 방법 (New Inter Coding Scheme for Improving Video Coding Efficiency)

  • 김지언;조재규;오승준
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송공학회 2010년도 추계학술대회
    • /
    • pp.252-253
    • /
    • 2010
  • H.264/AVC는 P 슬라이스에 2개의 인트라 모드, 4개의 인터 모드 그리고 SKIP모드, 총 7개의 모드를 허용한다. 다양한 블록 모드들을 효율적으로 이용하기 위하여 RDO를 통하여 최적의 모드를 결정한다. 그러나 SKIP 모드의 RD 점과 다른 모드들의 RD점 사이의 간격이 넓은 문제점이 있다. 이러한 문제점은 부호화 성능에 영향을 미친다. 본 논문에서는 SKIP 모드와 4개의 인터 모드 사이의 RD 성능의 중간 성격을 지니는 새로운 인터 모드를 제안한다. 제안하는 방법은 inter16x16의 움직임 정보와 inter16x16의 움직임 정보를 이용하여 찾은 예측 블록에 대한 잔차 블록의 평균 에너지만을 보내준다. 실험 결과 제안하는 방법은 H.264/AVC의 참조 소프트웨어인 JM 17.0에 비하여 WQVGA 영상에서 평균 0.71%의 비트 감소를 나타내었다.

  • PDF