• 방송과미디어
• /
• 제25권2호
• /
• pp.7-16
• /
• 2020

최근 Ultra-High Definition(UHD) 등의 고해상도 디스플레이가 시장에 등장하고 이에 따라 소비자의 요구가 커지면서 기존의 Full-High Definition(FHD)과 같은 저해상도(Low Resolution, LR) 영상을 고해상도(High Resolution, HR) 영상으로 변환할 수 있는 초해상화(Super-Resolution) 알고리즘에 대한 관심이 커지고 있다. 그러나 기존의 전통적인 초해상화 기법들은 고해상도 영상을 복원하는 과정에서 디테일한 부분의 화질 저화 및 열화가 존재하는 것을 확인할 수 있다. 본 논문에서는 이러한 문제를 해결하기 위해 최근 널리 연구되고 있는 딥러닝 기반의 초해상화 알고리즘 연구의 최신 기술 현황 및 동향을 소개하고자 한다. 딥러닝 기반의 초해상화 알고리즘은 기존의 전통적인 기법들에 비해 높은 성능을 보여주고 있으며 현재까지도 다양한 네트워크가 제안되며 활발히 연구되고 있다. 본 논문에서는 딥러닝 기반의 초해상화 알고리즘 중 대표적인 네트워크들을 분석하고 다양한 데이터 셋에 대한 해당 네트워크의 실험 결과를 통해 딥러닝 기반의 초해상화 알고리즘의 우수성을 확인하고자 한다.

• 대한전기학회:학술대회논문집
• /
• 대한전기학회 2007년도 심포지엄 논문집 정보 및 제어부문
• /
• pp.109-110
• /
• 2007

본 논문에서는 베이시안 초해상도 영상처리시 저해상도 영상들을 고해상도 격자에 맞게 정합해서 업샘플링(upsampling)을 하는 새로운 방식에 대해 제안한다. 제안하는 업샘플링 방식은 각 장을 따로 보간하는 방식과 달리 여러 저해상도 영상의 고주파 정보가 고해상도 영상 격자의 모든 위치에 적절히 영향을 미칠 수 있도록 여러 장의 저해상도 영상의 고주파 정보를 함께 사용하여 보간한다. 보간하는 방법은 B-스플라인 (B-Spline) 기반 비정규 리샘플링(non-uniform resampling)을 기반으로 초해상도 영상처리에 맞도록 적용한다. 실험결과를 통해 일반적으로 적용되는 0-삽입(zero-padding) 업샘플링 방식과 쌍일차 보간법(bilinear interpolation) 등을 적용할 때의 효과를 살펴보고, 제안하는 방식이 일반적인 방식을 사용하는 것에 비해 정량적, 정성적으로 고해상도 정보를 더 정확히 생성해내는 것을 확인한다.

• 한국컴퓨터정보학회:학술대회논문집
• /
• 한국컴퓨터정보학회 2015년도 제52차 하계학술대회논문집 23권2호
• /
• pp.264-267
• /
• 2015

본 논문에서는 개선된 고속의 Back Projection 기법과 에지맵 보간을 이용한 단일영상 기반의 초해상도(super resolution) 영상을 생성하는 알고리즘을 제안한다. 본 논문에서 제안하는 알고리즘은 영상의 색채 왜곡을 방지하기 위해 RGB 컬러 도메인에서 HSV 컬러 도메인으로 변경하여 밝기정보인 V만 이용한다. 먼저 잡음제거와 속도 향상을 위해 개선된 고속 back projection을 이용해 영상을 확대 재구성한다. 이와 함께 LoG(laplacian of gaussian) 필터링을 이용하여 에지 맵을 추출한다. 에지의 정보와 back projection의 결과를 이용하여 고해상도 영상을 재구성한다. 제안하는 알고리즘을 이용하여 복원한 영상은 부자연스러운 인공물을 효과적으로 제거하고, blur현상을 줄여 에지 정보를 보정하고 강조해준다. 또한 실험을 통해 제안하는 알고리즘이 기존의 보간법과 전통적인 back projection 결과보다 주관적인 화질이 우수하고 객관적으로 우수한 성능을 나타내는 것을 입증한다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송∙미디어공학회 2018년도 하계학술대회
• /
• pp.198-199
• /
• 2018

본 논문은 초해상도 기술을 위한 CNN 구조를 제안한다. 제안하는 Gradient-SR 은 고해상도 영상이 고주파 신호와 저주파 신호로 분리될 수 있다는 점을 바탕으로 고역 통과 필터인 Sobel Operator 를 CNN 기반으로 구성한다. Gradient-SR 로부터 생성된 고주파 신호는 목표 크기로 보간 된 저해상도 입력 영상과 더해짐으로 고해상도 영상을 생성한다. 실험 영상은 VDSR 이 사용 한 291 개의 영상과 B100 영상을 이용한다. 제안하는 방법은 스케일 팩터 2 에 대한 초해상도 영상 생성 실험에서 약 200%의 속도 향상을 보인다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송∙미디어공학회 2020년도 하계학술대회
• /
• pp.656-659
• /
• 2020

초해상화 딥러닝 기법은 학습 시 수렴하기까지 최소 수백 번의 에폭을 필요로 하며 오랜 시간이 걸린다. 최근, 영상 인식용 딥러닝 모델에서는 학습 수렴 속도를 향상시키기 위해 픽셀, 채널간 불필요한 상호연관 정보를 제거하는 Deconvolution 기술이 제안되었다. 본 논문에서는 최초로 Deconvolution 기술을 초해상화 딥러닝 방법에 적용하여 학습 수렴 속도 증가를 시도했다. 영상 인식 딥러닝 기법과 다르게 초해상화 딥러닝 기법은 이미지 특성 추출 부분과 이미지 복원 부분의 정보를 보존하는 것이 중요하기 때문에, EDSR을 Baseline 모델로 사용하여 양쪽 끝의 레이어는 기존의 Convolution 연산을 그대로 유지하고, 중간 레이어의 ResBlock 내의 Convolution 연산만 Deconvolution 연산으로 바꿔서 구성하였다. 초해상화 벤치마크 데이터셋을 사용한 실험 결과, 수렴속도가 빨라지지 않는 결과를 도출했다. 본 논문에서는 Deconvolution 기술이 Baseline 모델의 성능을 개선하지 못하는 이유를 초해상화 분야에서 기본적으로 적용되는 Residual Learning 기법 때문으로 분석했다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송∙미디어공학회 2022년도 하계학술대회
• /
• pp.1322-1324
• /
• 2022

최근 딥러닝의 발전에 따라 단일 이미지 초해상도 분야에 좋은 성과를 보여주고 있다. 그러나 보다 더 높은 성능을 획득하기 위해 네트워크의 깊이 및 파라미터의 수가 크게 증가하였고, 모바일 및 엣지 디바이스에 원활하게 적용되기 위하여 딥러닝 모델 경량화의 필요성이 대두되고 있다. 이에 본 논문에서는 초해상도 모델 중 하나인 EDSR(Enhanced Deep Residual Network)에 대조 학습 기반 지식 전이를 적용한 경량화 기법을 제안한다. 실험 결과 제안한 지식 전이 기법이 기존의 다른 지식 증류 기법보다 향상된 성능을 보임을 확인하였다.

• 인터넷정보학회논문지
• /
• 제19권4호
• /
• pp.45-52
• /
• 2018

단일 영상 초해상도는 하나의 저해상도 영상에서 고해상도 영상을 복원하는 과정이다. 최근 심층신경망을 적용한 초해상도 기법이 좋은 성과를 나타내고 있다. 본 논문에서는 기존의 심층신경망 기반 초해상도 복원 기법보다 속도와 성능을 개선한 신경망 구조를 제안한다. 이를 위해 기존 기법의 단점을 분석하고 해결책을 제시한다. 제안하는 방법은 기존 기법의 5단계를 3단계로 줄여 효율성을 높였으며, 네트워크의 폭과 깊이에 대한 실험을 통해 가장 효율적인 신경망 구조를 연구하였다. 제안하는 방법의 성능과 속도를 알아보기 위해 비교 실험을 진행하였다. 제안하는 방법은 $1024{\times}1024$ 영상을 초당 148장 복원하는 속도를 나타냈으며, 4가지 데이터에 대해 기존 방법보다 복원 성능이 우수하였다.

• 융합신호처리학회논문지
• /
• 제22권4호
• /
• pp.156-163
• /
• 2021

어텐션(Attention) 메커니즘은 딥러닝 기술을 활용한 다양한 컴퓨터 비전 시스템에서 활용되고 있으며, 초해상화(Super-resolution)를 위한 딥러닝 모델에도 어텐션 메커니즘을 적용하고 있다. 하지만 어텐션 메커니즘이 적용된 대부분의 초해상화 기법들은 Real 영상의 초해상화에만 초점을 맞추어서 연구되어, 어텐션 메커니즘을 적용한 초해상화가 CG나 VR 영상 초해상화에도 유효한지는 알기 어렵다. 본 논문에서는 최근에 제안된 어텐션 메커니즘 모듈인 BAM(Balanced Attention Mechanism) 모듈을 12개의 초해상화 딥러닝 모델에 적용한 후, CG나 VR 영상에서도 성능 향상 효과를 보이는지 확인하는 실험을 진행하였다. 실험 결과, BAM 모듈은 제한적으로 CG나 VR 영상의 초해상화 성능 향상에 기여하였으며, 데이터 특징과 크기, 그리고 네트워크 종류에 따라 성능 향상도가 달라진다는 것을 확인할 수 있었다.

• 융합신호처리학회논문지
• /
• 제23권1호
• /
• pp.8-14
• /
• 2022

딥러닝이 발전하면서 초해상화 기술은 단순 보간법(Interpolation)에서 벗어나 딥러닝을 활용해 발전하고 있다. 딥러닝을 사용한 초해상화 기술은 합성곱 신경망(Convolutional Neural Network, CNN) 기반의 연구가 일반적이지만, 최근에는 어텐션(Attention) 메커니즘을 활용한 초해상화 연구가 활발히 진행되고 있다. 본 논문에서는 어텐션 메커니즘 중 하나인 비지역 희소 어텐션(Non-Local Sparse Attention, NLSA)을 활용한 초해상화 성능 향상 방법을 제안한다. 실험을 통해 NLSA를 함께 활용하면 기존 초해상화 신경망 모델인 IMDN, CARN, OISR-LF-s의 성능이 향상되는 것을 확인할 수 있었다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송∙미디어공학회 2018년도 하계학술대회
• /
• pp.195-197
• /
• 2018

본 논문은 초해상도 영상 생성을 위한 CNN 구조를 제안한다. 제안하는 Cross-CNN 은 2 차원 필터의 분리성과 활성화 함수의 비선형성을 바탕으로 VDSR 구조의 시작과 마지막 층을 제외한 중간 층들에 교차하는 1 차원 필터를 적용한다. 제안하는 방법은 기존의 방법보다 적은 가중치를 사용하여 실행 시간을 단축하였다. 실험은 VDSR 실험에 사용된 291 개의 영상과 B100 영상을 이용하였다. 제안하는 방법은 네트워크 중간층에서 기존 방법 대비 약 1/3 의 가중치를 사용하여 20%의 속도 향상을 보였다.