• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송공학회 2008년도 추계학술대회
• /
• pp.109-112
• /
• 2008

최근 MPEG(moving picture experts group)에서 표준화를 진행하고 있는 3차원 비디오 시스템은 다시점 영상과 깊이영상을 동시에 이용하여 사용자가 임의의 시점을 선택하거나 스테레오스코픽 장치와 같은 3차원 영상 재생장 치를 동해 3차원 영상을 제공하는 차세대 방송 시스템이다 제한된 시점수를 이용하여 보다 많은 시점의 영상을 제공하려면 중간시점의 영상을 보간하는 장치가 필수적이다. 이 시스템의 입력정보인 깊이값을 이용하면 시점이동을 쉽게 할 수 있는데, 보간한 영상의 화질은 이 깊이값의 정확도에 따라 결정된다. 깊이맵은 대개 컴퓨터 비전을 기반으로 한 스테레오 정합기술을 이용 획득하는데, 객체의 경계와 같은 깊이값 불연속 영역에서 주로 깊이값 오류가 발생하게 된다. 이런 오류는 생성한 중간영상의 배경에 원치 않는 잡음을 발생시킨다. 기존의 방법에서는 측정한 깊이법의 객체 경계와 영상의 객체 경계가 일치한다는 가정으로 중간영상을 합성했다. 그러나 실제로는 깊이값 측정 과정에서 두 가지 경계가 일치하지 않아 전경의 일부분이 배경으로 합성되어 잡음을 발생하는 것이다. 본 논문에서는 깊이맵을 기반으로 중간시점의 영상을 보간할 때 발생하는 경계 잡음을 처리하는 방법을 제안한다. 중간영상을 합성할 때 비폐색 영역을 합성한 후 경계 잡음이 발생할 수 있는 영역을 비폐색 영역을 따라 구별한 다음, 잡음이 없는 참조 영상을 이용함으로써 경계 잡음을 처리할 수 있다. 실험 결과를 통해 배경 잡음이 사라진 자연스러운 합성영상을 생성했다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송공학회 2011년도 하계학술대회
• /
• pp.373-375
• /
• 2011

최근 들어, Time-of-Flight (TOF) 방식의 깊이 센서가 컴퓨터 비전이나 영상처리분야 등의 연구에서 다양하게 활용되고 있다. TOF 방식의 깊이 센서는 실시간으로 정확한 깊이 정보를 획득할 수 있는 장점이 있는 반면, 해상도가 낮고 센서의 광학적 특성으로 인해 노이즈가 발생한다는 단점이 있다. 본 논문에서는 이러한 깊이 센서의 단점을 극복하고 고품질의 다시점 영상 합성을 위해 기존 깊이 센서에 여러 대의 Charge-coupled Device (CCD) 카메라를 결합하여 시점 간 일관성 있는 고해상도의 깊이 영상을 획득하는 기술을 제안한다. 한정되어 있는 시점의 영상을 이용하여 다시점 영상을 합성할 때, 각 시점에 해당하는 깊이 영상의 정확도에 따라 합성되는 영상의 품질이 결정된다. 따라서 보유 시점에 해당하는 깊이 영상 간의 일관성이 유지되고 객체의 경계가 정확히 보존되어야만 생성되는 임의 시점 영상의 품질이 보장될 수 있다. 이에, 본 논문에서는 Joint Bilateral Upsampling (JBU)을 기반으로 시점 간 일관성을 고려한 깊이 영상의 해상도 개선 기술을 제안하고 이를 통해 다시점 영상 합성 결과의 품질을 향상시킨다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송공학회 1998년도 학술대회
• /
• pp.17-21
• /
• 1998

시점 합성(View synthesis)이란 일반적으로 주어진 기준 영상들(reference viewpoint images 혹은 key frames)으로부터 임의의 시점에서 바라본 영상을 예측하여 합성하는 것을 의미한다. 이러한 시점 합성은 영상 기반 렌더링(Image-based rendering)기법의 일종으로 컴퓨터 그래픽스 분야에서 실시간 렌더링이나 가상 현실(Virtual reality) 구현을 위한 매우 강력한 접근 방식이다. 시점 합성은 물체를 표현하기 위한 3차원 모델링이 필요가 없으며, 렌더링 시간이 물체의 복잡도와는 무관한 장점이 있다. 이러한 시점 합성 기법으로 물체의 3차원 표현과 효과적인 데이터베이스 구축에 응용이 가능하다. 본 논문에서는 물체의 3차원 데이터베이스 구축을 위해 영상 기반 렌더링 기법에 근거한 간단하고, 효과적인 시점 합성 방법을 제안한다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송공학회 2011년도 추계학술대회
• /
• pp.36-37
• /
• 2011

깊이 영상은 가상 시점 영상을 합성할 때 사용되는 3차원 거리 정보로 깊이 영상 기반 렌더링에서 가상 시점을 합성할 때 사용한다. 따라서, 깊이 영상 부호화에서는 부호화 효율 못지않게 합성 영상의 화질이 중요하다. 깊이 영상의 화질은 합성된 가상 시점 영상의 화질에 큰 영향을 미친다. 따라서 고화질 깊이 영상이 필요한 경우, 부호화 손실이 적은 무손실 부호화를 사용한다. 하지만, 이와 같은 무손실 부호화 방법은 복호를 통해 원래의 깊이 영상을 그대로 복원할 수 있지만, 압축률이 낮다는 단점이 있다. 본 논문에서는 복호된 영상의 화질과 부호화 비트의 균형을 모두 고려하기 위해 근접 무손실 HEVC(high efficiency video coding)와 향상된 CABAC(context-based adaptive bnary arithmetic coding)을 이용한 새로운 깊이 영상 부호화 방법을 제안한다. 실험을 통해 제안한 방법이 합성된 가상 시점 영상의 화질 손실 없이, 기존의 무손실 및 근접 무손실 방법보다 더 나은 부호화 성능을 제공함을 알 수 있었다.

• 정보와 통신
• /
• 제24권4호
• /
• pp.59-66
• /
• 2007

최근 3차원 TV 방송 기술에 대한 연구가 활발히 이루어지고 있다. 3차원 TV 방송 기술이란 2차원 영상에 깊이 정보를 부가하여 사용자로 하여금 입체감과 현장감을 느낄 수 있게 하는 방송을 말한다. 스테레오 영상을 이용하면 입체감은 느낄 수 있지만 시점이 고정되는 단점이 있다. 또한, 다시점 영상의 경우 데이터 양이 커지는 단점이 있다. 이러한 문제를 해결하고, 자연스럽고 연속적인 입체감을 느낄 수 있게 하는 방법으로 중간 시점 영상 합성 방법이 사용된다. 본고에서는 3차원 영상처리 기술의 한 분야 중 중간 시점 영상을 합성하는 방식에 대해 살펴보고자 한다. 기존의 스테레오 정합을 기반으로 하는 변이 추정 방식과 변이를 이용하여 중간 시점 영상을 합성하는 방법에 대해 기술하고 결론을 맺고자 한다.

• 한국정보통신학회논문지
• /
• 제20권2호
• /
• pp.375-384
• /
• 2016

본 논문에서는 스테레오 영상과 스테레오 영상 바깥 시점의 위성 영상 그리고 상응하는 깊이 영상이 입력으로 주어질 때 이 입력 영상들을 압축에 적합한 포맷으로 변환하고 활용하여 중간시점 영상을 합성하는 새로운 기법을 제안한다. 송출 단에서 깊이 영상들은 하나의 global 영상으로, 위성영상은 시점 이동 시에 발생하는 프레임 밖의 영역 및 가려짐 영역과 같은 홀 영역에만 해당하는 residual 영상으로 변환 후에 데이터 량을 줄이기 위하여 다운샘플링하고 주시점의 스테레오 영상과 더불어 HEVC 코덱으로 부호화 한 후 전송한다. 수신 단에서 복호화된 각 입력 영상들을 이용하여 스테레오 영상 간 그리고 스테레오 영상과 위성 영상간의 중간시점 영상을 합성한다. 실험을 통하여 제안한 포맷을 이용하여 합성한 중간 시점 영상을 MVD(Multiview Video plus Depth) 포맷을 이용하여 합성한 중간 시점 영상과 비교했을 때 전송하는 데이터의 비트율(bit-rate) 대비 객관적 그리고 주관적 화질이 뛰어남을 확인하였다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송공학회 2007년도 동계학술대회
• /
• pp.3-8
• /
• 2007

최근, 실감 영상에 대한 관심과 요구가 증가하면서 신개념 서비스인 3차원 다시점(Multi-view) 방송에 대한 연구가 다양하게 진행되고 있다. 이와 더불어 광고와 게시를 목적으로 입체 영상과 입체 디스플레이 장치의 수요가 증가하고 있어, 앞으로 다시점 영상 콘텐츠와 디스플레이 장치가 활발하게 보급될 전망이다. 다시점 영상 콘텐츠는 제작 단계에서 컴퓨터 그래픽스 객체를 합성하면 보다 목적에 부합하는 콘텐츠를 제작할 수 있다. 본 논문에서는 다시점 카메라로부터 얻은 RGB 텍스쳐 데이터와 깊이 테이터에 컴퓨터 그래픽스 객체를 합성하여 다시점 합성 영상을 생성하는 방법을 제안한다. 또한, 제작된 다시점 합성 영상을 검증하고 재생하는 다시점 비디오 뷰어를 설계, 구현 한다. 가상의 다시점 영상에 그래픽스 객체를 합성하는 방법은 후 합성 기반으로, 임의의 그래픽스 객체 모델을 생성하여 깊이 정보를 부여하고, 가상 시점 영상의 생성과 동일한 방법으로 그래픽스 객체의 각 시점별 영상을 생성한다. 끝으로 깊이정보를 사용하여 가상 시점 영상의 적절한 좌표공간으로 그래픽스 객체를 삽입한다. 그래픽스 합성의 정확성 검증을 위해 다시점 그래픽스 합성 영상을 디스플레이하는 뷰어는 2D 및 입체를 모두 지원하고, view switching, frozen moment, view sweeping 등의 interactive special effect기법과 다양한 포맷의 저장이 가능하다. 또한, 입체 영상의 실험에서는 그래픽 객체의 입체감 조절을 위해 실제 카메라 시점 간에 필요한 중간시점영상의 개수를 결정할 수 있다.

• 한국정보통신학회논문지
• /
• 제16권7호
• /
• pp.1477-1486
• /
• 2012

본 논문에서는 가상시점 깊이영상 생성 기법을 이용한 다양한 시점의 CGH(computer generated hologram) 생성 시스템을 제안한다. 제안한 시스템에서는 먼저 TOF(time of flight) 깊이 카메라를 이용하여 신뢰도 높은 기준시점 깊이영상을 획득하고 카메라 보정 과정을 통해 기준시점 카메라들의 카메라 파라미터를 추출한다. 가상시점 카메라의 위치가 정의되면 기준시점 카메라와의 거리와 위치를 고려하여 최적의 기준시점 카메라들을 선택한다. 가상시점 카메라와 가장 가까운 기준시점 카메라를 주 기준시점으로 결정하고 가상시점 깊이영상을 생성한다. 주 기준시점 카메라와 위치가 반대인 기준시점 카메라를 보조 기준시점으로 선택하여 가상시점 깊이영상을 생성한다. 주 기준시점을 통해 생성된 가상시점 깊이영상에 나타나는 가려짐 영역을 보조 기준시점으로 생성된 가상시점 깊이영상으로부터 찾아 보상한다. 보상이 되지 않고 남은 홀영역은 주변값 중 가장 작은 값으로 채워 최종 가상시점 깊이영상을 생성한다. 최종 가상시점 깊이 영상을 이용하여 CGH를 생성한다. 실험을 통해 기존의 기법보다 제안하는 가상시점 깊이영상 합성 시스템의 성능이 우수함을 확인하였다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송∙미디어공학회 2019년도 하계학술대회
• /
• pp.218-221
• /
• 2019

본 논문은 최근 MPEG-I 에서 논의되고 있는 전방위 6 자유도 영상의 가상시점 합성의 기존 공개 소프트웨어의 문제점 해결방안을 제안한다. 참조시점을 사용하여 합성된 가상시점의 영상을 대상으로 묶음 조정(bundle adjustment) 개념의 딥 러닝을 적용하여 영상 간 시공간적 품질 차이를 낮춘다. 실험에 따르면 중간시점 영상 합성 후 같은 시간적 특성을 같은 묶음을 MF-CNN (Multi-Frame Convolutional Neural Networks)에 적용함으로써 단순 VVS2.0 의 합성 결과 대비 평균 공간적으로 0.34dB, 시간적으로 0.81dB의 성능 향상을 제공하였다.

• 대한전자공학회논문지SP
• /
• 제45권4호
• /
• pp.22-31
• /
• 2008

3DTV를 위한 핵심 기술 중의 하나인 다시점 영상에서 변이를 추정하고 가상시점을 합성하는 새로운 방식을 제안한다. 다시점 영상에서 변이를 효율적이고 정확하게 추정하기 위해 준 N-시점 & N-깊이 구조를 제안한다. 이 구조는 이웃한 영상의 정보를 이용하여 변이 추정 시 발생하는 계산상의 중복을 줄인다. 제안 방식은 사용자에게 2D와 3D 자유시점을 제공하며, 사용자는 자유시점 비디오의 모드를 선택할 수 있다. 실험 결과는 제안 방식이 정확한 변이 지도를 제공하며, 합성된 영상이 사용자에게 자연스러운 자유시점 비디오를 제공한다는 것을 보여준다.