• Broadcasting and Media Magazine
• /
• v.27 no.2
• /
• pp.35-42
• /
• 2022

3차원 깊이 영상은 시점으로부터 객체까지의 거리와 관련된 정보를 제공하는 영상으로 최근 자율주행 자동차, 스마트 드론, 로보틱스, 증강 현실, 의료 영상 등에 핵심 정보로 활용되는 매우 중요한 정보이다. 이에 따라 컴퓨터 비전 분야에서는 2차원 영상으로부터 3차원 깊이 정보를 획득하는 연구가 계속되어 왔고, 최근 인공지능 기술의 발달에 힘입어 그 성능도 나날이 향상되고 있다. 그 중에서도 스테레오 영상 간의 매칭을 통하여 깊이 정보를 획득하는 스테레오 매칭 기술은 데이터베이스 구축이 비교적 용이하고 획득 환경이 제한적이지 않다는 장점으로 인해 널리 활용되고 있다. 하지만 텍스쳐가 없는 영역, 패턴이 반복되는 영역, 가림 영역 등에서 성능에 한계를 보이기 때문에, 깊이 영상의 신뢰도를 추정하는 스테레오 깊이 영상의 신뢰도 추정 기술을 이용하여 깊이 정보를 효과적으로 복원할 수 있다. 본 고에서는 스테레오 매칭을 통하여 획득한 깊이 영상의 신뢰도 추정 기술의 발전 동향을 살펴보고 현재 기술의 한계점과 향후 나아갈 방향에 대해서 토의한다.

• Proceedings of the Korean Society of Broadcast Engineers Conference
• /
• 2010.07a
• /
• pp.80-82
• /
• 2010

본 논문에서는 깊이 정보를 이용하여 영상을 색상 분포가 각각 다른 객체 영상으로 분리하고 개별적으로 히스토그램 매칭 기법을 적용하는 조명 보상 기법을 제안한다. 서로 위치가 다른 다시점 카메라의 경우, 다시점 비디오 부호화(multi-view video coding)의 성능을 저하시키는 인접 시점 영상 간 조명 불일치 현상이 발생한다. 이러한 조명 불일치를 보상하기 위한 히스토그램 매칭(histogram matching)을 이용한 전처리 기법이 제안되었다. 모든 시점의 다시점 영상 히스토그램은 정해진 참조 시점 영상의 히스토그램으로 매칭되어 조명 불일치와 다시점 비디오 부호화의 성능을 개선할 수 있다. 하지만 일반적인 영상은 색상 분포와 깊이 정보가 상호 독립적인 객체들로 구성되어 있다. 또한 다시점 비디오는 시점에 따라 획득된 영상 간에 동일 객체의 위치와 깊이가 서로 달라 정해진 참조 시점의 히스토그램으로 매칭하는 기존의 방법은 적합하지 않다. 본 논문에서는 주어진 영상 내에서 깊이 정보를 이용하여 객체를 먼저 분리하고, 객체 영상별로 히스토그램 매칭 기법을 적용하여 색상 보상을 수행하는 새로운 기법을 제안한다. 실험을 통해 제안하는 객체 단위의 조명 보상 기법이 향상된 다시점 비디오 부호화 효율을 보이는 것을 확인하였다.

• Proceedings of the Korean Society of Broadcast Engineers Conference
• /
• 2015.11a
• /
• pp.63-66
• /
• 2015

3차원 영상을 생성하기 위해 스테레오 매칭을 통해 깊이 정보를 획득한다. 이때 발생하는 경계영역과 텍스처가 부족한 부분의 깊이정보 부정확성 문제를 해결하기 위해 영상 분할 기반 스테레오 매칭 방법을 제안한다. 일반적으로 사용하는 윈도우 기반 스테레오 매칭 결과를 기반으로 분할된 영상 내에서 최적의 변위 값을 재 할당함으로서 깊이정보의 정확성을 향상시킬 수 있다. Mean-shift는 참조 영상에서 화소 간 평균값 차이가 최대가 되는 영역들을 반복적으로 찾는다. 유사한 평균값을 갖는 영역들을 기반으로 영상을 분할하는 것을 Mean-shift를 이용한 영상분할 이라고 한다. 분할된 영상은 각 영역을 대표하는 패치 구조를 가지고 있어 참조 영상에 포함되어있는 잡음에 강인한 특성을 지닌다. 스테레오 매칭을 통해 화소별로 변위 값을 할당해주는 대신, 분할된 영상을 이용하여 각 분할 영역에 동일한 변위 값을 할당한다. 분할된 영상에 동일한 변위 정보를 할당할 경우 객체와 배경의 경계영역에서 잘못된 변위 값이 할당되는 경우가 발생한다. 이러한 경계 영역의 변위정보 부정확성을 보완하기 위해 화소의 기울기 항을 비용 값 계산 과정에 추가하여 단점을 보완한다. 최종 비용 값 계산을 통해 획득한 초기 변위 지도에 중간 값 필터를 적용하여 분류된 영역에 동일한 변위 값을 할당한다. 제안한 방법을 적용하여 경계영역의 정확도가 향상된 최종 변위 지도를 획득한다.

• Journal of the Institute of Electronics and Information Engineers
• /
• v.54 no.2
• /
• pp.99-105
• /
• 2017

Generally, stereo matching methods are used to estimate depth information based on color and spatial similarity. However, most depth estimation methods suffer from the occlusion region because occlusion regions cause inaccurate depth information. Moreover, they do not consider the temporal dimension when estimating the disparity. In this paper, we propose a temporal stereo matching method, considering occlusion and disregarding inaccurate temporal depth information. First, we apply a global stereo matching algorithm to estimate the depth information, we segment the image to occlusion and non-occlusion regions. After occlusion detection, we fill the occluded region with a reasonable disparity value that are obtained from neighboring pixels of the current pixel. Then, we apply a temporal disparity estimation method using the reliable information. Experimental results show that our method detects more accurate occlusion regions, compared to a conventional method. The proposed method increases the temporal consistency of estimated disparity maps and outperforms per-frame methods in noisy images.

• Proceedings of the Korea Multimedia Society Conference
• /
• 2003.11a
• /
• pp.171-174
• /
• 2003

인간 시각이 감지하는 영상정보는 깊이정보가 있는 3차원형태의 정보이다. 이러한 영상정보를 획득하기 위해 2차원의 스테레오영상으로부터 3차원정보를 추출하는 방법이 연구되어왔다. 본 논문에서는 웨이블릿(wavelet) 영역에서의 영역기반 스테레오 매칭(stereo matching)을 통하여 3차원정보를 추출하고 복원하는 것을 제안한다.

• Journal of the Korea Institute of Information and Communication Engineering
• /
• v.17 no.5
• /
• pp.1119-1128
• /
• 2013

In this paper, we propose an algorithm to detect and track the human face with a GPU-based high speed. Basically the detection algorithm uses the existing Adaboost algorithm but the search area is dramatically reduced by detecting movement and skin color region. Differently from detection process, tracking algorithm uses only depth information. Basically it uses a template matching method such that it searches a matched block to the template. Also, In order to fast track the face, it was computed in parallel using GPU about the template matching. Experimental results show that the GPU speed when compared with the CPU has been increased to up to 49 times.

• Proceedings of the Korean Society of Broadcast Engineers Conference
• /
• 2019.06a
• /
• pp.231-233
• /
• 2019

본 논문에서는 다시점 영상과 스테레오 매칭을 수행하여 얻은 깊이 정보를 통해 가상시점을 합성할 때 적용되는 블렌딩 기법을 제안한다. 다시점 영상에서 스테레오 매칭으로 얻을 수 있는 깊이정보는 물체와 배경의 경계부분에서 큰 오차를 갖는다. 이러한 이유로 원본 시점들의 영상을 깊이정보를 통해 특정 가상시점으로 워핑할 때 물체의 경계 부분에 배경의 화소가 일부 포함되는 문제가 발생한다. 이 문제는 워핑된 영상들을 블렌딩하여 하나로 합성 시 영상의 품질에 영향을 주는 요인이 된다. 본 논문에서 제안하는 방법은 깊이정보와 함께 영상의 수퍼픽셀 분할에서 얻은 정보를 이용하여 블렌딩 대상이 되는 영상에 화소 단위로 가중치를 부여하여 해당 문제의 영향을 완화한다.

• Proceedings of the Korean Society of Broadcast Engineers Conference
• /
• 2012.11a
• /
• pp.11-14
• /
• 2012

본 논문에서는 키넥트 센서의 RGB영상과 깊이영상을 사용하여 얼굴을 검출하고, 검출 된 템플릿을 이용하여 얼굴을 추적하는 방법을 제안한다. 얼굴검출은 기본적으로 기존의 Adaboost 방법을 사용하나, 깊이정보와 피부색을 사용하여 탐색영역을 최대한 축소하여 수행시간 및 오검출율을 줄였다. 그리고 얼굴추적은 깊이정보를 이용하여 템플릿의 크기, 탐색영역을 조정하였다. 또한, RGB영상보다 조명변화에 강한 깊이영상을 이용하여 효율적인 템플릿 매칭을 하였다.

• Proceedings of the Korean Society of Broadcast Engineers Conference
• /
• 2016.06a
• /
• pp.1-4
• /
• 2016

효율적으로 깊이지도를 획득하기 위해 다양한 방법의 지역 기반스테레오 매칭 방법이 사용된다. 일반적인 지역기반 스테레오 매칭에 사용되는 비용값 계산 방법을 통해 깊이지도를 생성하게 되면 객체의 경계 영역이 무너지거나, 유사한 텍스쳐 정보가 연속적으로 나타나는 영역에서 부정확한 깊이값을 얻는 문제가 발생한다. 본 논문에서는 깊이지도의 정확성을 높이기 위해 2가지 단계를 거쳐 최종 깊이지도를 생성한다. 처음으로, 일반적으로 사용하는 지역기반 스테레오 매칭 비용 함수와 입력 영상의 기울기를 고려한 초기 비용값을 가이드 필터를 이용하여 최적의 비용값을 찾아 초기 변위지도를 생성한다. 스테레오매칭을 수행할 경우, 시점의 차이로 인해 보이지 않는 영역에서 정확한 변위값을 찾지 못하는 문제가 발생한다. 이러한 문제를 해결하기 위해 좌영상과 우영상을 기반으로 획득한 변위지도를 사용하여 교차검사를 함으로써 폐색영역을 찾아낸다. 폐색 영역을 이웃한 화소의 값을 사용하여 채울 경우 실선과 같은 오류가 결과 영상에 나타나게 된다. 이러한 오류 영역을 제거하기 위해 마지막으로 가중치를 적용한 중간값 필터를 적용한다. 실험 결과 제안한 방법을 사용하여 획득한 깊이지도가 기존의 방법보다 정확한 깊이값을 얻는 것을 확인할 수 있었다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2004.11a
• /
• pp.833-836
• /
• 2004

세그먼트 패치(Segment Patch) 기반의 스테레오 매칭에 있어서, 매칭의 속도와 정확도는 세그먼트 패치를 생성하는 과정에 의존한다. 본 논문에서는 매칭 프리미티브로 사용되는 세그먼트 패치를 결정하는 과정으로 영상의 강도와 함께 인접 세그먼트 패치들 사이의 깊이를 고려하여 최적의 세그먼트 패치를 결정하는 방법을 제안하였다. 그 결과 영상의 강도 변화가 작은 영역에서 뿐만 아니라 패치 매칭의 취약함으로 지적되었던 복잡한 영역에서도 좋은 결과를 보여 주었다.