Real-Time Image-Based Relighting for Tangible Video Teleconference

This paper deals with a real-time image based relighting system for tangible video teleconference. The proposed image based relighting system renders the extracted human object using the virtual environmental images. The proposed system can homogenize virtually the lighting environments of remote users on the video teleconference, or render the humans like they are in the virtual places. To realize the video teleconference, the paper obtains the 3D object models of users in real-time using the controlled lighting system. In this paper, we use single color camera and synchronized two directional flash lights. Proposed system generates pure shading images using on and off flash images subtraction. One pure shading reflectance map generates a directional normal map from multiplication of each reflectance map and basic normal vector map. Each directional basic normal map is generated by inner vector calculation of incident light vector and camera viewing vector. And the basic normal vector means a basis component of real surface normal vector. The proposed system enables the users to immerse video teleconference just as they are in the virtual environments.

실감화상통신을 위한 실시간 재조명 기술

본 논문은 실감 원격회의 시스템을 위한 실시간 영상기반 재조명 기술을 제안한다. 구체적으로 원격 사용자의 영상을 미리 캡처된 환경맵을 이용하여 재조명해서 사용자가 같은 공간에 있도록 느끼게 한다. 일반적으로 재조명 수행에 사용자 모델의 정교한 기하학적 모델정보를 도출하는 것이 고품질 재조명 영상을 도출하는데 큰 영향을 준다. 본 논문에서는 두 개의 방향성 조명을 사용하여 실시간으로 사용자 모델정보를 도출하는데 중점을 두었다. 도출된 모델정보와 환경맵의 조명정보를 이용하여 재조명 연산을 수행하고, 그래픽 하드웨어를 사용하여 고속으로 연산을 수행한다. 본 논문에서는 두 개의 방향성조명과 동기화된 카메라를 순차적으로 점등하여 사용자 표면의 반사율 맵을 도출한다. 그리고 빛이 반사할 때 표면에서 입사각과 반사각이 동일한 특징에 근거하여 반사맵 영상의 밝기가 밝을수록 사용자 표면의 법선벡터가 조명과 카메라간의 사잇각이 될 확률이 높아진다. 그래서 양방향의 반사율 값과 사잇각 두 개의 파라미터를 곱하여 표면의 법선벡터를 완성한다. 본 연구의 결과를 이용하면 영상기반 재조명 연구의 실제적이고도 폭넓은 적용이 가능할 것으로 사료되며 고화질의 콘텐츠 양산에도 기여할 것으로 사료된다.