• Annual Conference of KIPS
• /
• 2022.05a
• /
• pp.157-160
• /
• 2022

딥러닝이 각광받기 시작하면서 인간의 자세와 행동을 인식하고 분류하기 위한 인공지능 기술 또한 급속도로 발전하게 되었다. 영상에서 인간의 자세를 디지털 데이터로 표현할 때 인체의 주요 관절점의 위치와 연결관계를 나타내는 스켈레톤 표현 방식을 주로 사용한다. 본 논문에서는 스켈레톤 데이터에 비밀 메시지를 은닉할 수 있는 스테가노그라피 알고리즘에 대해 소개하고, 스켈레톤을 구성하는 주요 관절점 키포인트를 조작했을 때 행동 인식 인공지능 모델이 어떻게 반응하는지 살펴봄으로써 스켈레톤 데이터에 대한 스테가노그라피 알고리즘의 특성과 보안성에 대해 논의한다.

• Annual Conference of KIPS
• /
• 2019.10a
• /
• pp.1101-1104
• /
• 2019

키넥트는 RGBD 카메라로 인체의 뼈대와 관절을 3D 공간에서 스켈레톤 데이터수집을 가능하게 해주었다. 스켈레톤 데이터를 활용한 행동 분류는 RNN, CNN 등 다양한 인공 신경망으로 접근하고 있다. 본 연구는 키넥트를 이용해서 Skeleton Joints를 수집하고, DNN 기반 스켈레톤 모델링 학습으로 행동을 분류한다. Skeleton Joints Processing 과정은 키넥트의 Depth Map 기반의 Skeleton Tracker로 25가지 Skeleton Joints 좌표를 얻고, 학습을 위한 전처리 과정으로 각 좌표를 상대좌표로 변경하고 데이터 수를 제한하며, Joint가 트래킹 되지 않은 부분에 대한 예외 처리를 수행한다. 스켈레톤 모델링 학습 과정에선 3계층의 DNN 신경망을 구축하고, softmax_cross_entropy 함수로 Skeleton Joints를 집는 모션, 내려놓는 모션, 팔짱 낀 모션, 얼굴을 가까이 가져가는 모션 해서 4가지 행동으로 분류한다.

• Journal of Advanced Navigation Technology
• /
• v.24 no.2
• /
• pp.155-162
• /
• 2020

Recently, with the development of computer vision and deep learning technology, research on human action recognition has been actively conducted for video analysis, video surveillance, interactive multimedia, and human machine interaction applications. Diverse techniques have been introduced for human action understanding and classification by many researchers using RGB image, depth image, skeleton and inertial data. However, skeleton-based action discrimination is still a challenging research topic for human machine-interaction. In this paper, we propose an end-to-end skeleton joints mapping of action for generating spatio-temporal image so-called dynamic image. Then, an efficient deep convolution neural network is devised to perform the classification among the action classes. We use publicly accessible UTD-MHAD skeleton dataset for evaluating the performance of the proposed method. As a result of the experiment, the proposed system shows better performance than the existing methods with high accuracy of 97.45%.

• Annual Conference of KIPS
• /
• 2020.11a
• /
• pp.838-841
• /
• 2020

본 논문은 영상 속 폭력행위를 인식하기 위해 3 차원 컨벌루션을 활용하여 원본 영상과 스켈레톤(skeleton)영상으로부터 추출한 시각 및 움직임 정보를 동시에 활용하는 2-스트림 구조의 폭력상황 인식기를 제안한다. 제안된 폭력상황 인식기에서는 수평, 수직 방향의 큰 움직임이 많이 나타나는 폭력영상의 특성을 활용하기위해 각 방향의 특성을 독립적으로 학습할 수 있는 split-FAST 3차원 컨벌루션을 활용하고, 3 차원 Attention 을 적용하여 시각 및 움직임 정보 추출 시 영상의 중요지역을 중점적으로 반영하도록 함으로써 촬영 기기의 이동 또는 여러 사람의 뒤엉킴 등으로 영상의 시점 변화나 상황 변화가 잦은 경우에도 강인한 성능을 가질 수 있도록 하였다. 또한 기존의 연구들과 달리 비제약적인 환경에서 CCTV, 모바일 카메라 등으로 촬영된 실제 영상들로 구성된 RLVS 데이터셋을 학습 데이터로 사용함으로써 실제의 폭력 행위를 잘 인식할 수 있도록 하였다. RLVS 를 이용한 평가 실험에서 제안된 폭력상황 인식기가 약 92%의 인식 정확도를 얻었다.

• Smart Media Journal
• /
• v.11 no.1
• /
• pp.46-57
• /
• 2022

In this paper, multi-region based Radial Graph Convolutional Network (MRGCN) algorithm which can perform end-to-end action recognition using the optical flow and gradient of input image is described. Because this method does not use information of skeleton that is difficult to acquire and complicated to estimate, it can be used in general CCTV environment in which only video camera is used. The novelty of MRGCN is that it expresses the optical flow and gradient of the input image as directional histograms and then converts it into six feature vectors to reduce the amount of computational load and uses a newly developed radial type network model to hierarchically propagate the deformation and shape change of the human body in spatio-temporal space. Another important feature is that the data input areas are arranged being overlapped each other, so that information is not spatially disconnected among input nodes. As a result of performing MRGCN's action recognition performance evaluation experiment for 30 actions, it was possible to obtain Top-1 accuracy of 84.78%, which is superior to the existing GCN-based action recognition method using skeleton data as an input.

• Proceedings of the Korea Multimedia Society Conference
• /
• 2002.05c
• /
• pp.474-478
• /
• 2002

본 논문에서는 광학식 모션 캡쳐를 이용하여 얻은 한국인의 발레 동작에 대한 모션 캡쳐 데이터를 사용하여 다른 모션으로 변형함으로써 새로운 형태의 동작을 생성하거나 원래 데이터의 에러가 생긴 경우에 보정이 쉽게 수정 가능하도록 하였다. 즉, 모션 캡쳐 데이터의 구조는 다양한 포맷들로 되어 있는 스켈레톤 구조로서 관절의 각도나 위치에 대해 변형을 가하기 힘들다. 그러므로 모션 수정에 관련된 기술을 이용하여 선택된 조인트(joint), 엔드이펙터(end effecter), 마커(marker)들을 보여주고, 오일러(Euler Angles), 쿼터니언(Quaternions), 지수 맵(Exponential Map) 보간이 가능하여 실시간에서도 재생 되도록 구현하였다.

• The Korean Journal of Applied Statistics
• /
• v.37 no.5
• /
• pp.643-661
• /
• 2024

This study investigates the effectiveness of 3D skeleton data for human action recognition by comparing the classification performance of machine learning and deep learning models. We use the subset of the NTU RGB+D dataset, containing only frontal-view recordings of 40 individuals performing 60 different actions. Our study uses linear discriminant analysis (LDA), support vector machine (SVM), and random forest (RF) as machine learning models, while the deep learning models are hierarchical bidirectional RNN (HBRNN) and semantics-guided neural network (SGN). To evaluate model performance, cross-subject cross-validation is conducted. Our analysis demonstrates that action type significantly impacts model performance. Cluster analysis by action category shows no significant difference in classification performance between machine learning and deep learning models for easily recognizable actions. However, for actions requiring precise differentiation based on frontal-view joint coordinates such as 'clapping' or 'rubbing hands', deep learning models show a higher performance in capturing subtle joint movements compared to machine learning models.

• Proceedings of the Korean Institute of Information and Commucation Sciences Conference
• /
• 2022.05a
• /
• pp.419-420
• /
• 2022

This paper presents a method that allows users to interactively register their own gestures for a motion-based game system. Existing motion-based game systems create recognizers by collecting predefined gesture data. However, this sometimes requires difficult expertise or rather difficult courses. To alleviate these complex situations, we propose a full-body skeleton-based game system that can interactively register gestures.

• Annual Conference of KIPS
• /
• 2023.11a
• /
• pp.1023-1024
• /
• 2023

랜덤 플레이 댄스 라는 오프라인 이벤트를 언제 어디서나 참여할 수 있도록 실시간 온라인 앱 서비스로 제시한다. 실시간 플레이를 위해 앱으로 사용자 영상에서 바로 스켈레톤을 추출하고 웹소켓으로 스켈레톤 데이터를 주고받으며 스켈레톤 추출, 시각화, 송출을 한다. 플레이가 끝나면 안무동작 정확도 알고리즘을 통해 사용자가 자신의 춤 정확도를 가늠할 수 있다.

• Journal of Broadcast Engineering
• /
• v.23 no.5
• /
• pp.598-605
• /
• 2018

Behavior awareness is a technology that recognizes human behavior through data and can be used in applications such as risk behavior through video surveillance systems. Conventional behavior recognition algorithms have been performed using the 2D camera image device or multi-mode sensor or multi-view or 3D equipment. When two-dimensional data was used, the recognition rate was low in the behavior recognition of the three-dimensional space, and other methods were difficult due to the complicated equipment configuration and the expensive additional equipment. In this paper, we propose a method of recognizing human behavior using only CCTV images without additional equipment using only RGB and depth information. First, the skeleton extraction algorithm is applied to extract points of joints and body parts. We apply the equations to transform the vector including the displacement vector and the relational vector, and study the continuous vector data through the RNN model. As a result of applying the learned model to various data sets and confirming the accuracy of the behavior recognition, the performance similar to that of the existing algorithm using the 3D information can be verified only by the 2D information.