• Annual Conference on Human and Language Technology
• /
• 2012.10a
• /
• pp.142-147
• /
• 2012

본 논문에서는 신경망을 재귀적으로 사용하여 문장에서 지시 표현을 추출하고 분석하는 방법에 대해서 제안한다. 임의의 문장이 들어올 때, 문장을 구성하는 각 단어들은 통사론적 자질 벡터와 의미론적 자질 벡터로 나눌 수 있다. 이들 벡터들의 쌍을 인자로써 입력받는 신경망 구조를 제시할 수 있으며, 신경망의 출력 결과는 다시 재귀적으로 쌍인자 신경망에 입력으로써 주입된다. 신경망을 재귀적으로 학습시킴으로써, 문장 내의 지시 표현을 추출할 수 있다. 쌍인자 신경망 파싱 모델의 성능을 측정했고, 제안한 모델의 문제점과 가능성에 대해서 관찰하였다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2005.05a
• /
• pp.469-472
• /
• 2005

이 논문은 게임물리엔진에서 게임세계의 물리적인 요소를 통하여 게임에 존재하는 캐릭터들에게 인공지능을 부여하기 위한 연구에 관해서 다룬다. 게임속에서의 물리적인 상황을 자동인식하기 위해서 신경망을 이용하였다. 게임속에서의 인공지능의 적용은 게임의 속도저하를 가져오게 되는데 이 논문에서는 그러한 단점을 보완하기 위하여 물리엔진에서 캐릭터의 움직임을 계산하는 수치적분 메서드들에 대한 각 물리상황에 따른 최적의 성능을 분석하여 각각의 물리 상황마다 다른 수치 적분 메서드를 적용하는 내부 구조를 취하였다. 수치적분 메서드에 대한 각각의 성능 분석은 세가지의 물리적 상황을 구분하여 그에 기반하여 실험되었다. 인공지능 캐릭터에 대한 실험은 신경망의 토폴로지에 대한 변화와 학습 횟수에 대한 변화 및 은닉층에 대한 변화로 신경망에서의 최적의 성능에 대한 평가를 실시하였다.

• Proceedings of the Korean Society of Computer Information Conference
• /
• 2020.07a
• /
• pp.425-428
• /
• 2020

본 논문에서는 경계 합성곱 신경망(Convolutional neural network, CNN)기반의 슈퍼 해상도 기법을 이용하여 저해상도 옷감 메쉬를 슈퍼 해상도로 노이즈 없이 안정적으로 표현할 수 있는 기법을 제안한다. 저해상도와 고해상도 메쉬들 간의 쌍은 옷감 시뮬레이션을 통해 얻을 수 있으며, 이렇게 얻어진 데이터를 이용하여 고해상도-저해상도 데이터 쌍을 설정한다. 학습할 때 사용되는 데이터는 옷감 메쉬를 지오메트리 이미지로 변환하여 사용한다. 우리가 제안하는 경계 합성곱 신경망은 저해상도 이미지를 고해상도 이미지로 업스케일링 시키는 이미지 합성기를 학습시키기 위해 사용된다. 테스트 결과로 얻어진 고해상도 이미지가 고해상도 메쉬로 다시 변환되면, 저해상도 메쉬에 비해 주름이 잘 표현되며, 경계 부근에서 나타나는 노이즈 문제가 완화된다. 합성 결과에 대한 성능으로는 전통적인 물리 기반 시뮬레이션보다 약 10배 정도 빠른 성능을 보여준다.

• Geophysics and Geophysical Exploration
• /
• v.26 no.3
• /
• pp.114-125
• /
• 2023

The physics-informed neural network (PINN) has been proposed to overcome the limitations of various numerical methods used to solve partial differential equations (PDEs) and the drawbacks of purely data-driven machine learning. The PINN directly applies PDEs to the construction of the loss function, introducing physical constraints to machine learning training. This technique can also be applied to wave equation modeling. However, to solve the wave equation using the PINN, second-order differentiations with respect to input data must be performed during neural network training, and the resulting wavefields contain complex dynamical phenomena, requiring careful strategies. This tutorial elucidates the fundamental concepts of the PINN and discusses considerations for wave equation modeling using the PINN approach. These considerations include spatial coordinate normalization, the selection of activation functions, and strategies for incorporating physics loss. Our experimental results demonstrated that normalizing the spatial coordinates of the training data leads to a more accurate reflection of initial conditions in neural network training for wave equation modeling. Furthermore, the characteristics of various functions were compared to select an appropriate activation function for wavefield prediction using neural networks. These comparisons focused on their differentiation with respect to input data and their convergence properties. Finally, the results of two scenarios for incorporating physics loss into the loss function during neural network training were compared. Through numerical experiments, a curriculum-based learning strategy, applying physics loss after the initial training steps, was more effective than utilizing physics loss from the early training steps. In addition, the effectiveness of the PINN technique was confirmed by comparing these results with those of training without any use of physics loss.

• Journal of Korea Water Resources Association
• /
• v.56 no.12
• /
• pp.939-953
• /
• 2023

Shallow water equations (SWE) serve as fundamental equations governing the movement of the water. Traditional numerical approaches for solving these equations generally face various challenges, such as sensitivity to mesh generation, and numerical oscillation, or become more computationally unstable around shock and discontinuities regions. In this study, we present a novel approach that leverages the power of physics-informed neural networks (PINNs) to approximate the solution of the SWE. PINNs integrate physical law directly into the neural network architecture, enabling the accurate approximation of solutions to the SWE. We provide a comprehensive methodology for formulating the SWE within the PINNs framework, encompassing network architecture, training strategy, and data generation techniques. Through the results obtained from experiments, we found that PINNs could be an accurate output solution of SWE when its results were compared with the analytical method. In addition, PINNs also present better performance over the Artificial Neural Network. This study highlights the transformative potential of PINNs in revolutionizing water resources research, offering a new paradigm for accurate and efficient solutions to the SVE.

• Geophysics and Geophysical Exploration
• /
• v.25 no.4
• /
• pp.227-241
• /
• 2022

Full waveform inversion (FWI) in the field of seismic data processing is an inversion technique that is used to estimate the velocity model of the subsurface for oil and gas exploration. Recently, deep learning (DL) technology has been increasingly used for seismic data processing, and its combination with FWI has attracted remarkable research efforts. For example, DL-based data processing techniques have been utilized for preprocessing input data for FWI, enabling the direct implementation of FWI through DL technology. DL-based FWI can be divided into the following methods: pure data-based, physics-based neural network, encoder-decoder, reparameterized FWI, and physics-informed neural network. In this review, we describe the theory and characteristics of the methods by systematizing them in the order of advancements. In the early days of DL-based FWI, the DL model predicted the velocity model by preparing a large training data set to adopt faithfully the basic principles of data science and apply a pure data-based prediction model. The current research trend is to supplement the shortcomings of the pure data-based approach using the loss function consisting of seismic data or physical information from the wave equation itself in deep neural networks. Based on these developments, DL-based FWI has evolved to not require a large amount of learning data, alleviating the cycle-skipping problem, which is an intrinsic limitation of FWI, and reducing computation times dramatically. The value of DL-based FWI is expected to increase continually in the processing of seismic data.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2020.05a
• /
• pp.180-183
• /
• 2020

물리적 정보를 이용해 암호 알고리즘의 비밀정보를 분석하는 부채널분석 분야에서도 딥러닝을 접목한 분석방법들이 활발히 제안되고 있다. 본 논문에서는 소비전력이 시간축상으로 흐트러지는 현상인 지터가 있는 파형을 신경망의 특성을 기반으로 효과적으로 분석하는 방법을 제안한다. 제안한 방법을 실험적으로 검증하기 위해 지터가 있는 AES-128 파형을 Convolutional Neural Network와 Multi-Layer Perceptron을 기반으로 분석한 결과 제안한 방법을 적용한 신경망은 모든 바이트 키 분석에 성공했으나, 이외의 신경망은 일부 혹은 모든 바이트 키 분석에 실패했다.

• Proceedings of the Korean Institute of Information and Commucation Sciences Conference
• /
• 2003.05a
• /
• pp.111-114
• /
• 2003

It has well known that MUSIC and ESPRIT algorithms estimate angle of arrival(AOA) with high resolution by eigenvalue decomposition of the covariance matrix which were obtained from the array antennas. In the case that 2-D large-sized array antenna is required, however, one of the disadvantages of MUSIC and ESPRIT is that they are computationally ineffective, and then they are difficult to implement in real time. To alleviate the computational complexity, several method using neural model have been study. For multiple signals, those methods require huge training data prior to AOA estimation. This paper proposes the algorithm for AOA estimation by interconnected hopfield neural model. Computer simulations show the validity of the proposed algorithm.

• Proceedings of the Korean Information Science Society Conference
• /
• 2011.06c
• /
• pp.292-294
• /
• 2011

전기자동차에 대한 연구가 진행됨에 따라 동력원으로 사용되는 대용량 리튬-폴리머 배터리의 운용과 관리에 대한 관심이 증가하고 있다. 다중 셀로 구성된 대용량 리튬-폴리머 배터리는 물리적 화학적 특성에 따라 충전시 셀간 전압 격차가 발생하게 된다. 셀간 전압차는 배터리 용량, 수명, 안정성에 부정적 영향을 주게 된다. 기존 연구들은 각 셀의 특성을 고려하지 않고 충전 결과를 바탕으로 동일한 밸런싱 방법을 적용시킴으로 효율성을 떨어트린다. 본 논문에서는 진화 신경망 기반의 지능형 셀 밸런싱 시스템을 제안한다. 배터리의 특성을 진화 신경망을 통해 학습시킴으로 각 셀 충전시 저항의 크기를 결정한다. 이를 통해 각 셀 특성을 고려한 사전 셀 밸런싱을 수행하였다. 제안하는 방법의 유용성을 입증하기 위해 카이스트 온라인 전기자동차에 장착 예정인 배터리 관리 시스템 기반 시뮬레이션을 수행하여 효과적인 셀 밸런싱이 가능함을 보였다.

• Proceedings of the Korea Multimedia Society Conference
• /
• 2003.05b
• /
• pp.536-540
• /
• 2003

최근에 개인의 경험을 통해 얻어지는 외부의 물리적 자극에 대한 복합적인 감성을 측성 및 분석하여 공학적으로 처리함으로서 인간이 보다 편리하고 안락한 생활을 영위하도록 하는 연구가 활발히 진행되고 있다. 본 논문에서는 색채 심리를 바탕으로 한 감성을 인식할 수 있는 생리학적 퍼지 신경망은 제안하였다. 본 논문에서 제안한 생리학적 퍼지 뉴런 구조를 기반으로 하여 입력층, 퍼지 귀속 시넵스(Fuzzy Membership Synapse) 및 출력층으로 구성되며 지도 학습(supervised learning)으로 동작된다. 제안된 생리학적 퍼지 신경망을 단일 색상 정보에 따른 감성 인식에 적용한 결과, 단일 색상 정보에 따른 감성 인식에 있어서 효율적임을 확인 할 수 있었다.