• 한국산학기술학회논문지
• /
• 제21권2호
• /
• pp.189-194
• /
• 2020

본 논문에서는 신경망을 학습하는 데 가장 많이 사용되고 있는 경사하강법에 대해 분석하였다. 학습이란 손실함수가 최소값이 되도록 매개변수를 갱신하는 것이다. 손실함수는 실제값과 예측값의 차이를 수치화 해주는 함수이다. 경사하강법은 오차가 최소화되도록 매개변수를 갱신하는데 손실함수의 기울기를 사용하는 것으로 현재 최고의 딥러닝 학습알고리즘을 제공하는 라이브러리에서 사용되고 있다. 그러나 이 알고리즘들은 블랙박스형태로 제공되고 있어서 다양한 경사하강법들의 장단점을 파악하는 것이 쉽지 않다. 경사하강법에서 현재 대표적으로 사용되고 있는 확률적 경사하강법(Stochastic Gradient Descent method), 모멘텀법(Momentum method), AdaGrad법 그리고 Adadelta법의 특성에 대하여 분석하였다. 실험 데이터는 신경망을 검증하는 데 널리 사용되는 MNIST 데이터 셋을 사용하였다. 은닉층은 2개의 층으로 첫 번째 층은 500개 그리고 두 번째 층은 300개의 뉴런으로 구성하였다. 출력 층의 활성화함수는 소프트 맥스함수이고 나머지 입력 층과 은닉 층의 활성화함수는 ReLu함수를 사용하였다. 그리고 손실함수는 교차 엔트로피 오차를 사용하였다.

• 정보과학회 컴퓨팅의 실제 논문지
• /
• 제23권1호
• /
• pp.37-44
• /
• 2017

AOS(Aeon of Strife)장르의 게임들은 단순히 즐기는 컴퓨터 게임이 아닌 대표적인 e스포츠 종목으로 자리매김하고 있으며 전문성을 필요로 하는 스포츠의 특성상, 게임 플레이 패턴 및 시즌 별 캐릭터 선택 등 게임 운영에 필요한 통계 분석의 중요성이 증가하고 있다. 본 논문에서는 대표적인 AOS 게임 중의 하나인 리그오브레전드의 게임 데이터를 이용해 데이터 마이닝 기법을 이용한 게임의 전략적 분석을 실시한다. 통계적 승률 예측 기법인 로지스틱 회귀분석과 판별 분석 및 인공신경망을 이용하여 게임의 승패 예측 모형을 설계하고 실험한다. 게임 데이터 분석 결과는 확률을 표시한 그래프로 표현되어 게임 플레이를 돕기 위해 개발된 시각적 도구에 이용한다. 승패 예측 모형의 실험 결과, 평균적으로 95%의 높은 분류율을 보이고 시각화 도구를 통해 게임 플레이의 다양한 전략 수립에 이용됨을 보인다.

• 인터넷정보학회논문지
• /
• 제7권1호
• /
• pp.75-89
• /
• 2006

본 연구는 IMF후에 도산한 기업을 대상으로 다변량판별분석 모형, 확률모형(로짓분석모형) 그리고 인공신경망 모형을 개발하여 각 모형의 도산예측력을 비교하고 인공신경망 모형의 일반화 가능성을 높이는데 목적이 있다. 본 연구는 도산예측 모형간의 예측력 비교 측면에서는 기존 연구와 유사하나 연구표본을 IMF후에 도산한 기업으로 하여 도산예측력을 향상시키고 모형의 일반화 가능성을 높이기 위해 상장회사 중 동일한 업종인 제조업종에 한정하여 모형을 개발한다는 측면에서 기존 연구와 차이가 있다고 할 수 있다. 또한, 보다 의미있는 연구를 위하여 학습용 표본과 검증용 표본을 동일한 기간에서 추출하지 않고 검증용 표본을 학습용 표본기간 이후의 기간에서 추출하여 도산예측의 타당성을 현재가 아닌 미래의 시점에서 검증함으로써, 개발한 모형이 미래의 환경변화에 적응력을 보이는지를 분석하였다.

• 한국지능시스템학회논문지
• /
• 제15권3호
• /
• pp.289-293
• /
• 2005

패턴 분류는 실세계의 객체를 표현한 다양한 형태의 패턴 정보를 추출하여, 이것이 어떤 부류(클래스)인가를 결정하는 것이다. 패턴 분류 기술은 데이터 마이닝, 산업 자동화나 업무자동화를 위한 컴퓨터 응용 소프트웨어 기술로서 현재 다양한 분야에서 활용되고 있다. 패턴 분류 기술의 최대 목표는 분류 성능 향상이며 이것을 위해 지난 40년간 많은 연구자들이 다양한 접근 방법들을 시도해 왔다. 주로 이용되는 단일 분류 방법들로는 패턴들의 확률적 추론에 기반한 베이즈 분류기, 결정 트리, 거리함수를 이용하는 방법, 신경망, 군집화 등이 있으나 대용량 다차원 데이터를 분석하기에는 효율적이지 못하다. 따라서 상호 보완적인 여러 분류기들을 사용해 결합을 통하여 성능 향상에 도움을 주고 있는 다중 분류기 시스템에 대한 연구가 활발하게 진행되고 있다. 본 논문에서는 다중 SVM(Support Vector Machine) 분류기에 관한 기존 연구의 문제점을 지적하고 새로운 모델을 제안한다. SVM을 다중 클래스 분류기로 확장하기 위해 일대다 정책을 기반으로 하여 각각의 SVM 출력값을 비선형 패턴을 갖는 신호로 간주하고 이를 신경망에 학습하여 최종 분류 성능 결과를 결합하는 모델인 BORSE(Bootstrap Resampling SVM by Ensemble)를 제안한다.

• 대한조선학회논문집
• /
• 제52권1호
• /
• pp.88-95
• /
• 2015

For the frequency-domain spectral fatigue analysis, the probability density function of stress range needs to be estimated based on the stress spectrum only, which is a frequency domain representation of the response. The probability distribution of the stress range of the narrow-band spectrum is known to follow the Rayleigh distribution, however the PDF of wide-band spectrum is difficult to define with clarity due to the complicated fluctuation pattern of spectrum. In this paper, efforts have been made to figure out the links between the probability density function of stress range to the structural response of wide-band Gaussian random process. An artificial neural network scheme, known as one of the most powerful system identification methods, was used to identify the multivariate functional relationship between the idealized wide-band spectrums and resulting probability density functions. To achieve this, the spectrums were idealized as a superposition of two triangles with arbitrary location, height and width, targeting to comprise wide-band spectrum, and the probability density functions were represented by the linear combination of equally spaced Gaussian basis functions. To train the network under supervision, varieties of different wide-band spectrums were assumed and the converged probability density function of the stress range was derived using the rainflow counting method and all these data sets were fed into the three layer perceptron model. This nonlinear least square problem was solved using Levenberg-Marquardt algorithm with regularization term included. It was proven that the network trained using the given data set could reproduce the probability density function of arbitrary wide-band spectrum of two triangles with great success.

• 스마트미디어저널
• /
• 제5권3호
• /
• pp.35-41
• /
• 2016

본 논문에서는 심층 학습 모델 방법을 이용하여 EPS(Electronic Potential Sensor) 기반의 손동작 신호를 인식하는 시스템을 제안한다. 전기장 기반 센서인 EPS로부터 추출된 신호는 다량의 잡음이 포함되어 있어 이를 제거하는 전처리과정을 거쳐야 한다. 주파수 대역 특징 필터를 이용한 잡음 제거한 후, 신호는 시간에 따른 전압(Voltage) 값만 가지는 1차원적 특징을 지닌다. 2차원 데이터를 입력으로 하여 컨볼루션 연산을 하는 알고리즘에 적합한 형태를 갖추기 위해 신호는 차원 변형을 통해 재구성된다. 재구성된 신호데이터는 여러 계층의 학습 층(layer)을 가지는 심층 학습 기반의 모델을 통해 분류되어 최종 인식된다. 기존 확률 기반 통계적 모델링 알고리즘은 훈련 후 모델을 생성하는 과정에서 초기 파라미터에 결과가 좌우되는 어려움이 있었다. 심층 학습 기반 모델은 학습 층을 쌓아 훈련을 반복하므로 이를 극복할 수 있다. 실험에서, 제안된 심층 학습 기반의 서로 다른 구조를 가지는 컨볼루션 신경망(Convolutional Neural Networks), DBN(Deep Belief Network) 알고리즘과 통계적 모델링 기반의 방법을 이용한 인식 결과의 성능을 비교하였고, 컨볼루션 신경망 알고리즘이 다른 알고리즘에 비해 EPS 동작신호 인식에서 보다 우수한 성능을 나타냄을 보였다.

• 한국수자원학회논문집
• /
• 제49권10호
• /
• pp.877-885
• /
• 2016

본 연구에서는 기상학적 가뭄지수인 표준강수지수(Standardized Precipitation Index, SPI)를 이용하여 우리나라 전역에 대한 가뭄예측의 시공간적인 평가를 수행하였다. 또한 다층 퍼셉트론 인공신경망(Multi Layer Perceptron-Artificial Neural Network, MLP-ANN) 예측 기법을 이용하여 SPI(3), (6)에 대한 선행예보시간별 가뭄 예측을 실시하였다. 입력 자료는 기상청 산하의 59개 관측소에서 관측된 기상자료를 활용하였고, 관측자료 기간은 1976~2015년이다. 예측 모델의 성능평가는 기준점(Threshold)에 따른 가뭄 발생유무와 같은 이진분류 혼동행렬을 구성하여 Receiver Operating Characteristics (ROC) score와 조건부 확률에 따른 F score를 산정하여 예측 성능평가를 수행하였다. 예측성능에 대한 ROC 분석결과 다층 퍼셉트론 인공신경망(MLP-ANN) 모형을 적용한 가뭄예측성능이 매우 우수한 것으로 나타났으며, SPI (3)은 2개월, SPI (6)는 5개월 정도의 선행예측이 충분히 가능한 것으로 나타났다.

• 한국정보통신학회논문지
• /
• 제12권12호
• /
• pp.2259-2264
• /
• 2008

정보력 있는 유전자는 특정한 실험 조건의 특성을 나타내주는 발현수준의 유전자를 의미한다. 이 유전자들은 여러 집단 간의 발현수준에서 유의한 차이를 보여주며, 실제로 집단 간의 차이를 유발하는 유전자일 확률이 높아 특정 생물학적 현상과 관련 있는 정보적 유전자를 찾는 연구에 이용될 수 있다. 본 논문에서는 먼저 그 동안 제안된 여러 표준화 방법들 중에서 가장 널리 사용되고 있는 방법들을 이용하여 데이터를 표준화 한 후 제안한 유사성 척도 조합 방법으로 정보력 있는 유전자들을 추출할 수 있는 시스템을 고안하였다. 다층퍼셉트론 신경망 분류기를 이용하여 각 표준화 방법들의 성능을 비교분석하였다. 그 결과 Lowess 표준화 후 피어슨 적률 상관 계수와 유클리디안 거리 계수 조합을 이용하여 선택된 200 유전자들을 멀티퍼셉트론 신경망 분류기로 분류한 결과 93.84%의 향상된 분류 성능을 보였다.

• 한국습지학회지
• /
• 제21권3호
• /
• pp.236-243
• /
• 2019

현재까지 많은 수문 시계열은 전통적인 선형 모형을 이용하여 분석되고 예측되어 왔다. 하지만, 자연현상과 수문시계열의 패턴 및 변동과 관련하여 비선형적 구조의 증거가 발견되고 있다. 따라서 시계열 분석 및 예측을 위한 기존의 선형 모형은 비선형적 특성에 적합하지 않을 수 있다. 본 연구에서는 미국 플로리다 코코아 지역 인근에 있는 St.Johns 강의 일유량 자료에 대한 카오스 분석을 수행하였고, 그 결과 낮은 차원의 비선형 동역학적 특성을 가진 흥미로운 결과가 나타났지만 한국의 소양강댐 일유량 자료는 확률적 특성을 보여주었다. 카오스 특성을 토대로한 DVS(결정론적 vs 추계학적) 알고리즘을 이용해 두 시계열 시스템의 특성을 파악하였고 단기 예측을 수행하였다. 또한 본 연구에서는 일 유량 시계열 예측을 위해 인공신경망 방법을 사용하였고, DVS 알고리즘에 의한 예측을 비교 분석하였다. 분석 결과, 카오스 특성을 갖는 시계열 자료가 보다 정확한 예측성을 보였다.

• 한국측량학회지
• /
• 제39권6호
• /
• pp.381-392
• /
• 2021

본 연구에서는 UAV (Unmanned Aerial Vehicle)로 촬영한 이미지를 활용하여 수치지도 지형지물 표준 코드에서 정의하고 있는 건물 8종에 대하여 딥러닝 기반의 객체 탐지 분석을 수행하였다. UAV로 촬영한 이미지 509매에 대하여 이미지 라벨링을 하였고 YOLO (You Only Look Once) v5 모델을 적용하여 학습 및 추론을 진행하였다. 실험 및 분석은 오픈소스 기반의 분석 플랫폼과 알고리즘을 적용하여 데이터를 분석하였으며 분석결과 88%~98%의 예측 확률로 건물 객체를 탐지하였다. 또한 학습데이터의 구축 및 반복 학습의 과정에서 건물 객체 탐지의 높은 정확도를 위해 필요한 학습 방식 및 모델 구축방식을 분석하였고, 학습한 모델을 다른 영상자료에 적용하는 방안을 모색하였다. 본 연구를 통해 고효율 심층 신경망과 공간정보데이터가 융합하는 모델을 제안하며 공간정보데이터와 딥러닝 기술의 융합은 향후 공간정보데이터 구축의 효율성, 분석 및 예측의 정확도 향상에 많은 도움을 제공할 것이다.