• 제목/요약/키워드: Cross-Entropy

검색결과 114건 처리시간 0.022초

Comparison of Objective Functions for Feed-forward Neural Network Classifiers Using Receiver Operating Characteristics Graph

  • Oh, Sang-Hoon;Wakuya, Hiroshi
    • International Journal of Contents
    • /
    • 제10권1호
    • /
    • pp.23-28
    • /
    • 2014
  • When developing a classifier using various objective functions, it is important to compare the performances of the classifiers. Although there are statistical analyses of objective functions for classifiers, simulation results can provide us with direct comparison results and in this case, a comparison criterion is considerably critical. A Receiver Operating Characteristics (ROC) graph is a simulation technique for comparing classifiers and selecting a better one based on a performance. In this paper, we adopt the ROC graph to compare classifiers trained by mean-squared error, cross-entropy error, classification figure of merit, and the n-th order extension of cross-entropy error functions. After the training of feed-forward neural networks using the CEDAR database, the ROC graphs are plotted to help us identify which objective function is better.

Fixed size LS-SVM for multiclassification problems of large data sets

  • Hwang, Hyung-Tae
    • Journal of the Korean Data and Information Science Society
    • /
    • 제21권3호
    • /
    • pp.561-567
    • /
    • 2010
  • Multiclassification is typically performed using voting scheme methods based on combining a set of binary classifications. In this paper we use multiclassification method with a hat matrix of least squares support vector machine (LS-SVM), which can be regarded as the revised one-against-all method. To tackle multiclass problems for large data, we use the $Nystr\ddot{o}m$ approximation and the quadratic Renyi entropy with estimation in the primal space such as used in xed size LS-SVM. For the selection of hyperparameters, generalized cross validation techniques are employed. Experimental results are then presented to indicate the performance of the proposed procedure.

Contour Plots of Objective Functions for Feed-Forward Neural Networks

  • Oh, Sang-Hoon
    • International Journal of Contents
    • /
    • 제8권4호
    • /
    • pp.30-35
    • /
    • 2012
  • Error surfaces provide us with very important information for training of feed-forward neural networks (FNNs). In this paper, we draw the contour plots of various error or objective functions for training of FNNs. Firstly, when applying FNNs to classifications, the weakness of mean-squared error is explained with the viewpoint of error contour plot. And the classification figure of merit, mean log-square error, cross-entropy error, and n-th order extension of cross-entropy error objective functions are considered for the contour plots. Also, the recently proposed target node method is explained with the viewpoint of contour plot. Based on the contour plots, we can explain characteristics of various error or objective functions when training of FNNs proceeds.

지하수 함양량 추정시 공간상에서의 자료 sampling 방법에 따른 Minimum Entropy Deconvolution의 적용성에 관한 검토

  • 김태희;김용제;이강근
    • 한국지하수토양환경학회:학술대회논문집
    • /
    • 한국지하수토양환경학회 2005년도 총회 및 춘계학술발표회
    • /
    • pp.139-142
    • /
    • 2005
  • Kim and Lee(2005) suggested Minimum Entropy Deconvolution(MED) to estimate the temporal sequence of the relative recharge. However this study by Kim and Lee(2005) was just related to the verification of the conceptual approach with MED. In this study, we try to characterize the applicability of MED in the case of spatially heterogeneous recharge (distance from recharge area). Simulated results were recorded with some specific sampling points. Estimated results from this study show higher than 0.8 in cross-correlation with the original recharge sequence.

  • PDF

밝기변화 보상을 적용한 효율적인 비디오 코딩 알고리즘 (An Efficient Video Coding Algorithm Applying Brightness Variation Compensation)

  • 김상현
    • 융합신호처리학회논문지
    • /
    • 제5권4호
    • /
    • pp.287-293
    • /
    • 2004
  • 본 논문은 밝기 변화가 심한 비디오 시퀀스에 대해 효율적인 움직임 보상 알고리즘을 제안한다. 제안한 알고리즘에서는 화면간의 밝기 변화 변수들을 추정하고 지역적인 움직임 보상을 수행한다. 밝기 변화가 심한 화면을 검출하기 위해 연속되는 두 프레임간의 히스토그램의 크로스 엔트로피를 계산하여 밝기 변화가 심한 화면을 그렇지 않은 화면과 나누어 밝기 변화가 심하지 않은 경우에 발생할 수 있는 불필요한 계산량을 줄였다. 밝기 변화가 심한 비디오 시퀀스에 대한 실험결과 제안한 알고리즘은 기존의 알고리즘에 비해 적은 계산량으로 높은 PSNR (peak signal to noise ratio) 성능을 나타내었다.

  • PDF

An Approach for Stock Price Forecast using Long Short Term Memory

  • K.A.Surya Rajeswar;Pon Ramalingam;Sudalaimuthu.T
    • International Journal of Computer Science & Network Security
    • /
    • 제23권4호
    • /
    • pp.166-171
    • /
    • 2023
  • The Stock price analysis is an increasing concern in a financial time series. The purpose of the study is to analyze the price parameters of date, high, low, and news feed about the stock exchange price. Long short term memory (LSTM) is a cutting-edge technology used for predicting the data based on time series. LSTM performs well in executing large sequence of data. This paper presents the Long Short Term Memory Model has used to analyze the stock price ranges of 10 days and 20 days by exponential moving average. The proposed approach gives better performance using technical indicators of stock price with an accuracy of 82.6% and cross entropy of 71%.

에어 택시 이용률 최대화를 위한 수직이착륙장 위치 결정 문제 (Vertiport Location Problem to Maximize Utilization Rate for Air Taxi)

  • 김광
    • 한국산업정보학회논문지
    • /
    • 제28권5호
    • /
    • pp.67-75
    • /
    • 2023
  • 본 논문에서는 도시 내 교통 혼잡 문제를 해결하기 위한 새로운 혁신 기술 중 하나인 에어 택시 운영에 관한 연구를 다룬다. 성공적인 기술 도입과 합리적인 운영을 위해 초기에 고려해야 할 문제 중 하나인 수직이착륙장(vertiport) 위치 결정 문제를 다룬다. 교통수단 이용에 따른 비용과 이동시간을 고려하여 각 경로에서의 교통수단 예측 수요 확률을 이산 선택 모형을 활용하여 구하고, 이를 반영하여 에어 택시 이용률의 최대화를 목적으로 하는 수리적 모형을 제안한다. 본 수리적 모형은 NP-난해(NP-hard) 문제로, 위치 결정 문제를 해결하기 위한 효과적이면서 효율적인 문제 해결방법론이 필요하다. 단순히 최적화 모형을 제안한 기존 연구와 달리 본 연구에서는 교차-엔트로피 알고리즘(cross-entropy algorithm)을 활용한 문제 해결 방법론을 제안하고, 수치 실험을 통해 알고리즘의 효과성과 효율성을 확인한다. 문제 해결 방법론의 학술적 우수성 외에도, 실제 데이터 및 에어 택시 활용 계획을 고려한 의사결정의 제시는 실무적인 활용 가능성을 높일 수 있음을 시사한다.

A3C를 활용한 블록체인 기반 금융 자산 포트폴리오 관리 (Blockchain Based Financial Portfolio Management Using A3C)

  • 김주봉;허주성;임현교;권도형;한연희
    • 정보처리학회논문지:컴퓨터 및 통신 시스템
    • /
    • 제8권1호
    • /
    • pp.17-28
    • /
    • 2019
  • 금융투자 관리 전략 중에서 여러 금융 상품을 선택하고 조합하여 분산 투자하는 것을 포트폴리오 관리 이론이라 부른다. 최근, 블록체인 기반 금융 자산, 즉 암호화폐들이 몇몇 유명 거래소에 상장되어 거래가 되고 있으며, 암호화폐 투자자들이 암호화폐에 대한 투자 수익을 안정적으로 올리기 위하여 효율적인 포트폴리오 관리 방안이 요구되고 있다. 한편 딥러닝이 여러 분야에서 괄목할만한 성과를 보이면서 심층 강화학습 알고리즘을 포트폴리오 관리에 적용하는 연구가 시작되었다. 본 논문은 기존에 발표된 심층강화학습 기반 금융 포트폴리오 투자 전략을 바탕으로 대표적인 비동기 심층 강화학습 알고리즘인 Asynchronous Advantage Actor-Critic (A3C)를 적용한 효율적인 금융 포트폴리오 투자 관리 기법을 제안한다. 또한, A3C를 포트폴리오 투자 관리에 접목시키는 과정에서 기존의 Cross-Entropy 함수를 그대로 적용할 수 없기 때문에 포트폴리오 투자 방식에 적합하게 기존의 Cross-Entropy를 변형하여 그 해법을 제시한다. 마지막으로 기존에 발표된 강화학습 기반 암호화폐 포트폴리오 투자 알고리즘과의 비교평가를 수행하여, 본 논문에서 제시하는 Deterministic Policy Gradient based A3C 모델의 성능이 우수하다는 것을 입증하였다.

효과적인 이동물체 추적을 위한 색도 영상과 엔트로피 기반의 그림자 제거 (Shadow Removal Based on Chromaticity and Entropy for Efficient Moving Object Tracking)

  • 박기홍
    • 한국항행학회논문지
    • /
    • 제18권4호
    • /
    • pp.387-392
    • /
    • 2014
  • 최근 지능형 비디오 감시를 위한 다양한 연구가 제안되고 있음에도 CCTV 영상에서 이상 징후 판단이 사람에 의해 이루어지고 있어 상황인식을 위한 방법 및 연구가 필요하다. 본 논문에서는 이동물체 검출 및 추적을 위해 RGB 칼라 모델 기반의 색도 영상과 엔트로피 영상을 도출하여 그림자 제거를 수행한 후 이동물체를 추적하는 방법을 제안한다. 이동물체 검출을 위해 잡음 및 주위환경변화에 민감하지만 순간적으로 발생되는 상황인지 환경에서 효과적인 차영상 모델을 적용하였다. 검출한 이동물체 영역에서 RGB 채널의 색도 영상을 기반으로 첫 번째 그림자 후보 영역을 선정하였고, 그레이레벨에서 엔트로피를 계산하여 두 번째 그림자 후보 영역을 추정하여 그림자를 제거하였다. 제안하는 방법의 타당성을 위해 고속도로에서 주행하는 자동차들을 대상으로 실험하였고, 실험 결과 색상과 엔트로피를 이용한 그림자를 제거와 이동물체 추적이 효과적으로 수행됨을 확인하였다.

EXPERIMENTAL STUDY ON THE FLOW AND MIXTURE DISTIBUTION IN A VISUALIZATION ENGINE USING DIGITAL PARTICLE IMAGE VELOCIMETRY AND ENTROPY ANALYSIS

  • Lee, K.H.;Lee, C.H.
    • International Journal of Automotive Technology
    • /
    • 제8권2호
    • /
    • pp.127-135
    • /
    • 2007
  • The objective of this study is to analyze the effect of velocity and vorticity on stratified mixture formation in the visualization engine. In order to investigate spray behavior, the pray velocity is obtained through the cross-correlation PIV method, a useful optical diagnostics technology and the vorticity calculated from the spray velocity component. These results elucidated the relationship between vorticity and entropy, which play an important role in the diffusion process for the early injection case and the stratification process for the late injection case. In addition, we quantified the homogeneous diffusion ate of spray using entropy analysis based on Boltzmann's statistical thermodynamics. Using these methods, we discovered that the homogeneous mixture distribution is more effective as a momentum dissipation of surrounding air than that of the spray concentration with a change in the injection timing. We found that the homogenous diffusion rate increased as the injection timing moved to the early intake stroke process, and BTDC $60^{\circ}$ was the most efficient injection timing for the stratified mixture formation during the compression stroke.