• Title/Summary/Keyword: 초기값

Search Result 3,630, Processing Time 0.037 seconds

A Study on Modified MLP Learning using Pretrained RBM (RBM 선행학습을 이용한 개선 MLP 학습에 관한 연구)

  • Kim, Tae-Hun;Lee, Yill-Byung
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2007.06c
    • /
    • pp.380-384
    • /
    • 2007
  • MLP(Multi-Layer Perceptron)를 이용한 학습은 간단한 구조에도 비선형 분류가 가능하다는 장점을 가지고 있다. 하지만 오류역전파 알고리즘을 사용함으로써 시간의 소모가 크고 원치 않는 결과값으로의 수렴가능성을 배제할 수 없다는 단점을 가지고 있다. 이는 초기설정의 의존도가 높기 때문에 발생하는 문제들로 좋은 결과값에 근접한 곳으로 초기화가 이루어지면 좋은 학습 성능을 보이지만 반대로 좋은 결과값으로부터 멀리 떨어진 곳으로 신경망의 초기화가 이루어지면 학습 성능이 현저히 낮아지는 현상을 보인다. 본 논문에서는 MLP 전체의 층을 대상으로 하는 본 학습이 이루어지기 전에 RBM(Restricted Boltzmann Machine)을 이용, 층간 선행학습을 행하고 그 결과로 얻어지는 가중치와 바이어스를 본 MLP 학습의 초기화 데이터로 사용하는 개선 MLP 학습 알고리즘을 제안한다. 이 방법을 사용함으로써 MLP 학습 속도향상은 물론 원치 않는 지역해로의 수렴까지 방지할 수 있어 전체적인 학습 성능향상이 가능하게 된다.

  • PDF

Selection of Cluster Hierarchy Depth and Initial Centroids in Hierarchical Clustering using K-Means Algorithm (K-Means 알고리즘을 이용한 계층적 클러스터링에서 클러스터 계층 깊이와 초기값 선정)

  • Lee, Shin-Won;An, Dong-Un;Chong, Sung-Jong
    • Journal of the Korean Society for information Management
    • /
    • v.21 no.4 s.54
    • /
    • pp.173-185
    • /
    • 2004
  • Fast and high-quality document clustering algorithms play an important role in providing data exploration by organizing large amounts of information into a small number of meaningful clusters. Many papers have shown that the hierarchical clustering method takes good-performance, but is limited because of its quadratic time complexity. In contrast, with a large number of variables, K-means has a time complexity that is linear in the number of documents, but is thought to produce inferior clusters. In this paper, Condor system using K-Means algorithm Compares with regular method that the initial centroids have been established in advance, our method performance has been improved a lot.

A study on academic achievement by gender and selection method based on latent growth model: K university case (잠재성장모형을 이용한 성별과 모집단위별 학업성취도에 관한 연구: K대학교 사례)

  • Choi, Hyun Seok;Park, Cheolyong
    • Journal of the Korean Data and Information Science Society
    • /
    • v.25 no.2
    • /
    • pp.411-422
    • /
    • 2014
  • This study analyzed how average GPA (grade point average) changes as the number of completed semesters increases based on the estimates of intercept, slope, and quadratic term. The students included in this study are those who was admitted in 2011 and took 6 consecutive semesters. More precisely, it was analyzed if intercept, slope and quadratic term of average GPA were different between gender and selection method. The results showed that the intercept was different between selection method, the slope was different between gender, but the quadratic term was different between neither selection method nor gender.

A Design Method for Error Backpropagation neural networks using Voronoi Diagram (보로노이 공간분류를 이용한 오류 역전파 신경망의 설계방법)

  • 김홍기
    • Journal of the Korean Institute of Intelligent Systems
    • /
    • v.9 no.5
    • /
    • pp.490-495
    • /
    • 1999
  • In this paper. a learning method VoD-EBP for neural networks is proposed, which learn patterns by error back propagation. Based on Voronoi diagram, the method initializes the weights of the neural networks systematically, wh~ch results in faster learning speed and alleviated local optimum problem. The method also shows better the reliability of the design of neural network because proper number of hidden nodes are determined from the analysis of Voronoi diagram. For testing the performance, this paper shows the results of solving the XOR problem and the parity problem. The results were showed faster learning speed than ordinary error back propagation algorithm. In solving the problem, local optimum problems have not been observed.

  • PDF

Topological Analysis of the Feasibility and Initial-value Assignment of Image Segmentation (영상 분할의 가능성 및 초기값 배정에 대한 위상적 분석)

  • Doh, Sang Yoon;Kim, Jungguk
    • Journal of KIISE
    • /
    • v.43 no.7
    • /
    • pp.812-819
    • /
    • 2016
  • This paper introduces and analyzes the theoretical basis and method of the conventional initial-value assignment problem and feasibility of image segmentation. The paper presents topological evidence and a method of appropriate initial-value assignment based on topology theory. Subsequently, the paper shows minimum conditions for feasibility of image segmentation based on separation axiom theory of topology and a validation method of effectiveness for image modeling. As a summary, this paper shows image segmentation with its mathematical validity based on topological analysis rather than statistical analysis. Finally, the paper applies the theory and methods to conventional Gaussian random field model and examines effectiveness of GRF modeling.

Explicit Solution of Wave Dispersion Equation Using Recursive Relation (순환 관계에 의한 파랑분산식의 양해)

  • Lee, Changhoon;Jang, Hochul
    • KSCE Journal of Civil and Environmental Engineering Research
    • /
    • v.28 no.1B
    • /
    • pp.111-114
    • /
    • 2008
  • Explicit solutions of the wave dispersion equation are developed using the recursive relation in terms of the relative water depth. We use the solutions of Eckart (1951), Hunt (1979), and the deep-water and shallow-water solutions for initial values of the solution. All the recursive solutions converge to the exact one except that with the initial value of deep-water solution. The solution with the initial value by Hunt converged much faster than the others. The recursive solutions may be obtained quickly and simply by a hand calculator. For the transformation of linear water waves in whole water depth, the use of the recursive solutions will yield more accurate analytical solutions than use of previously developed explicit solutions.

A Study on Cut Detection of Video Retrieval Using the Color Threshold (칼라임계값을 이용한 동영상의 컷 검출에 관한 연구)

  • 이명주;김형균;정기봉;오무성;김태성
    • Proceedings of the Korea Multimedia Society Conference
    • /
    • 2000.04a
    • /
    • pp.153-156
    • /
    • 2000
  • 동영상 정보는 영상정보뿐만 아니라 음성정보, 문자정보 및 각종 의미있는 정보들을 포함하고 있어서 기존의 검색방법으로는 사용자가 원하는 이미지를 찾는데 어려움이 따른다. 따라서, 본 연구에서는 동영상 정보의 효율적인 활용을 위한 색인방법으로 칼라 임계값을 이용한 컷 검출 방법을 제안하였다. 이것은 frame 간의 유사도를 측정해서 이 값이 주어진 임계값보다 작을 경우, 장면의 전환이 일어나는 곳을 컷 지점으로 검출하는 것인데, 동영상의 장면에 따른 유사도가 다를 수 있기 때문에, 컷을 구성하는 프레임들간의 칼라 임계값에 변동을 주어 최적의 컷 검출율을 구하고자 했다. 초기의 칼라 임계값은 '80'을 사용했고, 이후 frame 의 유사도가 임계값보다 클 경우, 즉 장면전환이 일어나지 않았을 경우일정한 상수 값을 초기 임계값에서 감산토록 하였다. 이러한, 과정을 거쳐 추출된 frame을 가지고 원하는 이미지를 검색하게 되면 사용자의 노력 및 검색 시간이 단축되고, 동영상 정보의 관리가 용이해진다.

  • PDF

A Modified Learning Algorithm for Feedforward Neural Network (Feedforward Neural Network의 개선된 학습 알고리즘)

  • 윤여창
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2004.10a
    • /
    • pp.217-219
    • /
    • 2004
  • 본 연구에서는 Feedforward Neural Network에 적용될 수 있는 개선된 학습 알고리즘을 개발하고자 한다. 제시된 알고리즘을 이용하여 학습을 할 때 학습 초기는 가장 단순한 경우로써 한 개의 학습 패턴과 은닉 층으로부터 시작한다. 신경망 학습 중에 지역 최소값에 수렴되면 weights scaling 기법을 이용하여 지역 최소값을 벗어나도록 한다. 지역 최소값의 탈출이 용이하지 않으면 은닉노드를 점차적으로 추가한다. 이러한 단계에서 새롭게 추가된 노드에 대한 초기값 선택은 선형계획법을 이용한 최적 처리절차론 이용한다. 최적 처리절차의 결과로써 은닉 층의 노드가 추가된 후의 네트워크는 학습회수를 증가시키지 않아도 학습 허용오차를 만족시킬 수 있다 본 연구에서 적용한 개선된 알고리즘을 이용하면 신경망 학습시의 수렴 정도를 높여주고 최소한의 단순 구조를 갖는 신경망으로 추정할 수 있게 하며, 이 결과를 모의실험을 통하여 살펴보고 기존의 연구 결과와 비교한다.

  • PDF

Refining Initial Seeds using Max Average Distance for K-Means Clustering (K-Means 클러스터링 성능 향상을 위한 최대평균거리 기반 초기값 설정)

  • Lee, Shin-Won;Lee, Won-Hee
    • Journal of Internet Computing and Services
    • /
    • v.12 no.2
    • /
    • pp.103-111
    • /
    • 2011
  • Clustering methods is divided into hierarchical clustering, partitioning clustering, and more. If the amount of documents is huge, it takes too much time to cluster them in hierarchical clustering. In this paper we deal with K-Means algorithm that is one of partitioning clustering and is adequate to cluster so many documents rapidly and easily. We propose the new method of selecting initial seeds in K-Means algorithm. In this method, the initial seeds have been selected that are positioned as far away from each other as possible.

Simulated Annealing 기법을 이용한 실험적 베리오그램의 모델링

  • 정대인;최종근;기세일
    • Proceedings of the Korean Society of Soil and Groundwater Environment Conference
    • /
    • 2002.09a
    • /
    • pp.156-160
    • /
    • 2002
  • 실험적 베리오그램의 모델링에 SA(Simulated Annealing)기법을 이용하였다. 최소 자승법의 해를 구하기 위하여 기존의 상용 프로그램에서 많이 이용되고 있는 반복법에 근거한 방법에 비해서 SA 기법은 초기 가정값에 크게 영향을 받지 않고 일정한 모델 인자의 값을 제시하였다. 임의의 초기 가정값을 입력하여도 충분한 반복 계산을 통하여 목적함수의 값이 광역적 최소값으로 수렴하는 것을 확인할 수 있었다. 베리오그램 모델이 일반적으로 비선형 모델이기 때문에 목적함수의 지역적 최소값으로의 수렴이 문제가 되고 이로 인하여 구해지는 인자의 값이 정확하지 않을 수 있지만 SA 기법을 이용하여 최소 자승법의 해를 구하게 되면 정확한 인자의 값을 구할 수 있음을 확인하였다.

  • PDF