• 제목/요약/키워드: premature convergence

검색결과 98건 처리시간 0.024초

유전 알고리즘의 조기수렴 저감을 위한 연산자 소인방법 연구 (On Sweeping Operators for Reducing Premature Convergence of Genetic Algorithms)

  • 이홍규
    • 제어로봇시스템학회논문지
    • /
    • 제17권12호
    • /
    • pp.1210-1218
    • /
    • 2011
  • GA (Genetic Algorithms) are efficient for searching for global optima but may have some problems such as premature convergence, convergence to local extremum and divergence. These phenomena are related to the evolutionary operators. As population diversity converges to low value, the search ability of a GA decreases and premature convergence or converging to local extremum may occur but population diversity converges to high value, then genetic algorithm may diverge. To guarantee that genetic algorithms converge to the global optima, the genetic operators should be chosen properly. In this paper, we analyze the effects of the selection operator, crossover operator, and mutation operator on convergence properties, and propose the sweeping method of mutation probability and elitist propagation rate to maintain the diversity of the GA's population for getting out of the premature convergence. Results of simulation studies verify the feasibility of using these sweeping operators to avoid premature convergence and convergence to local extrema.

Derivative Evaluation and Conditional Random Selection for Accelerating Genetic Algorithms

  • Jung, Sung-Hoon
    • International Journal of Fuzzy Logic and Intelligent Systems
    • /
    • 제5권1호
    • /
    • pp.21-28
    • /
    • 2005
  • This paper proposes a new method for accelerating the search speed of genetic algorithms by taking derivative evaluation and conditional random selection into account in their evolution process. Derivative evaluation makes genetic algorithms focus on the individuals whose fitness is rapidly increased. This accelerates the search speed of genetic algorithms by enhancing exploitation like steepest descent methods but also increases the possibility of a premature convergence that means most individuals after a few generations approach to local optima. On the other hand, derivative evaluation under a premature convergence helps genetic algorithms escape the local optima by enhancing exploration. If GAs fall into a premature convergence, random selection is used in order to help escaping local optimum, but its effects are not large. We experimented our method with one combinatorial problem and five complex function optimization problems. Experimental results showed that our method was superior to the simple genetic algorithm especially when the search space is large.

조기수렴 저감을 위한 해밍거리와 적합도의 혼합 유전 연산자 (Hybrid Genetic Operators of Hamming Distance and Fitness for Reducing Premature Convergence)

  • 이홍규
    • 한국항행학회논문지
    • /
    • 제18권2호
    • /
    • pp.170-177
    • /
    • 2014
  • 유전 알고리즘은 강인한 탐색과 최적화 기술이기는 하나 조기 수렴과 국부 최적해에 수렴하는 문제점들을 내포하고 있다. 모집단의 다양성이 작은 값으로 수렴할수록 탐색능력이 감소하고, 국부 최적해에 수렴하지만, 모집단의 다양성이 높은 값으로 수렴할수록 탐색능력이 증가하고 전역 최적해에 수렴할 수 있으나 유전 알고리즘은 발산할 수도 있다. 유전 알고리즘이 전역 최적해에 수렴하는 것을 보장하기 위해서는 유전 연산자가 적절하게 선정되어야 한다. 본 논문에서는 조기 수렴으로부터 벗어나기 위하여 모집단의 다양성을 유지하도록 평균해밍거리와 적합도 값을 혼합한 함수를 이용한 유전 연산자들을 제안하였다. 모의실험을 통하여 다양성의 유지를 위한 돌연변이 연산자와 수렴 특성의 향상을 위한 다른 유전자들의 효과를 확인할 수 있었으며, 본 논문에서 제안한 유전 연산자들이 조기 수렴이나 국부 최적해에 수렴하는 경우를 피하는데 유용한 방법임이 확인되었다.

Fast Evolution by Multiple Offspring Competition for Genetic Algorithms

  • Jung, Sung-Hoon
    • International Journal of Fuzzy Logic and Intelligent Systems
    • /
    • 제10권4호
    • /
    • pp.263-268
    • /
    • 2010
  • The premature convergence of genetic algorithms (GAs) is the most major factor of slow evolution of GAs. In this paper we propose a novel method to solve this problem through competition of multiple offspring of in dividuals. Unlike existing methods, each parents in our method generates multiple offspring and then generated multiple offspring compete each other, finally winner offspring become to real offspring. From this multiple offspring competition, our GA rarel falls into the premature convergence and easily gets out of the local optimum areas without negative effects. This makes our GA fast evolve to the global optimum. Experimental results with four function optimization problems showed that our method was superior to the original GA and had similar performances to the best ones of queen-bee GA with best parameters.

적응 군집화 기법과 유전 알고리즘을 이용한 영상 영역화 (Image segmentation using adaptive clustering algorithm and genetic algorithm)

  • 하성욱;강대성
    • 전자공학회논문지S
    • /
    • 제34S권8호
    • /
    • pp.92-103
    • /
    • 1997
  • This paper proposes a new gray-level image segmentation method using GA(genetic algorithm) and an ACA(adaptive clustering algorithm). The solution in the general GA can be moving because of stochastic reinsertion, and suffer from the premature convergence problem owing to deficiency of individuals before finding the optimal solution. To cope with these problems and to reduce processing time, we propose the new GBR algorithm and the technique that resolves the premature convergence problem. GBR selects the individual in the child pool that has the fitness value superior to that of the individual in the parents pool. We resolvethe premature convergence problem with producing the mutation in the parents population, and propose the new method that removes the small regions in the segmented results. The experimental results show that the proposed segmentation algorithm gives better perfodrmance than the ACA ones in Gaussian noise environments.

  • PDF

유전자알고리즘의 성능향상을 위한 선택적 돌연변이 (Selective Mutation for Performance Improvement of Genetic Algorithms)

  • 정성훈
    • 정보처리학회논문지B
    • /
    • 제17B권2호
    • /
    • pp.149-156
    • /
    • 2010
  • 유전자알고리즘의 조숙수렴현상(premature convergence phenomenon)은 유전자알고리즘의 성능을 크게 저하시키기 때문에 이 문제를 해결하는 것이 성능향상에 크게 영향을 준다. 본 논문에서는 유전자알고리즘의 조숙수렴현상을 완화하여 성능을 향상시키기 위한 선택적 돌연변이 방법을 제안한다. 선택적 돌연변이에서는 유전자알고리즘 개체의 등급에 따라서 염색체의 특정영역에 비트를 추가적으로 돌연변이 시킨다. 이렇게 함으로서 등급이 낮은 개체는 표현형 상에서 많은 변화가 일어나고 등급이 높은 개체는 작은 변화가 일어나게 된다. 결국 좋은 개체는 그 주변을 세부적으로 탐색하며 좋지 못한 개체는 새로운 영역을 탐색할 기회가 높아지게 되어 조숙수렴현상을 완화하면서 성능향상을 꾀할 수 있게 된다. 성능향상을 측정하기 위하여 4개의 대표적 함수 최적화 문제에 적용해서 제안한 방법의 성능을 측정하였다. 실험결과 기존의 유전자알고리즘보다 성능이 크게 향상됨을 확인하였다.

Rank-based Control of Mutation Probability for Genetic Algorithms

  • Jung, Sung-Hoon
    • International Journal of Fuzzy Logic and Intelligent Systems
    • /
    • 제10권2호
    • /
    • pp.146-151
    • /
    • 2010
  • This paper proposes a rank-based control method of mutation probability for improving the performances of genetic algorithms (GAs). In order to improve the performances of GAs, GAs should not fall into premature convergence phenomena and should also be able to easily get out of the phenomena when GAs fall into the phenomena without destroying good individuals. For this, it is important to keep diversity of individuals and to keep good individuals. If a method for keeping diversity, however, is not elaborately devised, then good individuals are also destroyed. We should devise a method that keeps diversity of individuals and also keeps good individuals at the same time. To achieve these two objectives, we introduce a rank-based control method of mutation probability in this paper. We set high mutation probabilities to lowly ranked individuals not to fall into premature convergence phenomena by keeping diversity and low mutation probabilities to highly ranked individuals not to destroy good individuals. We experimented our method with typical four function optimization problems in order to measure the performances of our method. It was found from extensive experiments that the proposed rank-based control method could accelerate the GAs considerably.

머신러닝을 이용한 미숙아의 재원일수 예측 융복합 연구 (Convergence study to predict length of stay in premature infants using machine learning)

  • 김촉환;강성홍
    • 디지털융복합연구
    • /
    • 제19권7호
    • /
    • pp.271-282
    • /
    • 2021
  • 본 연구는 미숙아의 재원일수 예측 모형을 머신러닝 기법을 통해 개발하기 위해 수행 되었다. 모형 개발을 위해 질병관리본부에서 수집한 퇴원손상심층조사 자료의 2011년부터 2016년까지 퇴원한 미숙아 6,149건을 이용하였다. 입원 초기 신경망 모형은 설명력(R2)이 0.75로 다른 모형에 비해 우수 하였다. 입원 초기 변수에 임상진단을 CCS(Clinical class ification software)로 변환하여 추가 투입한 모형은 큐비스트(Cubist) 모형의 설명력(R2)이 0.81로 랜덤 포레스트(Random Forests), 그라디언트 부스트(Gradient boost), 신경망(neural network), 벌점화 회귀(Penalty regression) 모형에 비해 성능이 우수 하였다. 본 연구는 전국단위 데이터를 이용한 미숙아의 재원일수 예측 모형을 머신러닝을 통해 제시하고 그 활용 가능성을 확인하였다. 하지만 임상정보, 부모정보 등 데이터의 한계로 향후 성능 향상을 위한 추가 연구가 필요하다.

유전자 알고리즘에 대한 수렴특성의 개선 (Improvement of Convergence Properties for Genetic Algorithms)

  • 이홍규
    • 한국항행학회논문지
    • /
    • 제12권5호
    • /
    • pp.412-419
    • /
    • 2008
  • 유전자 알고리즘은 효과적으로 최적의 해를 구하는 기법이나 진화연상산자의 선정에 따라 조기에 국부 최적해에 고착되어 전역 최적해로의 탐색을 어렵게 하는 문제점을 가지고 있다. 본 논문에서는 국부 최적해로 수렴하게 되는 원인을 분석하고, 국부 최적해에서 벗어나 전역 최적해로의 천이가 가능하도록 하는 방법을 제안하였다. 본 논문에서 사용한 방법은 평균 해밍거리에 따라 진화연산자를 가변시키는 방법으로서 국부 최적해에 고착되지 않도록 유전자에 다양성을 부여하여 지속적으로 모집단의 진화 특성을 유지하는 방법이다. 제안된 방법은 시뮬레이션을 통하여 효용성을 입증하였다.

  • PDF

미소-유전 알고리듬을 이용한 오류 역전파 알고리듬의 학습 속도 개선 방법 (Speeding-up for error back-propagation algorithm using micro-genetic algorithms)

  • 강경운;최영길;심귀보;전홍태
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 1993년도 한국자동제어학술회의논문집(국내학술편); Seoul National University, Seoul; 20-22 Oct. 1993
    • /
    • pp.853-858
    • /
    • 1993
  • The error back-propagation(BP) algorithm is widely used for finding optimum weights of multi-layer neural networks. However, the critical drawback of the BP algorithm is its slow convergence of error. The major reason for this slow convergence is the premature saturation which is a phenomenon that the error of a neural network stays almost constant for some period time during learning. An inappropriate selections of initial weights cause each neuron to be trapped in the premature saturation state, which brings in slow convergence speed of the multi-layer neural network. In this paper, to overcome the above problem, Micro-Genetic algorithms(.mu.-GAs) which can allow to find the near-optimal values, are used to select the proper weights and slopes of activation function of neurons. The effectiveness of the proposed algorithms will be demonstrated by some computer simulations of two d.o.f planar robot manipulator.

  • PDF