Journal of KIISE:Software and Applications (한국정보과학회논문지:소프트웨어및응용)

Korean Institute of Information Scientists and Engineers (한국정보과학회)
권호 표지

Analysis of the Levy Mutation Operations in the Evolutionary prograamming using Mean Square Displacement and distinctness

평균변화율 및 유일성을 통한 진화 프로그래밍에서 레비 돌연변이 연산 분석

  • 이창용 (공주대학교 산업정보학과)
  • Published : 2001.11.01
Download PDF
⟨ Previous Next ⟩

Abstract

Abstract In this work, we analyze the Levy mutation operations based on the Levy probability distribution in the evolutionary programming via the mean square displacement and the distinctness. The Levy probability distribution is characterized by an infinite second moment and has been widely studied in conjunction with the fractals. The Levy mutation operators not only generate small varied offspring, but are more likely to generate large varied offspring than the conventional mutation operators. Based on this fact, we prove mathematically, via the mean square displacement and the distinctness, that the Levy mutation operations can explore and exploit a search space more effectively. As a result, one can get better performance with the Levy mutation than the conventional Gaussian mutation for the multi-valued functional optimization problems.

본 논문에서는 진화프로그래밍에서 레비 확률분포(Levy probability distribution)를 사용한 돌연변이 연산의 유용성을 레비 돌연변이 연산 후의 변수의 평균변화율(mean square displacement) 및 유일성(distinctness) 등을 통하여 분석하였다. 레비 확률분포는 무한의 분산(infinite second moment을 가지는 확률분포로 쪽거리(fractal)와 연계되어 최근 연구가 활발히 진행되고 있는 확률분포이다. 레비 확률분포를 사용한 레비 돌연변이 연산은 변화가 작은 자손(offspring)뿐만 아니라 기존의 정규분포를 사용한 돌연변이 연산에 비하여 상대적으로 변화가 큰 자손을 생성할 수 있다. 이러한 사실에 기초하여 레비 돌연변이 연산은 보다 넓은 탐색 공간을 효율적으로 조사할 수 있음을 평균변화율 및 유일성 등의 조사를 통하여 수학적으로 증명하였다. 이를 통하여 진화 프로그래밍에서 레비 확률분포에 기초한 돌연변이 연산이 정규분포를 사용한 돌연변이 연산보다 다변량 함수의 최적화의 경우 일반적으로 효율적인 연산임을 알 수 있었다.

Keywords

References

  1. L J, Fogel, A. J, Owens, and M. J, Walsh, 'Artificial Intelligence Through Simulated Evolution,' John Wiley & Sons, New York, NY, 1966
  2. D, Fogel, 'Evolutionary Computation : Towards a New Philosophy of Machine Intelligence,' IEEE Press, NY, 1995
  3. D, Goldberg, 'Genetic algorithm in search, optimization and machine learning,' Addison Wesley, 1989
  4. T. Back and H.-P. Schwefel, 'An overview of evolutionary algorithms for parameter optimization.' Evolutionary Computation Vol. 1, No.1, pp. 1-23, 1993
  5. X. Yao and Y. Lin, 'Fast evolutionary programming,' in Evolutionary Programming V: Proceedings of the Fifth Annual Conference on Evolutionary Programming, MIT Press Cambridge, MIT., 1996
  6. X. Yao and Y Lin, 'Fast Evolutionary Strategies,' in Evolutionary Programming VI: Proceedings of the Sixth Annual Conference on Evolutionary Programming, pp.151-161, Springer, 1997
  7. P. Levy, 'Theorie de l'Addition des Veriables Aleatoires,' Gauthier-Villars, Paris, 1937 ; B. Gnedenko and A. Kolmogorov, 'Limit distributions for Sums of Independent Random Variables,' Addition-Wesley, Cambridge, MA., 1954
  8. 정보과학회논문지(B) v.25 no.1 Levy 확률 분포를 사용한 빠른 진화 프로그래밍 이창용
  9. P. Levy, 'Theorie de l'Addition des Veriables Aleatoires,' Gauthier-Villars, Paris, 1937 ; B. Gnedenko and A. Kolmogorov, 'Limit distributions for Sums of Independent Random Variables,' Addition-Wesley, Cambridge, MA., 1954.
  10. 이창용, 'Levy 확률 분포를 사용한 빠른 진화 프로그래밍', 정보과학회논문지(B), 25권, 1호, pp.141-149, 1998
  11. C. - Y. Lee and X. Yao, 'Evolutionary algorithm with adaptive Levy mutations,' Proceedings of CEC2001, pp. 568-575, 200 https://doi.org/10.1109/CEC.2001.934442
  12. B. B. Mandelbrot, 'The Fractal Geometry of Nature,' Freeman, San Francisco, 1982
  13. R. Mantegna and E. Stanley, 'Scaling behavior in the dynamics of an economic index,' Nature, Vol. 376, No.6, pp. 46-49, 1995 https://doi.org/10.1038/376046a0
  14. D. Whitley, K. Mathias, R. Rana, and J. Dzubera, 'Building better test functions,' Proceedings of the 6th International Conference on Genetic Algorithms, L. Eshelman, ed. pp. 239-246, 1995
  15. A. Bunde and S. Halvin (ed), 'Fractals in Science,' chapter 5, Springer-Verlag, 1994
  16. P. J. Angeline, G. M. Saunders, and]. B. Pollack, 'An Evolutionary Algorithm that Constructs Recurrent Neural Networks,' IEEE Trans. Neural Networks, Vol. 5:1, pp. 54-65, 1994 https://doi.org/10.1109/72.265960