Development of Automatic Rule Extraction Method in Data Mining : An Approach based on Hierarchical Clustering Algorithm and Rough Set Theory

데이터마이닝의 자동 데이터 규칙 추출 방법론 개발 : 계층적 클러스터링 알고리듬과 러프 셋 이론을 중심으로

  • 오승준 (경기공업대학 산업경영과) ;
  • 박찬웅 (경원대학교 산업정보시스템공학과)
  • Published : 2009.06.30

Abstract

Data mining is an emerging area of computational intelligence that offers new theories, techniques, and tools for analysis of large data sets. The major techniques used in data mining are mining association rules, classification and clustering. Since these techniques are used individually, it is necessary to develop the methodology for rule extraction using a process of integrating these techniques. Rule extraction techniques assist humans in analyzing of large data sets and to turn the meaningful information contained in the data sets into successful decision making. This paper proposes an autonomous method of rule extraction using clustering and rough set theory. The experiments are carried out on data sets of UCI KDD archive and present decision rules from the proposed method. These rules can be successfully used for making decisions.

테이터 마이닝은 대용량의 데이터 셋을 분석하기 위하여 새로운 이론, 기법, 분석 툴을 제공하는 전산 지능분야의 새로운 영역중 하나이다. 데이터 마이닝의 주요 기법으로는 연관규칙 탐사, 분류, 클러스터링 등이 있다. 그러나 이들 기법을 기존 연구 방법들처럼 개별적으로 사용하는 것보다는 통합화하여 규칙들을 자동적으로 발견해내는 방법론이 필요하다. 이런 데이터 규칙 추출 방법론은 대량의 데이터들을 분석하여 성공적인 의사결정을 내리는데 도움을 줄 수 있기에 많은 분야에 이용될 수 있다. 본 논문에서는 계층적 클러스터링 알고리듬과 러프셋 이론을 이용하여 대량의 데이터로부터 의미 있는 규칙들을 발견해 내는 자동적인 규칙 추출 방법론을 제안한다. 또한 UCI KDD 아카이브에 포함되어 있는 데이터 셋을 이용하여 제안하는 방법에 대하여 실험을 수행하였으며, 실제 생성된 규칙들을 예시하였다. 이들 자동 생성된 규칙들은 효율적인 의사결정에 도움을 준다.

Keywords

References

  1. J. Han, M. Kamber, Data Mining: concepts and techniques, Morgan Kaufmann publishers, 2000.
  2. 오승준, "확장된 시퀀스 요소 기반의 유사도를 이용한 계층적 클러스터링 알고리즘", 한국컴퓨터정보학회 논문지, 제11권, 제5호, 2006년 11월.
  3. 오승준, "범주형 시퀀스 데이터의 K-Nearest Neighbour 알고리즘", 한국컴퓨터정보학회 논문지, 제10권, 제2호, 2005년 6월.
  4. Z. Pawlak, "Rough sets", Int. J. Comput. Inform. Sci. Vol. 11, pp 341-356, 1982. https://doi.org/10.1007/BF01001956
  5. Z. Pawlak, Rough sets: theoretical aspects of reasoning about data, Kluwer Academy Publisher, 1991.
  6. D. Kim, "Data classification based on tolerant rough set", Pattern Recognition, Vol. 34 No.8, pp.1613-24, 2001. https://doi.org/10.1016/S0031-3203(00)00057-1
  7. T. McKee, T., Lensberg, "Genetic programming and rough sets: a hybrid approach to bankruptcy classification", European Journal of Operational Research, Vol. 136, No.2, pp.436-51, 2002.
  8. A. Kusiak, "Rough set theory: a data mining tool for semiconductor manufacturing", IEEE Transactions on Electronics Packaging Manufacturing, Vol. 24, No.1, pp.44-50, 2001. https://doi.org/10.1109/6104.924792
  9. K. Thangavel, Q. Shen, A. Pethalakshmi, "Application of clustering for feature selection based on rough set theory approach", AIML Journal, Vol. 6, No. 1, 2006.
  10. S. Asharaf, M. N. Murty, S. K. Shevade, "Rough set based incremental clustering of interval data", Pattern Recognition Letters, Vol. 27, pp.515-519, 2006. https://doi.org/10.1016/j.patrec.2005.09.018
  11. A. Kusiak, J. A. Kern, K. H. kernstine, and B. T. L. Tseng, "Autonomous Decision-Making: A Data Mining Approach", IEEE Transaction on Information Technology in Biomedicine, Vol. 4, No. 4, 2000
  12. H. Sakai, K. Kobe, and M. Nakata, "Rough Sets Based Rule Generation from Data with Categorical and Numerical Values", Journal of Advanced Computational Intelligence and Intelligent Informatics, Vol. 12, No. 5, 2008
  13. J. Dougherty, R. Kohavi, and M. Sahami, "Supervised and unsupervised discretization of continuous features", Proc. 13th Int. Conf. on Machine Learning, pp 194-202, 1995.
  14. F. Questier, I. Arnaut-Rollier, B. Walczak, and D.L. Massart, "Application of rough set theory to feature selection for unsupervised clustering", Chemometrics and Intelligent Laboratory Systems, Vol. 63, 2002.
  15. A. Ohrn, "Discernibility and rough sets in medicine: tools and applications", PhD thesis, Norwegian Univ. of Science and technology, 1999.
  16. C. L. Blake and C. J. Merz, UCI Repository of Machine Learning Databases, 1998.