한국컴퓨터교육학회 학술대회 (Proceedings of The KACE)
- 한국컴퓨터교육학회 2017년도 하계학술대회
- /
- Pages.213-216
- /
- 2017
- /
- 2287-4097(pISSN)
인공 신경망이 학습한 지식을 이해하기 위한 규칙 시각화 도구
Rule Visualization Tool for Understanding Knowledge of Trained Artificial Neural Network
- Lee, Eun-Hun (Dept. of Computer Science and Engineering, Korea University) ;
- Kim, Sun-bin (Dept. of Computer Science and Engineering, Korea University) ;
- Lee, Hurn-joo (Dept. of Computer Science and Engineering, Korea University) ;
-
Kim, Hyeoncheol
(Dept. of Computer Science and Engineering, Korea University)
- 발행 : 2017.08.09
초록
오늘날 딥러닝은 교육을 포함한 다양한 분야에서 세상의 패러다임을 바꿀만큼 발전하고 있다. 그러나 딥러닝 모델이 어떤 지식을 습득하였는지 파악하기 어려워 딥러닝 시스템을 무조건적으로 신뢰할 수 없다는 것이 문제로 남아있다. 이 문제를 해결하기 위해 기존에 딥러닝이 학습한 결과를 If-then과 같은 형식의 규칙으로 추출하는 방법이 제안되었지만, 이러한 규칙은 사람이 이해하기에는 직관적이지 못하다는 단점을 가지고 있다. 본 논문에서는 이러한 문제를 해결하고자 딥러닝 모델이 습득한 지식을 규칙 형태로 추출하고 이를 시각화하여, 사람이 직관적으로 이해할 수 있는 형태로 표현하는 방법을 제시한다.
키워드