• Journal of Information Processing Systems
• /
• 제19권6호
• /
• pp.803-816
• /
• 2023

Explainable artificial intelligence is a method that explains how a complex model (e.g., a deep neural network) yields its output from a given input. Recently, graph-type data have been widely used in various fields, and diverse graph neural networks (GNNs) have been developed for graph-type data. However, methods to explain the behavior of GNNs have not been studied much, and only a limited understanding of GNNs is currently available. Therefore, in this paper, we propose an explanation method for node classification using graph convolutional networks (GCNs), which is a representative type of GNN. The proposed method finds out which features of each node have the greatest influence on the classification of that node using GCN. The proposed method identifies influential features by backtracking the layers of the GCN from the output layer to the input layer using the gradients. The experimental results on both synthetic and real datasets demonstrate that the proposed explanation method accurately identifies the features of each node that have the greatest influence on its classification.

• 한국컴퓨터정보학회:학술대회논문집
• /
• 한국컴퓨터정보학회 2024년도 제69차 동계학술대회논문집 32권1호
• /
• pp.39-40
• /
• 2024

본 연구는 SHAP(SHapley Additive exPlanations)을 활용하여 신용카드 사용자의 연체 가능성을 예측하는 기계학습 모델의 해석 가능성을 강화하는 방법을 제안한다. 대규모 신용카드 데이터를 분석하여, 고객의 나이, 성별, 결혼 상태, 결제 이력 등이 연체 발생에 미치는 영향을 명확히 하는 것을 목표로 한다. 본 연구를 토대로 금융기관은 더 정확한 위험 관리를 수행하고, 고객에게 맞춤형 서비스를 제공할 수 있는 기반을 마련할 수 있다.

• 한국인터넷방송통신학회논문지
• /
• 제21권3호
• /
• pp.15-21
• /
• 2021

사회의 변화에 따라 범죄들의 수법들도 다양해지며 그 수도 증가하고 있다. 그리고 이러한 현상은 사람의 밀집도가 높은 곳일수록 더 높은 추세를 보인다. 이에 따라 많은 기관에서는 CCTV를 설치함으로써 범죄를 줄이고 결정적 증거를 제공해준다. 그럼에도 불구하고 아직 CCTV를 대상으로 한 영상 조작과 같은 범죄들에 대해서는 그 대처가 미약하다. 이러한 영상의 조작을 방지하기 위해 블록체인 기반의 CCTV 영상 무결성 기법들을 적용하고 있음에도 불구하고, 이들은 전체 영상의 조작 무결성만을 보장할 뿐 영상의 특정 구간이 어떻게 조작되었는지 설명해 주지 못한다. 따라서 본 연구에서는 이러한 문제를 해결하기 위해 블록체인을 기반으로 한 설명 가능 CCTV 영상 무결성 지원 시스템을 제안한다.

• 상하수도학회지
• /
• 제36권4호
• /
• pp.239-248
• /
• 2022

The prediction of algal bloom is an important field of study in algal bloom management, and chlorophyll-a concentration(Chl-a) is commonly used to represent the status of algal bloom. In, recent years advanced machine learning algorithms are increasingly used for the prediction of algal bloom. In this study, XGBoost(XGB), an ensemble machine learning algorithm, was used to develop a model to predict Chl-a in a reservoir. The daily observation of water quality data and climate data was used for the training and testing of the model. In the first step of the study, the input variables were clustered into two groups(low and high value groups) based on the observed value of water temperature(TEMP), total organic carbon concentration(TOC), total nitrogen concentration(TN) and total phosphorus concentration(TP). For each of the four water quality items, two XGB models were developed using only the data in each clustered group(Model 1). The results were compared to the prediction of an XGB model developed by using the entire data before clustering(Model 2). The model performance was evaluated using three indices including root mean squared error-observation standard deviation ratio(RSR). The model performance was improved using Model 1 for TEMP, TN, TP as the RSR of each model was 0.503, 0.477 and 0.493, respectively, while the RSR of Model 2 was 0.521. On the other hand, Model 2 shows better performance than Model 1 for TOC, where the RSR was 0.532. Explainable artificial intelligence(XAI) is an ongoing field of research in machine learning study. Shapley value analysis, a novel XAI algorithm, was also used for the quantitative interpretation of the XGB model performance developed in this study.

• 한국정보교육학회:학술대회논문집
• /
• 한국정보교육학회 2021년도 학술논문집
• /
• pp.149-157
• /
• 2021

2022년 개정 교육과정에 인공지능 교육 도입을 앞두고 인공지능을 학습 소재로 한 다양한 수업들이 개발되어야 하는 시점이다. 본 연구에서는 설계기반연구를 활용하여 설명가능한 인공지능을 기반한 인공지능 교육 프로그램을 개발하였다. 인공지능의 기초, 활용, 윤리 세 분야를 골고루 포괄하며 실생활 사례와도 쉽게 연결시킬 수 있는 설명가능한 인공지능을 핵심 주제로 설정하였다. 일반적인 설계기반연구(Design-based research, DBR)에서는 3차 이상의 반복적인 과정이 이루어지지만 본 연구 결과는 1차 설계, 적용 및 평가에 대한 결과를 바탕으로 연구가 진행되었다. 추후 학교 현장에 적용하여 3차 수정 및 보완을 바탕으로 더욱 완성된 설명가능한 인공지능을 주제로 한 프로그램을 개발하고자 한다. 본 연구가 학교 현장에 도입되는 인공지능 교육의 발전에 도움이 되기를 기대한다.

• 산업경영시스템학회지
• /
• 제47권1호
• /
• pp.41-50
• /
• 2024

Korea is facing a significant problem with historically low fertility rates, which is becoming a major social issue affecting the economy, labor force, and national security. This study analyzes the factors contributing to the regional gap in fertility rates and derives policy implications. The government and local authorities are implementing a range of policies to address the issue of low fertility. To establish an effective strategy, it is essential to identify the primary factors that contribute to regional disparities. This study identifies these factors and explores policy implications through machine learning and explainable artificial intelligence. The study also examines the influence of media and public opinion on childbirth in Korea by incorporating news and online community sentiment, as well as sentiment fear indices, as independent variables. To establish the relationship between regional fertility rates and factors, the study employs four machine learning models: multiple linear regression, XGBoost, Random Forest, and Support Vector Regression. Support Vector Regression, XGBoost, and Random Forest significantly outperform linear regression, highlighting the importance of machine learning models in explaining non-linear relationships with numerous variables. A factor analysis using SHAP is then conducted. The unemployment rate, Regional Gross Domestic Product per Capita, Women's Participation in Economic Activities, Number of Crimes Committed, Average Age of First Marriage, and Private Education Expenses significantly impact regional fertility rates. However, the degree of impact of the factors affecting fertility may vary by region, suggesting the need for policies tailored to the characteristics of each region, not just an overall ranking of factors.

• 융합정보논문지
• /
• 제11권8호
• /
• pp.36-41
• /
• 2021

인공지능을 이용하여 예측이나 분석하는 기술은 지속적으로 발전하고 있지만, 의사결정 과정을 명확히 해석하지 못하는 블랙박스 문제가 존재한다. 따라서 인공지능 모델의 의사결정 과정에서 사용자의 입장에서 해석이 불가능하여 결과를 신뢰할 수 없는 문제가 발생한다. 본 연구에서는 인공지능의 문제점과 이를 해결하기 위한 블록체인을 활용한 설명 가능한 인공지능에 대해 연구를 진행하였다. 블록체인을 이용해서 설명 가능한 인공지능 모델의 의사결정 과정에서의 데이터를 타임스탬프 등을 이용하여 부분별로 블록체인에 저장한다. 블록체인을 이용하여 저장된 데이터의 위변조 방지를 제공하고 블록체인의 특성상 사용자는 블록에 저장된 의사결정 과정등의 데이터를 자유롭게 접근할 수 있다. 설명 가능한 인공지능 모델의 구축이 힘든 것은 기존 모델의 복잡성이 큰 부분을 차지한다. 따라서 포인트 클라우드를 활용해서 3차원 데이터 처리와 가공과정의 효율성을 높여서 의사결정 과정을 단축해 설명 가능한 인공지능 모델의 구축을 원활하게 한다. 블록체인에 데이터 저장과정에서 데이터 위변조가 발생할 수 있는 오라클 문제를 해결하기 위해 저장과정에 중간자를 거치는 블록체인 기반의 설명 가능한 인공지능 모델을 제안하여 인공지능의 블랙박스 문제를 해결하였다.

• 정보처리학회논문지:소프트웨어 및 데이터공학
• /
• 제11권8호
• /
• pp.339-346
• /
• 2022

최근 화석연료의 무분별한 사용으로 인한 자원고갈 문제 및 기후변화 문제 등이 심각해짐에 따라 화석연료를 대체할 수 있는 신재생에너지에 대한 관심이 증가하고 있다. 특히 신재생에너지 중 태양광 에너지는 다른 신재생에너지원에 비해 고갈될 염려가 적고, 공간적인 제약이 크지 않아 전국적으로 수요가 증가하고 있다. 태양광 발전 시스템에서 생산된 전력을 효율적으로 사용하기 위해서는 보다 정확한 태양광 발전량 예측 모델이 필요하다. 이를 위하여 다양한 기계학습 및 심층학습 기반의 태양광 발전량 예측 모델이 제안되었지만, 심층학습 기반의 예측 모델은 모델 내부에서 일어나는 의사결정 과정을 해석하기가 어렵다는 단점을 보유하고 있다. 이러한 문제를 해결하기 위하여 설명 가능한 인공지능 기술이 많은 주목을 받고 있다. 설명 가능한 인공지능 기술을 통하여 예측 모델의 결과 도출 과정을 해석할 수 있다면 모델의 신뢰성을 확보할 수 있을 뿐만 아니라 해석된 도출 결과를 바탕으로 모델을 개선하여 성능 향상을 기대할 수도 있다. 이에 본 논문에서는 BiLSTM(Bidirectional Long Short-Term Memory)을 사용하여 모델을 구성하고, 모델에서 어떻게 예측값이 도출되었는지를 SHAP(SHapley Additive exPlanations)을 통하여 설명하는 설명 가능한 태양광 발전량 예측 기법을 제안한다.

• 한국지리정보학회지
• /
• 제26권4호
• /
• pp.97-115
• /
• 2023

최근 저출산, 고령화 등 인구의 구조가 급격히 변화하고 있고 인구 분포의 불균등성이 확대되고 있는 시점에서 인구 추정 방식의 변화가 요구되고 있으며 소지역 단위에서 보다 정확한 추정이 요구되고 있다. 본 연구는 이러한 인구 추정 방식 변화 요구에 대응하기 위해 부산광역시를 대상으로 해석가능한 기계학습 방법을 적용하여 500m 격자 단위에서 2040년 인구를 추정하는 것을 목적으로 하고 있다. 해석가능한 기계학습의 방법과 코호트 요인법을 각각 적용하여 격자별 인구추정 결과를 비교해본 결과, 기계학습 방법이 인구 구조 변동에 영향을 미칠 가능성이 있는 여러 변수의 조합 반영이 가능하여 보다 낮은 오차를 도출함으로써 소지역과 같이 인구 변화폭이 큰 지역의 추정에 있어 적용력이 높음을 확인하였다. 인구감소시대에 과대추정된 인구 값은 도시계획에서 투자의 비효율성과 특정 부문에 대한 과잉 투자에 따른 타 부문에서의 질적 저하와 같은 문제를 일으킬 가능성이 높으며, 과소추정된 인구 값 역시 도시의 축소를 가속화시켜 삶의 질을 저하시키는 문제를 초래하므로 적절한 인구 추정 방법과 대안을 마련해야 할 필요가 있을 것으로 판단된다.

• 한국의류학회지
• /
• 제29권6호
• /
• pp.885-895
• /
• 2005

The purpose of this study was to find out the most pursuasive social stratification variables affecting the attitude toward foreign luxury goods and the purchase frequency and examined the difference in the attitude toward foreign luxury goods and the purchase frequency among groups divided by age and social stratification variables. The subjects were 521 married women over 25 years old living in Seoul and Kyong-gi province areas. The data were analyzed by multiple regression, ANOVA, Duncan's multiple range test, frequency and percentage. Social stratification was measured by family's monthly income, educational and occupational levels of married women's and their husbands' for an objective method while economic levels, social status, consumption levels, and cultural levels were used fer a subjective method. The results were as follows; first, the most explainable variables influencing the attitude toward foreign luxury goods and the purchase frequency were age and women's educational levels examined by the objective method of social stratification. Second, according to the subjective method of social stratification, the attitude toward foreign luxury goods and the purchase frequency were affected by age, economic levels, consumption levels, and cultural levels. Consumption levels which showed actual expense per family were the most explainable variable in the purchase frequency.