• Title/Summary/Keyword: 설명가능한 인공지능

Search Result 105, Processing Time 0.033 seconds

코로나19에 따른 사이버위협 및 대응기술 동향 (보안관제와 침해대응 서비스를 중심으로)

  • Lee, Younsu;Moon, Hyeongwoo;Park, Gunyang;Kim, Taeyong;Song, Jungsuk
    • Review of KIISC
    • /
    • v.31 no.5
    • /
    • pp.5-12
    • /
    • 2021
  • 코로나19 팬데믹은 현실뿐만 아니라 사이버 공간에도 지대한 영향을 미쳤다. 재택근무와 비대면(온라인) 회의 뿐만 아니라 온라인 게임/쇼핑과 스트리밍 서비스 등과 같이 네트워크를 활용한 서비스의 이용자가 급증하였으며, 이로 인해 사이버 공간은 더욱 활성화되고 확장되었다. 그러나 사이버 공간의 확장은 이를 대상으로 하는 사이버 공격들도 함께 증가시켰으며, 그 피해규모 또한 증가하고 있어 대응방안 마련이 매우 시급한 상황이다. 본 논문에서는 코로나19 팬데믹 영향에 따른 사이버공격 동향을 살펴보고, 실제 사이버위협을 탐지·대응하는 보안관제, 침해대응 실무현장에서 발생하는 사이버위협을 분석해 사이버위협 동향 변화를 확인해 본다. 또한, 대응기술로서 인공지능과 설명가능 인공지능 기반 정보보호 연구·개발에 대해 소개한다.

암호통신 기반 사이버공격 탐지를 위한 AI/X-AI 기술연구 동향

  • Lee, Yunsu;Kim, Kyuil;Choi, Sangsoo;Song, Jungsuk
    • Review of KIISC
    • /
    • v.29 no.3
    • /
    • pp.14-21
    • /
    • 2019
  • 인터넷 상에서 개인정보보호 등 안전성 강화를 위해 암호통신이 지속적으로 증가하고 있다. 특히, 해커들도 사이버공격 행위 은닉 및 탐지기법 우회를 목적으로 암호통신을 적극 활용하는 추세이다. 이러한 상황에서, 네트워크 트래픽 상에서 평문형태의 패턴매칭을 통해 사이버공격을 탐지하는 기존의 방법으로는 한계점에 당면한 상황이다. 따라서, 본 논문에서는 암호통신 기반 사이버공격을 효과적으로 탐지하기 위하여 인공지능 및 설명가능 인공지능 기술을 접목하기 위한 연구 개발 동향을 소개한다.

Development and evaluation of course to educate pre-service and in-service elementary teachers about artificial intelligence (예비 및 현직 초등교사의 인공지능 교육을 위한 수업 콘텐츠의 개발 및 평가)

  • Jo, Junghee
    • Journal of The Korean Association of Information Education
    • /
    • v.25 no.3
    • /
    • pp.491-499
    • /
    • 2021
  • Major countries in the world have established strategies for educating about artificial intelligence(AI) and with large investments are actively implementing these strategies. With this trend, domestic ministries have made efforts to establish national strategies to better educate students about AI. This paper presents the syllabus of AI classrooms which has been developed and presented to pre-service and in-service elementary school teachers for their use. In addition, the AI education tools they particularly preferred and their future plans for utilizing them in the elementary school classroom were investigated. Through this study, it was found that pre-service and in-service elementary school teachers strongly prefer lectures about AI education tools that can be immediately applied in the classroom, rather than learning about the theoretical basis of AI. At issue, however, is that the ability to utilize AI is usually based on a sufficient understanding of the theory. Thus, this paper suggests further study to identify better pedagogical practices to improve students' understanding the theoretical basis of AI.

Development of ensemble machine learning model considering the characteristics of input variables and the interpretation of model performance using explainable artificial intelligence (수질자료의 특성을 고려한 앙상블 머신러닝 모형 구축 및 설명가능한 인공지능을 이용한 모형결과 해석에 대한 연구)

  • Park, Jungsu
    • Journal of Korean Society of Water and Wastewater
    • /
    • v.36 no.4
    • /
    • pp.239-248
    • /
    • 2022
  • The prediction of algal bloom is an important field of study in algal bloom management, and chlorophyll-a concentration(Chl-a) is commonly used to represent the status of algal bloom. In, recent years advanced machine learning algorithms are increasingly used for the prediction of algal bloom. In this study, XGBoost(XGB), an ensemble machine learning algorithm, was used to develop a model to predict Chl-a in a reservoir. The daily observation of water quality data and climate data was used for the training and testing of the model. In the first step of the study, the input variables were clustered into two groups(low and high value groups) based on the observed value of water temperature(TEMP), total organic carbon concentration(TOC), total nitrogen concentration(TN) and total phosphorus concentration(TP). For each of the four water quality items, two XGB models were developed using only the data in each clustered group(Model 1). The results were compared to the prediction of an XGB model developed by using the entire data before clustering(Model 2). The model performance was evaluated using three indices including root mean squared error-observation standard deviation ratio(RSR). The model performance was improved using Model 1 for TEMP, TN, TP as the RSR of each model was 0.503, 0.477 and 0.493, respectively, while the RSR of Model 2 was 0.521. On the other hand, Model 2 shows better performance than Model 1 for TOC, where the RSR was 0.532. Explainable artificial intelligence(XAI) is an ongoing field of research in machine learning study. Shapley value analysis, a novel XAI algorithm, was also used for the quantitative interpretation of the XGB model performance developed in this study.

Development of a Resort's Cross-selling Prediction Model and Its Interpretation using SHAP (리조트 교차판매 예측모형 개발 및 SHAP을 이용한 해석)

  • Boram Kang;Hyunchul Ahn
    • The Journal of Bigdata
    • /
    • v.7 no.2
    • /
    • pp.195-204
    • /
    • 2022
  • The tourism industry is facing a crisis due to the recent COVID-19 pandemic, and it is vital to improving profitability to overcome it. In situations such as COVID-19, it would be more efficient to sell additional products other than guest rooms to customers who have visited to increase the unit price rather than adopting an aggressive sales strategy to increase room occupancy to increase profits. Previous tourism studies have used machine learning techniques for demand forecasting, but there have been few studies on cross-selling forecasting. Also, in a broader sense, a resort is the same accommodation industry as a hotel. However, there is no study specialized in the resort industry, which is operated based on a membership system and has facilities suitable for lodging and cooking. Therefore, in this study, we propose a cross-selling prediction model using various machine learning techniques with an actual resort company's accommodation data. In addition, by applying the explainable artificial intelligence XAI(eXplainable AI) technique, we intend to interpret what factors affect cross-selling and confirm how they affect cross-selling through empirical analysis.

Yoga Poses Image Classification and Interpretation Using Explainable AI (XAI) (XAI 를 활용한 설명 가능한 요가 자세 이미지 분류 모델)

  • Yu Rim Park;Hyon Hee Kim
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2023.05a
    • /
    • pp.590-591
    • /
    • 2023
  • 최근 사람들의 건강에 대한 관심이 많아지고 다양한 운동 컨텐츠가 확산되면서 실내에서 운동을 할 수 있는 기회가 많아졌다. 하지만, 전문가의 도움없이 정확하지 않은 동작을 수행하다 큰 부상을 입을 위험성이 높다. 본 연구는 CNN 기반 요가 자세 분류 모델을 생성하고 설명가능 인공지능 기술을 적용하여 예측 결과에 대한 해석을 제시한다. 사용자에게 설명성과 신뢰성 있는 모델을 제공하여 자신에게 맞게 올바른 자세를 결정할 수 있고, 무리한 동작으로 부상을 입을 확률 또한 낮출 수 있을 것으로 보인다.

품질개선시뮬레이션 지원시스템의 설계 및 구현

  • 지원철;김우주
    • Proceedings of the Korean Operations and Management Science Society Conference
    • /
    • 1998.10a
    • /
    • pp.385-388
    • /
    • 1998
  • 급격한 경영환경의 변화로 인하여 고객만족을 최우선시하게 됨에 따라, 고객의 다양한 품질 요구를 신속 정확히 만족시키는 것이 주요 경영과제가 되었다. 이러한 상황에 대처 가능한 품질관리가 이루어지기 위해서는 품질기준에 대한 객관적 검증 및 지속적인 보완이 필요하며, 품질설계에 관련된 지식들을 체계적으로 수집하여 공유할 수 있는 체제가 갖추어져야 한다. 이와 같은 목적을 달성하기 위해 인공지능 기법들을 이용한 지능형 품질시스템(Intelligent Quality System, IQS)이 많은 관심을 모으고 있다. 본 연구에서는 일관 제철소의 품질관리를 위해 개발된 IQS중 품질설계 시뮬레이션 지원시스템(Quality Design Simulation Support System, QDSim)에 대해 설명한다. QDSim은 신경망을 기반으로 설계 구현되었는데, 품질설계 시뮬레이션을 지원하기 위해 크게 두가지 기능을 수행한다. 첫째 기능은 주어진 원재료의 구성비와 조업조건에 의해 생산될 제품의 최종 품질특성을 예측하는 것이며, 두 번째는 품질예측치가 고객의 요구 품질, 즉 목표품질을 만족시키는 입력 조건을 찾아가는 것이다. 본 연구에서는 QDSim의 이론적 근거 및 구현내용을 설명한 후, IQS내의 타 시스템과의 관계를 설명한다.

  • PDF

Analysis of the impact of mathematics education research using explainable AI (설명가능한 인공지능을 활용한 수학교육 연구의 영향력 분석)

  • Oh, Se Jun
    • The Mathematical Education
    • /
    • v.62 no.3
    • /
    • pp.435-455
    • /
    • 2023
  • This study primarily focused on the development of an Explainable Artificial Intelligence (XAI) model to discern and analyze papers with significant impact in the field of mathematics education. To achieve this, meta-information from 29 domestic and international mathematics education journals was utilized to construct a comprehensive academic research network in mathematics education. This academic network was built by integrating five sub-networks: 'paper and its citation network', 'paper and author network', 'paper and journal network', 'co-authorship network', and 'author and affiliation network'. The Random Forest machine learning model was employed to evaluate the impact of individual papers within the mathematics education research network. The SHAP, an XAI model, was used to analyze the reasons behind the AI's assessment of impactful papers. Key features identified for determining impactful papers in the field of mathematics education through the XAI included 'paper network PageRank', 'changes in citations per paper', 'total citations', 'changes in the author's h-index', and 'citations per paper of the journal'. It became evident that papers, authors, and journals play significant roles when evaluating individual papers. When analyzing and comparing domestic and international mathematics education research, variations in these discernment patterns were observed. Notably, the significance of 'co-authorship network PageRank' was emphasized in domestic mathematics education research. The XAI model proposed in this study serves as a tool for determining the impact of papers using AI, providing researchers with strategic direction when writing papers. For instance, expanding the paper network, presenting at academic conferences, and activating the author network through co-authorship were identified as major elements enhancing the impact of a paper. Based on these findings, researchers can have a clear understanding of how their work is perceived and evaluated in academia and identify the key factors influencing these evaluations. This study offers a novel approach to evaluating the impact of mathematics education papers using an explainable AI model, traditionally a process that consumed significant time and resources. This approach not only presents a new paradigm that can be applied to evaluations in various academic fields beyond mathematics education but also is expected to substantially enhance the efficiency and effectiveness of research activities.

Corporate Bankruptcy Prediction Model using Explainable AI-based Feature Selection (설명가능 AI 기반의 변수선정을 이용한 기업부실예측모형)

  • Gundoo Moon;Kyoung-jae Kim
    • Journal of Intelligence and Information Systems
    • /
    • v.29 no.2
    • /
    • pp.241-265
    • /
    • 2023
  • A corporate insolvency prediction model serves as a vital tool for objectively monitoring the financial condition of companies. It enables timely warnings, facilitates responsive actions, and supports the formulation of effective management strategies to mitigate bankruptcy risks and enhance performance. Investors and financial institutions utilize default prediction models to minimize financial losses. As the interest in utilizing artificial intelligence (AI) technology for corporate insolvency prediction grows, extensive research has been conducted in this domain. However, there is an increasing demand for explainable AI models in corporate insolvency prediction, emphasizing interpretability and reliability. The SHAP (SHapley Additive exPlanations) technique has gained significant popularity and has demonstrated strong performance in various applications. Nonetheless, it has limitations such as computational cost, processing time, and scalability concerns based on the number of variables. This study introduces a novel approach to variable selection that reduces the number of variables by averaging SHAP values from bootstrapped data subsets instead of using the entire dataset. This technique aims to improve computational efficiency while maintaining excellent predictive performance. To obtain classification results, we aim to train random forest, XGBoost, and C5.0 models using carefully selected variables with high interpretability. The classification accuracy of the ensemble model, generated through soft voting as the goal of high-performance model design, is compared with the individual models. The study leverages data from 1,698 Korean light industrial companies and employs bootstrapping to create distinct data groups. Logistic Regression is employed to calculate SHAP values for each data group, and their averages are computed to derive the final SHAP values. The proposed model enhances interpretability and aims to achieve superior predictive performance.

Groundwater Resources Management with ChatGPT: Harnessing AI for Quantitative and Qualitative Approaches (지하수 수량 및 수질 관리를 위한 ChatGPT의 활용)

  • Eungyu Park
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2023.05a
    • /
    • pp.12-12
    • /
    • 2023
  • 지하수자원 관리의 정량적 및 정성적 측면에 있어, 최첨단 인공지능 언어 모델인 ChatGPT의 혁신적인 기능이 활용될 수 있다. 본 발표에서는 지하수 자료에 대한 분석과 도출된 문제의 중요도에 따른 목표를 설정, 그리고 지하수 관리 전략 개발에 있어서의 ChatGPT 활용 방법을 논의할 것이다. 이를 위한 구체적 사례로, 지하수자원 관리에 활용될 수 있는 다양한 도구들의 개발과 고도화에 ChatGPT가 기여하는 방식을 살펴볼 것이다. 이러한 개별 도구들은 지하수자원 관리 결정에 있어 더 나은 예측 및 평가를 제공하여, 지하수 자원 관리의 효율성을 도모할 수 있다. 또한, ChatGPT의 문제 발견 및 해결책 제안 능력에 대해서도 다룰 것이다. 이를 통해 지하수 관리에 있어서의 다양한 문제를 식별하고, 이해당사자들이 보다 효과적으로 대응할 수 있는 방안을 찾아낼 수 있을 것이다. 또한 ChatGPT가 제공하는 다양한 정보 및 문제에 대한 솔루션 접근 방식을 활용한 브레인스토밍 방법을 설명할 것이다. 추가적으로, 일반 인공지능(AGI)의 개발에 근접하면서 지하수 관리의 자동화 및 가속화 그리고 산업 및 환경에 미칠 수 있는 영향에 대해 고찰해 볼 것이다. 이를 위하여, ChatGPT와 같은 인공지능 기술이 더욱 고도화되고 향상되면서, 지하수 관리 및 관련 분야에서의 의사결정, 계획 수립, 그리고 모니터링과 같은 작업들이 어떻게 변화할지에 대하여 토의할 것이다. 본 발표는 지하수 자원 관리 분야에서 ChatGPT와 같은 인공지능 기반 접근법의 가치를 보여주며, 복잡한 지하수 환경 문제를 해결하는 데 있어 첨단 기술의 활용 가능성을 강조할 것이다. 또한, AGI가 등장할 때까지 여전히 요구되는 지하수 분야 도메인 지식과 전문기술의 중요성을 강조할 것이다. 지하수 관리자들의 도메인 지식과 전문적 기술은 인공지능 기반 도구와 결합되어 보다 정확한 분석, 예측 및 해결책 도출을 가속화하며 정교화할 것이다. 결론적으로, 지하수 관리에 대한 종합적인 이해와 전문성을 갖춘 전문가들의 인공지능 기술활용은 지속가능한 지하수의 첨단 관리 효과적 달성에 중요한 계기가 될 것으로 판단한다.

  • PDF