• Title/Summary/Keyword: Reliability of artificial intelligence

검색결과 186건 처리시간 0.02초

설명 가능한 인공지능(XAI)을 활용한 침입탐지 신뢰성 강화 방안 (The Enhancement of intrusion detection reliability using Explainable Artificial Intelligence(XAI))

  • 정일옥;최우빈;김수철
    • 융합보안논문지
    • /
    • 제22권3호
    • /
    • pp.101-110
    • /
    • 2022
  • 다양한 분야에서 인공지능을 활용한 사례가 증가하면서 침입탐지 분야 또한 다양한 이슈를 인공지능을 통해 해결하려는 시도가 증가하고 있다. 하지만, 머신러닝을 통한 예측된 결과에 관한 이유를 설명하거나 추적할 수 없는 블랙박스 기반이 대부분으로 이를 활용해야 하는 보안 전문가에게 어려움을 주고 있다. 이러한 문제를 해결하고자 다양한 분야에서 머신러닝의 결정을 해석하고 이해하는데 도움이 되는 설명 가능한 AI(XAI)에 대한 연구가 증가하고 있다. 이에 본 논문에서는 머신러닝 기반의 침입탐지 예측 결과에 대한 신뢰성을 강화하기 위한 설명 가능한 AI를 제안한다. 먼저, XGBoost를 통해 침입탐지 모델을 구현하고, SHAP을 활용하여 모델에 대한 설명을 구현한다. 그리고 기존의 피처 중요도와 SHAP을 활용한 결과를 비교 분석하여 보안 전문가가 결정을 수행하는데 신뢰성을 제공한다. 본 실험을 위해 PKDD2007 데이터셋을 사용하였으며 기존의 피처 중요도와 SHAP Value에 대한 연관성을 분석하였으며, 이를 통해 SHAP 기반의 설명 가능한 AI가 보안 전문가들에게 침입탐지 모델의 예측 결과에 대한 신뢰성을 주는데 타당함을 검증하였다.

인공지능으로 작성된 논문의 처리 방안 (How to Review a Paper Written by Artificial Intelligence)

  • 신동우;문성훈
    • Journal of Digestive Cancer Research
    • /
    • 제12권1호
    • /
    • pp.38-43
    • /
    • 2024
  • Artificial Intelligence (AI) is the intelligence of machines or software, in contrast to human intelligence. Generative AI technologies, such as ChatGPT, have emerged as valuable research tools that facilitate brainstorming ideas for research, analyzing data, and writing papers. However, their application has raised concerns regarding authorship, copyright, and ethical considerations. Many organizations of medical journal editors, including the International Committee of Medical Journal Editors and the World Association of Medical Editors, do not recognize AI technology as an author. Instead, they recommend that researchers explicitly acknowledge the use of AI tools in their research methods or acknowledgments. Similarly, international journals do not recognize AI tools as authors and insist that human authors should be accountable for the research findings. Therefore, when integrating AI-generated content into papers, it should be disclosed under the responsibility of human authors, and the details of the AI tools employed should be specified to ensure transparency and reliability.

인공지능기법에 근거한 철도 전자연동장치의 연동 지식베이스 자동구축 S/W 개발 (Software Development for Auto-Generation of Interlocking Knowledgebase Using Artificial Intelligence Approach)

  • 고윤석;김종선
    • 대한전기학회논문지:전력기술부문A
    • /
    • 제48권6호
    • /
    • pp.800-806
    • /
    • 1999
  • This paper proposes IIKBAG(Intelligent Interlocking Knowledge Base Generator) which can build automatically the interlocking knowledge base utilized as the real-time interlocking strategy of the electronic interlocking system in order to enhance it's reliability and expansion. The IIKBAG consists of the inference engine and the knowledge base. The former has an auto-learning function which searches all the train routes for the given station model based on heuristic search technique while dynamically searching the model, and then generates automatically the interlocking patterns obtained from the interlocking relations of signal facilities on the routes. The latter is designed as the structure which the real-time expert system embedded on IS(Interlocking System) can use directly in order to enhances the reliability and accuracy. The IIKBAG is implemented in C computer language for the purpose of the build and interface of the station structure database. And, a typical station model is simulated to prove the validity of the proposed IIKBAG.

  • PDF

실험계획 전문가 시스템 (An Expert System for Design of Experiment)

  • 김성인;문순환
    • 산업공학
    • /
    • 제7권2호
    • /
    • pp.99-105
    • /
    • 1994
  • The Artificial Intelligence Lab of Industrial Engineering Department, Korea University is continuing to develop expert systems for quality control methods such as acceptance control, process control and reliability analysis. As a series of these efforts, The Artificial Intelligence Lab of Industrial Engineering Department, Korea University is continuing to develop expert systems for quality control methods such as acceptance control, process control and reliability analysis. As a series of these efforts, this paper concerns an expert system for design of experiment. The system includes factorial experiments, response surface methodology and Taguchi method. PROLOG is used as a language with dBASE III+ for the data base management system and C for calculations and graphics. This system selecting the appropriate method and analyzing the data obtained can be implemented on an IBM PC 386 or a higher level machine.

  • PDF

텍스트 마이닝을 이용한 인공지능 활용 신약 개발 연구 동향 분석 (Analysis of Research Trends in New Drug Development with Artificial Intelligence Using Text Mining)

  • 남재우;김영준
    • 생명과학회지
    • /
    • 제33권8호
    • /
    • pp.663-679
    • /
    • 2023
  • 본 리뷰 논문은 2010년부터 2022년까지의 인공지능을 활용한 신약개발 관련 연구동향을 분석하여 정리하였다. 이러한 분석을 통해 2,421개 연구의 초록을 코퍼스로 구성하고, 전처리를 거쳐 빈도가 높고 연결 중심성이 높은 단어를 추출하였다. 분석 결과 2010-201년과 2020-2022년 단어빈도 추이는 비슷한 것으로 구분되어 나타났다. 연구 방법으로는 2010년부터 2020년까지 머신 러닝을 활용한 연구가 많이 진행되었고, 2021년부터는 딥러닝을 활용한 연구가 증가하고 있다. 이러한 연구를 통해 이루어지고 있는 인공지능 활용연구 동향에 대해 분야별로 살펴보고 관련 연구의 장점, 문제점, 도전과제 등을 살펴보았다. 파악되어진 연구 동향은 2021년 이후로 약물의 재배치를 인공지능 활용 연구, 항암제 개발을 위한 컴퓨터 활용 연구, 임상시험에 인공지능 적용 연구 등과 같이 인공지능 적용 분야가 확대되고 있다는 점이다. 이러한 과정을 통해 향후 이루어질 것으로 예상되는 인공지능 활용 신약개발 연구의 전망에 대해 간략히 제시하였다. 위의 인공지능 기술 발전과 함께 바이오와 의료데이터의 신뢰성과 안전성이 확보되어진다면 인공지능 활용 신약개발의 방향이 개인 맞춤형 의료와 정밀의료 분야로 진행되어질 것으로 판단하기에 이에 대한 지속적인 노력이 필요하리라 본다.

악성코드 대응을 위한 신뢰할 수 있는 AI 프레임워크 (Trustworthy AI Framework for Malware Response)

  • 신경아;이윤호;배병주;이수항;홍희주;최영진;이상진
    • 정보보호학회논문지
    • /
    • 제32권5호
    • /
    • pp.1019-1034
    • /
    • 2022
  • 4차 산업혁명의 초연결사회에서 악성코드 공격은 더욱 기승을 부리고 있다. 이러한 악성코드 대응을 위해 인공지능기술을 이용한 악성코드 탐지 자동화는 새로운 대안으로 주목받고 있다. 그러나, 인공지능의 신뢰성에 대한 담보없이 인공지능을 활용하는 것은 더 큰 위험과 부작용을 초래한다. EU와 미국 등은 인공지능의 신뢰성 확보방안을 강구하고 있으며, 2021년 정부에서는 신뢰할 수 있는 인공지능 실현 전략을 발표했다. 정부의 인공지능 신뢰성에는 안전과 설명가능, 투명, 견고, 공정의 5가지 속성이 있다. 우리는 악성코드 탐지 모델에 견고를 제외한 안전과, 설명가능, 투명, 공정의 4가지 요소를 구현하였다. 특히 외부 기관의 검증을 통해 모델 정확도인 일반화 성능의 안정성을 입증하였고 투명을 포함한 설명가능에 중점을 두어 개발하였다. 변화무쌍한 데이터에 의해 학습이 결정되는 인공지능 모델은 생명주기 관리가 필요하다. 이에 인공지능 모델을 구성하는 데이터와 개발, 서비스 운영을 통합하는 MLOps 프레임워크에 대한 수요가 늘고 있다. EXE 실행형 악성코드와 문서형 악성코드 대응 서비스는 서비스 운영과 동시에 데이터 수집원이 되고, 외부 API를 통해 라벨링과 정제를 위한 정보를 가져오는 데이터 파이프라인과 연계하도록 구성하였다. 클라우드 SaaS 방식과 표준 API를 사용하여 다른 보안 서비스 연계나 인프라 확장을 용이하게 하였다.

An artificial intelligence-based design model for circular CFST stub columns under axial load

  • Ipek, Suleyman;Erdogan, Aysegul;Guneyisi, Esra Mete
    • Steel and Composite Structures
    • /
    • 제44권1호
    • /
    • pp.119-139
    • /
    • 2022
  • This paper aims to use the artificial intelligence approach to develop a new model for predicting the ultimate axial strength of the circular concrete-filled steel tubular (CFST) stub columns. For this, the results of 314 experimentally tested circular CFST stub columns were employed in the generation of the design model. Since the influence of the column diameter, steel tube thickness, concrete compressive strength, steel tube yield strength, and column length on the ultimate axial strengths of columns were investigated in these experimental studies, here, in the development of the design model, these variables were taken into account as input parameters. The model was developed using the backpropagation algorithm named Bayesian Regularization. The accuracy, reliability, and consistency of the developed model were evaluated statistically, and also the design formulae given in the codes (EC4, ACI, AS, AIJ, and AISC) and the previous empirical formulations proposed by other researchers were used for the validation and comparison purposes. Based on this evaluation, it can be expressed that the developed design model has a strong and reliable prediction performance with a considerably high coefficient of determination (R-squared) value of 0.9994 and a low average percent error of 4.61. Besides, the sensitivity of the developed model was also monitored in terms of dimensional properties of columns and mechanical characteristics of materials. As a consequence, it can be stated that for the design of the ultimate axial capacity of the circular CFST stub columns, a novel artificial intelligence-based design model with a good and robust prediction performance was proposed herein.

인공지능 서비스 영향평가 추진방안에 대한 연구 (A Study on Implementation Plan for AI Service Impact Assessment)

  • 신선영
    • 한국인터넷방송통신학회논문지
    • /
    • 제22권5호
    • /
    • pp.147-157
    • /
    • 2022
  • 본 연구의 목적은 영향평가에 대한 정의부터 국내외 인공지능 서비스 영향평가 사례에 대한 분석을 바탕으로 인공지능 서비스 영향평가 추진에 대한 정책적 제언을 수립하는 것이다. 이를 위해서 국내외 타 분야에서 추진된 영향평가 사례, 인공지능 서비스 국내외 영향평가 사례를 바탕으로 추진 방향을 분석하였다. 국내 인공지능 서비스 영향평가는 다소 광범위하고 포괄적이며, 시점도 사전적 예방 수단에 그치지 않고 상시적·사후적 위험성 관리를 예정하고 있다. 단계별 추진 방안으로 1단계에는 AI 수준 조사 기반의 경제적 효과 등의 정량적 지표를 개발한 후, 2단계에서는 지능정보화 기본법에 기술된 안전성 및 신뢰성, 인공지능 윤리 등 정보문화, 고용·노동 등 사회·경제, 정보보호, 국민의 일상생활에 미치는 영향에 미치는 분야별 평가체계를 마련한다. 3단계에서는 세부 측정지표나 방식 등의 논의를 확대하고 영향평가 결과가 인공지능 정책에 반영하는 환류 체계 포함된다면 국내의 인공지능 경쟁력 강화에 도움이 되는 정책 수단이 될 수 있다는 것을 제시하였다. 본 연구는 향후 정책 설계자, 인공지능 서비스 개발자, 시민단체 등 다양한 참여자를 통한 분석이 요구된다.

A Study on the Impact of Perceived Value of Art Based on Artificial Intelligence on Consumers' Purchase Intention

  • Wang, Ruomu
    • 한국컴퓨터정보학회논문지
    • /
    • 제26권1호
    • /
    • pp.275-281
    • /
    • 2021
  • 본 연구의 목적은 인공지능예술작품 구매할 때 소비자들이 어떤 감지가 있는지, 그리고 구매의 향과 어떤 관계가 있는지 살펴보는데 있다. 본 연구에서 고객감지가치가 제품감지가치, 서비스감지가치 그리고 사회감지가치 총 3가지를 제시하였다. 이를 바탕으로 고객감지가치와 구매의향 간의 모델을 구축하였다. 연구를 위해 데이터 수집은 온라인 설문 조사를 실시하였다. SPSS24.0와 AMOS24.0을 통해 수집한 데이터의 신뢰성, 타당성 및 구조 방정식 분석을 통해 가설 검증을 하였다. 검정결과를 보면 제품인지가치와 서비스인지가치는 소비자의 온라인 구매의향에 긍정적인 영향을 미친다. 그러나 사회인지가치가 소비자의 구매의향에 영향을 주지 않는 결과가 나타났다.

ETLi: Efficiently annotated traffic LiDAR dataset using incremental and suggestive annotation

  • Kang, Jungyu;Han, Seung-Jun;Kim, Nahyeon;Min, Kyoung-Wook
    • ETRI Journal
    • /
    • 제43권4호
    • /
    • pp.630-639
    • /
    • 2021
  • Autonomous driving requires a computerized perception of the environment for safety and machine-learning evaluation. Recognizing semantic information is difficult, as the objective is to instantly recognize and distinguish items in the environment. Training a model with real-time semantic capability and high reliability requires extensive and specialized datasets. However, generalized datasets are unavailable and are typically difficult to construct for specific tasks. Hence, a light detection and ranging semantic dataset suitable for semantic simultaneous localization and mapping and specialized for autonomous driving is proposed. This dataset is provided in a form that can be easily used by users familiar with existing two-dimensional image datasets, and it contains various weather and light conditions collected from a complex and diverse practical setting. An incremental and suggestive annotation routine is proposed to improve annotation efficiency. A model is trained to simultaneously predict segmentation labels and suggest class-representative frames. Experimental results demonstrate that the proposed algorithm yields a more efficient dataset than uniformly sampled datasets.