• 한국융합학회논문지
• /
• 제8권10호
• /
• pp.67-73
• /
• 2017

본 연구에서는 인공지능 로보어드바이저의 활용 증가로 인한 부작용을 최소화하고 금융소비자 및 시장을 보호하기 위해 필요한 현행 법체계의 제도적 보완점에 관하여 주로 검토하였다. 먼저, 개별적인 보완점으로서, 로보어드바이저 운용사에 대한 이상거래 신속 탐지체계 구축 의무의 도입, 운용사의 무과실책임 도입, 운용사의 손해배상보험 의무가입제도 도입, 형사처벌의 부분적인 도입 등이 필요하고, 더 나아가 인공지능에 관한 포괄적인 기본법의 제정이 필요하다. 포괄적인 기본법에서는 인공지능 기술 발전을 장려하기 위한 측면과 부작용을 최소화하기 위한 측면이 조화롭게 다루어져야 할 것이다. 본 연구에서의 접근법과 마찬가지로 향후 다양한 관점에서 인공지능 시대에 대한 구체적이고 실질적인 논의가 진행되기를 기대한다.

• 융합보안논문지
• /
• 제21권1호
• /
• pp.169-175
• /
• 2021

포괄안보의 개념이 적용되는 제4차 산업혁명시대의 전개로 인해서 가장 괄목할만한 정보통신기술(ICT)은 인공지능(AI)으로 추정된다. 따라서 인공지능(AI)을 기반으로 하는 국가위기관리정책발전을 위한 요인이 무엇인지를 탐색하고 발전 전략을 수립하는 것이 본 연구의 목적이다. 이를 위해서 한국 정부의 내부역량을 SPRO 분석하여 강점과 약점을 도출하고, 외부환경을 PEST 분석하여 기회와 위협 요인을 도출하였다. 도출된 다양한 요인들은 SWOT 분석을 하여 정보통신기술(ICT)과 안보 및 재난 분야에서 오랜 기간 재직 중인 전문가들의 자문을 받아 SWOT 요인을 도출하였다. 이 요인들을 중점으로 제4차 산업혁명시대에서 한국 정부의 국가위기관리정책 발전을 위한 전략을 수립하였다.

• International journal of advanced smart convergence
• /
• 제13권3호
• /
• pp.41-47
• /
• 2024

In this paper, we deal with a game theoretic problem to explore interactions between evasive Artificial Intelligence (AI) malware and detectors in Internet of Things (IoT). Evasive AI malware is defined as malware having capability of eluding detection by exploiting artificial intelligence such as machine learning and deep leaning. Detectors are defined as IoT devices participating in detection of evasive AI malware in IoT. They can be separated into two groups such that one group of detectors can be armed with detection capability powered by AI, the other group cannot be armed with it. Evasive AI malware can take three strategies of Non-attack, Non-AI attack, AI attack. To cope with these strategies of evasive AI malware, detector can adopt three strategies of Non-defense, Non-AI defense, AI defense. We formulate a Bayesian game theoretic model with these strategies employed by evasive AI malware and detector. We derive pure strategy Bayesian Nash Equilibria in a single stage game from the formulated Bayesian game theoretic model. Our devised work is useful in the sense that it can be used as a basic game theoretic model for developing AI malware detection schemes.

• 정보보호학회논문지
• /
• 제34권4호
• /
• pp.577-586
• /
• 2024

새로운 기술이 개발 됨에 따라, 랜섬웨어를 만들어 주는 AI 기술 등장과 같은 새로운 보안 위협도 증가되고 있다. 이러한 보안 위협에 대응하기 위해 XDR와 같은 신규 보안장비가 개발되었지만, 단일 보안장비 환경이 아닌 다양한 보안장비를 함께 사용하는 경우 필수 데이터 식별 및 분류를 위해 수많은 정규표현식을 만들어야 하는 어려움이 존재한다. 이를 해결하기 위해 본 논문에서는 다양한 보안장비 사용 환경에서 인공지능 기반 개체명 인식 기술을 도입하여 위협 정보 식별을 위한 필수 정보 식별 방안을 제안한다. 보안장비 로그 데이터를 분석하여 필수 정보를 선정한 뒤, 정보의 저장 포맷과 인공지능을 활용하기 위한 태그 리스트를 정의하였고, 인공지능을 이용한 개체명 인식 기술을 통해 필수 데이터 식별 및 추출 방안을 제안한다. 다양한 보안장비 로그 데이터와 23개의 태그 기반 개체명 인식 시험 결과 태그별 f1-score의 가중치 평균이 Bi-LSTM-CRF는 0.44, BERT-CRF는 0.99의 성능을 보인다. 향후 정규표현식 기반의 위협 정보 식별·추출 방안과 인공지능 기반의 위협 정보 식별·추출 방안을 통합하는 프로세스를 연구하고 신규 데이터 기반으로 프로세스를 적용해 볼 예정이다.

• 융합보안논문지
• /
• 제22권5호
• /
• pp.135-143
• /
• 2022

북한의 핵 및 미사일 위협, 전쟁 양상의 변화, 저출산에 따른 병역자원의 감소 등 국방환경이 급격하게 변화하고 있다. 이러한 변화에 능동적으로 대응하기 위해 우리 군은 국방혁신 4.0을 추진하고 있으며 인공지능, 빅데이터 분석 등과 같은 첨단과학기술을 적용한 과학기술 강군을 육성하고자 노력하고 있다. 이에 본 연구에서는 경계작전을 위해 최첨단 과학기술이 적용된 레이더 기반 AI 과학화 경계시스템의 효과를 계층분석적 의사결정방법(Analytic Hierarchy Process, AHP)을 활용하여 분석하고자 한다. 이를 위해 우선 과학화 경계시스템의 효과를 평가할 수 있는 평가요소를 선정하고, 그 상대적 중요도를 분석한다. 각각의 평가요소들은 경계시스템의 작동 및 운용의 핵심 개념으로부터 핵심 요소를 도출하고, 각 요소와 경계작전의 효과 사이의 상관관계에 대한 전문가들의 자문을 통해 선정되었다. 평가요소들의 중요도를 토대로 레이더 기반의 AI 과학화 경계시스템과 기존의 과학화 경계시스템의 상대적 효과를 알아본다.

• 융합보안논문지
• /
• 제23권2호
• /
• pp.55-66
• /
• 2023

최근 전세계적으로 사회 모든 분야에서 인공지능 학습용 데이터에 관한 선행연구를 기반으로, 인공지능 학습용 데이터의 가치를 높이고 고품질 데이터를 확보하고자 하는 움직임이 늘고 있다. 따라서, 고품질 데이터를 확보하기 위한 구축사업에서는 품질관리가 매우 중요하다. 이에, 본 논문에서는 인공지능 학습용 데이터를 구축할 시 고품질데이터 확보를 위한 품질관리와 그에 따른 구축공정별 개선방안을 제시하였다. 특히, 인공지능 학습을 위해 구축되는 비정형데이터는 데이터 품질의 80% 이상이 구축과정에서 결정된다. 본 논문에서는 비정형데이터 이미지/영상데이터에 대한 품질검사를 통해 구축단계에서의 획득, data cleaning, labeling 모델에서 발생된 검사절차 및 문제 요소를 해결함으로써 고품질 데이터 확보 방안을 제시하였으며, 제시한 방안을 토대로 인공지능 학습용 데이터 구축에 참여하는 연구단체와 사업자들에게 데이터의 품질편차를 극복하기 위한 대안이 될 것으로 기대된다.

• 정보보호학회논문지
• /
• 제32권5호
• /
• pp.817-826
• /
• 2022

AI 기술이 여러 분야에 성공적으로 도입되는 추세이며, 서비스로 환경에 배포된 모델들은 지적 재산권과 데이터를 보호하기 위해 모델의 정보를 노출시키지 않는 블랙 박스 상태로 배포된다. 블랙 박스 환경에서 공격자들은 모델 출력을 이용해 학습에 쓰인 데이터나 파라미터를 훔치려고 한다. 본 논문은 딥러닝 모델을 대상으로 모델 종류에 대한 정보를 추론하는 공격이 없다는 점에서 착안하여, 모델의 구성 레이어 정보를 직접 알아내기 위해 모델의 종류를 추론하는 공격 방법을 제안한다. MNIST 데이터셋으로 학습된 ResNet, VGGNet, AlexNet과 간단한 컨볼루션 신경망 모델까지 네 가지 모델의 그레이 박스 및 블랙 박스 환경에서의 출력값을 이용해 모델의 종류가 추론될 수 있다는 것을 보였다. 또한 본 논문이 제안하는 방식인 대소 관계 피쳐를 딥러닝 모델에 함께 학습시킨 경우 블랙 박스 환경에서 약 83%의 정확도로 모델의 종류를 추론했으며, 그 결과를 통해 공격자에게 확률 벡터가 아닌 제한된 정보만 제공되는 상황에서도 모델 종류가 추론될 수 있음을 보였다.

• 융합보안논문지
• /
• 제23권3호
• /
• pp.65-71
• /
• 2023

최근 발발한 러시아-우크라이나 전쟁을 통해 공격용 드론의 중요성이 부각되고 있다. 공격용 드론 활용은 그간의 재래식 전쟁의 통념을 깨는 게임체인저 역할을 하고 있다. 앞으로 지능화 전장에서 공격용 군집드론은 중요한 역할을 할 것으로 보인다. 이에 본 논문은 인공지능 기술을 바탕으로 향후 공격용 군집드론의 운용 발전 방향을 분석하고자 한다. 인간에 의해 운용되는 군집드론을 완전히 자율화된 군집드론으로 운용하기 위해서는 (1) 군집드론 운용에 최적화된 AI 알고리즘 적용, (2) 탈중앙식 지휘통제 방식 개발, (3) 드론 간 임무 분석 및 할당 자동화 기술 적용, (4) 드론 통신 보안 강화 및 (5) 무인화의 윤리 기준 확정이 중요하다. 세부적으로 군집드론 간의 충돌방지 및 이동형 표적을 공격하기 위한 AI 알고리즘이 필요하다. 또한, 급변하는 전장 상황에 빠르게 대처할 수 있는 탈중앙식 지휘통제 시스템 개발과 적 공격에 의한 드론 손실 발생 시 임무를 재할당 할 수 있어야 한다. 마지막으로, 군집드론의 안전한 운용을 위한 보안기술 개발 및 무인화에 따른 윤리문제 해결을 위한 기준제정이 중요하다.

• 전자통신동향분석
• /
• 제37권4호
• /
• pp.36-45
• /
• 2022

As the interest in achieving an intelligent society grows with the fourth industrial revolution's development, information and communications technologies technologies like artificial intelligence (AI), Internet of Things, virtual reality, information security, and blockchain technology are being actively employed in different fields for achieving an intelligent society. With these modifications, the information security paradigm in industrial and public institutions, like personal sensitive data, is quickly changing, and it is exposed to different cyber threats and breaches. Furthermore, as the number of cyber threats and breaches grows, so does the need for rapid detection and response. This demand can be satisfied by establishing cyber training programs and fostering experts that can improve cyber security abilities. In this study, we explored the domestic and international technology trends in cyber security education and training facilities for developing experts in information security. Additionally, the AI technology application in the cyber training ground, which can be established to respond to and deter cyber threats that are becoming more intelligent, was examined.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2023년도 추계학술발표대회
• /
• pp.912-913
• /
• 2023

이미지 처리에 관한 인공지능 모델의 발전에 따라 개인정보 유출 문제가 가속화되고 있다. 인공지능은 다방면으로 삶에 편리함을 제공하지만, 딥러닝 기술은 적대적 예제에 취약성을 보이기 때문에, 개인은 보안에 취약한 대상이 된다. 본 연구는 ResNet18 신경망 모델에 얼굴이미지를 학습시킨 후, Shadow Attack을 사용하여 입력 이미지에 대한 AI 분류 정확도를 의도적으로 저하시켜, 허가받지 않은 이미지의 인식율을 낮출 수 있도록 구현하였으며 그 성능을 실험을 통해 입증하였다.