• 융합보안논문지
• /
• 제23권1호
• /
• pp.147-159
• /
• 2023

최근 챗 GPT 인공지능(AI)은 전 세계 모든 정부 및 기업, 군 분야까지 초미의 관심사이다. 기존의 읽고 쓰는 AI시대에서 말과 글과 그림을 만들어 내는 생성형 AI로 인간과의 소통까지도 가능한 시대에 진입했다. 최근 우리나라 국가 위기시 발령하는 국가기관의 현행 법·령의 복잡성과 전·평시 법률적용 시기의 모호성으로 인해 상황조치의 골든타임을 놓치는 경우가 많았다. 이러한 이유들로 대형 참사 및 북한과의 군사적 충돌 때마다 제대로 된 대응을 하지 못했다. 따라서 본 연구의 목적은 이러한 상황을 극복하기 위한 제언으로 국가 위기시 컨트럴타워 역할을 수행 할 수 있는 "국가위기 관리 기본모법" 과 이를 활용하는 "인공지능 관련법" 개정과 현재 인공지능 기술을 민·관·군·경과 상호 연동하는 "인공지능 거버넌스 활성화 방안" 및 전국 지자체 통합방위 종합상황실내 "MIDS 인공지능반"을 신설하여 인공지능을 활용한 미래의 통합방위체계 발전방안을 제시하였다.

• 정보보호학회논문지
• /
• 제34권3호
• /
• pp.451-461
• /
• 2024

최근 거대 언어 모델을 기반으로 한 다양한 인공지능 챗봇이 출시되고 있다. 챗봇은 대화형 프롬프트를 통해 사용자에게 빠르고 간편하게 정보를 제공할 수 있다는 이점을 가지고 있어서 질의응답, 글쓰기, 프로그래밍 등 다양한 분야에서 활용되고 있다. 그러나 최근에는 챗봇의 취약점을 악용하는 '프롬프트 주입 공격'이 제안되었는데, 이는 챗봇이 기입력된 지시사항을 위반하도록 하는 공격이다. 이와 같은 공격은 거대 언어 모델 내부의 기밀 정보를 유출하거나 또 다른 악성 행위를 유발할 수 있어서 치명적이다. 반면 이들에 대한 취약점 여부가 한국어 프롬프트를 대상으로는 충분히 검증되지 않았다. 따라서 본 논문에서는 널리 사용되는 챗봇인 ChatGPT를 대상으로 악성 한국어 프롬프트를 생성하여 공격을 수행해보고, 이들에 대한 실행 가능성을 분석하고자 한다. 이를 위해 기존에 제안된 프롬프트 주입 공격 기법을 분석하여 악의적인 한국어 프롬프트를 자동으로 생성하는 시스템을 제안하고자 한다. 특히 유해 표현을 유도하는 악성 프롬프트를 중점적으로 생성하였고 이들이 실제 유효함을 보이도록 한다.