• Title/Summary/Keyword: 행위 표현 언어

Search Result 101, Processing Time 0.021 seconds

Inducing Harmful Speech in Large Language Models through Korean Malicious Prompt Injection Attacks (한국어 악성 프롬프트 주입 공격을 통한 거대 언어 모델의 유해 표현 유도)

  • Ji-Min Suh;Jin-Woo Kim
    • Journal of the Korea Institute of Information Security & Cryptology
    • /
    • v.34 no.3
    • /
    • pp.451-461
    • /
    • 2024
  • Recently, various AI chatbots based on large language models have been released. Chatbots have the advantage of providing users with quick and easy information through interactive prompts, making them useful in various fields such as question answering, writing, and programming. However, a vulnerability in chatbots called "prompt injection attacks" has been proposed. This attack involves injecting instructions into the chatbot to violate predefined guidelines. Such attacks can be critical as they may lead to the leakage of confidential information within large language models or trigger other malicious activities. However, the vulnerability of Korean prompts has not been adequately validated. Therefore, in this paper, we aim to generate malicious Korean prompts and perform attacks on the popular chatbot to analyze their feasibility. To achieve this, we propose a system that automatically generates malicious Korean prompts by analyzing existing prompt injection attacks. Specifically, we focus on generating malicious prompts that induce harmful expressions from large language models and validate their effectiveness in practice.

Construction of Global State Transition Graph for Verifying Telecommunications Software Specifications written in Message Chart (MSC로 기술된 통신소프트웨어 명세의 검증을 위한 전체 상태 전이 그래프 생성)

  • Kim, Byeong-Man;Kim, Hyeon-Su;Sin, Yun-Sik
    • Journal of KIISE:Software and Applications
    • /
    • v.26 no.12
    • /
    • pp.1428-1444
    • /
    • 1999
  • MSC는 ITU에 의해 표준화된, 병행 시스템의 명세를 기술하기 위한 그래픽 형태와 텍스트 형태를 제공하는 언어로서 실시간 시스템 특히 통신 교환 시스템의 특성을 기술하기 위해 자주 사용된다. 통신 시스템이 제대로 동작함을 보이기 위해서는 정형적인 방법을 사용하여 시스템 행위를 검증할 필요가 있다. 통신 소프트웨어를 검증하는 방법 중 하나의 방법으로 유한 상태를 기반으로 하는 방법이 있다. 유한 상태를 기반으로 하는 방법에서는 먼저 시스템 명세에 해당하는 전체 상태 전이 그래프를 생성한 후 이를 바탕으로 model-checking 등의 방법을 사용하여 시스템의 특성을 검증한다. 본 논문에서는 MSC로 기술된 통신 소프트웨어 명세로부터 전체 상태 전이 그래프를 생성하는 방법에 초점을 맞추었다. 시스템 명세에 해당하는 상태 전이 그래프를 생성하기 위해 보다 직관적으로 MSC의 의미론을 표현할 수 있고, 또한 쉽게 전체 상태 전이 그래프를 생성할 수 있는 행위 종속 그래프를 제안하였다. MSC 명세는 일단 행위 종속 그래프로 변환이 되고 이 행위 종속 그래프를 이용하여 전체 상태 전이 그래프가 생성된다.Abstract Message Sequence Chart (MSC) standardized by International Telecommunication Union is a graphical and textual language for describing the specification of concurrent systems. It is frequently used both formally and informally for specifying the behavior of real-time systems, in particular telecommunication switching systems. To ensure that a communication system operates properly, the verification process showing the correctness of system's behavior formally is necessary. One of the verification methods is a finite-state method. In the finite-state method, the global state transition graph (GSTG) is constructed and then safety and liveness properties of systems are verified through a well-known method such as model checking. In this paper, we forcus on the construction of GSTG from the specifications of telecommunication software written in MSC. We suggest Action Dependency Graph (ADG) which can present the semantics of MSC intuitively and also provide a GSTG construction method from ADG. MSC specifications are translated to ADGs and, in turns, the GSTGs are constructed by using these ADGs.

의사소통식 영어 발음지도

  • 김정렬
    • Proceedings of the KSPS conference
    • /
    • 1997.07a
    • /
    • pp.45-60
    • /
    • 1997
  • 의사소통식 영어교수법은 Widdowson (1978)이래, 과거 20여 년간의 여러 외국어 교수 방법들을 (침묵식 교수법, Gattegno; 자연적 교수법, Terrell & Krashen; 전신반웅 교수법, Asher; 집단언어 학습법, Curran; 암시적 교수법, Lozanov) 거치면 서, 이들 중에서 의사소통을 중심으로 한 여러 가지 방법을 총괄하여, 명실공히 외국어 교육 방법의 중심으로 그 자리를 갈수록 확고히 잡아가고 있다. 의사소통식 교수법은 우선 언어란 의사소통을 위한 수단이며, 의사소통은 사회 속에서 일어나는 사회 언어적 행위로 본다. 따라서, 외국어 교육의 목적을 무엇보다도 의사소통 기능의 숙달에 두는 것이다. 일반적인 의사소통 상황을 보면 발화내용의 문법적 정확성은 그 상황에 대한 내용의 적절성 여부에 비하면, 부수적인 것이다. 예를 들면, 사과를 하는 의사소통기능을 공부하면서, 사과하는 표현으로 Sorry라는 말을 썼다고 하자. 이때, 영어는 주어 생략 언어가 아니기 때문에, Sorry 대신에 문법적으로 완전한 문장인 I'm sorry 로 표현해야 한다는 문법적인 문제보다는 사과하는 표현이 그 상황에서 적절하게 쓰인 것인지를 묻는 것에 초점을 맞춘 것이 의사소통식 교수 방법이다. 현재, 초등학교 16 종 영어 교과서도 의사소통 기농들을 적절한 상황에 맞춰서 의사소통식 교수 방법의 정신을 비교적 잘 반영하고 있다. 그러나, 발음에서만큼은 아직도 의사소통식 교수방법을 무시하고, 정확한 발음의 명시적인 설명이나, 예시에 그치는 경향이 뚜렷하다. 이러한 경향은 교육부에서 고시한 제6차 교육과정과 이에 따른 해설서에서 되풀이되고 있다. 발음지도에 많은 관심을 기울여 많은 양의 지면을 할애하고 있음에도 불구하고, 전후에 흐르는 의사 소통식 영어교육의 맥을 완전히 끊고, 단지 정확한 발음의 해부학적 예시와 기술에 그 치고 있다 (임영재 외 1995). 이러한 발음기관의 단면도를 이용한 해부학적 발음의 예시는 특정 자음의 정확한 혀의 위치를 알려 줄 수는 있지만, 발음훈련을 대신하지는 못한다. 예를 들어, 자전거를 타고자 하는 사람이 자전거의 페달을 밟았을 때, 그 동력전달 과정을 자세히 소개한 책자를 읽었다고 해서, 자전거를 탈 수 있는 것은 아니다. 역시, 자전거를 타고자 하면, 실제로 타고 넘어지면서 배우게 되는 것이다. 그리고, 발음훈련의 경우 교재의 내용이나 의사소통 기능은 의사소통식으로 가르치면서도 발음만큼은 아직도 원어민의 입모양을 활용한 듣고 따라하기 식의 전통적인 방법의 발음훈련을 계속하고 있다. 이러한 전통적 발음훈련 방법은 구체적으로 다음 장에서 제시되겠지만, 초등학교에서 듣고 따라하기나 듣고 골라내기와 같은 방법으로 발음훈련을 하면, 많은 학생들이 쉽게 지루해 하고, 아마 영어시간 중에서 가장 싫어하는 시간이 발음연습 시간이 될 가능성이 많이 있다. 현재 의사소통식 교수 방법을 모태로 한 교과서에서도 의사소통식 발음지도법을 쓰지 않았다는 것은 새로이 시작하는 초등학교 영어교육에서 아쉬운 점이라 아니할 수 없다. 초등학교 학생들에 대한 발음 지도의 핵심은 그들의 지적, 정서적, 신체적 특징을 잘 고려해야 한다. 초등학교 학생은 지적, 정서적, 신체적으로 성장기에 있어서, 호기심이 많고, 모방성이 강하며, 감수성이 예민하여 마음에 상처를 받기도 쉽다. 그리고, 무엇보다도, 끊임없이 신체적으로 움직이고 싶어한다. 이러한 학생들의 특정 을 반영하여 발음을 지도하는 길은 역시 초등학교 교과서의 다른 영역들처럼, 학생들은 움직이는 활동을 하면서 재미를 느끼고, 교사는 이들 활동을 통해서 교수목표를 성취하는 쪽으로 맞추어야 한다. 본 논문에서는 먼저 발음지도가 필요한 이유와 요인을 살펴본다. 그리고, 전통적인 발음지도 방법을 일별해 보고, 의사소통식 발음지도법을 제시하는 순으로 논의를 전개하기로 한다.

  • PDF

A Study on Logic Agents that Negotiate in Multi-Agent Systems (멀티 에이전트 시스템에서 협상하는 논리 에이전트에 관한 연구)

  • Lee, Myung-Jin;Han, Hyun-Kwan
    • Journal of the Korea Computer Industry Society
    • /
    • v.5 no.9
    • /
    • pp.1089-1094
    • /
    • 2004
  • Agents in Mlulti-Agent Systems (MAS) should make use of a common Agent Communication Language (ACL) in order to negotiate with others, and conform to negotiation protocols that are designed to reach agreements. Therefore, agents must have suitable architectures that could cover above requirements. In this paper, we define an instructive ACL and compare it with other ACLs such as Foundation for Intelligent Physical Agents(FIPA) ACL and Knowledge Query Manipulation Language (KQML). In particular, we represent agents as logic programs with beliefs, desires, intentions and negotiation library. Finally, we show how the planner, which is in the negotiation library, provides plans of actions and updates agent's beliefs.

  • PDF

Verification method and Simulation of Object model Converted to Formal Specification (형식명세로 변환된 객체모델의 검증방법과 시뮬레이션)

  • Lim, Keun
    • Journal of the Korea Society of Computer and Information
    • /
    • v.12 no.6
    • /
    • pp.123-130
    • /
    • 2007
  • In this paper, We define convert rules from objects and relation presented in object model to the state and operation domain in formal specification. Namely, object and relation in information model converted to state domain in formal specification. State, event and behavior converted to operation domain. And that way informal object model change to formal language, it can be verify through formal method. Verification process make an offer convenience and confidence in software development early phase. And we implement simulation tool in order to verification method of formal specification and to consistency verified model between user's requirement. It is possible to select the suitable model and reduce the costs and efforts on software development.

  • PDF

Design for Humane Sentential On Software Modeling Object Presentation (인간중심적인 구문체계에 상응하는 소프트웨어 모델상의 객체표현의 설계)

  • John, Young-Jun;Shin, Seoung-Ho
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2005.11b
    • /
    • pp.400-402
    • /
    • 2005
  • 소프트웨어 개발의 본질은 매우 복잡하다. 이는 서로 맞물려 돌아가도록 여러 컨셉들을 명세화하고 설계하여 검증해야 하기 때문이다. 또한 문제영역에 들어맞도록 개발해내도 여전히 실세계 엔티티(entities)간의 관계를 정의해 줘야 하고, 예외적인 상황을 식별해야 하며, 각각의 상태 변화를 예측해야 하기 때문에 여전히 복잡한 행위일 수밖에 없다. 이와 같은 복잡도를 낮추기 위해 비주얼한 기호형태에 기반을 둔 개발에 도움을 받을 수 있다. 그러나 개발의 중심에 인간이 있다는 데에는 변함이 없어야 한다. 또한 기계가 아닌 좀 더 인간적이고, 자동화가 아닌 실제적인 창작의 주체로서 개발자들을 '인간'이라는 사회적 대상으로서 초점을 둘 필요가 있다. 본 논문의 목적은 개발자간의 의사소통과 자유로운 창작활동을 위한 설계법을 인문사회영역에서 접근함으로서 개발자간에 '이해'의 폭을 증대시키기 위한 객체의 관계와 설계에 대한 재 정립이다. 이를위해 소프트웨어 개발상의 요소의 선택과 관계의 표현에 대해 기존의 기호체계에만 의존하지 않고 인간의 언어구조에 기반을 둔 구문체계에 상응하는 방식을 사용하는 것으로 구문기반의 관계의 성립과 그것을 지배하는 원리를 수립한다.

  • PDF

The Language·Society·Culture in a Community of Practice: The Linguistic Features and Students' Perspectives on English Signboards (행위공동체 내의 언어·사회·문화: 영어간판 속 텍스트의 언어적 특성과 사회·문화적 양상에 관한 인식의 고찰)

  • Lee, Younghwa
    • The Journal of the Korea Contents Association
    • /
    • v.18 no.6
    • /
    • pp.364-373
    • /
    • 2018
  • This study aims to investigate the linguistic features of English signboards (ES) and socio-cultural aspects in Korea through university students' perspectives on the ES. The data comprised pictures and questionnaire on the ES from the students. The findings showed that ES reached to 55.4% for mainly the business of drink beverage and clothes. The text written by 'only English' included 2-3 words (43%), and that of 'combination of English and Korean' had 4-5 words (25%), which reached to 68% of the all. The 70% of ES were used for the business of drink beverage, food, and clothes, but these were not in harmony with the neighborhood, showing 42% of agreement. Good ES required 'visual factors (27%)', 'expression of business (23%)', 'elegant and luxurious style (19%)', and 'design and creativity (15%)', and these ES were the most in Shinchon areas. Overall, the present ES culture was insufficient to make harmonious atmosphere in Korea, which requires the support of policies and systems.

Multiple Perspective Business System Modeling Using Unified Modeling Language (Unified Modeling Language를 활용한 다관점 업무 시스템 모형화)

  • Kim, Jong-U;Kim, Jin-Sam;Jo, Jin-Hui;Jeon, Jin-Ok
    • The Transactions of the Korea Information Processing Society
    • /
    • v.6 no.9
    • /
    • pp.2373-2383
    • /
    • 1999
  • Recently, due to the popularity of object-oriented programming languages, object-oriented modeling and development methodologies become widely applied to information system development. When object-oriented methodology is adopted, using object-oriented modeling languages for business analysis and redesign has the advantages such that business modeling results can be easily understood and referred by information system developers. In this paper, UML-B, Unified Modeling Language extension for Business modeling is proposed, which uses UML notation for modeling organization structure, actors, use cases, business processes, and entities in business systems. It also utilizes extension mechanisms of UML to facilitate business modeling activities, and supports business process reengineering with object-oriented modeling.

  • PDF

A Study on Implementation of Model Checking Program for Verifying LTS Specification (LTS 명세 검증을 위한 모델 검증기 개발)

  • Park, Yong-Bum;Kim, Tae-Gyun;Kim, Sung-Un
    • The Transactions of the Korea Information Processing Society
    • /
    • v.5 no.4
    • /
    • pp.995-1004
    • /
    • 1998
  • This paper presents an implementation of model checking tool for LTS process specification, which checks deadlock, livelock and reachability for the state and action. The implemented formal checker using modal mu-calculus is able to verify whether properties expressed in modal logic are true on specifications. We prove experimentally that it is powerful to check, safety and liveness for the state and action on LTS. The tool is implemented by $C^{++}$ language and runs on IBM PC under Windows NT.

  • PDF

Distributed Virtual Reality Service System Supporting Progressive Data Transmission (점진적 데이터 전송을 지원하는 분산 가상현실 서비스 시스템)

  • 황상훈;황대훈
    • Proceedings of the Korea Multimedia Society Conference
    • /
    • 2000.11a
    • /
    • pp.19-24
    • /
    • 2000
  • 웹에서 3차원 인터페이스를 제공하는 가상현실 공간을 구축하기 위해 VRML이 등장하였다. 또한 웹과 가상현실을 접목하고자 하는 과정에서, 3차원 가상환경을 사용자들이 네트워크를 통해 서로 공유하며 실시간으로 서로의 움직임을 인지하고 의사 전달을 하며 공동 작업을 수행하기 위한 분산 가상현실이라는 분야가 등장하였으나, 아직까지 실세계와 유사한 분산 가상현실을 지원하지 못하고 있는 실정이다. 이에 본 논문에서는 YRML 언어로 표현된 3차원 가상공간을 분할하여 관리하기 위한 가상세계 서버와 참여자들간의 상호작용 이벤트를 중계하고 공간 데이터를 클라이언트에 전송하기 위한 중계 서버, 기리고 이들 서버와 통신하는 가상세계 클이언트를 설계하였다. 특히 본 시스템에서는 가상공간을 분할증간 단위로 세분하여 이 단위로 서버가 클라이언트에게 전송하는 방법을 제시하였으며, 아바타의 행위 정보를 타 참여자에게 전송 분할공간 개념을 이용하여 같은 분할공간에 속한 참여자에게만 전송함으로서 불필요한 통신 부하를 줄이고 사용자 네비게이션 환경을 개선하였다.

  • PDF