• 제목/요약/키워드: 지시 표현

검색결과 102건 처리시간 0.025초

한국어 악성 프롬프트 주입 공격을 통한 거대 언어 모델의 유해 표현 유도 (Inducing Harmful Speech in Large Language Models through Korean Malicious Prompt Injection Attacks)

  • 서지민;김진우
    • 정보보호학회논문지
    • /
    • 제34권3호
    • /
    • pp.451-461
    • /
    • 2024
  • 최근 거대 언어 모델을 기반으로 한 다양한 인공지능 챗봇이 출시되고 있다. 챗봇은 대화형 프롬프트를 통해 사용자에게 빠르고 간편하게 정보를 제공할 수 있다는 이점을 가지고 있어서 질의응답, 글쓰기, 프로그래밍 등 다양한 분야에서 활용되고 있다. 그러나 최근에는 챗봇의 취약점을 악용하는 '프롬프트 주입 공격'이 제안되었는데, 이는 챗봇이 기입력된 지시사항을 위반하도록 하는 공격이다. 이와 같은 공격은 거대 언어 모델 내부의 기밀 정보를 유출하거나 또 다른 악성 행위를 유발할 수 있어서 치명적이다. 반면 이들에 대한 취약점 여부가 한국어 프롬프트를 대상으로는 충분히 검증되지 않았다. 따라서 본 논문에서는 널리 사용되는 챗봇인 ChatGPT를 대상으로 악성 한국어 프롬프트를 생성하여 공격을 수행해보고, 이들에 대한 실행 가능성을 분석하고자 한다. 이를 위해 기존에 제안된 프롬프트 주입 공격 기법을 분석하여 악의적인 한국어 프롬프트를 자동으로 생성하는 시스템을 제안하고자 한다. 특히 유해 표현을 유도하는 악성 프롬프트를 중점적으로 생성하였고 이들이 실제 유효함을 보이도록 한다.

전문가의 물리 문제 풀이 방략 가시화 연습에 의한 대학생의 질문 향상 (Improvement in University Freshmen's Questioning by Explicit Practice of Experts' Physics Problem Solving Strategies)

  • 김은숙;박승재
    • 한국과학교육학회지
    • /
    • 제22권3호
    • /
    • pp.466-477
    • /
    • 2002
  • 본 연구에서는 바람직한 질문의 일반적인 예를 제시하고 질문 만들기를 연습시킴으로써 학생 질문의 양과 질의 향상을 기대한 종전의 연구와 달리 적절한 물리 연습 문제 풀이를 통해서 학생의 질문이 향상될 것을 가정하였다. 이 연습에서는 전문가가 물리 문제를 풀 때 사용하는 방략을 단계적인 문제 풀이 안내의 형태로 구성하였는데 각 단계에서 조작적인 지시 사항을 사용하여 학생에게 기대되는 행동을 명시적으로 제시했다는 뜻에서 가시화 연습이라고 하였다. 이러한 문제 풀이 과정은 이해가 부족한 부분을 구체적으로 인식하도록 돕고 따라서 학생이 스스로의 질문을 정확하게 인식하고 표현하는데 긍정적인 영향을 미칠 것으로 기대되었다. 연구의 대상은 이공계 물리학 강좌를 수강하는 서울지역 대학 일학년 학생이었다. 수업의 대부분은 동일하고, 다만 연습문제 풀이를 할 때 실험집단은 전문가의 문제 풀이 방략을 가시화하는 연습 활동을 했고, 통제집단 학생들은 교과서에 있는 연습 문제를 전통적인 방법으로 풀었다. 학생들의 질문을 조사하기 위해 과제물을 부여할 때 또는 시험을 실시할 때 자신이 어려웠던 부분에 대해서 서술할 것을 요철하였다. 즉 본 연구에서 질문은 학생들이 자신의 경험한 어려움에 대해서 글로 서술한 것을 의미하며 의문문의 형태가 아닐 수도 있다. 수집된 질문을 질문의 양과 질, 두 가지 측면에서 분석하였다. 실험집단의 학생들은 통제 집단의 학생들보다 자발적으로 질문을 표현하는 경향이 있었다. 학생 질문의 내용에서 많이 관찰된 첫째 특성은 자신의 어려움에 대한 구체적인 표현의 중가이다. 두 번째 특성은 과정적 지식의 지식의 필요를 인식했다는 점이다. 구체적인 표현과 과정적 지식에 관한 인식은 모두 실험집단에서 다 많이 관찰되었다.

복합 기계 상에 의한 디지탈 시스템의 일반계 과정 (A Design Process of Digital System in Polymachine Image)

  • 김현재
    • 대한전자공학회논문지
    • /
    • 제19권6호
    • /
    • pp.9-16
    • /
    • 1982
  • 이 설계 과정은 보통의 더지탈 하아드웨어 담계에 복합 기계 개념을 응용한 일설계 기법을 소개한 것이다. 이 과정은 계산기용 소프트웨어 설계의 경우와 마찬가지로 새 시스템을 흐름도에 의해 표현시키는 것으로 부터 시작되며, 이어서 흐름도를 분해하여 발산형 요소를 얻고, 이 발산형 요소를 근거로 소기계를 작성하게 되는데, 이렇게 소기계의 작성이 끝나게 되면. 이번에는 통합 과정을 통해서 복합체와 지시기를 만들고, 논리자로를 완척함으로써 전휴의 설계 과정을 완료하게 된다. This is an introduction to an art of digital hardware design using polymachine image as a target structure of the product. As in the case of software design of a computer, the design process begins with a sketch of planned system in flow chart description and the flow charts is partitioned into divergent elements. Each of the element machine is derived from those divergent elements. We can build a complete digital system with the preparation of an index, and a polymer of these element machines.

  • PDF

신경회로망을 이용한 2D 얼굴근육 파라메터의 자동인식 (Automatic Estimation of 2D Facial Muscle Parameter Using Neural Network)

  • 김동수;남기환;한준희;배철수;권오홍;나상동
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 1999년도 춘계종합학술대회
    • /
    • pp.33-38
    • /
    • 1999
  • 컴퓨터 분야에서 얼굴근육 이미지합성은 살아있는 것 같은 모델을 실현하기 위한 가장 실재적인 접근방법 중의 하나이며, 얼굴근육 모델은 얼굴조직 성분과 근육으로 구성된다. 이 모델에서 얼굴 조직 성분에 영향을 주는 힘(force)은 각 근육의 수축강도로써 계산되어지고, 각 근육 파라메터의 결합은 명확한 얼굴표현으로 결정한다. 또한 각 근육 파라메터는 실험과 샘플 사진과 근육편집기로 생성한 명확한 이미지를 비유하여 에러처리과정을 통해 결정된다. 이 논문에서 신경회로망을 사용한 2D(Two-Dimension) 지시점의 움직임으로부터 얼굴근육의 자동인식 방법을 제안하고자 하며, 얼굴모델을 기반으로 한 물리학적 제한하에 캡처된 이미지에서 정보 흐름과 2D 포인트로부터 3D(Three-Dimension) 움직임 인식을 하고자 한다.

  • PDF

이동통신 단말기를 위한 3D Motion GUI (3D Motion GUI for mobile phone)

  • 박상현;옥준호
    • 한국HCI학회:학술대회논문집
    • /
    • 한국HCI학회 2007년도 학술대회 2부
    • /
    • pp.339-344
    • /
    • 2007
  • 이동통신 단말기의 그래픽 유저 인터페이스 환경은 다양한 요인에 의하여 그 변화를 자극 받고 있다. 한정된 디스플레이 공간 안에서의 다 기능화로 인한 사용성의 문제, 정적이고 지시적인 상황에 익숙한 문자 중심의 세대에서 자율적이고 동적인 영상 중심의 세대로의 사용자 세대의 변화, 합리적 소비 보다는 감성적 만족을 중요하게 여기는 사용자 가치의 변화, 그래픽 디자인 트랜드의 변화, 서비스 컨텐츠의 변화, 기술의 발전 등 이동통신 단말기를 둘러싼 모든 측면에서 변화가 진행되고 있다. 여기에 이동통신 단말기 제조사, 서비스 업체, 컨텐츠 업체, 칩 제조사 등 이동통신 서비스와 관련된 다양한 사업 주체들의 복잡한 이해관계 속에서의 경쟁 또한 이러한 변화를 부추기는 요인의 하나로 볼 수 있다. 본 연구에서는 이러한 변화요인들을 적절히 수렴하여 제공할 수 있는 보다 효과적인 그래픽 유져 인터페이스 디자인 방법을 모색하고자 하였으며, 보다 효율적이고 적극적인 개선을 위해 현재 이동통신 단말기의 GUI 디자인의 주요 디자인 수단인 Bitmap 또는 Vector 그래픽 대신 보다 다양한 시각적 표현 방법을 내재하고 있는 3D 기반의 Motion 그래픽을 활용한 이동통신 단말기의 GUI 디자인 방법을 제안 하고자 한다. 하지만 아직 여러가지 제약 조건들로 인하여 이동통신 단말기 내에서 3D Motion 그래픽의 적용이 완전히 자유롭지 않은 것이 사실이다. 그러나 기술의 발전 속도로 볼 때 머지 않아 3D Motion GUI 제공을 위한 이동통신 단말기의 기술적 환경은 충분히 발전될 것이며, 이에 따라 본 연구와 같이 3D 그래픽이나 Motion 그래픽을 등을 활용한 이동통신 단말기의 사용자 인터페이스 연구의 선행은 매우 필요하다고 볼 수 있다.

  • PDF

CID 표준 및 CIM XML 상호 운용성 테스트 방안 연구 (A Study of GID Standards and the CIM XML Interoperability Test)

  • 정남준;송재주;오도은;고종민
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2008년도 제39회 하계학술대회
    • /
    • pp.1877-1878
    • /
    • 2008
  • 고품질, 고 신뢰도를 지향하는 미래 지능형 전력시스템에 대한 기대와 함께 전력 기기 및 설비의 디지털화에 관심이 집중되면서, 전력시장에서는 전력정보의 양방향 교환 표준을 위한 공통정보모델(CIM : Common Information Model)의 개발 및 활용이 새로운 화두로 부상하였다. CIM은 차세대 전력시스템과 미래형 부가서비스 등의 전반적인 운영측면에서 혁신을 이루는데 사용할 수 있도록 표준화된 데이터교환 모델이다. 이는 전력시스템 내 모든 다양한 객체(변전소, 송전선, 변압기, 차단기, 설비자산, 작업지시, 작업원 등)들이 어떻게 상호 연결되는지를 표현하는 방식이다. 최근 CIM/GID(GID : Generic Interface Definition)에 대한 관심이 고조되면서 CIM/GID를 어떻게 도입하고 활용할 것인가에 대한 논의가 활발하다. 그 활용 방안의 일환으로 개발된 시스템에 대한 상호 운용성 테스트를 수행함으로써 제품 또는 시스템의 표준화 준수 여부와 활용성에 대한 검증이 가능하다. CIM/GID 상호운용성 테스트는 UCA International Users Group에서 가입 회원들을 대상으로 지속적으로 진행되고 있다. 본 논문에서는 미국 클리블랜드에서 2003년 11월 18일$\sim$20일 사이에 진행되었던 5차 CIM/GID 상호운용성 테스트 결과를 토대로 CIM/GID와 CIM XML의 상호 운용성 테스트 방안을 소개하고자 한다.

  • PDF

영아교사의 애착 및 영아의 몸짓(gesture)과 영아 언어발달 간의 관계 (Relation between Infant Teacher Attachment or Infant Gesture and Infant Language Development)

  • 신애선
    • 한국보육학회지
    • /
    • 제17권4호
    • /
    • pp.121-143
    • /
    • 2017
  • 본 연구의 목적은 영아교사 애착 및 영아의 몸짓과 영아의 언어발달 간의 관계를 알아보는데 있다. 연구대상은 전북 J시 가정어린이집과 영아전담어린이집에 63곳에 재원 중인 18~24개월 영아와 그 담임교사 84명이다. 연구결과 첫째, 영아교사 애착은 영아의 언어발달과 정적 상관관계가 나타났다. 영아교사 애착 유형별로는 긍정적정서, 접촉추구, 자기희생적온정, 근접추구, 결속, 기대감 모두 수용언어, 표현언어와 정적 상관관계가, 보호는 수용언어와 정적 상관관계가 냉담만 수용언어와 부적 상관관계가 나타났다. 둘째, 영아 몸짓의 하위요인 중 지시적몸짓은 수용언어와 부적 상관관계가, 관습적몸짓과 표상적몸짓은 표현언어와 정적 상관관계가 나타났다. 셋째, 영아교사의 애착과 영아 몸짓이 영아 언어발달에 미치는 영향력을 알아본 결과, 전체언어에 대해서는 영아교사 애착의 접촉추구가 가장 큰 영향력이 있었다. 영아 언어 유형별로는 수용언어는 영아교사 애착의 접촉추구가, 표현언어는 영아교사 애착의 결속이 가장 큰 영향력이 있는 것으로 나타나, 영아 언어발달에는 영아의 몸짓보다 영아교사의 애착이 더 큰 영향력이 있음을 알 수 있었다. 본 연구결과는 영아교사와 영아의 애착관계의 중요성을 통해 영아의 언어능력 증진을 위한 기초자료로 활용될 수 있을 것이다.

해안지역 다중패커공에서의 수리수두 변화 특성 (Characteristics of Hydraulic Head Variation at Multi-packer Wells in a Coastal Area)

  • 정재열;함세영;옥순일
    • 지질공학
    • /
    • 제25권2호
    • /
    • pp.291-298
    • /
    • 2015
  • 지하수 흐름 해석 및 대수층의 특성 파악, 지하수 유동모델 보정 등과 같은 수리지질학적 연구에서 가장 중요한 요소 중 하나가 수리수두를 파악하는 것이다. 본 연구에서는 해안 인근 지역의 다중패커가 설치된 8개 관측공(GM-1~GM-8)의 각 구간별 수리수두를 분석하였으며 심도와 위치에 따른 수리경사 변화를 규명하였다. 수리수두는 관측공 심도에 따른 변화를 표현하기 위해서 표고로부터 수두까지의 심도로 표준화하였다. 해안에 가장 가깝게 위치한 GM-5은 수리경사가 0.0142로서 심도가 깊어질수록 수두가 증가하는 경향을 보이며, 전형적인 배출지역의 특성을 보인다. 한편, 해안인근의 GM-1, GM-2는 심도 약 100 m까지 수리수두가 대체로 일정하나, 심도 100 m 보다 깊어지면 수리경사가 각각 0.0196, 0.0735로 나타났다. 이는 심도 100 m 이내에서는 지하수의 수평적인 흐름이 지배적이고, 심도 100 m 이상에서는 하부에서 상부로의 상향 흐름이 나타남을 지시한다. 해안에서 거리가 먼 곳에 위치한 GM-3에서는 수리경사가 0.0046로서 낮으며 이는 함양지역과 배출지역의 중간에 위치하여 지하수의 수평적인 흐름이 우세하다는 것을 지시한다.

지구과학 영재들의 소집단 활동에서 의사소통 구조와 집단 내 지위에 따른 언어적 상호 작용의 차이 (The Differences of Verbal Interactions according to Communication Structures and Communication Status in Small Group Activity of Earth Science Gifted Students)

  • 정덕호;이철민;박경진
    • 한국지구과학회지
    • /
    • 제41권3호
    • /
    • pp.307-319
    • /
    • 2020
  • 이 연구의 목적은 소집단 활동에서 의사소통 구조와 집단 내 지위에 따라 지구과학 영재들의 언어적 상호 작용에 차이가 있는지를 알아보기 위한 것이다. 이를 위하여 지구의 밀도를 측정하는 소집단 탐구 활동을 실시하였으며, 이 과정에서 소집단 간의 의사소통 구조가 서로 다른 공유형 집단 4개, 독점형 집단 4개 등 8개 소집단을 선정하였다. 이후 언어적 상호작용을 분석하기 위한 분석틀을 개발하여 소집단 간의 특성 차이를 비교하였으며, 그 결과는 다음과 같다. 첫째, 의사소통 구조에 관계없이 모든 소집단에서 학생들은 핑퐁(pingpong)형의 단순한 의사소통 구조를 보이고 있었다. 둘째, 소집단의 의사소통 구조 및 집단 내 지위에 관계없이 모든 소집단에서 '제재', '지시', '불만', '자신감 부족'과 같은 부정적인 상호작용이 우세하게 나타났다. 셋째, 소집단 내의 방관자의 지위에 있는 학생들은 상대방에게 지시하는 행동, 상대방의 행동을 저지하는 행동, 그리고 구성원의 태도나 능력에 대한 불만 표현 등의 언어적 상호 작용을 주로 보이고 있었다. 그러므로 교사는 소집단 활동에서 학생들이 상위 수준의 언어적 상호 작용을 구사하도록 지도해야 하고, 부정적 상호 작용이 발생하지 않도록 학생들의 의사소통에 관여해야 한다. 또한 교사는 사전에 소집단 내 방관자의 지위에 있는 학생들에 대한 성취 수준을 확인하고 이들이 소집단 활동에 보다 적극적으로 참여할 수 있도록 지도할 필요가 있다. 이 연구는 학생들의 문제 해결 능력과 의사소통 능력을 향상시키기 위한 교수학습 설계에 활용될 수 있다는 점에서 의의가 있다.

교사들의 과학 교과교육학지식과 예측변인 (Pedagogical Content Knowledge and Predictor Variables in Science Teaching of Practicing Elementary Teachers)

  • 박성혜
    • 한국과학교육학회지
    • /
    • 제23권6호
    • /
    • pp.671-683
    • /
    • 2003
  • 초등교사들의 과학교수에서 교과교육학지식과 이와 관련된 유의미한 예측변인을 조사하였다. 과학 교과교육학지식을 측정할 수 있는 도구로 초등교사들의 과학교수에서 교과교육학지식-교수법지식, 표현지식, 내용지식, 평가지식, 학생지식, 교육과정지식-을 조사하였다. 예측변인을 조사하고자 교사들의 학력, 경력 년 수, 과학전담교사 선택여부, 과학교수 자기효능감, 과학교수 결과기대감, 과학 교수법, 과학교수태도에 관한 문항을 함께 조사하였고, 이를 위하여 332명의 초등현직교사가 참여하였다. 분석방법은 피어슨 상관계수와 중다회귀방법을 사용하였고, 그 결과는 교사들의 과학 교과교육학지식의 모든 영역에서 유의미한 예측변인은 모두 과학교수 자기효능감, 과학교수법, 과학교수에 대한 태도, 교사들의 경력 년 수로 나타났으며 모두 양의 방향을 가졌다. 이는 과학교수에 대한 자신의 능력에 신뢰감이 있는 교사일수록, 과학교수태도가 긍정적일수록, 지시적인 교수법보다 비지시적인 교수법을 사용하는 교사일수록, 또한 교사들의 경력 년 수가 많을수록 6개 영역의 교과교육학지식이 모두 많은 것으로 결론 짓는다. 경력 년 수가 적은 예비교사나 초임교사들의 교과교육학지식을 개발하기 위한 교육방안을 구성할 때 교과교육학지식을 설명하는 위와 같은 예측 변인들의 긍정적인 측면과 함께 고려되는 것이 바람직하다.