• 제목/요약/키워드: Black-Box방법

검색결과 114건 처리시간 0.033초

블랙 박스 모델의 출력값을 이용한 AI 모델 종류 추론 공격 (Model Type Inference Attack Using Output of Black-Box AI Model)

  • 안윤수;최대선
    • 정보보호학회논문지
    • /
    • 제32권5호
    • /
    • pp.817-826
    • /
    • 2022
  • AI 기술이 여러 분야에 성공적으로 도입되는 추세이며, 서비스로 환경에 배포된 모델들은 지적 재산권과 데이터를 보호하기 위해 모델의 정보를 노출시키지 않는 블랙 박스 상태로 배포된다. 블랙 박스 환경에서 공격자들은 모델 출력을 이용해 학습에 쓰인 데이터나 파라미터를 훔치려고 한다. 본 논문은 딥러닝 모델을 대상으로 모델 종류에 대한 정보를 추론하는 공격이 없다는 점에서 착안하여, 모델의 구성 레이어 정보를 직접 알아내기 위해 모델의 종류를 추론하는 공격 방법을 제안한다. MNIST 데이터셋으로 학습된 ResNet, VGGNet, AlexNet과 간단한 컨볼루션 신경망 모델까지 네 가지 모델의 그레이 박스 및 블랙 박스 환경에서의 출력값을 이용해 모델의 종류가 추론될 수 있다는 것을 보였다. 또한 본 논문이 제안하는 방식인 대소 관계 피쳐를 딥러닝 모델에 함께 학습시킨 경우 블랙 박스 환경에서 약 83%의 정확도로 모델의 종류를 추론했으며, 그 결과를 통해 공격자에게 확률 벡터가 아닌 제한된 정보만 제공되는 상황에서도 모델 종류가 추론될 수 있음을 보였다.

사고예방이 가능한 차량용 블랙박스 시스템에 관한 연구 (A Study on the Vehicle Black Box with Accident Prevention)

  • 김강효;문해민;신주현;반성범
    • 스마트미디어저널
    • /
    • 제4권1호
    • /
    • pp.39-43
    • /
    • 2015
  • 차량용 블랙박스는 사고 순간의 영상, 시간, 충격량 등의 정보를 기록하여 사고발생 시 원인을 규명하기 위한 용도로 사용되고 있다. 기존의 시스템은 사고 후에 원인을 분석하기 때문에 사고를 미연에 방지할 수 없는 단점이 있다. 최근에는 기존의 기능과 더붙어 미연에 사고를 예방할 수 있는 사고예방이 가능한 지능형 블랙박스가 연구되고 있다. 본 논문에서는 주차 시 발생할 수 있는 도난, 절도, 물피도주 등의 사고를 미연에 방지할 수 있는 사고예방 알고리즘을 제안한다. 제안한 알고리즘은 이동객체가 차량에 접근함에 따라 객체인식, 얼굴검출 및 경고기능을 제공한다. 실험 결과, 제안한 방법은 다양한 실험 조건에서 이동객체가 접근함에 따른 위험 레벨별 객체인식, 얼굴검출 및 경고기능을 제공함으로써 사고예방이 가능함을 확인했다.

사용자 화면 중심의 블랙 박스 테스트와 웹 인터페이스 테스트 커버리지를 통한 웹 어플리케이션 테스트 방법 (A Method for Testing Web Applications by Using Black-box Tests based on User Screens and Web Interface Test Coverage)

  • 임정희;이시현;장진아;최병주;황상철
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제36권9호
    • /
    • pp.706-717
    • /
    • 2009
  • 웹 어플리케이션은 프레임워크가 제공하는 라이브러리를 재사용해서 구현하며, 다계층 아키텍처를 갖는다. 또한 사용자 요청을 처리하기 위해, 화면에서 시작하여 해당 웹 어플리케이션 구성 컴포넌트를 실행하고 데이터베이스를 경유하여 다시 화면으로 돌아오는 실행 흐름, 즉 비즈니스 로직을 갖는다. 웹 어플리케이션을 효과적으로 테스트하기 위해서는 이러한 웹 어플리케이션의 특징을 반영하는 테스트 방안이 필요하다. 본 논문은 웹 어플리케이션 테스트를 위해 사용자 화면으로 테스트를 수행하되, 웹 비즈니스 로직 상의 인터페이스 테스트 커버리지로 검증하는 방법을 제안한다. 이를 자동화한 테스트 도구인 Testopiacov를 통해 웹 어플리케이션을 테스트하고 그 결과를 통하여 제안하는 웹 어플리케이션 테스트 방법을 분석한다.

객체지향 소프트웨어를 위한 주요 블랙박스 테스트 기법들의 비고 (Comparison of Major Black-Box Testing Methods in Object-Oriented Software)

  • 서광익;최은만
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제33권1호
    • /
    • pp.1-16
    • /
    • 2006
  • 소프트웨어의 규모가 커지면서 시스템 기능 테스트 단계에 일일이 원시코드를 참조하면서 테스트하는 것은 현실적으로 불가능하다. 따라서 시스템 테스트 단계에서 다양한 요구명세 정보들을 이용하는 블랙박스 테스트 방법들이 많이 연구되고 있다. 테스트 기법에 활용한 요구명세는 시스템을 표현하는 기술 방법과 의미의 차이로 인해 테스트 케이스와 커버리지가 크게 달라서 테스트 계획 단계에서 테스트 기법과 그 기법의 적용 결과에 대해 깊이 고려해야 한다. 이러한 필요성으로 인해 본 연구에서는 다양한 블랙박스 테스트 기법들에 대한 실험과 그 결과에 대해 논하였다. 기법의 특성이 미치는 테스트 결과를 분석하고 평가하기 위해 객체지향 시스템의 명세와 모델링 기법으로 가장 잘 알려진 UML을 이용한 테스트 기법을 포함하여 다섯 가지의 블랙박스 테스트 기법을 실행하고 비교하였다. 그리고 다섯 가지 기법들을 서로 다른 두 응용 시스템에 적용하였고 그 결과로 추출된 테스트 케이스의 커버리지를 분석하였다.

차량 장착 블랙박스 카메라를 이용한 효과적인 도로의 거리 예측방법 (Effective Road Distance Estimation Using a Vehicle-attached Black Box Camera)

  • 김진수
    • 한국정보통신학회논문지
    • /
    • 제19권3호
    • /
    • pp.651-658
    • /
    • 2015
  • 최근에 자율주행자동차에 대해 매우 활발한 연구와 개발이 진행되고 있다. 자율주행자동차를 구현하기 위해서는 매우 많은 기술들이 융복합적으로 해결되어야 한다. 이를 위해 차량에 장착된 블랙박스는 단순히 녹화기능 뿐만 아니라 신호등인식, 보행자검출, 정지선인식 등과 같이 자율주행차량을 구현하기 위한 핵심적인 기능을 제공할 수 있어 많은 연구 대상이 되고 있다. 따라서 자율주행차량을 구현하기 위한 한 가지 접근방법으로서 본 논문에서는 차량에 장착된 블랙박스 카메라를 이용하여 도로상에 위치한 거리를 효과적으로 예측할 수 있는 수식적인 모델을 제시한다. 제안한 모델은 도로의 기준선과 관찰선의 폭 또는 블랙박스 장착 높이 정보만을 이용함으로써 실제 도로상의 거리를 예측하는데 효과적으로 활용할 수 있음을 보인다. 다양한 실험을 통하여 본 논문에서 제안한 도로상의 거리 예측 모델이 타당함을 보인다.

개선된 Partial UIO sequence 생성 방법의 제안 (Improved Partial UIO sequence generation method)

  • 최진영;홍범기
    • 한국통신학회논문지
    • /
    • 제19권11호
    • /
    • pp.2255-2263
    • /
    • 1994
  • 프로토콜 적합성 시험은 시험 대상인 구현물을 하나의 black box로서 고려하여 input에 대한 output 과 결과 상태를 확인하는 일련의 과정으로 구성된다. 특히 결과 상태를 확인하는 방법에 따라 Unique Input/Output(UIO) Sequence, Distinguishing Sequence(DS) 및 Characterization Set(CS) 등으로 구분할 수 있다. 또한 UIO sequence가 존재하지 않는 상태에 대한 시험을 위해서라고 Partial UIO Set(CS) 등으로 구분 할 수 이따. 또한 PUIO sequence가 존재하지 않는 상태에 대한 시험을 위해서도 Partial UIO sequence 방법이 제안되었다. 본 논문에서는 이러한 PUIO sequence를 제시하고 이를 이용한 개선된 PUIO sequence 제안하였으며, 그 적용 결과로서 PUIO sequence의 수가 56%정도 줄어드는 것을 확인할 수 있었다.

  • PDF

CBD 환경에서 컴포넌트의 재사용성 측정 메트릭스 (Metrics for Measurement of Component Reusability in Component-Based Development)

  • 윤희환
    • 한국컴퓨터정보학회논문지
    • /
    • 제10권4호
    • /
    • pp.103-111
    • /
    • 2005
  • 프로그램의 재사용은 수정한 후 재사용하는 화이트박스 재사용과 수정없이 재사용하는 블랙박스 재사용으로 나눌 수 있다. 컴포넌트 기반 소프트웨어 개발 방법론에서의 컴포넌트는 블랙박스 재사용 형태를 띤다. 클래스와 컴포넌트는 절차적인 특성과 객체지향적인 특성을 모두 가지고 있으므로 이를 고려하여 재사용성을 측정해야 한다. 이 논문에서는 컴포넌트의 재사용성 측정 모델과 측정 기준을 제안한다. 제안된 모델을 사용하여 측정된 컴포넌트는 재사용 정도를 측정하여 재사용성이 높은 컴포넌트를 선택할 수 있다.

  • PDF

유니버설 일방향 해쉬 함수에 대한 블록 암호 기반 구성 방법 (Construction of UOWHF based on Block Cipher)

  • 이원일
    • 정보보호학회논문지
    • /
    • 제14권1호
    • /
    • pp.101-111
    • /
    • 2004
  • Preneel, Govaerts, Vandewalle은 1994년 [13]에서 블록 암호를 이용한 충돌 저항 해쉬 함수의 구성에 관한 64 가지 방법을 고려하였다. 그들은 64 가지 방법 중에서 12 가지가 안전하다고 주장하였으나 이에 대한 엄밀한 증명은 제시하지 않았다. Black, Rogaway, Shrimpton은 2002년 [2]에서 위의 64 가지 방법에 대하여 수학적 정의를 토대로 엄밀하게 분석한 결과를 제시하였다 그들은 블랙 박스 안전성 모델 하에서 타 가지의 압축 함수들 중 12 가지가 충돌 저항 해쉬 함수가 되며 이에 대응하는 64 가지의 화장된 왜쉬 함수들 중에서 20 가지가 충돌 저항 해쉬 함수가 됨을 증명하였다. 본 논문에서는 Preneel, Govaerts, Vandewalle이 제시한 64가지 방법을 기초로 하여 블록 암호를 이용한 UOWHF의 구성 방법에 대한 최초의 결과를 제시한다. 본 논문에서는 Black, Rogaway, Shrimpton이 사용한 블랙 박스 안전성 모델을 통하여 64 가지의 압축 함수 집합들 중에서 30 가지의 압축 함수 집합들이 UOWHF가 되며 이에 대응하는 64가지의 확장된 해쉬 함수 집합들 중에서 42 가지가 UOWHF가 됨을 보일 것이다. 이러한 결과는 또한 CRHF를 구성하는 것보다 UOWHF를 구성하는 것이 용이하다는 것을 간접적으로 시사한다. 또한 본 논문의 중요 결과들 중 하나는 블랙 박스 모델 하에서는 UOWHF의 안전성을 위하여 일반적으로 널리 알려진 안전성 모델 하에서는 필수적인 마스크 키들이 필요하지 않다는 것이다. 이는 UOWHF의 효율성을 매우 향상시킴을 의미한다.

제품 라인에서 컴포넌트 구조를 활용한 컴포넌트 스펙 방법 (Approach to Specify a Component using Component Structure in Product Lines)

  • 조혜경
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제33권3호
    • /
    • pp.289-300
    • /
    • 2006
  • 제품 라인은 재사용을 위한 연구 방법으로 널리 인식되어 왔다. 제품 라인에서 대표적인 중요 자산은 소프트웨어 컴포넌트이다. 그러나, 제품 라인에 대한 많은 관심에 비해 제품 라인에서 컴포넌트 구조 및 스펙에 대한 연구는 아직 미흡하다. 본 논문은 제품 라인에서 가변성(variability)을 반영한 컴포넌트 구조와 컴포넌트 스펙 방법을 제시한다. 본 논문은 FORM(Feature-Oriented Reuse Method)을 기반으로 제품 라인 컴포넌트의 정적 및 동적 구조, 제품 라인 컴포넌트의 행동 및 동시성 정보를 기술한다. 제품 라인 컴포넌트 스펙에 대한 각 정보는 블랙박스(black-box)와 화이트박스(white-box) 형태로 구분되어 기술되며 각 스펙 정보는 BNF로 정형화된다. 그 스펙들이 제품 라인 컴포넌트의 많은 서로 다른 특징의 충분한 고려를 통해 기술되기 때문에 본 논문은 제품 라인에서 컴포넌트의 손쉬운 개발을 돕고 제품라인 공학 방법론의 적용 방법을 잘 이해하도록 돕는다.

HD 블랙박스 녹화과정에서의 위치정보 은익방법 (Location Information Hiding Way Of HD Black Box Recording process)

  • 석진환;윤종철;홍종성;한찬호
    • 융합신호처리학회논문지
    • /
    • 제17권1호
    • /
    • pp.10-17
    • /
    • 2016
  • HD 블랙박스에 포함되는 GPS 위치정보 저장방법은 특정한 표준을 가지지 않고 제조사마다 고유한 방식을 사용하고 있다. 본 논문에서는 GPS 위치정보를 저장하기 위한 저장 공간의 한계성을 극복하고 이에 따른 화질저화를 유발하는 문제점을 해결하기 위하여, 숨겨진 필수영역을 이용한 HDTV 비디오 콘텐츠에 포함된 위치정보 은닉방법을 제안한다. HDTV 비디오 콘텐츠는 압축을 위하여 프레임 하단에 8-라인의 Border Extender가 반드시 필요하게 된다. 이는 현 위치정보를 은닉하는 공간으로 사용되며 화질열화를 방지하기 위하여 그레이스케일 블록 형태의 이미지로 삽입하였다. 제안 방법은 실제 HD블랙박스를 사용하여 확인되었으며, 기존의 부가영역을 사용한 ASCII 코드의 형식보다 해석이 어려우며 편집 재 압축할 경우 위치정보가 사라지는 보안효과가 있다. 따라서 제안방법은 페이스 북이나 유튜브 등과 같은 위치기반 동영상 서비스에도 적합하다.