• 제목/요약/키워드: inference attack

검색결과 30건 처리시간 0.021초

Textual Inversion을 활용한 Adversarial Prompt 생성 기반 Text-to-Image 모델에 대한 멤버십 추론 공격 (Membership Inference Attack against Text-to-Image Model Based on Generating Adversarial Prompt Using Textual Inversion)

  • 오윤주;박소희;최대선
    • 정보보호학회논문지
    • /
    • 제33권6호
    • /
    • pp.1111-1123
    • /
    • 2023
  • 최근 생성 모델이 발전함에 따라 생성 모델을 위협하는 연구도 활발히 진행되고 있다. 본 논문은 Text-to-Image 모델에 대한 멤버십 추론 공격을 위한 새로운 제안 방법을 소개한다. 기존의 Text-to-Image 모델에 대한 멤버십 추론 공격은 쿼리 이미지의 caption으로 단일 이미지를 생성하여 멤버십을 추론하였다. 반면, 본 논문은 Textual Inversion을 통해 쿼리 이미지에 personalization된 임베딩을 사용하고, Adversarial Prompt 생성 방법으로 여러 장의 이미지를 효과적으로 생성하는 멤버십 추론 공격을 제안한다. 또한, Text-to-Image 모델 중 주목받고 있는 Stable Diffusion 모델에 대한 멤버십 추론 공격을 최초로 진행하였으며, 최대 1.00의 Accuracy를 달성한다.

공격 탐지 임계값을 고려한 비상태기반 방화벽 정책 추론 방법 (An Inference Method of Stateless Firewall Policy Considering Attack Detection Threshold)

  • 김현우;권동우;주홍택
    • 인터넷정보학회논문지
    • /
    • 제16권2호
    • /
    • pp.27-40
    • /
    • 2015
  • 방화벽 정책 추론은 사전지식 없이 특정 네트워크로의 능동적 탐지기법을 이용한 응답 패킷 분석으로 방화벽 정책을 발견한다. 하지만, 외부에서 특정 네트워크로 추론 패킷을 어떻게 전송하는가에 따라 방화벽에 설정된 공격 탐지 임계값에 의해 네트워크 공격으로 탐지되기 때문에 무분별하게 패킷을 전송하는 방법은 유효하지 않다. 본 논문에서는 방화벽의 공격 탐지 임계값을 고려하여 네트워크 공격으로 탐지되지 않는 범위 내에서 추론 변수를 활용한 패킷 전송 알고리즘을 제안한다. 그리고 제안하는 알고리즘에의해 전송되는 패킷이 네트워크 공격으로 탐지되는가를 검증한다. 마지막으로 우리는 실제 방화벽 정책과 추론된 정책을 비교하여 제안된 알고리즘의 정확성을 검증한 결과를 제시한다.

FuzzyGuard: A DDoS attack prevention extension in software-defined wireless sensor networks

  • Huang, Meigen;Yu, Bin
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제13권7호
    • /
    • pp.3671-3689
    • /
    • 2019
  • Software defined networking brings unique security risks such as control plane saturation attack while enhancing the performance of wireless sensor networks. The attack is a new type of distributed denial of service (DDoS) attack, which is easy to launch. However, it is difficult to detect and hard to defend. In response to this, the attack threat model is discussed firstly, and then a DDoS attack prevention extension, called FuzzyGuard, is proposed. In FuzzyGuard, a control network with both the protection of data flow and the convergence of attack flow is constructed in the data plane by using the idea of independent routing control flow. Then, the attack detection is implemented by fuzzy inference method to output the current security state of the network. Different probabilistic suppression modes are adopted subsequently to deal with the attack flow to cost-effectively reduce the impact of the attack on the network. The prototype is implemented on SDN-WISE and the simulation experiment is carried out. The evaluation results show that FuzzyGuard could effectively protect the normal forwarding of data flow in the attacked state and has a good defensive effect on the control plane saturation attack with lower resource requirements.

Neuro-fuzzy based prediction of the durability of self-consolidating concrete to various sodium sulfate exposure regimes

  • Bassuoni, M.T.;Nehdi, M.L.
    • Computers and Concrete
    • /
    • 제5권6호
    • /
    • pp.573-597
    • /
    • 2008
  • Among artificial intelligence-based computational techniques, adaptive neuro-fuzzy inference systems (ANFIS) are particularly suitable for modelling complex systems with known input-output data sets. Such systems can be efficient in modelling non-linear, complex and ambiguous behaviour of cement-based materials undergoing single, dual or multiple damage factors of different forms (chemical, physical and structural). Due to the well-known complexity of sulfate attack on cement-based materials, the current work investigates the use of ANFIS to model the behaviour of a wide range of self-consolidating concrete (SCC) mixture designs under various high-concentration sodium sulfate exposure regimes including full immersion, wetting-drying, partial immersion, freezing-thawing, and cyclic cold-hot conditions with or without sustained flexural loading. Three ANFIS models have been developed to predict the expansion, reduction in elastic dynamic modulus, and starting time of failure of the tested SCC specimens under the various high-concentration sodium sulfate exposure regimes. A fuzzy inference system was also developed to predict the level of aggression of environmental conditions associated with very severe sodium sulfate attack based on temperature, relative humidity and degree of wetting-drying. The results show that predictions of the ANFIS and fuzzy inference systems were rational and accurate, with errors not exceeding 5%. Sensitivity analyses showed that the trends of results given by the models had good agreement with actual experimental results and with thermal, mineralogical and micro-analytical studies.

서비스로의 데이터베이스에서 빈도수 기반의 추론공격 방지를 위한 인덱싱 기법 (An Indexing Method to Prevent Attacks based on Frequency in Database as a Service)

  • 정강수;박석
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제16권8호
    • /
    • pp.878-882
    • /
    • 2010
  • 데이터의 소유권이 외부 업체로 이양되는 DaaS 모델은 신뢰할 수 없는 서비스 제공자에 의한 데이터 누출의 위험이 존재한다. 본 논문은 복수 개의 칼럼으로 이루어진 암호화 된 테이블의 인덱스를 통해 발생할 수 있는 추론 공격을 분석하여 b-anonymity라는 개념을 도입함으로써 이에 대한 해결책을 제시한다. 또한 데이터의 인덱싱에 R+-Tree 기법을 사용함으로써 인덱스를 사용할 때 발생할 수 있는 오탐률 (False-positive)을 최소화하여 데이터 처리의 효율성을 보장하였다.

입력 위치 유추 방지를 위한 보안 키패드의 설계 (Design of Security Keypad Against Key Stroke Inference Attack)

  • 서화정;김호원
    • 정보보호학회논문지
    • /
    • 제26권1호
    • /
    • pp.41-47
    • /
    • 2016
  • Black hat USA 2014에서는 사용자가 스마트폰 혹은 스마트패드 상에서 비밀번호 입력 시 공격자가 구글 글라스를 이용하여 원거리에서 입력되는 비밀번호의 위치점을 유추해 내는 기술을 시연하였다. 본 논문에서는 동일한 입력값에 대해서도 상이한 위치점을 갖도록 설계한 키패드를 제안함으로써 구글 글라스와 같은 스마트 디바이스를 이용한 공격을 효과적으로 방어할 수 있는 방안에 대해 제시한다.

염해 환경에 노출된 RC 구조물의 내구성능설계를 위한 퍼지 추론 기반 환경영향지수의 산정 (Fuzzy Inference-based Quantitative Estimation of Environmental Affecting Factor For Performance-based Durability Design of RC Structure Exposed to Salt Attack Environment)

  • 도정윤;송훈;소승영;소양섭
    • 한국콘크리트학회:학술대회논문집
    • /
    • 한국콘크리트학회 2005년도 봄학술 발표회 논문집(II)
    • /
    • pp.237-240
    • /
    • 2005
  • As a part of the effort for improving the durability design based on a set of the deem-to-satisfy specifications, it is important and primary to quantitatively identify the environmental impact to a target reinforced concrete structure. In this work, an effort is made to quantitatively calculate the environmental affecting factor with using a fuzzy inference that it indicates the severity of environmental impact to the exposed reinforced concrete structure or member. This system is composed of input region, output region and rule base. For developing the fuzzy inference system surface chloride concentration{chloride), cyclic degree of wet and dry(CWD), relative humidity(RH) and temperature (TEMP) were selected as the input parameter to environmental affecting factor(EAF) of output parameter. The Rules in inference engine are generated from the engineering knowledge and intuition based on some international code of practises as well as various researcher's experimental data. The devised fuzzy inference system was verified comparing the inferred value with the investigation data, and proved to be validated. Thus it is anticipated that this system for quantifying EAF is certain to be considered into the starting point to develop the performance-based durability design considering the service life of structure.

  • PDF

블랙 박스 모델의 출력값을 이용한 AI 모델 종류 추론 공격 (Model Type Inference Attack Using Output of Black-Box AI Model)

  • 안윤수;최대선
    • 정보보호학회논문지
    • /
    • 제32권5호
    • /
    • pp.817-826
    • /
    • 2022
  • AI 기술이 여러 분야에 성공적으로 도입되는 추세이며, 서비스로 환경에 배포된 모델들은 지적 재산권과 데이터를 보호하기 위해 모델의 정보를 노출시키지 않는 블랙 박스 상태로 배포된다. 블랙 박스 환경에서 공격자들은 모델 출력을 이용해 학습에 쓰인 데이터나 파라미터를 훔치려고 한다. 본 논문은 딥러닝 모델을 대상으로 모델 종류에 대한 정보를 추론하는 공격이 없다는 점에서 착안하여, 모델의 구성 레이어 정보를 직접 알아내기 위해 모델의 종류를 추론하는 공격 방법을 제안한다. MNIST 데이터셋으로 학습된 ResNet, VGGNet, AlexNet과 간단한 컨볼루션 신경망 모델까지 네 가지 모델의 그레이 박스 및 블랙 박스 환경에서의 출력값을 이용해 모델의 종류가 추론될 수 있다는 것을 보였다. 또한 본 논문이 제안하는 방식인 대소 관계 피쳐를 딥러닝 모델에 함께 학습시킨 경우 블랙 박스 환경에서 약 83%의 정확도로 모델의 종류를 추론했으며, 그 결과를 통해 공격자에게 확률 벡터가 아닌 제한된 정보만 제공되는 상황에서도 모델 종류가 추론될 수 있음을 보였다.

Unethical Network Attack Detection and Prevention using Fuzzy based Decision System in Mobile Ad-hoc Networks

  • Thanuja, R.;Umamakeswari, A.
    • Journal of Electrical Engineering and Technology
    • /
    • 제13권5호
    • /
    • pp.2086-2098
    • /
    • 2018
  • Security plays a vital role and is the key challenge in Mobile Ad-hoc Networks (MANET). Infrastructure-less nature of MANET makes it arduous to envisage the genre of topology. Due to its inexhaustible access, information disseminated by roaming nodes to other nodes is susceptible to many hazardous attacks. Intrusion Detection and Prevention System (IDPS) is undoubtedly a defense structure to address threats in MANET. Many IDPS methods have been developed to ascertain the exceptional behavior in these networks. Key issue in such IDPS is lack of fast self-organized learning engine that facilitates comprehensive situation awareness for optimum decision making. Proposed "Intelligent Behavioral Hybridized Intrusion Detection and Prevention System (IBH_IDPS)" is built with computational intelligence to detect complex multistage attacks making the system robust and reliable. The System comprises of an Intelligent Client Agent and a Smart Server empowered with fuzzy inference rule-based service engine to ensure confidentiality and integrity of network. Distributed Intelligent Client Agents incorporated with centralized Smart Server makes it capable of analyzing and categorizing unethical incidents appropriately through unsupervised learning mechanism. Experimental analysis proves the proposed model is highly attack resistant, reliable and secure on devices and shows promising gains with assured delivery ratio, low end-to-end delay compared to existing approach.

적기의 위협 평가 자동화를 위한 퍼지 규칙 방법론 (Fuzzy Rule-Based Method for Air Threat Evaluation)

  • 최병주;김지은;김진수;김창욱
    • 한국군사과학기술학회지
    • /
    • 제19권1호
    • /
    • pp.57-65
    • /
    • 2016
  • Threat evaluation is a process to estimate the threat score which enemy aerial threat poses to defended assets. The objective of threat evaluation is concerned with making an engagement priority list for optimal weapon allocation. Traditionally, the threat evaluation of massive air threats has been carried out by air defence experts, but the human decision making is less effective in real aerial attack situations with massive enemy fighters. Therefore, automation to enhance the speed and efficiency of the human operation is required. The automatic threat evaluation by air defense experts who will perform multi-variable judgment needs formal models to accurately quantify their linguistic evaluation of threat level. In this paper we propose a threat evaluation model by using a fuzzy rule-based inference method. Fuzzy inference is an appropriate method for quantifying threat level and integrating various threat attribute information. The performance of the model has been tested with a simulation that reflected real air threat situation and it has been verified that the proposed model was better than two conventional threat evaluation models.