• 제목/요약/키워드: transformer model

검색결과 611건 처리시간 0.115초

LLM 기반의 생성형 AI 응답 데이터 품질이 업무 활용 만족도에 미치는 영향에 관한 연구 (A Study of how LLM-based generative AI response data quality affects impact on job satisfaction)

  • 이승환;현지은;김광용
    • 융합보안논문지
    • /
    • 제24권3호
    • /
    • pp.117-129
    • /
    • 2024
  • 2017년 새로운 형태의 아키텍처인 트랜스포머(Transformer)가 발표되면서 언어모델에도 많은 변화가 있었다. 특히 대형 언어 모델인 LLM(Large language model)의 발전으로 검색이나 챗봇(Chatbot)과 같은 생성형 AI 서비스가 다양한 업무 영역에 활용되고 있다. 하지만 개인정보 유출과 같은 보안 이슈나 거짓 정보를 생성하는 할루시네이션(Hallucination)과 같은 신뢰성 문제가 발생하면서 이러한 서비스의 실효성에 대한 우려의 목소리도 커지고 있다. 이에 본 연구에서는 이러한 우려에도 불구하고 생성형 AI를 업무 영역에 활용하고 있는 빈도가 점점 증가하고 있는 요인에 대해서 분석하고자 하였다. 이를 위해 LLM 기반의 생성형 AI 응답 데이터 품질에 영향을 미치는 8가지 요인을 도출하고 유효 표본 195개를 대상으로 이러한 요인들이 업무 활용 만족도에 미치는 영향을 실증 분석하였다. 분석결과 전문성, 접근성, 다양성, 편리성이 지속적 사용의도에 유의한 영향을, 보안성, 안정성, 신뢰성 등이 부분적으로 유의한 영향을, 완전성이 부정적 영향을 미치는 요인으로 나타났다. 본 연구에서는 응답 데이터 품질에 대한 수요자의 인식이 업무 활용 만족도에 어떠한 영향을 미치는지 학문적으로 규명하고, 이러한 서비스에 대한 수요자 중심의 의미 있는 실무적 시사점을 제시하는데 그 목적이 있다.

Rotor Fault Detection of Induction Motors Using Stator Current Signals and Wavelet Analysis

  • Hyeon Bae;Kim, Youn-Tae;Lee, Sang-Hyuk;Kim, Sungshin;Wang, Bo-Hyeun
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2003년도 ISIS 2003
    • /
    • pp.539-542
    • /
    • 2003
  • A motor is the workhorse of our industry. The issues of preventive and condition-based maintenance, online monitoring, system fault detection, diagnosis, and prognosis are of increasing importance. Different internal motor faults (e.g., inter-turn short circuits, broken bearings, broken rotor bars) along with external motor faults (e.g., phase failure, mechanical overload, blocked rotor) are expected to happen sooner or later. This paper introduces the fault detection technique of induction motors based upon the stator current. The fault motors have rotor bar broken or rotor unbalance defect, respectively. The stator currents are measured by the current meters and stored by the time domain. The time domain is not suitable to represent the current signals, so the frequency domain is applied to display the signals. The Fourier Transformer is used for the conversion of the signal. After the conversion of the signals, the features of the signals have to be extracted by the signal processing methods like a wavelet analysis, a spectrum analysis, etc. The discovered features are entered to the pattern classification model such as a neural network model, a polynomial neural network, a fuzzy inference model, etc. This paper describes the fault detection results that use wavelet decomposition. The wavelet analysis is very useful method for the time and frequency domain each. Also it is powerful method to detect the features in the signals.

  • PDF

계통연계 풍력발전시스템의 최대출력제어를 위한 신경회로망 제어기에 관한 연구 (Neural Network Controller of A Grid-Connected Wind Energy Conversion System for Maximum Power Extraction)

  • Ro, Kyoung-Soo;Choo, Yeon-Sik
    • 조명전기설비학회논문지
    • /
    • 제18권2호
    • /
    • pp.142-149
    • /
    • 2004
  • 본 논문은 바람으로부터 최대출력을 추출하기 위해 계통연계 풍력발전시스템의 신경회로망 제어기와 추출된 최대출력을 계통에 전달하기 위한 전력제어기를 제안한다. 유도발전기, 변압기, 정류기 및 인버터 등으로 구성된 제어기를 갖춘 풍력발전시스템의 모델링과 시뮬레이션에 대해 검토하고자 한다. 본 논문에서는 동특성해석을 위해 드라이브 트레인 모델, 유도발전기 모델과 계통접속 모델을 제시한다. 신경회로망 제어기는 풍차날개의 피치각을 제어하여 바람으로부터 최대출력을 추출한다. 피치제어방법은 기계적으로 복잡하지만 제어성능은 스톨제어보다 우수하게 된다. MATLAB으로 수행한 시뮬레이션 결과는 발전기 토오크, 발전기 회전속도, 피치각, 계통으로 주입되는 유효/무효전력 등을 예시하고 있으며 그 결과를 보면 제안된 제어기의 효용성을 입증할 수 있다.

Modeling and Control Method for High-power Electromagnetic Transmitter Power Supplies

  • Yu, Fei;Zhang, Yi-Ming
    • Journal of Power Electronics
    • /
    • 제13권4호
    • /
    • pp.679-691
    • /
    • 2013
  • High-power electromagnetic transmitter power supplies are an important part of deep geophysical exploration equipment. This is especially true in complex environments, where the ability to produce a highly accurate and stable output and safety through redundancy have become the key issues in the design of high-power electromagnetic transmitter power supplies. To solve these issues, a high-frequency switching power cascade based emission power supply is designed. By combining the circuit averaged model and the equivalent controlled source method, a modular mathematical model is established with the on-state loss and transformer induction loss being taken into account. A triple-loop control including an inner current loop, an outer voltage loop and a load current forward feedback, and a digitalized voltage/current sharing control method are proposed for the realization of the rapid, stable and highly accurate output of the system. By using a new algorithm referred to as GAPSO, which integrates a genetic algorithm and a particle swarm algorithm, the parameters of the controller are tuned. A multi-module cascade helps to achieve system redundancy. A simulation analysis of the open-loop system proves the accuracy of the established system and provides a better reflection of the characteristics of the power supply. A parameter tuning simulation proves the effectiveness of the GAPSO algorithm. A closed-loop simulation of the system and field geological exploration experiments demonstrate the effectiveness of the control method. This ensures both the system's excellent stability and the output's accuracy. It also ensures the accuracy of the established mathematical model as well as its ability to meet the requirements of practical field deep exploration.

MLOps workflow language and platform for time series data anomaly detection

  • Sohn, Jung-Mo;Kim, Su-Min
    • 한국컴퓨터정보학회논문지
    • /
    • 제27권11호
    • /
    • pp.19-27
    • /
    • 2022
  • 본 연구에서는 시계열 데이터 이상 탐지 수행을 위한 MLOps(Machine Learning Operations) 워크플로를 기술하고 관리할 수 있는 언어와 플랫폼을 제안한다. 시계열 데이터는 IoT 센서, 시스템 성능 지표, 사용자 접속량 등 많은 분야에서 수집되고 있다. 또한, 시스템 모니터링 및 이상 탐지 등 많은 응용 분야에 활용 중이다. 시계열 데이터의 예측 및 이상 탐지를 수행하기 위해서는 분석된 모델을 빠르고 유연하게 운영 환경에 적용할 수 있는 MLOps 플랫폼이 필요하다. 이에, 최근 데이터 분석에 많이 활용되고 있는 Python 기반의 AMML(AI/ML Modeling Language)을 개발하여 손쉽게 MLOps 워크플로를 구성하고 실행할 수 있도록 제안한다. 제안하는 AI MLOps 플랫폼은 AMML을 이용하여 다양한 데이터 소스(R-DB, NoSql DB, Log File 등)에서 시계열 데이터를 추출, 전처리 및 예측을 수행할 수 있다. AMML의 적용 가능성을 검증하기 위해, 변압기 오일 온도 예측 딥러닝 모델을 생성하는 워크플로를 AMML로 구성하고 학습이 정상적으로 수행됨을 확인하였다.

Deep Learning-Enabled Detection of Pneumoperitoneum in Supine and Erect Abdominal Radiography: Modeling Using Transfer Learning and Semi-Supervised Learning

  • Sangjoon Park;Jong Chul Ye;Eun Sun Lee;Gyeongme Cho;Jin Woo Yoon;Joo Hyeok Choi;Ijin Joo;Yoon Jin Lee
    • Korean Journal of Radiology
    • /
    • 제24권6호
    • /
    • pp.541-552
    • /
    • 2023
  • Objective: Detection of pneumoperitoneum using abdominal radiography, particularly in the supine position, is often challenging. This study aimed to develop and externally validate a deep learning model for the detection of pneumoperitoneum using supine and erect abdominal radiography. Materials and Methods: A model that can utilize "pneumoperitoneum" and "non-pneumoperitoneum" classes was developed through knowledge distillation. To train the proposed model with limited training data and weak labels, it was trained using a recently proposed semi-supervised learning method called distillation for self-supervised and self-train learning (DISTL), which leverages the Vision Transformer. The proposed model was first pre-trained with chest radiographs to utilize common knowledge between modalities, fine-tuned, and self-trained on labeled and unlabeled abdominal radiographs. The proposed model was trained using data from supine and erect abdominal radiographs. In total, 191212 chest radiographs (CheXpert data) were used for pre-training, and 5518 labeled and 16671 unlabeled abdominal radiographs were used for fine-tuning and self-supervised learning, respectively. The proposed model was internally validated on 389 abdominal radiographs and externally validated on 475 and 798 abdominal radiographs from the two institutions. We evaluated the performance in diagnosing pneumoperitoneum using the area under the receiver operating characteristic curve (AUC) and compared it with that of radiologists. Results: In the internal validation, the proposed model had an AUC, sensitivity, and specificity of 0.881, 85.4%, and 73.3% and 0.968, 91.1, and 95.0 for supine and erect positions, respectively. In the external validation at the two institutions, the AUCs were 0.835 and 0.852 for the supine position and 0.909 and 0.944 for the erect position. In the reader study, the readers' performances improved with the assistance of the proposed model. Conclusion: The proposed model trained with the DISTL method can accurately detect pneumoperitoneum on abdominal radiography in both the supine and erect positions.

다중 어댑터를 이용한 교차 언어 및 스타일 기반의 제목 생성 (Cross-Lingual Style-Based Title Generation Using Multiple Adapters)

  • 박요한;최용석;이공주
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제12권8호
    • /
    • pp.341-354
    • /
    • 2023
  • 문서의 제목은 문서의 내용을 가장 효율적으로 요약하여 제공해 준다. 이때 독자들이 선호하는 스타일과 언어에 따라 문서의 제목을 다르게 제공해 준다면, 독자들은 문서의 내용을 좀 더 쉽게 예측할 수 있다. 본 연구에서는 문서가 주어졌을 때 언어와 스타일에 따라 제목을 자동 생성하는'교차 언어 및 스타일 기반의 제목 생성 모델을 제안한다. 모델을 학습하기 위해서는 같은 내용을 다른 언어와 다른 스타일로 작성한 병렬데이터가 필요하다. 그러나 이러한 종류의 병렬데이터는 구축하기 매우 어렵다. 반면, 단일 언어와 단일 스타일로 구축된 제목 생성 데이터는 많으므로 본 연구에서는 제로샷(zero-shot) 학습으로 제목 생성을 수행하고자 한다. 교차 언어 및 스타일 기반의 제목 생성을 학습하기 위해 다중 언어로 사전 학습된 트랜스포머 모델에 각 언어, 스타일, 기계번역을 위한 어댑터를 추가하였다. 기계 번역용 병렬데이터를 이용하여 기계번역을 먼저 학습한 후, 동일 스타일의 제목 생성을 학습하였다. 이때, 필요한 어댑터만을 학습하고 다른 부분의 파라미터는 모두 고정시킨다. 교차 언어 및 스타일 기반의 제목을 생성할 때에는 목적 언어와 목적 스타일에 해당하는 어댑터만을 활성화시킨다. 실험 결과로는 각 모델을 따로 학습시켜 파이프라인으로 연결시킨 베이스라인에 비해 본 연구에서 제안한 제로샷 제목 생성의 성능이 크게 떨어지지 않았다. 최근 대규모 언어 모델의 등장으로 인한 자연어 생성에서의 많은 변화가 있다. 그러나 제한된 자원과 제한된 데이터만을 이용하여 자연어 생성의 성능을 개선하는 연구는 계속되어야 하며, 그런 점에서 본 연구의 의의를 모색한다.

효율적인 이미지 검색 시스템을 위한 자기 감독 딥해싱 모델의 비교 분석 (Comparative Analysis of Self-supervised Deephashing Models for Efficient Image Retrieval System)

  • 김수인;전영진;이상범;김원겸
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제12권12호
    • /
    • pp.519-524
    • /
    • 2023
  • 해싱 기반 이미지 검색에서는 조작된 이미지의 해시코드가 원본 이미지와 달라 동일한 이미지 검색이 어렵다. 본 논문은 이미지의 질감, 모양, 색상 등 특징 정보로부터 지각적 해시코드를 생성하는 자기 감독 기반 딥해싱 모델을 제안하고 평가한다. 비교 모델은 오토인코더 기반 변분 추론 모델들이며, 인코더는 완전 연결 계층, 합성곱 신경망과 트랜스포머 모듈 등으로 설계된다. 제안된 모델은 기하학적 패턴을 추출하고 이미지 내 위치 관계를 활용하는 SimAM 모듈을 포함하는 변형 추론 모델이다. SimAM은 뉴런과 주변 뉴런의 활성화 값을 이용한 에너지 함수를 통해 객체 또는 로컬 영역이 강조된 잠재 벡터를 학습할 수 있다. 제안 방법은 표현 학습 모델로 고차원 입력 이미지의 저차원 잠재 벡터를 생성할 수 있으며, 잠재 벡터는 구분 가능한 해시코드로 이진화 된다. CIFAR-10, ImageNet, NUS-WIDE 등 공개 데이터셋의 실험 결과로부터 제안 모델은 비교 모델보다 우수하며, 지도학습 기반 딥해싱 모델과 동등한 성능이 분석되었다.

A New Three Winding Coupled Inductor-Assisted High Frequency Boost Chopper Type DC-DC Power Converter with a High Voltage Conversion Ratio

  • Ahmed Tarek;Nagai Shinichiro;Hiraki Eiji;Nakaoka Mutsuo
    • Journal of Power Electronics
    • /
    • 제5권2호
    • /
    • pp.99-103
    • /
    • 2005
  • In this paper, a novel circuit topology of a three-winding coupling inductor-assisting a high-frequency PWM boost chopper type DC-DC power converter with a high boost voltage conversion ratio and low switch voltage stress is proposed for the new energy interfaced DC power conditioner in solar photovoltaic and fuel cell generation systems. The operating principle in a steady state is described by using its equivalent circuits under the practical condition of energy processing of a lossless capacitive snubber. The newly-proposed power MOSFET boost chopper type DC-DC power converter with the three-winding coupled inductor type transformer and a single lossless capacitor snubber is built and tested for an output power of 500W. Utilizing the lower voltage and internal resistance power MOSFET switch in the proposed PWM boost chopper type DC-DC power converter can reduce the conduction losses of the active power switch compared to the conventional model. Therefore, the total actual power conversion efficiency under a condition of the nominal rated output power is estimated to be 81.1 %, which is 3.7% higher than the conventional PWM boost chopper DC power conversion circuit topology.

Improving the Dynamic Performance of Distribution Electronic Power Transformers Using Sliding Mode Control

  • Hooshmand, Rahmat-Allah;Ataei, Mohammad;Rezaei, Mohammad Hosein
    • Journal of Power Electronics
    • /
    • 제12권1호
    • /
    • pp.145-156
    • /
    • 2012
  • These days, the application of electronic power transformers (EPTs) is expanding in place of ordinary power transformers. These transformers can transmit power via three or four wire converters. Their dynamic performance is extremely important, due to their complex structure. In this paper, a new method is proposed for improving the dynamic performance of distribution electronic power transformers (DEPT) by using sliding mode control (SMC). Hence, to express the dynamic characteristics of a system, different factors such as the voltage unbalance, voltage sag, voltage harmonics and voltage flicker in the system primary side are considered. The four controlling aims of the improvement in dynamic performance include: 1) maintaining the input currents so that they are in sinusoidal form and in phase with the input voltages so they have a unity power factor, 2) keeping the dc-link voltage within the reference amount, 3) keeping the output voltages at a fixed amount and 4) keeping the output voltages in sinusoidal and symmetrical forms. Simulation results indicate the potential and capability of the proposed method in improving DEPT behavior.