• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2023년도 추계학술발표대회
• /
• pp.557-560
• /
• 2023

In this paper, we introduce a pre-training method leveraging the capabilities of the Vision Transformer (ViT) for disease diagnosis in conventional Fundus images. Recognizing the need for effective representation learning in medical images, our method combines the Vision Transformer with a Masked Autoencoder to generate meaningful and pertinent image augmentations. During pre-training, the Masked Autoencoder produces an altered version of the original image, which serves as a positive pair. The Vision Transformer then employs contrastive learning techniques with this image pair to refine its weight parameters. Our experiments demonstrate that this dual-model approach harnesses the strengths of both the ViT and the Masked Autoencoder, resulting in robust and clinically relevant feature embeddings. Preliminary results suggest significant improvements in diagnostic accuracy, underscoring the potential of our methodology in enhancing automated disease diagnosis in fundus imaging.

• 한국컴퓨터정보학회:학술대회논문집
• /
• 한국컴퓨터정보학회 2024년도 제69차 동계학술대회논문집 32권1호
• /
• pp.35-36
• /
• 2024

전신 마취 수술 중 저혈압의 발생은 다양한 합병증을 유발하며 이를 사전에 예측하여 대응하는 것은 매우 중요한 일이다. 따라서 본 연구에서는 SHAP 모델을 통해 변수 선택을 진행하고, Transformer 모델을 이용해 저혈압 발생 여부를 예측함으로써 임상적 의사결정을 지원한다. 또한 기존 연구들과는 달리, 수술실에서 수집되는 데이터를 기반으로 하여 높은 범용성을 가진다. 비침습적 혈압 예측에서 RMSE 9.46, MAPE 4.4%를 달성하였고, 저혈압 여부를 예측에서는 저혈압 기준 F1-Score 0.75로 우수한 결과를 얻었다.

• 지식경영연구
• /
• 제22권4호
• /
• pp.27-40
• /
• 2021

Click-Through Rate(CTR) 예측은 추천시스템에서 후보 항목의 순위를 결정하고 높은 순위의 항목들을 추천하여 고객의 정보 과부하를 줄임과 동시에 판매 촉진을 통한 수익 극대화를 달성할 수 있는 핵심 기능이다. 자연어 처리와 이미지 분류 분야는 심층신경망(deep neural network)의 활용을 통한 괄목한 성장을 하고 있다. 최근 이 분야의 주류를 이루던 모델과 차별화된 어텐션(attention) 메커니즘 기반의 트랜스포머(transformer) 모델이 제안되어 state-of-the-art를 달성하였다. 본 연구에서는 CTR 예측을 위한 트랜스포머 기반 모델의 성능 향상 방안을 제시한다. 자연어와 이미지 데이터와는 다른 이산적(discrete)이며 범주적(categorical)인 CTR 데이터 특성이 모델 성능에 미치는 영향력을 분석하기 위해 임베딩의 일반화(regularization)와 트랜스포머의 정규화(normalization)에 관한 실험을 수행한다. 실험 결과에 따르면, CTR 데이터 입력 처리를 위한 임베딩 과정에서 L2 일반화의 적용과 트랜스포머 모델의 기본 정규화 방법인 레이어 정규화 대신 배치 정규화를 적용할 때 예측 성능이 크게 향상됨을 확인하였다.

• 지능정보연구
• /
• 제29권4호
• /
• pp.15-30
• /
• 2023

최근 미디어 분야에도 인공지능(AI)을 적용한 다양한 서비스가 등장하고 있는 추세이다. 하지만 편집점을 찾아 영상을 이어 붙이는 영상 편집은, 대부분 수동적 방식으로 진행되어 시간과 인적 자원의 소요가 많이 발생하고 있다. 이에 본 연구에서는 Video Swin Transformer를 활용하여, 발화 여부에 따른 영상의 편집점을 탐지할 수 있는 방법론을 제안한다. 이를 위해, 제안 구조는 먼저 Face Alignment를 통해 얼굴 특징점을 검출한다. 이와 같은 과정을 통해 입력 영상 데이터로부터 발화 여부에 따른 얼굴의 시 공간적인 변화를 모델에 반영한다. 그리고, 본 연구에서 제안하는 Video Swin Transformer 기반 모델을 통해 영상 속 사람의 행동을 분류한다. 구체적으로 비디오 데이터로부터 Video Swin Transformer를 통해 생성되는 Feature Map과 Face Alignment를 통해 검출된 얼굴 특징점을 합친 후 Convolution을 거쳐 발화 여부를 탐지하게 된다. 실험 결과, 본 논문에서 제안한 얼굴 특징점을 활용한 영상 편집점 탐지 모델을 사용했을 경우 분류 성능을 89.17% 기록하여, 얼굴 특징점을 사용하지 않았을 때의 성능 87.46% 대비 성능을 향상시키는 것을 확인할 수 있었다.

• 전력전자학회:학술대회논문집
• /
• 전력전자학회 2017년도 전력전자학술대회
• /
• pp.435-436
• /
• 2017

This papaer is study on thermal analysis of the active-front-end(AFE) rectifier for solid-state-transformer(SST) applications. finite element analysis simulation model is combined by switching component model, power diode and heat-sink model. thermal model is calculated by computer program and feedback the result. using simulation result analysis switching loss and compare to thermal diffusion of the heat in the model for steady-state operation.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2021년도 춘계학술발표대회
• /
• pp.397-400
• /
• 2021

To solve the problem that existing computing methods cannot adequately represent the semantic features of sentences, Siamese TRAT, a semantic feature extraction model based on Transformer encoder is proposed. The transformer model is used to fully extract the semantic information within sentences and carry out deep semantic coding for sentences. In addition, the interactive attention mechanism is introduced to extract the similar features of the association between two sentences, which makes the model better at capturing the important semantic information inside the sentence. As a result, it improves the semantic understanding and generalization ability of the model. The experimental results show that the proposed model can improve the accuracy significantly for the semantic similarity calculation task of English and Chinese, and is more effective than the existing methods.

• 한국지진공학회논문집
• /
• 제12권2호
• /
• pp.1-8
• /
• 2008

본 연구에서는 전력설비 중 그 중요도가 가장 큰 변압기를 대상으로, 지진 발생 시 변압기의 파손을 방지하기 위하여 마찰진자 면진장치를 개발하고, 진동대시험을 통하여 그에 대한 내진성능을 입증하였다. 본 연구에서 개발한 마찰진자 면진장치에 대해 압축재하시험 및 마찰시험을 수행한 결과, 변압기의 면진장치로서 적용 가능한 것으로 나타났으며, 특히 변압기 축소모형을 대상으로 진동시험대에 의한 내진성능시험을 수행한 결과, 기존의 일반 고정기초형식보다 변압기 기초부의 최대 응답가속도는 약30%, 부싱 상단의 최대 응답가속도는 약 59% 감소하였다. 또한, 마찰진자 면진장치 설치 후, 변압기의 고유진동수가 약 82% 감소하며 장주기로 이동함을 확인할 수 있었다. 이와 같이 변압기에 마찰진자 면진장치를 적용하는 경우, 지진으로 인한 변압기의 파손을 효과적으로 방지할 수 있을 것으로 판단된다.

• 조명전기설비학회논문지
• /
• 제21권7호
• /
• pp.84-93
• /
• 2007

주상변압기는 고객에게 직접 전력을 공급하는 설비로서 전력공급의 안정성확보를 위한 중요한 기자재 중 하나이다. 하지만 제조결함에 의한 3년 이내의 초기고장 또는 13년이 초과 사용한 후의 열화고장이 빈번히 발생하고 있어 변압기 품질분석을 통한 신뢰성이 개선된 주상변압기 개발이 필요하다. 본 논문에서는 열적, 기계적, 전기적으로 성능이 향상된 새로운 모델의 혼합절연 주상변압기를 개발하였다. 변압기의 기계적, 열적특성을 향상시키기 위한 혼합절연 방식에 대한 설계 및 제작방법을 제시하고 과부하시험을 시행하여 순간최대부하에 대응할 수 있도록 과부하내량 160[%] 까지 증가시킬 수 있음을 확인하였다. 또한 본 논문에서는 100[kVA] 1대를 시제품으로 제작하여 단락강도시험과 변압기 관련 절연시험을 시행하여 전자기계력의 분석과 단락강도설계 향상 방안에 대하여 설명하고 이와 관련하여 연구한 결과에 대해 논하였다.

• Journal of Electrical Engineering and Technology
• /
• 제10권2호
• /
• pp.610-615
• /
• 2015

In order to study and obtain the mathematical relation between the electrification degree of transformer oil flow and the electrostatic current, a small amount of data about the electrification degree of oil flow and the corresponding electrostatic current is studied by linear regression method and grey model method. The results show that the linear correlation between the electrification degree and the electrostatic current was not good, and the relation between the electrification degree of oil flow and electrostatic current (i) could be expressed as ${\rho}(0)=0.2049\;i^{(0)}+169.4419$ according to grey model GM (0, 2) when the electrification degree of oil flow is represented by the charge number generated from transformer oil per unit volume, namely the charge density (${\rho}$).

• KSII Transactions on Internet and Information Systems (TIIS)
• /
• 제16권12호
• /
• pp.3943-3959
• /
• 2022

People are constantly exposed to stress and anxiety environment, which could contribute to a variety of psychological and physical health problems. Therefore, it is particularly important to identify psychological stress in time and to find a feasible and universal method of stress reduction. This research investigated the influence of different music, such as relaxation music and natural rhythm music, on stress relief based on Electroencephalogram signals. Mental arithmetic test was implemented to create a stressful environment. 23 participants performed the mental arithmetic test with and without music respectively, while their Electroencephalogram signal was recorded. The effect of music on stress relief was verified through stress test questionnaires, including Trait Anxiety Inventory (STAI-6) and Self-Stress Assessment. There was a significant change in the stress test questionnaire values with and without music according to paired t-test (p<0.01). Furthermore, a model based on Transformer for stress level classification from Electroencephalogram signal was proposed. Experimental results showed that the method of listening to relaxation music and natural rhythm music achieved the effect of reducing psychological stress and the proposed model yielded a promising accuracy in classifying the Electroencephalogram signal of mental stress.