• 제목/요약/키워드: Attention algorithm

검색결과 756건 처리시간 0.021초

어텐션 적용 YOLOv4 기반 SAR 영상 표적 탐지 및 인식 (SAR Image Target Detection based on Attention YOLOv4)

  • 박종민;육근혁;김문철
    • 한국군사과학기술학회지
    • /
    • 제25권5호
    • /
    • pp.443-461
    • /
    • 2022
  • Target Detection in synthetic aperture radar(SAR) image is critical for military and national defense. In this paper, we propose YOLOv4-Attention architecture which adds attention modules to YOLOv4 backbone architecture to complement the feature extraction ability for SAR target detection with high accuracy. For training and testing our framework, we present new SAR embedding datasets based on MSTAR SAR public datasets which are about poor environments for target detection such as various clutter, crowded objects, various object size, close to buildings, and weakness of signal-to-clutter ratio. Experiments show that our Attention YOLOv4 architecture outperforms original YOLOv4 architecture in SAR image target detection tasks in poor environments for target detection.

어텐션임베딩과 다채널 CNN 기반 반시민성 검출 알고리즘 (Detection of Incivility based on Attention-embedding and multi-channel CNN)

  • 박윤정;이세영;금희조
    • 한국정보통신학회논문지
    • /
    • 제26권12호
    • /
    • pp.1880-1889
    • /
    • 2022
  • 온라인 포털 플랫폼은 뉴스 기사와 온라인 댓글을 제공하고 있으나, 온라인 댓글의 익명성은 반시민적 표현을 증가시켜 사회적 문제점으로 간주되고 있다. 댓글의 반시민성 검출 연구가 많이 이루어진 국외와 달리, 국내에서는 비시민성을 세분화한 한국어 데이터셋이 구현되지 않아 심도있는 연구가 이루어지지 못하였다. 본 연구에서는 댓글의 반시민성에 대한 라벨링을 총 13가지 항목으로 시행하였으며 반시민적 표현으로 요약하였다. 또한 어텐션 알고리즘을 이중으로 적용하여 임베딩 벡터를 추출하였고 이후 2-d CNN으로 반시민성 항목을 분류하였다. 그 결과, 제안한 알고리즘이 무례한 호칭 및 공격적 어조 등의 반시민성 검출에 유용하다는 것을 보여주었다. 본 연구는 민주적 담론을 저해하는 반시민적 댓글들을 탐지함으로써 건전한 온라인 댓글 문화 형성에 기여할 것으로 기대된다.

Research on data augmentation algorithm for time series based on deep learning

  • Shiyu Liu;Hongyan Qiao;Lianhong Yuan;Yuan Yuan;Jun Liu
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제17권6호
    • /
    • pp.1530-1544
    • /
    • 2023
  • Data monitoring is an important foundation of modern science. In most cases, the monitoring data is time-series data, which has high application value. The deep learning algorithm has a strong nonlinear fitting capability, which enables the recognition of time series by capturing anomalous information in time series. At present, the research of time series recognition based on deep learning is especially important for data monitoring. Deep learning algorithms require a large amount of data for training. However, abnormal sample is a small sample in time series, which means the number of abnormal time series can seriously affect the accuracy of recognition algorithm because of class imbalance. In order to increase the number of abnormal sample, a data augmentation method called GANBATS (GAN-based Bi-LSTM and Attention for Time Series) is proposed. In GANBATS, Bi-LSTM is introduced to extract the timing features and then transfer features to the generator network of GANBATS.GANBATS also modifies the discriminator network by adding an attention mechanism to achieve global attention for time series. At the end of discriminator, GANBATS is adding averagepooling layer, which merges temporal features to boost the operational efficiency. In this paper, four time series datasets and five data augmentation algorithms are used for comparison experiments. The generated data are measured by PRD(Percent Root Mean Square Difference) and DTW(Dynamic Time Warping). The experimental results show that GANBATS reduces up to 26.22 in PRD metric and 9.45 in DTW metric. In addition, this paper uses different algorithms to reconstruct the datasets and compare them by classification accuracy. The classification accuracy is improved by 6.44%-12.96% on four time series datasets.

갑상선 초음파 영상의 평활화 알고리즘에 따른 U-Net 기반 학습 모델 평가 (Evaluation of U-Net Based Learning Models according to Equalization Algorithm in Thyroid Ultrasound Imaging)

  • 정무진;오주영;박훈희;이주영
    • 대한방사선기술학회지:방사선기술과학
    • /
    • 제47권1호
    • /
    • pp.29-37
    • /
    • 2024
  • This study aims to evaluate the performance of the U-Net based learning model that may vary depending on the histogram equalization algorithm. The subject of the experiment were 17 radiology students of this college, and 1,727 data sets in which the region of interest was set in the thyroid after acquiring ultrasound image data were used. The training set consisted of 1,383 images, the validation set consisted of 172 and the test data set consisted of 172. The equalization algorithm was divided into Histogram Equalization(HE) and Contrast Limited Adaptive Histogram Equalization(CLAHE), and according to the clip limit, it was divided into CLAHE8-1, CLAHE8-2. CLAHE8-3. Deep Learning was learned through size control, histogram equalization, Z-score normalization, and data augmentation. As a result of the experiment, the Attention U-Net showed the highest performance from CLAHE8-2 to 0.8355, and the U-Net and BSU-Net showed the highest performance from CLAHE8-3 to 0.8303 and 0.8277. In the case of mIoU, the Attention U-Net was 0.7175 in CLAHE8-2, the U-Net was 0.7098 and the BSU-Net was 0.7060 in CLAHE8-3. This study attempted to confirm the effects of U-Net, Attention U-Net, and BSU-Net models when histogram equalization is performed on ultrasound images. The increase in Clip Limit can be expected to increase the ROI match with the prediction mask by clarifying the boundaries, which affects the improvement of the contrast of the thyroid area in deep learning model learning, and consequently affects the performance improvement.

초등 수학문제를 이용한 컴퓨터 알고리즘 개념에 대한 교수방법 (An Instructional Method of Computer Algorithm Concept using Elementary Mathematics Problems)

  • 임화경;전승순
    • 컴퓨터교육학회논문지
    • /
    • 제9권3호
    • /
    • pp.109-119
    • /
    • 2006
  • 알고리즘은 컴퓨터와 관련된 모든 이론들의 기반이 되는 개념으로 매우 중요하다. 응용문제를 해결하기 위한 컴퓨터 알고리즘에 대한 연구는 많이 있지만 컴퓨터 알고리즘 개념을 어떻게 가르칠 것인가에 대한 효과적인 교수방법에 대한 연구물들은 매우 드물다. 본 논문에서는 초등학교 4학년 수학문제를 이용하여 문제를 해결하는 과정을 통하여 컴퓨터 알고리즘 개념을 학습하는 교수방법을 설계하였다. 설계한 교수방법을 현장에 적용하였으며, 결과 분석을 통하여 제안한 교수방법이 전통적인 교수방법보다 효과가 있음을 보인다.

  • PDF

Simulated Annealing Algorithm의 변형을 지원하기 위한 객체지향 프레임워크 설계 (Designing an Object-Oriented Framework for the Variants of Simulated Annealing Algorithm)

  • 정영일;유제석;전진;김창욱
    • 한국경영과학회:학술대회논문집
    • /
    • 대한산업공학회/한국경영과학회 2004년도 춘계공동학술대회 논문집
    • /
    • pp.409-412
    • /
    • 2004
  • Today, meta-heuristic algorithms have been much attention by researcher because they have the power of solving combinational optimization problems efficiently. As the result, many variants of a meta-heuristic algorithm (e.g., simulated annealing) have been proposed for specific application domains. However, there are few efforts to classify them into a unified software framework, which is believed to provide the users with the reusability of the software, thereby significantly reducing the development time of algorithms. In this paper, we present an object-oriented framework to be used as a general tool for efficiently developing variants of simulated annealing algorithm. The interface classes in the framework achieve the modulization of the algorithm, and the users are allowed to specialize some of the classes appropriate for solving their problems. The core of the framework is Algorithm Configuration Pattern (ACP) which facilitates creating user-specific variants flexibly. Finally, we summarize our experiences and discuss future research topics.

  • PDF

A modified U-net for crack segmentation by Self-Attention-Self-Adaption neuron and random elastic deformation

  • Zhao, Jin;Hu, Fangqiao;Qiao, Weidong;Zhai, Weida;Xu, Yang;Bao, Yuequan;Li, Hui
    • Smart Structures and Systems
    • /
    • 제29권1호
    • /
    • pp.1-16
    • /
    • 2022
  • Despite recent breakthroughs in deep learning and computer vision fields, the pixel-wise identification of tiny objects in high-resolution images with complex disturbances remains challenging. This study proposes a modified U-net for tiny crack segmentation in real-world steel-box-girder bridges. The modified U-net adopts the common U-net framework and a novel Self-Attention-Self-Adaption (SASA) neuron as the fundamental computing element. The Self-Attention module applies softmax and gate operations to obtain the attention vector. It enables the neuron to focus on the most significant receptive fields when processing large-scale feature maps. The Self-Adaption module consists of a multiplayer perceptron subnet and achieves deeper feature extraction inside a single neuron. For data augmentation, a grid-based crack random elastic deformation (CRED) algorithm is designed to enrich the diversities and irregular shapes of distributed cracks. Grid-based uniform control nodes are first set on both input images and binary labels, random offsets are then employed on these control nodes, and bilinear interpolation is performed for the rest pixels. The proposed SASA neuron and CRED algorithm are simultaneously deployed to train the modified U-net. 200 raw images with a high resolution of 4928 × 3264 are collected, 160 for training and the rest 40 for the test. 512 × 512 patches are generated from the original images by a sliding window with an overlap of 256 as inputs. Results show that the average IoU between the recognized and ground-truth cracks reaches 0.409, which is 29.8% higher than the regular U-net. A five-fold cross-validation study is performed to verify that the proposed method is robust to different training and test images. Ablation experiments further demonstrate the effectiveness of the proposed SASA neuron and CRED algorithm. Promotions of the average IoU individually utilizing the SASA and CRED module add up to the final promotion of the full model, indicating that the SASA and CRED modules contribute to the different stages of model and data in the training process.

Attention 알고리즘 기반 약물의 태아 독성 예측 연구 (Predicting fetal toxicity of drugs through attention algorithm)

  • 정명현;유선용
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2022년도 춘계학술대회
    • /
    • pp.273-275
    • /
    • 2022
  • 임산부에게 약물을 사용하는 것은 태아에게 잠재적인 위협이 될 수 있으므로 임산부가 복용을 피해야 할 약물을 분류하는 것은 필수적이다. 하지만 많은 화합물이 태아에게 독성을 나타낼 수 있는지에 대한 근거가 불분명하며, 그것을 밝혀내기 위해서는 많은 시간과 비용이 투자된다. In silico 기반 가상 스크리닝은 광범위한 화합물에 대해서 적은 비용과 시간으로 어떤 화합물이 태아에게 높은 위험을 보일 수 있는지 예측하는데 활용될 수 있다. 우리는 한국과 호주 정부의 임신 중 약물 처방을 위한 위험 분류 리스트를 활용해 약물의 분류 등급 정보를 가져왔다. 약물의 구조적 특징과 화학적 특징을 기반으로 다양한 머신 러닝 기법을 적용하여 약물의 태아 독성 여부를 예측하는 모델을 생성하였으며, 정량적 성능 평가를 수행하였다. 나아가, attention 알고리즘을 활용하여 제안하는 모델이 약물의 태아 독성을 예측하는 과정에서 화합물의 어떤 하위 분자 구조가 중요하게 활용되었는지 확인하였다. 해당 연구를 통해 광범위한 화합물에 대해 높은 태아 독성 위험도를 가진 약물을 머신 러닝을 통해 예측할 수 있는 것을 확인하였다. 우리의 연구는 단순한 약물의 태아 독성 예측에서 나아가, 유의미한 하위 분자구조를 제공함으로써 연구자들이 약물의 태아 독성을 증명하기 위해 수행하는 실험에서 핵심적인 역할이 가능할 것이다.

  • PDF

다중계층 통행배분 알고리즘 개발 (다차종을 중심으로) (Development of multiclass traffic assignment algorithm (Focused on multi-vehicle))

  • 강진구;류시균;이영인
    • 대한교통학회지
    • /
    • 제20권6호
    • /
    • pp.99-113
    • /
    • 2002
  • 교통량배분문제 가운데 다중계층 교통량배분문제는 유일해가 보장되지 않는 대표적 사례로 최근 들어 모형의 정식화 및 해법에 관해서 활발하게 전개되고 있다. 정식화에 있어서는 변동부등식이나 고정점 문제를 활용한 정식화가 보편적으로 활용되고 있으나 해법(알고리즘)에 관한 연구는 미흡한 실정이다. 본 연구에서는 변동부등식으로 정의된 다중계층 이용자균형 교통량배분문제의 해법으로서 GA알고리즘과 대각화알고리즘, 군집화알고리즘을 조합한 Hybrid Algorithm을 개발, 제안한다. GA알고리즘과 군집화알고리즘은 해의 탐색을 전역적이면서도 효과적으로 수행하기 위해서 도입된 대각화 알고리즘의 보완적 알고리즘이라 할 수 있다. 본 연구에서는 또한, 다중계층 이용자균형 교통량배분문제의 해법으로서의 제안된 AMSA(The Algorithm of Multiclass Static User Equilibrium Assignment)의 특징을 예제풀이를 통해서 설명하고 있다.

마이크로프로세서에 의한 BPSK 복조 알고리즘 (An Algorithm for BPSK Demodulation by Microprocessor)

  • 배용근;이영석;김기정;박인규;오상기;진달복
    • 한국통신학회논문지
    • /
    • 제19권8호
    • /
    • pp.1518-1527
    • /
    • 1994
  • 본 논문에서는 배전선을 통하여 전송된 BPSK 신호를 마이크로프로세서를 이용하여 복조하는 알고리즘을 개발하고 구현하였다. 배전선 BPSK 복조를 마이크로프로세서를 실현하기 위해서는 무엇보다 배전선을 통하여 수신된 BPSK 신호를 2진 신호로 바꿔주어야 한다. 그러므로, 본 논문에서는 먼저 전송된 BPSK 신호를 2진 신호로 바꿔주는 하드웨어를 설계하였다. 그런 다음 반송파의 주파수가 피변조 2진 신호 주파수의 우수배이면 변조점이 피변조 2진 신호의 상승에지(rising edge)와 하강에지(falling edge)에서 각각 다른 방향으로 나타난다는 사실과 배전선으로부터 수신된 BPSK 신호를 여과하고, 증폭하고, 크리핑하고, 정형하는 과정을 조절하면 변조점에서의 2진 신호 길이가 다른 점에서의 2진 신호 길이의 2배로 된다는 것에 착안하여 배전선 BPSK 신호를 복조하는 알고리즘을 개발하고, 이 알고리즘에 의한 마이크로프로세서 복조시스템을 실제로 구현하였다. 구현된 이 복조시스템은 실제의 배전선 복조에서 비트오류율(bit error rate)이 0.02% 이하이었다.

  • PDF