• 제목/요약/키워드: sequence-to-sequence model

검색결과 1,636건 처리시간 0.026초

시계열 예측을 위한 스타일 기반 트랜스포머 (Style-Based Transformer for Time Series Forecasting)

  • 김동건;김광수
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제10권12호
    • /
    • pp.579-586
    • /
    • 2021
  • 시계열 예측은 과거 시점의 정보를 토대로 미래 시점의 정보를 예측하는 것을 말한다. 향후 시점의 정보를 정확하게 예측하는 것은 다양한 분야 전략 수립, 정책 결정 등을 위해 활용되기 때문에 매우 중요하다. 최근에는 트랜스포머 모델이 시계열 예측 모델로서 주로 연구되고 있다. 그러나 기존의 트랜스포머의 모델은 예측 순차를 출력할 때 출력 결과를 다시 입력하는 자가회귀 구조로 되어 있다는 한계점이 있다. 이 한계점은 멀리 떨어진 시점을 예측할 때 정확도가 떨어진다는 문제점을 초래한다. 본 논문에서는 이러한 문제점을 개선하고 더 정확한 시계열 예측을 위해 스타일 변환 기법에 착안한 순차 디코딩 모델을 제안한다. 제안하는 모델은 트랜스포머-인코더에서 과거 정보의 특성을 추출하고, 이를 스타일-기반 디코더에 반영하여 예측 시계열을 생성하는 구조로 되어 있다. 이 구조는 자가회귀 방식의 기존의 트랜스포머의 디코더 구조와 다르게, 예측 순차를 한꺼번에 출력하기 때문에 더 먼 시점의 정보를 좀 더 정확히 예측할 수 있다는 장점이 있다. 서로 다른 데이터 특성을 가지는 다양한 시계열 데이터셋으로 예측 실험을 진행한 결과, 본 논문에서 제시한 모델이 기존의 다른 시계열 예측 모델보다 예측 정확도가 우수하다는 것을 보인다.

State estimation based on fuzzy state transition model

  • Hanazaki, Izumi;Saguchi, Shinichi
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 1993년도 한국자동제어학술회의논문집(국제학술편); Seoul National University, Seoul; 20-22 Oct. 1993
    • /
    • pp.18-23
    • /
    • 1993
  • In this paper, we attempt to estimate the state of a finite state system. In such system, we can observe time series data which has some significant behaviors corresponding to its system states. The behavior is characterized by feature parameters extracted from time series. Our thought is that the system output time series data is expressed as a sequence of behavior patterns which are represented by clusters in feature parameters space. An algorithm jointing fuzzy clustering to fuzzy finite state transition model is suggested.

  • PDF

유한 요소법을 이용한 다단패스 형상압연 공정 해석 (Analysis of Multi-Pass Shape Rolling Processes using Finite Element Method)

  • 김홍준;김태효;황상무
    • 한국소성가공학회:학술대회논문집
    • /
    • 한국소성가공학회 1999년도 제3회 압연심포지엄 논문집 압연기술의 미래개척 (Exploitation of Future Rolling Technologies)
    • /
    • pp.69-77
    • /
    • 1999
  • Roll profile design in spape rolling with a complex-shaped part depends on the designer's experience, which is general, is acquired through costly trial-and-error process. As a prerequisite for developing a scientific approach to roll profile design, we present a finite element model to simulate 3-D deformation of complex-shaped parts occuring in multi-pass sequence. Demonstrated is the process model's capability to deal with rolling of a complex-shaped part.

  • PDF

u-GIS 콘텐츠를 위한 GeoPhoto 콘텐츠 언어의 설계 (Design of GeoPhoto Contents Markup Language for u-GIS Contents)

  • 박장유;남광우;진희채
    • 한국공간정보시스템학회 논문지
    • /
    • 제11권1호
    • /
    • pp.35-42
    • /
    • 2009
  • 이 논문은 공간 사진을 이용한 u-GIS 콘텐츠를 생성할 수 있도록 하는 GeoPhoto 콘텐츠 마크업 언어를 제안하고 있다. 제안된 GeoPhoto 콘텐츠 마크업 언어는 상이한 여러 플랫폼에서 개인 맞춤형 공간 사진 영상 정보를 표출 및 활용할 수 있는 콘텐츠를 지원하기 위한 GeoPhoto 콘텐츠 모델과 마크업 언어를 포함하고 있다. GeoPhoto 콘텐츠 언어는 다양한 공간 사진 콘텐츠를 제작할 수 있도록 GeoPhoto, CubicPhoto, SequenceGeoPhoto 타입을 기반으로 현재 많이 사용되고 있는 다양한 지리 정보, 위치 정보, 사진 정보등의 정보를 융합하여 표현하는 기능을 지원한다. 또한, 사진과 관련한 다양한 콘텐츠 모텔을 제공 할 수 있도록 다양한 GeoPhoto 콘텐츠 모텔과 이 콘텐츠들 사이의 연산들을 설정할 수 있도록 지원한다. 이 논문은 GeoPhoto 콘텐츠를 표현하기 위한 연산으로서 Annotation 연산과 Enlargement 연산, Overlay 연산들을 제안하고 있다.

  • PDF

High-density genetic mapping using GBS in Chrysanthemum

  • Chung, Yong Suk;Cho, Jin Woong;Kim, Changsoo
    • 한국작물학회:학술대회논문집
    • /
    • 한국작물학회 2017년도 9th Asian Crop Science Association conference
    • /
    • pp.57-57
    • /
    • 2017
  • Chrysanthemum is one of the most important floral crop in Korea produced about 7 billion dollars (1 billion for pot and 6 billion for cutting) in 2013. However, it is difficult to breed and to do genetic study because 1) it is highly self-incompatible, 2) it is outcrossing crop having heterozygotes, and 3) commercial cultvars are hexaploid (2n = 6x = 54). Although low-density genetic map and QTL study were reported, it is not enough to apply for the marker assisted selection and other genetic studies. Therefore, we are trying to make high-density genetic mapping using GBS with about 100 $F_1s$ of C. boreale that is oHohhfd diploid (2n = 2x = 18, about 2.8Gb) instead of commercial culitvars. Since Chrysanthemum is outcrossing, two-way pseudo-testcross model would be used to construct genetic map. Also, genotype-by-sequencing (GBS) would be utilized to generate sufficient number of markers and to maximize genomic representation in a cost effective manner. Those completed sequences would be analyzed with TASSEL-GBS pipeline. In order to reduce sequence error, only first 64 sequences, which have almost zero percent error, would be incorporated in the pipeline for the analysis. In addition, to reduce errors that is common in heterozygotes crops caused by low coverage, two rare cutters (NsiI and MseI) were used to increase sequence depth. Maskov algorithm would also used to deal with missing data. Further, sparsely placed markers on the physical map would be used as anchors to overcome problems caused by low coverage. For this purpose, were generated from transcriptome of Chrysanthemum using MISA program. Among those, 10 simple sequence repeat (SSR) markers, which are evenly distributed along each chromosome and polymorphic between two parents, would be selected.

  • PDF

설명 가능한 개인화 영화 추천 서비스를 위한 딥러닝 기반 텍스트 요약 모델 (Deep Learning-based Text Summarization Model for Explainable Personalized Movie Recommendation Service)

  • 진요요;강경모;김재경
    • 한국IT서비스학회지
    • /
    • 제21권2호
    • /
    • pp.109-126
    • /
    • 2022
  • The number and variety of products and services offered by companies have increased dramatically, providing customers with more choices to meet their needs. As a solution to this information overload problem, the provision of tailored services to individuals has become increasingly important, and the personalized recommender systems have been widely studied and used in both academia and industry. Existing recommender systems face important problems in practical applications. The most important problem is that it cannot clearly explain why it recommends these products. In recent years, some researchers have found that the explanation of recommender systems may be very useful. As a result, users are generally increasing conversion rates, satisfaction, and trust in the recommender system if it is explained why those particular items are recommended. Therefore, this study presents a methodology of providing an explanatory function of a recommender system using a review text left by a user. The basic idea is not to use all of the user's reviews, but to provide them in a summarized form using only reviews left by similar users or neighbors involved in recommending the item as an explanation when providing the recommended item to the user. To achieve this research goal, this study aims to provide a product recommendation list using user-based collaborative filtering techniques, combine reviews left by neighboring users with each product to build a model that combines text summary methods among deep learning-based natural language processing methods. Using the IMDb movie database, text reviews of all target user neighbors' movies are collected and summarized to present descriptions of recommended movies. There are several text summary methods, but this study aims to evaluate whether the review summary is well performed by training the Sequence-to-sequence+attention model, which is a representative generation summary method, and the BertSum model, which is an extraction summary model.

학습 발달과정 탐색을 통한 계절의 변화 교육과정 및 교수 계열 제안 (A Proposal of Curriculum and Teaching Sequence for Seasonal Change by Exploring a Learning Progression)

  • 허재완;이기영
    • 한국지구과학회지
    • /
    • 제39권3호
    • /
    • pp.260-274
    • /
    • 2018
  • 이 연구에서는 학습 발달과정을 탐색을 통해 계절의 변화에 대한 교육과정과 교수 계열을 제안하고자 하였다. 학습 발달과정을 알아보기 위해 Wilson (2005)이 제안한 '구인 모델링 방식'의 4가지 단계(구인특화, 평가 문항 개발, 평가 결과 기술, 측정 모델)를 적용하였다. 구인특화 단계에서는 계절의 변화의 하부 구인으로 '계절에 따른 그림자의 길이', '계절에 따른 별자리의 위치', '남반구와 북반구의 계절', '계절에 따른 태양의 일주운동', '계절의 원인과 현상'을 설정하였으며, 선행 연구 결과를 바탕으로 각 하부 구인의 하위 정착점인 수준 1에서 상위 정착점인 수준 4까지를 나타낸 구인구성도를 작성하였다. 평가 문항 개발 단계에서는 구인구성도를 토대로 C-E (choose and explain) 형태의 문항 3개, CR (constructed response) 형태의 문항 2개로 구성된 총 5개의 평가 문항을 개발하였으며, 초, 중, 고등학교 학생 383명을 대상으로 적용하였다. 평가 결과 기술 단계에서는 평가 문항에 대한 학생 응답 결과를 구인구성도를 토대로 범주화하는 과정을 거쳤으며, 이 범주들을 학생 능력에 따라 4수준으로 분류하고 1-4점의 점수를 부여하였다. 측정 모델 단계에서는 Rasch 모델의 부분점수 모형을 적용하여 학생들의 응답 결과를 통해 작성한 학습 발달의 경로가 선행 연구를 기반으로 작성한 구인구성도와 일치하는지 비교하였다. 이를 통해 구인구성도를 수정함으로써 최종적으로 계절의 변화에 대한 가설적인 학습 발달과정을 작성하였다. 최종적으로, 연구 결과를 바탕으로 계절 변화에 대한 교육 과정 개정 방향과 효과적인 교수 계열을 제안하였다.

CTC를 이용한 LSTM RNN 기반 한국어 음성인식 시스템 (LSTM RNN-based Korean Speech Recognition System Using CTC)

  • 이동현;임민규;박호성;김지환
    • 디지털콘텐츠학회 논문지
    • /
    • 제18권1호
    • /
    • pp.93-99
    • /
    • 2017
  • Long Short Term Memory (LSTM) Recurrent Neural Network (RNN)를 이용한 hybrid 방법은 음성 인식률을 크게 향상시켰다. Hybrid 방법에 기반한 음향모델을 학습하기 위해서는 Gaussian Mixture Model (GMM)-Hidden Markov Model (HMM)로부터 forced align된 HMM state sequence가 필요하다. 그러나, GMM-HMM을 학습하기 위해서 많은 연산 시간이 요구되고 있다. 본 논문에서는 학습 속도를 향상하기 위해, LSTM RNN 기반 한국어 음성인식을 위한 end-to-end 방법을 제안한다. 이를 구현하기 위해, Connectionist Temporal Classification (CTC) 알고리즘을 제안한다. 제안하는 방법은 기존의 방법과 비슷한 인식률을 보였지만, 학습 속도는 1.27 배 더 빨라진 성능을 보였다.

CRM을 위한 은닉 마코프 모델과 유사도 검색을 사용한 시계열 데이터 예측 (Time-Series Data Prediction using Hidden Markov Model and Similarity Search for CRM)

  • 조영희;전진호;이계성
    • 한국컴퓨터정보학회논문지
    • /
    • 제14권5호
    • /
    • pp.19-28
    • /
    • 2009
  • 시계열의 예측에 대한 문제는 오랫동안 많은 연구자들의 연구의 대상이었으며 예측을 위한 많은 방법이 제안되었다. 본 논문에서는 은닉 마코프 모델(Hidden Markov Model)과 우도(likelihood)를 사용한 유사도 검색을 통하여 향후 시계열 데이터의 운행 방향을 예측하는 방법을 제안한다. 이전에 기록된 시계열 데이터에서 질의 시퀸스(sequence)와 유사한 부분을 검색하고 유사 부분의 서브 시퀸스를 사용하여 시계열을 예측하는 방법이다. 먼저 주어진 질의 시퀸스에 대한 은닉 마코프 모델을 작성한다. 그리고 시계열 데이터에서 순차적으로 일정 길이의 서브 시퀸스를 추출하고 추출된 서브 시퀸스와 작성된 은닉 마코프 모델과의 우도를 계산한다. 시계열 데이터로부터 추출된 서브 시퀸스 중에서 우도가 가장 높은 시퀸스를 유사 시퀸스로 결정하고 결정된 부분 이후의 값을 추출하여 질의 시퀸스 이후의 예측 값을 추정한다. 실험 결과 예측 값과 실제 값이 상당한 유사성을 나타내었다. 제안된 방법의 유효성은 코스피(KOSPI) 종합주가지수를 대상으로 실험하여 검증한다.

Physical protection system vulnerability assessment of a small nuclear research reactor due to TNT-shaped charge impact on its reinforced concrete wall

  • Moo, Jee Hoon;Chirayath, Sunil S.;Cho, Sung Gook
    • Nuclear Engineering and Technology
    • /
    • 제54권6호
    • /
    • pp.2135-2146
    • /
    • 2022
  • A nuclear energy facility is one of the most critical facilities to be safely protected during and after operation because the physical destruction of its barriers by an external attack could release radioactivity into the environment and can cause harmful effects. The barrier walls of nuclear energy facilities should be sufficiently robust to protect essential facilities from external attack or sabotage. Physical protection system (PPS) vulnerability assessment of a typical small nuclear research reactor was carried out by simulating an external attack with a tri-nitro toluene (TNT) shaped charge and results are presented. The reinforced concrete (RC) barrier wall of the research reactor located at a distance of 50 m from a TNT-shaped charge was the target of external attack. For the purpose of the impact assessment of the RC barrier wall, a finite element method (FEM) is utilized to simulate the destruction condition. The study results showed that a hole-size of diameter 342 mm at the front side and 364 mm at the back side was created on the RC barrier wall as a result of a 143.35 kg TNT-shaped charge. This aperture would be large enough to let at least one person can pass through at a time. For the purpose of the PPS vulnerability assessment, an Estimate of Adversary Sequence Interruption (EASI) model was used, which enabled the determination of most vulnerable path to the target with a probability of interruption equal to 0.43. The study showed that the RC barrier wall is vulnerable to a TNT-shaped charge impact, which could in turn reduce the effectiveness of the PPS.