• 제목/요약/키워드: Pre Processing

검색결과 1,998건 처리시간 0.025초

딥러닝 기반 사전학습 언어모델에 대한 이해와 현황 (A Survey on Deep Learning-based Pre-Trained Language Models)

  • 박상언
    • 한국빅데이터학회지
    • /
    • 제7권2호
    • /
    • pp.11-29
    • /
    • 2022
  • 사전학습 언어모델은 자연어 처리 작업에서 가장 중요하고 많이 활용되는 도구로, 대량의 말뭉치를 대상으로 사전학습이 되어있어 적은 수의 데이터를 이용한 미세조정학습으로도 높은 성능을 기대할 수 있으며, 사전학습된 토크나이저과 딥러닝 모형 등 구현에 필요한 요소들이 함께 배포되기 때문에 자연어 처리 작업에 소요되는 비용과 기간을 크게 단축시켰다. 트랜스포머 변형 모형은 이와 같은 장점을 제공하는 사전학습 언어모델 중에서 최근 가장 많이 사용되고 있는 모형으로, 번역을 비롯하여 문서 요약, 챗봇과 같은 질의 응답, 자연스러운 문장의 생성 및 문서의 분류 등 다양한 자연어 처리 작업에 활용되고 있으며 컴퓨터 비전 분야와 오디오 관련 분야 등 다른 분야에서도 활발하게 활용되고 있다. 본 논문은 연구자들이 보다 쉽게 사전학습 언어모델에 대해 이해하고 자연어 처리 작업에 활용할 수 있도록 하기 위해, 언어모델과 사전학습 언어모델의 정의로부터 시작하여 사전학습 언어모델의 발전과정과 다양한 트랜스포머 변형 모형에 대해 조사하고 정리하였다.

장면전환 전처리 정보 기반의 HEVC 화면 간 예측 부호화 효율 및 속도 향상 기법 (Improvement of Coding Efficiency and Speed for HEVC Inter-picture Prediction Based on Scene-change Pre-processing Information)

  • 이홍래;원광은;서광덕
    • 방송공학회논문지
    • /
    • 제23권1호
    • /
    • pp.162-165
    • /
    • 2018
  • 본 논문에서는 초고해상도 영상의 효율적인 부호화를 위해 공간적 다운스케일된 입력영상을 이용하여 장면 전환 정보를 획득하기 위한 전처리(pre-processing)과정과 이 정보를 기반으로 화면 간 예측 과정에서 참조 픽처 리스트를 재구성하는 방법을 제안한다. 본 논문에서 제안하는 전처리 과정을 통해 얻어진 정보를 기반으로 참조 픽처 리스트를 재구성하였을 때 기존의 HM 16.12 대비 0.44%의 BD-Rate 개선과 동시에 12.46%의 부호화 속도 향상을 얻을 수 있다.

Effects of Pre-cooking Methods on Quality Characteristics of Reheated Marinated Pork Loin

  • Kim, Tae-Kyung;Hwang, Ko-Eun;Kim, Young-Boong;Jeon, Ki-Hong;Leem, Kyoung-Hoan;Choi, Yun-Sang
    • 한국축산식품학회지
    • /
    • 제38권5호
    • /
    • pp.970-980
    • /
    • 2018
  • We evaluated the effects of pre-cooking methods on the quality of reheated marinated pork loin. Frozen marinated pork loins cooked using various methods (boiling, grilling, pan frying, infrared cooking, and superheated steam cooking) were reheated in a microwave, and their pH, color, cooking loss, re-heating loss, total loss, thiobarbituric acid reactive substance (TBARS) value, sensory properties, and shear force were determined. Although all parameters varied with different cooking methods, lightness values and TBARS values showed the tendency to decrease and increase, respectively, after reheating. Superheated steam-cooked samples showed the lowest values of cooking loss, total loss, TBARS value, and shear force (p<0.05) and the highest lightness, redness, and yellowssness values and juiciness, chewiness, and overall acceptability scores (p<0.05). These results show that pre-cooking with superheated steam maintains the quality characteristics of marinated pork loin upon reheating. Therefore, pre-cooking with superheated steam may be beneficial for the commercial distribution of frozen cooked marinated pork loin.

선형 선처리 방식에 의한 홉필드 네트웍의 성능 분석 (Performance analysis of linear pre-processing hopfield network)

  • 고영훈;이수종;노흥식
    • 정보학연구
    • /
    • 제7권2호
    • /
    • pp.43-54
    • /
    • 2004
  • 홉필드 네트웍(Hopfield Network)은 존 홉필드(John J. Hopfield) 박사에 의해 제안된 이래 패턴인식과 최적화 문제에 활용되어 왔다. 특히 리(Jian-Hua Li)에 의해 제안된 방식은 SVD(singular value decomposition) 기법을 사용하여 입력패턴을 재구성함으로써 효율향상에 기여하였다. 본 논문은 리(Li)가 제안한 홉필드 네트웍에 사용할 패턴 집합의 선형 선처리 방식에 따른 성능 향상을 실험하였다. 선형 선처리 방식에 하다마드 방식과 랜덤 방식이 최대 30%, 하다마드 방식이 최대 15%의 성능이 향상되었다. 수렴시간 측면에서 보면 랜덤 방식이 최대 5 이터레이션, 하다마드 방식이 최대 2.5 이터레이션의 성능 향상을 확인하였다.

  • PDF

선체 Shell FE 모델 내 용접부의 Solid 요소변환 자동화 시스템 (Pre-processing System for Converting Shell to Solid at Selected Weldment in Shell FE Model)

  • 유진선;하윤석
    • Journal of Welding and Joining
    • /
    • 제34권2호
    • /
    • pp.11-15
    • /
    • 2016
  • FE analyses for weldment of ship structure are required for various reasons such as stress concentration for bead tow, residual stress and distortion after welding, and hydrogen diffusion for prediction of low temperature crack. These analyses should be done by solid element modeling, but most of ship structures are modeled by shell element. If we are able to make solid element in the shell element FE modeling it is easily to solve the requirement for solid elements in weld analysis of large ship structures. As the nodes of solid element cannot take moments from nodes of shell element, these two kinds of element cannot be used in one model by conventional modeling. The PSCM (Perpendicular shell coupling method) can connect shell to solid. This method uses dummy perpendicular shell element for transferring moment from shell to solid. The target of this study is to develop a FE pre-processing system applicable at welding at ship structure by using PSCM. We also suggested glue-contact technique for controlling element numbers and element qualities and applied it between PSCM and solid element in automatic pre-processing system. The FE weldment modeling through developed pre-processing system will have rational stiffness of adjacent regions. Then FE results can be more reliable when turn-over of ship-block with semi-welded state or ECA (Engineering critical assessment) of weldment in a ship-block are analyzed.

컴퓨터 집적 영상에서의 정교한 요소 영상 추출 및 전처리 방법 (Accurate lattice extraction of elemental image array and pre-processing methods in computational integral imaging)

  • 손정민;유훈
    • 한국정보통신학회논문지
    • /
    • 제15권5호
    • /
    • pp.1164-1170
    • /
    • 2011
  • 본 논문에서는 컴퓨터 집적 영상에서의 정교한 요소 영상 추출 및 전처리 기술에 대해 제안한다. 전처리 기술은 영상 복원 과정 전에 영상의 왜곡 및 잡음을 제거하는 기술이다. 픽업 과정에서 발생된 왜곡 및 잡음은 주로 회전 왜곡으로, 복원된 영상의 화질을 저하시킨다. 이 문제점을 극복하기 위해서 요소 영상 추출 및 전처리 방법을 제안하고, 이를 통하여 왜곡 및 잡음이 영상 복원 과정에 미치는 영향에 대해서 설명하였다. 광학 및 컴퓨터 실험을 통하여 교정 전, 후의 복원 영상의 특성을 비교하였다.

MEMS 기술로 제작된 가스 센서 어레이를 이용한 유해가스 분류를 위한 간단한 통계적 패턴인식방법의 구현 (Implementation of simple statistical pattern recognition methods for harmful gases classification using gas sensor array fabricated by MEMS technology)

  • 변형기;신정숙;이호준;이원배
    • 센서학회지
    • /
    • 제17권6호
    • /
    • pp.406-413
    • /
    • 2008
  • We have been implemented simple statistical pattern recognition methods for harmful gases classification using gas sensors array fabricated by MEMS (Micro Electro Mechanical System) technology. The performance of pattern recognition method as a gas classifier is highly dependent on the choice of pre-processing techniques for sensor and sensors array signals and optimal classification algorithms among the various classification techniques. We carried out pre-processing for each sensor's signal as well as sensors array signals to extract features for each gas. We adapted simple statistical pattern recognition algorithms, which were PCA (Principal Component Analysis) for visualization of patterns clustering and MLR (Multi-Linear Regression) for real-time system implementation, to classify harmful gases. Experimental results of adapted pattern recognition methods with pre-processing techniques have been shown good clustering performance and expected easy implementation for real-time sensing system.

차분 전력 분석 공격의 성능 향상을 위한 전처리 기법 (A Pre-processing Technique for Performance Enhancement of the Differential Power Analysis Attack)

  • 이유석;이유리;이영준;김형남
    • 정보보호학회논문지
    • /
    • 제20권4호
    • /
    • pp.109-115
    • /
    • 2010
  • 차분 전력 분석(Differential Power Analysis, DPA) 기법은 암호화 과정 중 발생하는 누설정보를 이용하는 효과적인 부채널 공격(side-channel attack, SCA) 종의 하나로 알려져 있다. 그러나 공격에 사용되는 누설 전력 신호에는 암호화와 관련이 없는 동작에 의해 야기된 전력 신호가 함께 포함되어 있으며, 이로 인해 공격의 효율성이 크게 저하된다. 따라서 본 논문에서는 차분 전력 분석 기법의 공격 성능을 향상시키기 위해, 측정된 전력 신호로부터 암호화 과정에 관련된 부분만을 추출하는 전처리 방법을 제안한다. 모의실험 결과를 통해 제안된 전처리 방법을 적용한 차분 전력 분석 공격은 기존의 차분 전력 분석 공격에 비해 매우 적은 수의 누설 전력 신호만으로도 암호화 알고리즘에 사용된 비밀 키를 찾을 수 있음을 보인다.

Comparison of Pre-processed Brain Tumor MR Images Using Deep Learning Detection Algorithms

  • Kwon, Hee Jae;Lee, Gi Pyo;Kim, Young Jae;Kim, Kwang Gi
    • Journal of Multimedia Information System
    • /
    • 제8권2호
    • /
    • pp.79-84
    • /
    • 2021
  • Detecting brain tumors of different sizes is a challenging task. This study aimed to identify brain tumors using detection algorithms. Most studies in this area use segmentation; however, we utilized detection owing to its advantages. Data were obtained from 64 patients and 11,200 MR images. The deep learning model used was RetinaNet, which is based on ResNet152. The model learned three different types of pre-processing images: normal, general histogram equalization, and contrast-limited adaptive histogram equalization (CLAHE). The three types of images were compared to determine the pre-processing technique that exhibits the best performance in the deep learning algorithms. During pre-processing, we converted the MR images from DICOM to JPG format. Additionally, we regulated the window level and width. The model compared the pre-processed images to determine which images showed adequate performance; CLAHE showed the best performance, with a sensitivity of 81.79%. The RetinaNet model for detecting brain tumors through deep learning algorithms demonstrated satisfactory performance in finding lesions. In future, we plan to develop a new model for improving the detection performance using well-processed data. This study lays the groundwork for future detection technologies that can help doctors find lesions more easily in clinical tasks.

Effect on DTP process by cotton treated with atmosphere plasma

  • Hong, Tae-Il;Yoon, Suk-Han;Park, Jae-Bum;Koo, Kang
    • 한국염색가공학회:학술대회논문집
    • /
    • 한국염색가공학회 2009년도 학술발표대회
    • /
    • pp.43-44
    • /
    • 2009
  • Fabrics for Digital Textile Printing (DTP) are different from it of general textile printing. It is necessary to pre-treatment of chemical agents for desired quality. But this process does not correspond with simplification of DTP processing. In this research, we pre-treated of cotto is necessary to pre-treatment of chemical agents for desired quality. But this process does not correspond with simplification of DTP processing. In this research, we pre-treated of cotton fabric for DTP by atmosphere plasma treatment and we understood that pre-treatment of fabric by atmosphere plasma treatment was more simple DTP process.

  • PDF