• 제목/요약/키워드: Transformer Model

검색결과 590건 처리시간 0.023초

Is ChatGPT a "Fire of Prometheus" for Non-Native English-Speaking Researchers in Academic Writing?

  • Sung Il Hwang;Joon Seo Lim;Ro Woon Lee;Yusuke Matsui;Toshihiro Iguchi;Takao Hiraki;Hyungwoo Ahn
    • Korean Journal of Radiology
    • /
    • 제24권10호
    • /
    • pp.952-959
    • /
    • 2023
  • Large language models (LLMs) such as ChatGPT have garnered considerable interest for their potential to aid non-native English-speaking researchers. These models can function as personal, round-the-clock English tutors, akin to how Prometheus in Greek mythology bestowed fire upon humans for their advancement. LLMs can be particularly helpful for non-native researchers in writing the Introduction and Discussion sections of manuscripts, where they often encounter challenges. However, using LLMs to generate text for research manuscripts entails concerns such as hallucination, plagiarism, and privacy issues; to mitigate these risks, authors should verify the accuracy of generated content, employ text similarity detectors, and avoid inputting sensitive information into their prompts. Consequently, it may be more prudent to utilize LLMs for editing and refining text rather than generating large portions of text. Journal policies concerning the use of LLMs vary, but transparency in disclosing artificial intelligence tool usage is emphasized. This paper aims to summarize how LLMs can lower the barrier to academic writing in English, enabling researchers to concentrate on domain-specific research, provided they are used responsibly and cautiously.

효율적인 개방형 어휘 3차원 개체 분할을 위한 클래스-독립적인 3차원 마스크 제안과 2차원-3차원 시각적 특징 앙상블 (Class-Agnostic 3D Mask Proposal and 2D-3D Visual Feature Ensemble for Efficient Open-Vocabulary 3D Instance Segmentation)

  • 송성호;박경민;김인철
    • 정보처리학회 논문지
    • /
    • 제13권7호
    • /
    • pp.335-347
    • /
    • 2024
  • 개방형 어휘 3차원 포인트 클라우드 개체 분할은 3차원 장면 포인트 클라우드를 훈련단계에서 등장하였던 기본 클래스의 개체들뿐만 아니라 새로운 신규 클래스의 개체들로도 분할해야 하는 어려운 시각적 작업이다. 본 논문에서는 중요한 모델 설계 이슈별 기존 모델들의 한계점들을 극복하기 위해, 새로운 개방형 어휘 3차원 개체 분할 모델인 Open3DME를 제안한다. 첫째, 제안 모델은 클래스-독립적인 3차원 마스크의 품질을 향상시키기 위해, 새로운 트랜스포머 기반 3차원 포인트 클라우드 개체 분할 모델인 T3DIS[6]를 마스크 제안 모듈로 채용한다. 둘째, 제안 모델은 각 포인트 세그먼트별로 텍스트와 의미적으로 정렬된 시각적 특징을 얻기 위해, 사전 학습된 OpenScene 인코더와 CLIP 인코더를 적용하여 포인트 클라우드와 멀티-뷰 RGB 영상들로부터 각각 3차원 및 2차원 특징들을 추출한다. 마지막으로, 제안 모델은 개방형 어휘 레이블 할당 과정동안 각 포인트 클라우드 세그먼트별로 추출한 2차원 시각적 특징과 3차원 시각적 특징을 상호 보완적으로 함께 이용하기 위해, 특징 앙상블 기법을 적용한다. 본 논문에서는 ScanNet-V2 벤치마크 데이터 집합을 이용한 다양한 정량적, 정성적 실험들을 통해, 제안 모델의 성능 우수성을 입증한다.

최적의 UPFC 위치 결정에 관한 연구 (A Study on the Determination of Optimal UPFC Location)

  • 배철오
    • 해양환경안전학회지
    • /
    • 제15권3호
    • /
    • pp.257-262
    • /
    • 2009
  • 일체형 조류제어기인 UPFC는 FACTS 기기중 가장 효과적인 기기 중 하나이다. 본 논문에서는 전력시스템에서 UPFC의 최적위치를 결정하는 데 필요한 컴퓨터의 계산을 줄이는 방법에 대하여 기술한다. 이를 위해 UPFC 제어 변수들과 관련된 발전 비용의 민감도가 평가되었다. 모든 송전선로의 UPFC 민감도를 얻기 위해 단지 한 번의 최적조류제어만으로 해결하였다. 전력시스템에서 UPFC의 최적 위치를 알아내기 위해 여러 권선비와 가변 션트 어드미턴스로 구성된 이상변압기 모델을 사용하였다. 이 모델에서 UPFC 제어 변수들은 UPFC 입 출력의 전류와 전압에 대해서 종속되지 않는다. 민감도 방법은 그의 효율성을 파악하기 위해 IEEE 14 모선에서 파생된 5 모선시스템과 IEEE 14 모선시스템을 대상으로 실험하였다.

  • PDF

Structure damage estimation due to tunnel excavation based on indoor model test

  • Nam, Kyoungmin;Kim, Jungjoo;Kwak, Dongyoup;Rehman, Hafeezur;Yoo, Hankyu
    • Geomechanics and Engineering
    • /
    • 제21권2호
    • /
    • pp.95-102
    • /
    • 2020
  • Population concentration in urban areas has led traffic management a central issue. To mitigate traffic congestions, the government has planned to construct large-cross-section tunnels deep underground. This study focuses on estimating the damage caused to frame structures owing to tunnel excavation. When constructing a tunnel network deep underground, it is necessary to divide the main tunnel and connect the divergence tunnel to the ground surface. Ground settlement is caused by excavation of the adjacent divergence tunnel. Therefore, predicting ground settlement using diverse variables is necessary before performing damage estimation. We used the volume loss and cover-tunnel diameter ratio as the variables in this study. Applying the ground settlement values to the settlement induction device, we measured the extent of damage to frame structures due to displacement at specific points. The vertical and horizontal displacements that occur at these points were measured using preattached LVDT (Linear variable differential transformer), and the lateral strain and angular distortion were calculated using these displacements. The lateral strain and angular distortion are key parameters for structural damage estimation. A damage assessment chart comprises the "Negligible", "Very Slight Damage", "Slight Damage", "Moderate to Severe Damage", and "Severe to Very Severe Damage" categories was developed. This table was applied to steel frame and concrete frame structures for comparison.

냉매 열교환기 구성방법에 따른 제 2종 흡수식 히트펌프의 성능 특성 변화에 관한 연구 (Performance Characteristics of Type II LiBr-H2O Absorption Heat Pump in Accordance with the Refrigerant Heat Exchanger Configuration)

  • 이창현;윤준성;김인관;권오경;차동안;배경진;김민수;박찬우
    • 설비공학논문집
    • /
    • 제29권7호
    • /
    • pp.373-384
    • /
    • 2017
  • The objective of this study was to determine the effect of refrigerant heat exchanger on the performance of type II absorption heat pump performance using numerical analysis. Two heat exchange installation methods were used: solution to refrigerant and waste hot water to refrigerant. These methods were compared to the standard model of hot water flow without using refrigerant heat exchanger. When waste hot waters were bypassed to refrigerant heat exchanger, COP was not affected. However, steam mass generation rates were increased compared to those of the standard model. When solutions were bypassed to the refrigerant heat exchanger, results were different depending on the place where the solution rejoined. COP and steam mass generation rates were lower compared to those when waste heat water was passed to refrigerant heat exchanger. Thus, it is possible to obtain higher steam mass generation rates by using waste water and installing refrigerant heat exchanger.

기계번역 사후교정(Automatic Post Editing) 연구 (Automatic Post Editing Research)

  • 박찬준;임희석
    • 한국융합학회논문지
    • /
    • 제11권5호
    • /
    • pp.1-8
    • /
    • 2020
  • 기계번역이란 소스문장(Source Sentence)을 타겟문장(Target Sentence)으로 컴퓨터가 번역하는 시스템을 의미한다. 기계번역에는 다양한 하위분야가 존재하며 APE(Automatic Post Editing)이란 기계번역 시스템의 결과물을 교정하여 더 나은 번역문을 만들어내는 기계번역의 하위분야이다. 즉 기계번역 시스템이 생성한 번역문에 포함되어 있는 오류를 수정하여 교정문을 만드는 과정을 의미한다. 기계번역 모델을 변경하는 것이 아닌 기계번역 시스템의 결과 문장을 교정하여 번역품질을 높이는 연구분야이다. 2015년부터 WMT 공동 캠페인 과제로 선정되었으며 성능 평가는 TER(Translation Error Rate)을 이용한다. 이로 인해 최근 APE에 모델에 대한 다양한 연구들이 발표되고 있으며 이에 본 논문은 APE 분야의 최신 동향에 대해서 다루게 된다.

BERT를 이용한 딥러닝 기반 소스코드 취약점 탐지 방법 연구 (A BERT-Based Deep Learning Approach for Vulnerability Detection)

  • 김문회;오희국
    • 정보보호학회논문지
    • /
    • 제32권6호
    • /
    • pp.1139-1150
    • /
    • 2022
  • SW 산업의 급속한 발전과 함께 새롭게 개발되는 코드와 비례해서 취약한 코드 또한 급증하고 있다. 기존에는 전문가가 수동으로 코드를 분석하여 취약점을 탐지하였지만 최근에는 증가하는 코드에 비해서 분석하는 인력이 부족하다. 이 때문에 기존 Vuldeepecker와 같은 많은 연구에서는 RNN 기반 모델을 이용하여 취약점을 탐지하였다. 그러나 RNN 모델은 코드의 양이 방대할수록 새롭게 입력되는 코드만 학습되고 초기에 입력된 코드는 최종 예측 결과에 영향을 주지 못하는 한계점이 있다. 또한 RNN 기반 방법은 입력에 Word2vec 모델을 사용하여 단어의 의미를 상징하는 embedding을 먼저 학습하여 고정 값으로 RNN 모델에 입력된다. 이는 서로 다른 문맥에서 다른 의미를 표현하지 못하는 한계점이 있다. BERT는 Transformer 모델을 기본 레이어로 사용하여 각 단어가 전체 문맥에서 모든 단어 간의 관계를 계산한다. 또한 MLM과 NST 방법으로 문장 간의 앞뒤 관계를 학습하기 때문에 취약점 탐지와 같은 코드 간 관계를 분석해야 할 필요가 있는 문제에서 적절한 방법이다. 본 논문에서는 BERT 모델과 결합하여 취약점 탐지하는 연구를 수행하였고 실험 결과 취약점 탐지의 정확성이 97.5%로 Vuldeepecker보다 정확성 1.5%. 효율성이 69%를 증가하였다.

딥러닝을 활용한 모바일 어플리케이션 리뷰 분류에 관한 연구 (A Study on Classification of Mobile Application Reviews Using Deep Learning)

  • 손재익;노미진;타지주르 라만;표규진;한무명초;김양석
    • 스마트미디어저널
    • /
    • 제10권2호
    • /
    • pp.76-83
    • /
    • 2021
  • 스마트폰과 태블릿과 같은 스마트 기기의 발달과 사용이 증가함에 따라, 모바일 기기를 기반으로 한 모바일 어플리케이션 시장이 급속도로 커지고 있다. 모바일 어플리케이션 사용자는 어플리케이션을 사용 경험을 공유하고자 리뷰를 남기는데, 이를 분석하면 소비자들의 다양한 니즈를 파악할 수 있고 어플리케이션 개발자들은 소비자들이 작성한 리뷰를 통해 애플리케이션의 개선을 위한 유용한 피드백을 받을 수 있다. 그러나 소비자들의 남기는 많은 양의 리뷰를 수작업으로 분석하기 위해서는 많은 시간과 비용을 지불해야하기 때문에 이를 최소화 할 방안을 마련할 필요성이 존재한다. 이에 본 연구에서는 구글 플레이스토어(Google PlayStore)의 배달 어플리케이션 사용자 리뷰를 수집한 후 머신러닝과 딥러닝 기법을 활용하여 어플리케이션 기능 장점, 단점, 기능 개선 요청, 버그 보고의 4가지 범주로 분류하는 방법을 제안한다. 연구 결과, Hugging Face의 pretrain된 BERT기반 Transformer모델의 성능의 경우 위의 4개의 범주에 대한 f1 score값은 차례대로 0.93, 0.51, 0.76, 0.83으로 LSTM, GRU보다 뛰어난 성능을 보인 것을 확인할 수 있었다.

InferSent를 활용한 오픈 도메인 기계독해 (Open Domain Machine Reading Comprehension using InferSent)

  • 김정훈;김준영;박준;박성욱;정세훈;심춘보
    • 스마트미디어저널
    • /
    • 제11권10호
    • /
    • pp.89-96
    • /
    • 2022
  • 오픈 도메인 기계독해는 질문과 연관된 단락이 존재하지 않아 단락을 검색하는 검색 기능을 추가한 모델이다. 문서 검색은 단어 빈도 기반인 TF-IDF로 많은 연구가 진행됐으나 문서의 양이 많아지면 낮은 성능을 보이는 문제가 있다. 아울러 단락 선별은 단어 기반 임베딩으로 많은 연구가 진행됐으나 문장의 특징을 가지는 단락의 문맥을 정확히 추출하지 못하는 문제가 있다. 그리고 문서 독해는 BERT로 많은 연구가 진행됐으나 방대한 파라미터로 느린 학습 문제를 보였다. 본 논문에서는 언급한 3가지 문제를 해결하기 위해 문서의 길이까지 고려한 BM25를 이용하며 문장 문맥을 얻기 위해 InferSent를 사용하고, 파라미터 수를 줄이기 위해 ALBERT를 이용한 오픈 도메인 기계독해를 제안한다. SQuAD1.1 데이터셋으로 실험을 진행했다. 문서 검색은 BM25의 성능이 TF-IDF보다 3.2% 높았다. 단락 선별은 InferSent가 Transformer보다 0.9% 높았다. 마지막으로 문서 독해에서 단락의 수가 증가하면 ALBERT가 EM에서 0.4%, F1에서 0.2% 더 높았다.

Users' Attachment Styles and ChatGPT Interaction: Revealing Insights into User Experiences

  • I-Tsen Hsieh;Chang-Hoon Oh
    • 한국컴퓨터정보학회논문지
    • /
    • 제29권3호
    • /
    • pp.21-41
    • /
    • 2024
  • 본 연구는 OpenAI가 개발한 고급 언어 모델인 ChatGPT (Chat Generative Pre-trained Transformer)와 사용자의 애착 유형 간의 관계를 탐구한다. 인공지능(AI)이 점차 일상생활에 통합되면서, 다양한 애착 유형을 가진 개인들이 AI 챗봇과 상호 작용하는 방식을 이해하는 것은 특정 사용자 요구를 충족하고 사용자와 가장 이상적인 방식으로 상호 작용하는 더 나은 사용자 경험을 구축하기 위해 중요하다. 심리학의 애착 이론을 기반으로 한 이 연구에서는 애착 유형이 ChatGPT와 상호 작용에 미치는 영향을 탐구하여 인간과 AI 간의 상호 작용에 대한 이해에서 중요한 공백을 메우고 있다. 예상과는 달리, 애착 유형은 ChatGPT 사용에 유의미한 영향을 미치지 않았다. 애착 유형에 관계없이 중요한 정보를 전달하는 ChatGPT를 완전히 신뢰하는 것을 주저했으며, AI 시스템의 신뢰 문제를 해결해야 할 필요성을 강조한다. 단, 본 연구는 사용자와 ChatGPT 간 독특한 상호 작용에 중점을 두어, 애착 유형이 이러한 상호 작용에 미치는 영향을 해명하여 AI 챗봇의 개인화된 사용자 경험을 개발하는 데에 도움이 되고자 한다. 또, 본 연구는 Perceived Partner Responsiveness Scale의 도입은 사용자가 ChatGPT의 역할에 대한 인식을 평가하는 유용한 도구로 기능하며, AI의 인격화에 대한 관점을 제시한다. 본 연구는 인간과 AI 간의 관계에 대한 넓은 토론에 기여하며, 사용자 중심의 미래를 위해 AI 시스템에 감정 지능을 통합하는 중요성을 강조한다.