• 제목/요약/키워드: Language convergence

검색결과 789건 처리시간 0.029초

전이학습 기반 기계번역 사후교정 모델 검증 (The Verification of the Transfer Learning-based Automatic Post Editing Model)

  • 문현석;박찬준;어수경;서재형;임희석
    • 한국융합학회논문지
    • /
    • 제12권10호
    • /
    • pp.27-35
    • /
    • 2021
  • 기계번역 사후교정 (Automatic Post Editing, APE)이란 번역 시스템을 통해 생성한 번역문을 교정하는 연구 분야로, 영어-독일어와 같이 학습데이터가 풍부한 언어쌍을 중심으로 연구가 진행되고 있다. 최근 APE 연구는 전이학습 기반 연구가 주로 이루어지는데, 일반적으로 self supervised learning을 통해 생성된 사전학습 언어모델 혹은 번역모델이 주로 활용된다. 기존 연구에서는 번역모델에 전이학습 시킨 APE모델이 뛰어난 성과를 보였으나, 대용량 언어쌍에 대해서만 이루어진 해당 연구를 저 자원 언어쌍에 곧바로 적용하기는 어렵다. 이에 본 연구에서는 언어 혹은 번역모델의 두 가지 전이학습 전략을 대표적인 저 자원 언어쌍인 한국어-영어 APE 연구에 적용하여 심층적인 모델 검증을 진행하였다. 실험결과 저 자원 언어쌍에서도 APE 학습 이전에 번역을 한차례 학습시키는 것이 유의미하게 APE 성능을 향상시킨다는 것을 확인할 수 있었다.

인공신경망 기계번역에서 디코딩 전략에 대한 연구 (Study on Decoding Strategies in Neural Machine Translation)

  • 서재형;박찬준;어수경;문현석;임희석
    • 한국융합학회논문지
    • /
    • 제12권11호
    • /
    • pp.69-80
    • /
    • 2021
  • 딥러닝 모델을 활용한 인공신경망 기계번역 (Neural machine translation)이 주류 분야로 떠오르면서 최고의 성능을 위해 모델과 데이터 언어 쌍에 대한 많은 투자와 연구가 활발하게 진행되고 있다. 그러나, 최근 대부분의 인공신경망 기계번역 연구들은 번역 문장의 품질을 극대화하는 자연어 생성을 위한 디코딩 전략 (Decoding strategy)에 대해서는 미래 연구 과제로 남겨둔 채 다양한 실험과 구체적인 분석이 부족한 상황이다. 기계번역에서 디코딩 전략은 번역 문장을 생성하는 과정에서 탐색 경로를 최적화 하고, 모델 변경 및 데이터 확장 없이도 성능 개선이 가능하다. 본 논문은 시퀀스 투 시퀀스 (Sequence to Sequence) 모델을 활용한 신경망 기반의 기계번역에서 고전적인 그리디 디코딩 (Greedy decoding)부터 최신의 방법론인 Dynamic Beam Allocation (DBA)까지 비교 분석하여 디코딩 전략의 효과와 그 의의를 밝힌다.

사전학습 언어모델을 활용한 범죄수사 도메인 개체명 인식 (A Named Entity Recognition Model in Criminal Investigation Domain using Pretrained Language Model)

  • 김희두;임희석
    • 한국융합학회논문지
    • /
    • 제13권2호
    • /
    • pp.13-20
    • /
    • 2022
  • 본 연구는 딥러닝 기법을 활용하여 범죄 수사 도메인에 특화된 개체명 인식 모델을 개발하는 연구이다. 본 연구를 통해 비정형의 형사 판결문·수사 문서와 같은 텍스트 기반의 데이터에서 자동으로 범죄 수법과 범죄 관련 정보를 추출하고 유형화하여, 향후 데이터 분석기법을 활용한 범죄 예방 분석과 수사에 기여할 수 있는 시스템을 제안한다. 본 연구에서는 범죄 수사 도메인 텍스트를 수집하고 범죄 분석의 관점에서 필요한 개체명 분류를 새로 정의하였다. 또한 최근 자연어 처리에서 높은 성능을 보이고 있는 사전학습 언어모델인 KoELECTRA를 적용한 제안 모델은 본 연구에서 정의한 범죄 도메인 개체명 실험 데이터의 9종의 메인 카테고리 분류에서 micro average(이하 micro avg) F1-score 99%, macro average(이하 macro avg) F1-score 96%의 성능을 보이고, 56종의 서브 카테고리 분류에서 micro avg F1-score 98%, macro avg F1-score 62%의 성능을 보인다. 제안한 모델을 통해 향후 개선 가능성과 활용 가능성의 관점에서 분석한다.

외국어교육 환경에서 영어습득을 위한 읽기유창성과 정확성에 관한 연구 (Reading Fluency and Accuracy for English Language Acquisition in EFL Context.)

  • 신규철
    • 한국융합학회논문지
    • /
    • 제9권3호
    • /
    • pp.249-256
    • /
    • 2018
  • 연구의 목적은 외국어 읽기의 유창성과 정확성의 언어습득적 의의를 고찰하고, 효율적인 영어 학습 패러다임을 연구하는데 있다. 언어습득 측면에서, 제 2언어학습의 정확성과 유창성사이에서 무엇을 우선 가르치느냐의 문제는 중요한 이슈가 되어왔다. 제 1언어와 제 2언어의 교실상황에서, 많은 언어연구가들의 관심 때문에, 유창성은 중요한 요소로 대두되고 있다. 정확성과 유창성은 둘 다 중요하지만, 외국어의 경우, 유창성 중심의 학습에서 정확성 중심의 학습으로 점진적인 학습 패러다임의 전환이 있어야 한다. 이런 관점에서, 본 연구는 외국어의 유창성 개발을 위한 대안으로 자발적다독법을 제시하고 있다. 빠르고 정확한 단어 인지 기술과 읽기 유창성이 없으면, 좋은 읽기 능력을 가질 수 없다. 그러므로 유창성 개발을 위한 방법들이 개발되어야 하며, 이것에 대한 해법으로, 자발적다독법이 외국어 교육상황에서 읽기유창성을 위한 효과적인 연구방법론임을 입증하고 있다.

한국형 전산화 인지재활프로그램이 초기 치매노인의 생성 이름대기 수행에 미치는 효과에 관한 예비연구 (The effect of computer based cognitive rehabilitation program on the improvement of generative naming in the elderly with mild dementia: preliminary study)

  • 변해원
    • 한국융합학회논문지
    • /
    • 제10권9호
    • /
    • pp.167-172
    • /
    • 2019
  • 본 연구는 초기 치매환자를 대상으로 전산화 인지재활프로그램이 전두엽 집행기능 중 생성 이름대기에 미치는 효과를 파악하고, 치매 환자의 조기 언어중재에 관한 기초자료를 제공하였다. 분석 대상은 경증치매환자 29명으로서 전산화 인지재활프로그램(CoTras)을 중재하는 실험군 21명과 지필과 테이블활동 등 전통적인 면대면 언어재활을 중재하는 대조군 8명으로 분류되었다. 실험집단과 대조집단은 모두 12주 동안 순차적 언어 회상 기억훈련, 연합회상 기억훈련, 언어 범주화 기억훈련, 언어통합 기억훈련을 진행하였다. 의미유창성과 음소유창성의 사전검사점수를 공변량으로 통제한 Welch's robust ANCOVA분석 결과, 실험집단과 대조집단은 의미유창성과 MMSE-K의 변화에서 유의미한 차이가 있었다(p<0.05). 반면에, 음소유창성은 실험군과 대조군 모두 기초선단계에 비해서 12주간의 치료 후 유의미하게 증가하였지만 통계적으로 치료방법에 따른 유의미한 차이는 없었다. 본 연구의 결과는 전산화 인지재활프로그램이 전통적인 인지재활에 비해서 의미유창성의 향상에 효과적일 가능성을 시사한다.

생성 모델과 검색 모델을 이용한 한국어 멀티턴 응답 생성 연구 (A study on Korean multi-turn response generation using generative and retrieval model)

  • 이호동;이종민;서재형;장윤나;임희석
    • 한국융합학회논문지
    • /
    • 제13권1호
    • /
    • pp.13-21
    • /
    • 2022
  • 최근 딥러닝 기반의 자연어처리 연구는 사전 훈련된 언어 모델을 통해 대부분의 자연어처리 분야에서 우수한 성능을 보인다. 특히 오토인코더 (auto-encoder) 기반의 언어 모델은 다양한 한국어 이해 분야에서 뛰어난 성능과 쓰임을 증명하고 있다. 그러나 여전히 디코더 (decoder) 기반의 한국어 생성 모델은 간단한 문장 생성 과제에도 어려움을 겪고 있으며, 생성 모델이 가장 일반적으로 쓰이는 대화 분야에서의 세부 연구와 학습 가능한 데이터가 부족한 상황이다. 따라서 본 논문은 한국어 생성 모델을 위한 멀티턴 대화 데이터를 구축하고 전이 학습을 통해 생성 모델의 대화 능력을 개선하여 성능을 비교 분석한다. 또한, 검색 모델을 통해 외부 지식 정보에서 추천 응답 후보군을 추출하여 모델의 부족한 대화 생성 능력을 보완하는 방법을 제안한다.

'미술'과 '언어' 활동 융합형의 아동 발달지원 교육 프레임워크 개발을 위한 탐색적 연구: 텍스트 마이닝을 중심으로 (An exploratory study for the development of a education framework for supporting children's development in the convergence of "art activity" and "language activity": Focused on Text mining method)

  • 박윤미;김시정
    • 한국융합학회논문지
    • /
    • 제12권3호
    • /
    • pp.297-304
    • /
    • 2021
  • 이 연구는 학령기 아동의 발달지원을 위하여 기존의 미술 치료 및 교육에서 시행되어 온 시각적 사고 중심의 접근에 더하여, 언어 교육 및 치료적 접근을 융합하고자 한 것이다. 이에 언어와 미술의 서로 다른 영역의 융합 가능 영역을 탐색하기 위하여 텍스트 마이닝 기법을 적용하였다. 이에 따라 이 연구는 기초 연구, 예비 DB구축, 텍스트 선별, DB 전 처리 및 확정, 불용어 처리, 텍스트 마이닝 분석 및 융합 가능 역 도출'의 절차에 따라 연구를 진행하였다. 연구 결과, 미술 치료 및 교육과 언어 치료 및 교육 분야에서 나타나는 문헌상의 각 군집을 연계하여 의사소통 및 학습 기능, 문제해결 및 감각 기관, 예술 및 지능, 정보와 의사소통, 가정 및 장애, 주제와 개념화 및 또래, 통합과 재구성 및 태도 등과 관련된 융합역을 도출할 수 있었다. 결론적으로 본 연구를 통하여 향후 미술과 언어의 활동 중심 융합형 프로그램을 설계할 수 있는 프레임워크를 마련하고 아동발달 지원을 위한 총체적 접근을 시도하였다는 점에서 연구의 의의가 있다.

개인화 큐레이션을 위한 감성 분류 및 평가 (Emotional Tag and Evaluation Method for Personalized Curation)

  • 임지희;성주원;구형근;옥철영;장두성
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2014년도 제26회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.122-126
    • /
    • 2014
  • 감성은 콘텐츠 구매과정에서 결정적인 요소로 작용하며, 영화 콘텐츠의 탐색/소비 과정에서도 콘텐츠 소비의 새로운 기준이다. 그러므로 본 연구에서는 콘텐츠의 내용과 감성을 반영하기 위한 감성분류체계를 제안하였다. 제안한 감성분류체계를 기반으로 사용자의 취향과 감성에 기반하여 콘텐츠를 분류/추천하여 개인화된 편성을 제공하는 것을 "감성 큐레이션"이라 정의하고, 이를 위한 감성기반 큐레이션 방법론을 기술하고 실험을 통해 추천 효과를 입증하였다. 큐레이션은 기존의 개인화 추천과 달리 고객 취향뿐만이 아닌, 신선함, 다양성을 제공할 수 있어야 하며, 상용 큐레이션 서비스에서는 실제 시청으로 연결되는 비율이 중요하다. 본 연구에서는 큐레이션 성능 평가를 위해 성향인지도, 신선도, 다양성에 기반한 만족도 설문조사 방법과 함께, 콘텐츠의 전체 시청률 대비 큐레이션을 통해 추천되어 증가된 시청률의 확대 비율인 Lift score 라는 새로운 평가 방법을 제안하여 그 효용성을 증명하였다.

  • PDF