• Title/Summary/Keyword: 문제해결 학습모델

Search Result 730, Processing Time 0.03 seconds

Domain adaptation of Korean coreference resolution using continual learning (Continual learning을 이용한 한국어 상호참조해결의 도메인 적응)

  • Yohan Choi;Kyengbin Jo;Changki Lee;Jihee Ryu;Joonho Lim
    • Annual Conference on Human and Language Technology
    • /
    • 2022.10a
    • /
    • pp.320-323
    • /
    • 2022
  • 상호참조해결은 문서에서 명사, 대명사, 명사구 등의 멘션 후보를 식별하고 동일한 개체를 의미하는 멘션들을 찾아 그룹화하는 태스크이다. 딥러닝 기반의 한국어 상호참조해결 연구들에서는 BERT를 이용하여 단어의 문맥 표현을 얻은 후 멘션 탐지와 상호참조해결을 동시에 수행하는 End-to-End 모델이 주로 연구가 되었으며, 최근에는 스팬 표현을 사용하지 않고 시작과 끝 표현식을 통해 상호참조해결을 빠르게 수행하는 Start-to-End 방식의 한국어 상호참조해결 모델이 연구되었다. 최근에 한국어 상호참조해결을 위해 구축된 ETRI 데이터셋은 WIKI, QA, CONVERSATION 등 다양한 도메인으로 이루어져 있으며, 신규 도메인의 데이터가 추가될 경우 신규 데이터가 추가된 전체 학습데이터로 모델을 다시 학습해야 하며, 이때 많은 시간이 걸리는 문제가 있다. 본 논문에서는 이러한 상호참조해결 모델의 도메인 적응에 Continual learning을 적용해 각기 다른 도메인의 데이터로 모델을 학습 시킬 때 이전에 학습했던 정보를 망각하는 Catastrophic forgetting 현상을 억제할 수 있음을 보인다. 또한, Continual learning의 성능 향상을 위해 2가지 Transfer Techniques을 함께 적용한 실험을 진행한다. 실험 결과, 본 논문에서 제안한 모델이 베이스라인 모델보다 개발 셋에서 3.6%p, 테스트 셋에서 2.1%p의 성능 향상을 보였다.

  • PDF

Named Entity Recognition based on CRF reflecting relative weight (상대적 가중치 자질을 반영한 CRF 기반의 개체명 인식)

  • Jeong, Jin-Wook
    • 한국어정보학회:학술대회논문집
    • /
    • 2017.10a
    • /
    • pp.338-339
    • /
    • 2017
  • 본 논문은 개체명 인식을 위해 CRF 모델을 이용해 분류를 수행했다. 개체명 후보를 개체명으로 식별에서 중의성 문제가 필요하다. 본 논문에서는 이러한 중의성 문제 해결을 위해 학습 셋으로부터 패턴과 형태적 특성을 고려해 개체명 후보를 최대로 선택하고 선택된 개체명 후보의 중의성과 정확도를 높이기 위해 주변의 문맥 자질과 분별 확률 모델인 CRF를 이용해 중의성 문제를 해결한다.

  • PDF

Development of A Computer Curriculum Model for Improving Problem Solving Ability (문제해결능력 신장을 위한 컴퓨터교육과정 모델 개발)

  • Sin, Su-Beom;Lee, Cheol-Hyeon;Yu, In-Hwan;Lee, Tae-Uk
    • Journal of KIISE:Software and Applications
    • /
    • v.26 no.9
    • /
    • pp.1125-1131
    • /
    • 1999
  • 정보자원의 변화에 따라 학습의 유형도 점차 변화되고 있으며 그에 따라서 컴퓨터를 이용하는 학습 형태도 변화할 필요가 있다. 그것은 학생이 중심이 되는 학습형태이며 그 중의 하나가 문제해결학습형태이다. 컴퓨터와 정보통신기술을 이용하는 문제해결능력은 구체적인 수준에서의 컴퓨터 관련 지식과 기술에 대한 체계적인 조직이 필요하다. 본 연구에서는 정보소양의 단계를 문제인식, 전략수립, 정보수집, 정보가공, 정보출력, 반성단계로 제시하고 그에 따른 컴퓨터관련 지식과 기술을 조직하여 문제해결능력 신장을 위한 컴퓨터 교육과정의 한 모델을 제시하였다.Abstract Learning styles have got to vary gradually according to the change of information resources. Thus We need to change learning styles with a computer. It's a student-oriented learning types. One of them is called a problem solving learning type. The problem solving ability with a computer and information communication technology require the systematic organization of concrete knowledges and the technology about computer. In this study we found the steps of information literacy as problem cognition, strategies establish, information collection, information processing, information presentation, reflection and proposed a model of computer curriculum to improve the problem solving ability.

A Study on the PBL-based AI Education for Computational Thinking (컴퓨팅 사고력 향상을 위한 문제 중심학습 기반 인공지능 교육 방안)

  • Choi, Min-Seong;Choi, Bong-Jun
    • Journal of the Institute of Convergence Signal Processing
    • /
    • v.22 no.3
    • /
    • pp.110-115
    • /
    • 2021
  • With the era of the 4th Industrial Revolution, education on artificial intelligence is one of the important topics. However, since existing education is aimed at knowledge, it is not suitable for developing the active problem-solving ability and AI utilization ability required by artificial intelligence education. To solve this problem, we proposes PBL-based education method in which learners learn in the process of solving the presented problem. The problem presented to the learner is a completed project. This project consists of three types: a classification model, the training data of the classification model, and the block code to be executed according to the classified result. The project works, but each component is designed to perform a low level of operation. In order to solve this problem, the learners can expect to improve their computational thinking skills by finding problems in the project through testing, finding solutions through discussion, and improving to a higher level of operation.

Relation Extraction Model for Noisy Data Handling on Distant Supervision Data based on Reinforcement Learning (원격지도학습데이터의 오류를 처리하는 강화학습기반 관계추출 모델)

  • Yoon, Sooji;Nam, Sangha;Kim, Eun-kyung;Choi, Key-Sun
    • Annual Conference on Human and Language Technology
    • /
    • 2018.10a
    • /
    • pp.55-60
    • /
    • 2018
  • 기계학습 기반인 관계추출 모델을 설계할 때 다량의 학습데이터를 빠르게 얻기 위해 원격지도학습 방식으로 데이터를 수집한다. 이러한 데이터는 잘못 분류되어 학습데이터로 사용되기 때문에 모델의 성능에 부정적인 영향을 끼칠 수 있다. 본 논문에서는 이러한 문제를 강화학습 접근법을 사용해 해결하고자 한다. 본 논문에서 제안하는 모델은 오 분류된 데이터로부터 좋은 품질의 데이터를 찾는 문장선택기와 선택된 문장들을 가지고 학습이 되어 관계를 추출하는 관계추출기로 구성된다. 문장선택기는 지도학습데이터 없이 관계추출기로부터 피드백을 받아 학습이 진행된다. 이러한 방식은 기존의 관계추출 모델보다 좋은 성능을 보여주었고 결과적으로 원격지도학습데이터의 단점을 해결한 방법임을 보였다.

  • PDF

A Study on Efficient Machine Learning Method Using Random Search and Genetic Algorithm Search (랜덤 탐색과 유전 알고리즘 탐색을 이용한 효율적 기계학습 방법 연구)

  • Lee, Kyung-Tae;Kwon, Young-Keun
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2020.05a
    • /
    • pp.494-496
    • /
    • 2020
  • 기계학습 모델을 이용한 분류 및 회귀 문제해결에는 다양한 전처리 알고리즘 및 기계학습 모델이 활용된다. 하지만 합리적인 성능을 위해서는 주어진 데이터에 따라 적절한 알고리즘 조합에 대한 탐색 및 최적화 과정이 펄수적이다. 본 논문에서는 최적의 알고리즘 조합을 탐색하는 방법 중 랜덤 탐색과 유전 알고리즘 탐색 방법을 구현하고 8가지 데이터에 대한 성능 비교를 통해 여러 기계학습 모델을 고려하는 탐색 방법의 필요성을 보인다.

A Word Semantic Similarity Measure Model using Korean Open Dictionary (우리말샘 사전을 이용한 단어 의미 유사도 측정 모델 개발)

  • Kim, Hoyong;Lee, Min-Ho;Seo, Dongmin
    • Proceedings of the Korea Contents Association Conference
    • /
    • 2018.05a
    • /
    • pp.3-4
    • /
    • 2018
  • 단어 의미 유사도 측정은 정보 검색이나 문서 분류와 같이 자연어 처리 분야 문제를 해결하는 데 큰 도움을 준다. 이러한 의미 유사도 측정 문제를 해결하기 위하여 단어의 계층 구조를 사용한 기존 연구들이 있지만 이는 단어의 의미를 고려하고 있지 않아 만족스럽지 못한 결과를 보여주고 있다. 본 논문에서는 국립국어원에서 간행한 표준국어대사전에 50만 어휘가 추가된 우리말샘 사전을 기반으로 하여 한국어 단어에 대한 계층 구조를 파악했다. 그리고 단어의 용례를 word2vec 모델에 학습하여 단어의 문맥적 의미를 파악하고, 단어의 정의문을 sent2vec 모델에 학습하여 단어의 사전적 의미를 파악했다. 또한, 구축된 계층 구조와 학습된 word2vec, sent2vec 모델을 이용하여 한국어 단어 의미 유사도를 측정하는 모델을 제안했다. 마지막으로 성능 평가를 통해 제안하는 모델이 기존 모델보다 향상된 성능을 보임을 입증했다.

  • PDF

World Representation Using Complex Network for Reinforcement Learning (복잡계 네트워크를 이용한 강화 학습에서의 환경 표현)

  • 이승준;장병탁
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2004.04b
    • /
    • pp.622-624
    • /
    • 2004
  • 강화 학습(Reinforcement Learning)을 실제 문제에 적용하는 데 있어 가장 큰 문제는 차원성의 저주(Curse of dimensionality)였다 문제가 커짐에 따라 목적을 이루기 위해서 더 많은 단계의 판단이 필요하고 이에 따라 문제의 해결이 지수적으로 어려워지게 된다. 이를 해결하기 위해 문제를 여러 단계로 나누어 단계별로 학습하는 계층적 강화 학습(Hierarchical Reinforcement Learning)이 제시된 바 있다 하지만 대부분의 계층적 강화 학습 방법들은 사전에 문제의 구조를 아는 것을 전제로 하며 큰 사이즈의 문제를 간단히 표현할 방법을 제시하지 않는다. 따라서 이들 방법들도 실제적인 문제에 바로 적용하기에는 적합하지 않다. 최근 이루어진 복잡계 네트워크(Complex Network)에 대한 연구에 착안하여 본 논문은 자기조직화하는 생장 네트워크(Self organizing growing network)를 기반으로 한 간단한 환경 표현 모델을 사용하는 강화 학습 알고리즘을 제안한다 네트웍은 복잡계 네트웍이 갖는 성질들을 유지하도록 자기 조직화되고, 노드들 간의 거리는 작은 세상 성질(Small World Property)에 따라 전체 네트웍의 큰 사이즈에 비해 짧게 유지된다. 즉 판단해야할 단계의 수가 적게 유지되기 때문에 이 방법으로 차원성의 저주를 피할 수 있다.

  • PDF

Effects of PSA programming learning on Problem solving ability and Logical thinking ability : In the case of High School Students (PSA 중심 프로그래밍 학습이 문제해결력과 논리적 사고력에 미치는 효과 : 고등학생을 대상으로)

  • Kim, Hyung-Chul;Ko, Young-Min;Kim, Hanil;Kim, Cheolmin
    • The Journal of Korean Association of Computer Education
    • /
    • v.18 no.5
    • /
    • pp.1-13
    • /
    • 2015
  • In recent domestic and international curriculum it is emphasized that students should acquire 'problem solving' competence as a member of knowledge information society and various programming educational methods of improving problem solving competence have been studied. But there is no difference between programming problems in related research and traditional programming courses. Most methods of solving problems are focused on acquiring specific languages rather than enhancing problem solving ability. In this research, we developed a suitable programming problems and curriculum for fostering problem solving competence and designed and developed teaching and learning contents based on PSA(Problem Solving Activities). Furthermore, we obtained meaningful results of improving learners' problem solving ability and logical thinking ability by operating curriculum with developed contents as learning materials. The results of this research are expected to be used as a reference model or basic teaching materials for developing and operating the programming teaching and learning contents or curriculum to enhance problem solving competence.

Query Normalization Using P-tuning of Large Pre-trained Language Model (Large Pre-trained Language Model의 P-tuning을 이용한 질의 정규화)

  • Suh, Soo-Bin;In, Soo-Kyo;Park, Jin-Seong;Nam, Kyeong-Min;Kim, Hyeon-Wook;Moon, Ki-Yoon;Hwang, Won-Yo;Kim, Kyung-Duk;Kang, In-Ho
    • Annual Conference on Human and Language Technology
    • /
    • 2021.10a
    • /
    • pp.396-401
    • /
    • 2021
  • 초거대 언어모델를 활용한 퓨샷(few shot) 학습법은 여러 자연어 처리 문제에서 좋은 성능을 보였다. 하지만 데이터를 활용한 추가 학습으로 문제를 추론하는 것이 아니라, 이산적인 공간에서 퓨샷 구성을 통해 문제를 정의하는 방식은 성능 향상에 한계가 존재한다. 이를 해결하기 위해 초거대 언어모델의 모수 전체가 아닌 일부를 추가 학습하거나 다른 신경망을 덧붙여 연속적인 공간에서 추론하는 P-tuning과 같은 데이터 기반 추가 학습 방법들이 등장하였다. 본 논문에서는 문맥에 따른 질의 정규화 문제를 대화형 음성 검색 서비스에 맞게 직접 정의하였고, 초거대 언어모델을 P-tuning으로 추가 학습한 경우 퓨샷 학습법 대비 정확도가 상승함을 보였다.

  • PDF