• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2019년도 제31회 한글 및 한국어 정보처리 학술대회
• /
• pp.236-238
• /
• 2019

신경망 기계 번역(Neural Machine Translation)은 주로 지도 학습(Supervised learning)을 이용한 End-to-end 방식의 연구가 이루어지고 있다. 그러나 지도 학습 방법은 데이터가 부족한 경우에는 낮은 성능을 보이기 때문에 BERT와 같은 대량의 단일 언어 데이터로 사전학습(Pre-training)을 한 후에 미세조정(Finetuning)을 하는 Transfer learning 방법이 자연어 처리 분야에서 주로 연구되고 있다. 최근에 발표된 MASS 모델은 언어 생성 작업을 위한 사전학습 방법을 통해 기계 번역과 문서 요약에서 높은 성능을 보였다. 본 논문에서는 영어-한국어 기계 번역 성능 향상을 위해 MASS 모델을 신경망 기계 번역에 적용하였다. 실험 결과 MASS 모델을 이용한 영어-한국어 기계 번역 모델의 성능이 기존 모델들보다 좋은 성능을 보였다.

• 한국정보교육학회:학술대회논문집
• /
• 한국정보교육학회 2010년도 동계학술대회
• /
• pp.101-107
• /
• 2010

컴퓨터와 통신 기술이 발달한 정보화 사회의 현실에서 웹 기반의 프로그램 및 모바일은 중요한 매체로서 자리잡아가고 있다. 읽기는 정보 획득에서 가장 중요한 학습능력이나 학습장애아의 대부분이 읽기능력에서 문제를 가지고 있다. 오늘날 컴퓨터의 발달은 아동의 언어교육 특히 읽기 교육을 위해서 시간과 공간의 제약을 넘어 자주적으로 학습할 수 있는 모바일 활용 학습을 가능하게 하고 있다. 본 논문의 목적은 학습장애아들의 읽기 능력을 향상하기 위한 PREP 기반의 모바일 시스템을 설계하는 데 있다. 본 시스템을 통해 첫째, 학습장애아들의 읽기 능력 프로그램이 특수교사, 일반교사, 학생과 상호협력 할 수 있는 프로그램을 제공함으로써 학습장애아의 읽기 능력에 대한 진전도를 점검하고 학습능력을 향상시킬 수 있도록 설계하였다. 둘째, 학습자의 개별적 수준에 따라 수준별 학습을 제공하여 다양한 학생의 개별적 수준을 충족할 수 있도록 설계함으로써 학습장애아동의 읽기능력 향상에 기여할 수 있다. 셋째, 모바일 기기를 통해 공간적, 시간적 제약을 벗어남으로써 기존의 PREP 프로그램을 적용하는 것보다 효과적으로 읽기 능력을 향상시킬 수 있다.

• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2022년도 제34회 한글 및 한국어 정보처리 학술대회
• /
• pp.47-52
• /
• 2022

환자와 주변인들에게 다양한 문제를 야기하는 치매와 조현병 진단을 위한 모델을 제안한다. 치매와 조현병 진단을 위해 프로토콜에 따라 녹음한 의사와 내담자 음성 시료를 전사 작업하여 분류 태스크를 수행하였다. 사전 학습한 언어 모델의 MLM Head를 이용해 분류 태스크를 수행하는 Prompt 기반의 분류 모델을 제안하였다. 또한 많은 수의 데이터 수를 확보하기 어려운 의료 분야에 효율적인 Few-Shot 학습 방식을 이용하였다. CLS 토큰을 미세조정하는 일반적 학습 방식의 Baseline과 비교해 Full-Shot 실험에서 7개 태스크 중 1개 태스크에서 macro, micro-F1 점수 모두 향상되었고, 3개 태스크에서 하나의 F1 점수만 향샹된 것을 확인 하였다. 반면, Few-Shot 실험에서는 7개 태스크 중 2개 태스크에서 macro, micro-F1 점수가 모두 향상되었고, 2개 태스크에서 하나의 F1 점수만 향상되었다.

• 한국과학교육학회지
• /
• 제19권3호
• /
• pp.367-376
• /
• 1999

본 연구에서는 중학교 1학년 37명을 대상으로 과학 수업에서 협동학습을 실시하고 소집단 협동학습 과정을 녹음/녹화하였다. 이를 토대로 협동학습 과정에서 발생하는 언어적 행동 유형을 범주화하고 이들과 학업 성취도 사이의 관계를 조사하였다. 학생들의 언어적 행동은 크게 학습 내용과 관련된 행동 및 조 활동 관리와 관련된 행동으로 구분되었다. 학습 내용과 관련된 행동은 도움 주기, 문제 읽기, 도움 요청하기로 세분되었으며, 이 중 도움 주기 행동이 가장 많았다. 학생들의 언어적 행동과 학업 성취도 사이의 단순 상관 관계를 조사한 결과, 도움 주기와 문제 읽기 행동이 학업 성취도와 정적인 상관이 있었다. 도움 주기 중 구체적인 내용을 제공하는 행동은 학업 성취도와 매우 밀접한 관계가 있었다. 한편, 부분 상관을 통하여 언어적 행동과 학업 성취도 향상과의 관계를 조사한 결과, 상위 수준의 사고를 요하는 적용 영역 성취도의 향상만이 구체적인 내용 제공하기를 비롯한 일부 언어적 행동과 정적인 상관이 있었다.

• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2023년도 제35회 한글 및 한국어 정보처리 학술대회
• /
• pp.704-706
• /
• 2023

이 논문에서는 과학기술분야 특화 한국어 사전학습 언어모델인 KorSciDeBERTa를 소개한다. DeBERTa Base 모델을 기반으로 약 146GB의 한국어 논문, 특허 및 보고서 등을 학습하였으며 모델의 총 파라미터의 수는 180M이다. 논문의 연구분야 분류 태스크로 성능을 평가하여 사전학습모델의 유용성을 평가하였다. 구축된 사전학습 언어모델은 한국어 과학기술 분야의 여러 자연어처리 태스크의 성능향상에 활용될 것으로 기대된다.

• 한국컴퓨터정보학회:학술대회논문집
• /
• 한국컴퓨터정보학회 2016년도 제53차 동계학술대회논문집 24권1호
• /
• pp.327-328
• /
• 2016

프로그래밍 교육은 프로그래밍에 필요한 지식 교육부분과 문제해결능력과 연관된 프로그래밍 전략을 교육하는 부분이 함께 필요하다. 프로그램 작성 기술을 교육하는 과정은 단순한 지식 습득과정이 아니므로 수업과정에서 학습자 스스로 문제해결능력을 배양할 수 있는 유도과정이 필요하다. 이러한 특성의 프로그래밍 수업의 대표적인 수업방식은 실습방식으로, 실제 수업에서 학습자들의 서로 다른 수준을 고려하면서 실습수업을 효과적으로 운영하기에는 수업시간에 대한 제약이 많이 발생한다. 본 연구에서는 프로그래밍 교육에서 사전 프로그래밍 과제를 활용하여 주어진 학점과 시간 안에서 실습 중심의 학습 효과를 높일 수 있는 교수 학습 모델을 제시한다. 이를 통해 프로그래밍 언어 교육 과정에서 발생하는 제한된 실습수업 시간으로 인해 학습자 스스로가 문제해결능력을 배양할 수 있도록 유도하는 수업을 실시하는데 발생하는 어려움을 해결하여, 학습자가 문제해결능력을 향상시키고 좋은 프로그램 작성 기준에 적합한 프로그램 개발 능력을 배양하는 결과를 얻을 수 있었다.

• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2018년도 제30회 한글 및 한국어 정보처리 학술대회
• /
• pp.252-255
• /
• 2018

화행 분석이란 자연어 발화를 통해 나타나는 화자의 의도를 파악하는 것을 말하며, 슬롯 필링이란 자연어 발화에서 도메인에 맞는 정보를 추출하기 위해 미리 정의되어진 슬롯에 대한 값을 찾는 것을 말한다. 최근 화행 분석과 슬롯 필링 연구는 딥 러닝 기반의 공동 학습을 이용하는 연구가 많이 이루어지고 있고 본 논문에서는 한국어 특허상담 도메인 대화 말뭉치를 이용하여 공동 학습 모델을 구축하고 개별적인 모델과 성능을 비교한다. 또한 추가적으로 공동 학습 모델에 주의집중 메커니즘을 적용하여 성능이 향상됨을 보인다. 최종적으로 주의집중 메커니즘 기반의 공동 학습 모델이 기준 모델과 비교하여 화행 분류와 슬롯 필링 성능이 각각 3.35%p, 0.54%p 향상되어 85.41%, 80.94%의 성능을 얻었다.

• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2020년도 제32회 한글 및 한국어 정보처리 학술대회
• /
• pp.473-476
• /
• 2020

개체명 인식에 적용된 대부분의 신경망 모델들에서 CRFs와 결합을 통해 성능 향상을 하였다. 그러나 최근 대용량 데이터로 사전 학습한 모델을 활용하는 경우, 기 학습된 많은 유의미한 파라미터들로 인해 CRFs의 영향력이 비교적 작아졌다. 따라서 본 논문에서는 한국어 대용량 말뭉치로 사전 학습한 ELECTRA 모델에서의 CRFs 가 개체명 인식에 미치는 영향을 확인해보고자 한다. 모델의 입력 단위로 음절 단위와 Wordpiece 단위로 사전 학습된 두 가지의 모델을 사용하여 미세 조정을 통해 개체명 인식을 학습하였다. 실험을 통해서 두 모델에 대하여 각각 CRFs 층의 유무에 따른 성능을 비교해 보았다. 그 결과로 ELECTRA 기반으로 사전 학습된 모델에서 CRFs를 통한 F1-점수 향상을 보였다.

• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2019년도 제31회 한글 및 한국어 정보처리 학술대회
• /
• pp.434-439
• /
• 2019

딥러닝 기반 분류 모델에 있어 데이터의 클래스 불균형 문제는 소수 클래스의 분류 성능을 크게 저하시킨다. 본 논문에서는 앞서 언급한 클래스 불균형 문제를 보완하기 위한 방안으로 적대적 학습 기법을 제안한다. 적대적 학습 기법의 성능 향상 여부를 확인하기 위해 총 4종의 딥러닝 기반 분류 모델을 정의하였으며, 해당 모델 간 분류 성능을 비교하였다. 실험 결과, 대화 데이터셋을 이용한 모델 학습 시 적대적 학습 기법을 적용할 경우 다수 클래스의 분류 성능은 유지하면서 동시에 소수 클래스의 분류 성능을 크게 향상시킬 수 있음을 확인하였다.

• 한국정보교육학회:학술대회논문집
• /
• 한국정보교육학회 2008년도 동계학술대회
• /
• pp.123-128
• /
• 2008

1960년대 후반에 미국MIT대학의 인공지능 실험실에서 Seymour Papert와 그의 동료들에 의해 개발된 LOGO프로그래밍 언어학습이 초등학생의 창의성 발달에 미치는 영향을 연구하고자 하였다. 그래서 LOGO프로그래밍 언어는 MSWLogo를 초등학교 5학년을 대상으로 주 2회 20차시 학습을 하고 창의성 검사는 TORRANCE TTCT(도형)을 활용하여 실시했으며, 창의성 전체요인과 세부항목에 미치는 영향을 분석하였다. 그 결과를 요약하면 다음과 같다. 첫째, LOGO프로그래밍 언어 학습 활동이 창의성 발달에 효과적인 것으로 보인다. 둘째, LOGO프로그래밍 언어가 세부항목인 유창성, 독창성, 추상성, 정교성, 저항요인 향상에 영향을 미치는 것으로 나타났다. 셋째, 실험집단 내 남학생과 여학생간의 창의성 발달에 기여하는 정도는 동일한 것으로 나타났다. 이상의 연구 결과를 종합해 볼 때 LOGO프로그래밍 언어가 아동의 두뇌 활동을 자극하여 창의성 발달에 유용한 것으로 사료된다.