• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2012년도 제24회 한글 및 한국어 정보처리 학술대회
• /
• pp.121-122
• /
• 2012

컴퓨터를 사용한 서술형 답안의 자동채점은 채점의 편의성과 객관성을 제고하기 위하여 많은 연구자들이 연구해 왔으며 자동채점의 성능을 향상시키기 위해 여러 가지 방법들이 제안되었다. 본 논문은 서술어 정규화를 통하여 서술형 답안의 자동채점 정확도를 높이고자 하였다. 기존의 다른 채점 방법들과 비교했을때 서술어 정규화 기법을 적용한 채점 방식은 기존의 방법들보다 유사도 계산 정확도가 향상되어 정답 판별 정확도가 향상되는 것을 확인할 수 있었다. 서술어 정규화는 기존의 모든 서술형 답안 채점 방법에 추가적으로 적용할 수 있는 범용성을 가지고 있다. 따라서 서술어 정규화는 기존 방법들의 자동채점 정확도를 향상시켜 보다 정확하게 서술형 답안을 채점할 수 있다.

• 한국컴퓨터정보학회논문지
• /
• 제18권8호
• /
• pp.17-25
• /
• 2013

본 논문에서는 투표기법을 이용하여 서술형 주관식 문제에 대한 학습자 답안을 자동으로 채점하는 모델을 제안한다. 제안하는 방법은 모델 구축 비용을 줄이기 위해서, 문제 유형별로 세분화하여 서술형 주관식 답안 자동 채점 모델을 따로 구축하지 않는다. 제안하는 방법은 서술형 주관식 답안 자동 채점에 유용한 자질을 추출하기 위해서, 모범 답안과 학습자 답안을 비교한 결과를 바탕으로 다양한 자질을 추출한다. 제안하는 방법은 답안 채점 결과의 신뢰성을 높이기 위해서, 각 학습자 답안을 여러 기계학습 기반 분류기를 이용하여 채점하고, 각 채점 결과를 투표하여 만장일치로 선택한 채점 결과를 최종 채점 결과로 결정한다. 실험결과 기계학습 기반 분류기 C4.5만 사용한 채점 결과는 정확률이 83.00%인데 반해, 기계학습 기반 분류기 C4.5, ME, SVM에서 만장일치로 선택한 채점 결과는 정확률이 90.57%까지 개선되었다.

• 한국HCI학회:학술대회논문집
• /
• 한국HCI학회 2009년도 학술대회
• /
• pp.606-610
• /
• 2009

본 논문에서는 단기 서술형 답안의 자동 채점을 위하여 기계 번역 자동 평가에서 널리 사용되는 BLEU(BiLingual Evaluation Understudy)를 활용한 방법을 제안한다. BLEU 는 기계가 번역한 것이 사람이 번역한 것과 비슷할수록 기계번역의 질이 좋을 것이다 라는 것을 가정하여 평가한다. 즉, 특정 문장을 여러 사람이 번역한 문장을 기계가 번역한 문장과 n-gram 방식으로 비교해 점수를 매기는 것이다. 이와 비슷하게 본 연구에서는 여러 개의 정답 문장과 학생의 답안 문장을 BLEU 와 같은 방식으로 상호 비교하여 학생의 답안을 채점하였다. 실험에서는 이러한 채점 방식의 정확도를 평가하기 위하여 사람이 채점한 점수와의 상관관계를 계산하였다.

• 한국가정과교육학회지
• /
• 제32권3호
• /
• pp.135-159
• /
• 2020

본 연구는 교육과정, 수업, 평가의 일체화를 강조하고 있는 교육의 변화 속에서 2015 개정 가정과 교육과정에서 수업과 평가를 연계할 수 있는 서술형 평가 문항을 개발하는 것에 목적을 두었으며 연구의 내용은 다음과 같다. 첫째, 평가계획 수립 단계에서는 평가기준에 제시된 평가 영역 중 서술형 평가에 적합한 14개의 성취기준이 분석되었으며 총 29개 문항의 내용요소를 포함하여 문항요소를 개발하였다. 둘째, 평가도구 개발 단계에서는 서술형 문항의 구조에 알맞은 문항을 사전개발하고, 문항에서 활용할 자료, 채점기준의 제시 방법을 각 문항에 맞게 선택하였다. 셋째, 답안 및 채점기준표 작성 단계에서는 채점기준과 부분점수별 예시 답안을 채점기준표로 작성하고 평가목표와 채점 항목, 항목별 배점을 검토하였다. 넷째, 전문가 검토 및 수정·보완 단계에서는 개발된 문항과 답안들은 전문적 교과학습공동체 교사들과 함께 문항 구성요소, 평가목표의 구체화, 출제 의도의 구현 여부, 채점 결과에 대하여 예비검토와 상호검토를 거쳐 수정·보완하였다. 본 연구는 서술형 평가 문항과 채점기준 개발을 위한 기초 연구로 활용될 수 있으며, 이를 통해 교사의 평가 전문성에 대한 인식변화를 도모하고 추후 학습자의 지식 적용능력을 높이기 위한 서술형 문항개발 연구에 도움이 될 수 있을 것이다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2005년도 춘계학술발표대회
• /
• pp.1027-1030
• /
• 2005

기존 의미커널을 적용한 주관식 채점 시스템은 여러 답안과 말뭉치에서 추출한 색인어들과의 상관관계를 벡터방식으로 표현하여 자연어 처리에 대한 문제를 해결하려 하였다. 본 논문에서는 기존 시스템의 답안 및 색인어의 표현 한계로 인한 유사도 계산오차 가능성에 대한 문제를 해결하고자 시소러스를 이용한 임의 추출 방식의 답안 확장을 적용하였다. 서술형 주관식 평가에서는 문장의 문맥보다는 사용된 어휘에 채점가중치가 높다는 점을 착안, 출제자와 수험자 모두의 답안을 동의어, 유의어 그룹으로 확장하여 채점 성능을 향상시키려 하였다. 우선 두 답안을 형태소 분석기를 이용해 색인어를 추출한 후 워드넷을 이용하여 동의어, 유의어 그룹으로 확장한다. 이들을 말뭉치 색인을 이용하여 단어들 간 상관관계를 측정하기 위한 벡터로 구성하고 의미 커널을 적용하여 정답 유사도를 계산하였다. 출제자의 채점결과와 각 모델의 채점 점수의 상관계수 계산 결과 ELSA 모델이 가장 높은 유사도를 나타내었다..

• 한국수학교육학회지시리즈A:수학교육
• /
• 제63권2호
• /
• pp.187-207
• /
• 2024

본 연구에서는 GPT-4 기반의 ChatGPT를 활용한 서술형 평가 문항의 자동 채점 가능성을 탐색하기 위해 교사와 GPT-4 기반의 ChatGPT의 채점 결과를 비교, 분석하였다. 이를 위해 학생평가지원포털에 있는 고등학교 1학년 순열과 조합 단원에서 3개의 서술형 문항을 선정하였다. 문항 1, 2는 문제 해결 전략이 1가지인 문항이고, 문항 3은 문제 해결 전략이 2가지 이상인 문항이었다. 8년 이상의 교육 경력이 있는 교사 2명이 학생 204명의 답안을 채점하고, GPT-4 기반의 ChatGPT의 채점 결과와 비교하였다. 문항별로 Few-Shot-CoT, SC, 구조화, 반복 프롬프트 기법 등을 활용하여 채점을 위한 프롬프트를 구성하였고, 이를 GPT-4 기반의 ChatGPT에 입력하여 채점하였다. 채점 결과, 문항 1, 2는 교사의 채점 결과와 GPT-4의 채점 결과 사이에 강한 상관관계를 충족하였다. 문제 해결 전략이 2가지인 문항 3은 먼저 채점 전 학생 답안을 문제 해결전략별로 분류하는 프롬프트를 GPT-4 기반의 ChatGPT에 입력하여 답안을 분류하였다. 이후 유형별로 채점 프롬프트를 적용하여 GPT-4 기반의 ChatGPT에 입력하여 채점하였고, 채점 결과 역시 교사의 채점 결과와 강한 상관관계가 나타났다. 이를 통해 프롬프트 엔지니어링을 활용한 GPT-4 모델이 교사의 채점을 보조할 수 있는 가능성을 확인하였으며 본 연구의 한계점 및 향후 연구 방향을 제시하였다.

• 한국컴퓨터정보학회논문지
• /
• 제17권3호
• /
• pp.135-141
• /
• 2012

인터넷 발전은 교육과 평가 방법에서 많은 변화를 가져왔다. 인터넷을 이용한 원격교육은 학습 결과를 측정하기 위해 시험의 시행이 온라인으로 이루어지고 있다. 온라인 시험은 출제 및 시험 감독에 대한 연구가 많이 진행 되었지만 시험 답안의 진본성 검증에 대한 연구는 이루어지지 않고 있다. 시험 답안지 작성 형식에는 선택형, 단답형, 서술형, 실습형 등이 있는데 실습형을 제외한 답안 작성은 웹상에서 가능하다. 본 논문에서는 실습형 답안지 중 컴퓨터활용 답안의 진본 확인을 위해 답안지에 검증정보를 기록하여 진본임을 검증할 수 있는 시스템을 구현한다. 이 시스템의 특징은 인터넷에서 컴퓨터활용 시험 실시 중 답안지가 부정하게 작성되었는지를 검증하는 것이다. 이 시스템은 진본 검증을 위해 검증정보를 서버에서 응시자 답안지에 기록하도록 하였으며, 그 결과 제출된 답안지의 검증정보를 이용하여 진본여부를 검증하는 것이다.

• 한국초등수학교육학회지
• /
• 제18권2호
• /
• pp.297-318
• /
• 2014

이 연구는 서술형 평가문항을 스스로 선발하거나 개발해야하는 초등학교 교사들에게 평가 문항에 대한 안목과 평가문항 제작 시 유의점을 제공하기 위해 시도되었다. 이를 위해 서술형 평가시행에 대해 적극적인 노력을 기울여 왔던 경기도 교육청이 2011년과 2012년에 개발한 초등학교 서술형 평가 문항 30개와 그 문항으로 시험을 치룬 2개 초등학교 3, 4, 5, 6학년 학생들의 채점된 답안지를 분석하였다. 이 연구에서는 학생들의 채점된 답안지에서 발견된 채점 및 답안 기술의 오류가 교사나 학생의 문제가 아니라 평가 문항의 결함에서 비롯된 것이라 여겨지는 것들만 선별하여 사례로 정리하고, 그에 대응하는 개선방안을 제시하였다. 이 연구에서 도출한 초등학교 수학과 서술형 평가 문항의 문제점은 크게 세 가지이다. 첫째, 고등사고력을 평가한다는 서술형 평가의 기본취지를 살리지 못하는 경우, 둘째, 채점의 공정성 문제를 불러일으키는 경우, 셋째, 문제에 포함된 내용이 학생에게 그릇된 단서로 작용하는 경우 등이 그것이다.

• 한국가정과교육학회지
• /
• 제23권3호
• /
• pp.69-90
• /
• 2011

본 연구는 중학교 기술 가정 교과 의생활 영역을 중심으로 타당도 신뢰도 높은 서술형 평가 문항을 개발하여, 이를 학생들에게 적용해보고, 평가 결과를 분석해보는 것에 목적을 두었다. 이를 위해 평가할 내용을 분석하고, 평가 문항을 설계 개발하여 평가를 실시한 후 그 결과를 분석하였다. 목표 이원분류표와 평가 영역 및 평가 목표 설정을 토대로 서술형 평가 문항 초안을 작성하였고, 채점 기준표와 예시답안을 함께 작성하였다. 전문가 검토와 예비 검사를 거쳐, 최종적으로 서술형 평가 문항 총 23개를 완성하였으며, 이를 중학교 2학년 2개 학급 총 65명을 대상으로 본 검사를 시행하고 분석하였다. 본 연구의 결과, 서술형 평가 문항의 타당도는 각 문항별로 비교적 높게 나타났다. 채점자간 신뢰도는 세 채점자간에 강한 상관관계가 있는 것으로 나타나 개발된 평가 문항은 타당하고 신뢰할 만한 문항이라고 할 수 있다. 반면, 개발된 서술형 평가 문항에 대한 학업 성취도는 전반적으로 낮았다. 즉, 알고 있는 지식을 자신의 언어로 표현해서 서술하는 것과 정확하고 구체적인 답안을 작성하는 것을 힘들어했다. 또한 서술형 평가에 대해 비교적 긍정적으로 인식하고 있었으나, 서술하는 것에 대한 어려움, 학습량의 증가 등이 학생들에게 서술형 평가를 부담스러워 하는 것으로 인식하였다. 따라서 서술형 평가 방식을 통한 학생들의 평가가 보다 효율적이고 변별력 있게 시행되기 위해서는 서술형 평가를 위한 별도의 학습이나 훈련이 반드시 필요하다고 볼 수 있다. 이를 위해 앞으로 학생들은 수업시간을 통해서 교과 내용과 관련된 교과서 이외의 다양한 자료를 접해보고, 주어진 문제의 해결 방법에 대해 자신의 생각을 정리해보며, 사고를 확장시키고, 이를 글로 서술하여 표현해보는 연습이 요구된다. 그러므로 서술형 평가가 학교 현장에서 공정하고 객관성 있게 시행되기 위해서는 타당도 신뢰도 높은 평가 문항의 개발이 더욱 활발히 이루어져야 하고, 평가 문항의 개발과 관련된 교사들의 자발적이고 적극적인 연수와 연찬을 제안해 본다.

• 정보처리학회논문지A
• /
• 제12A권6호
• /
• pp.539-546
• /
• 2005

최근 인터넷 사용자가 급증하면서 원격교육의 발전과 함께 평가에서도 원격을 이용한 방법이 많이 사용되고 있다. 하지만 현재까지는 자연언어처리의 어려움으로 객관식이나 단답식 평가가 주류를 이루고 있다. 본 논문에서는 서술형 주관식 문제의 빠르고 공정한 지능형 채점을 위하여, 다양한 언어 지식을 활용하였다. 이를 위하여, 가공되지 않은 말뭉치에서 의미커널을 구축하고, 수험자가 작성한 답안과 이미 구축된 정답을 벡터로 구성하여 이 답안간의 유사도를 의미커널을 통해 계산하여 정답여부를 자동으로 판단하도록 하였다. 의미커널을 구축하기 위하여 벡터 공간 모델에 기반한 은닉 의미 분석을 이용하였으며, 또한 한글 워드넷을 이용하여 답안의 정보부족 문제를 줄여보고자 하였다. 실험을 위하여 3000 문항의 주관식 문제를 구축하였으며, 의미커널의 구축을 위하여 38,727개의 신문기사를 모아 말뭉치로 구성하고 75,175개의 색인어를 추출하였다. 의미커널에 기반한 자동 채점 시스템으로 실제 수험자에 의하여 작성된 답안을 채점한 결과, 출제자가 실제로 채점한 결과를 기준으로 하여 최고 0.894의 상관관계를 얻을 수 있었다