• 과학교육연구지
• /
• 제47권2호
• /
• pp.211-224
• /
• 2023

본 연구의 목적은 예시 자료를 활용하여 자동문항생성을 기반으로 생성된 평가도구의 신뢰도를 산출하는 방안을 제시하는 데 있다. 이를 위해 학생들마다 다른 문항에 응답하는 설계와 평가 점수에 다중 오차요인을 반영할 수 있는 다변량일반화가능도이론을 예시 자료에 적용하여 분석하였다. G-연구분석 결과, 대부분의 설계에서 잔차 효과 다음으로 고전검사이론의 진점수에 해당하는 학생 효과가 크게 나타났다. 또한 문항 내용 영역을 고정한 설계에서 학생들의 상대적 순위는 문항 유형이나 문항에 따라 변하지 않았으며, 문항 유형을 고정한 설계에서 내용 영역에 따라 난이도는 거의 변화가 없는 것으로 나타났다. D-연구 분석 결과, 원자료는 적정수준 이상의 신뢰도를 확보하였으며, 수와 연산, 기하, 확률 및 통계 영역의 문항 수를 줄이거나 문자와 식과 함수 영역의 가중치를 높게 반영함으로써 원자료보다 높은 신뢰도를 산출할 수 있는 것으로 나타났다. 본 연구에서 제시한 효율적인 측정 조건은 예시 평가 자료에 제한되지만 본 연구에서 활용한 방법은 자동문항생성 기반의 다양한 평가 상황에서 측정학적 특성을 바탕으로 신뢰도를 산출하고, 효율적인 측정 조건을 탐색하는 데 적용 가능하다.

• 대한수학교육학회지:학교수학
• /
• 제13권1호
• /
• pp.89-105
• /
• 2011

대학수학능력시험은 1993년 시행된 1994학년도 수능 이래 크고 작은 변화를 거듭하여 왔다. 2012학년도 수능에서도 수리 영역은 적용되는 교육과정이 달라짐에 따라 출제 범위 등에 변화가 있을 예정이다. 전 영역에 2009년 개정 교육과정이 적용되는 2014학년도 수능에서는 더 큰 변화가 예상된다. 2014학년도 수능 체제 개편을 앞두고, 본 논문에서는 제7차 교육과정이 적용되었던 2005학년도~2011학년도 수능 수리영역의 결과를 분석하고, 이를 토대로 하여 수리 영역 출제 체제에 관한 제언을 하고자 한다. 첫째, 수험생들의 시험 부담 경감 및 학습 동기 고취를 위하여 더 쉽게 출제하고, 이에 따라 문항 수 및 배점을 재구성할 필요가 있다. 둘째, 선발고사로서의 변별력 확보와 시험의 신뢰성, 타당성 제고를 위하여 단답형 문항의 비율을 늘릴 필요가 있다. 셋째, 한 문항 내에 하위 문항을 출제하여 상황 파악에 소요되는 시간은 줄이고 주어진 상황을 다각도에서 심도 있게 탐구하도록 할 필요가 있다. 넷째, 요령과 기술에 의한 득점이 가능해진 특정 유형의 문항 출제를 지양하고 새로운 문항 유형을 개발하여야 한다.

• 한국콘텐츠학회논문지
• /
• 제13권12호
• /
• pp.321-327
• /
• 2013

이름대기 능력의 손상은 신경학적 질환을 지닌 환자뿐만 아니라, 정상적인 노화과정에 있는 노인에게서도 빈번하게 관찰된다. 이름대기 능력을 평가하기 위해 가장 널리 사용되고 있는 한국판 보스톤 이름대기 검사(Korean version-the Boston Naming Test, K-BNT)는 60문항으로 구성되어 있다. 일반노인들은 노화에 따른 주의력 감소로 인하여 검사 소요시간이 길면 검사에 대한 집중이 어려워지므로, 검사 결과에 대한 타당도 및 신뢰도를 확보하기 위해서는 문항축소가 바람직하다. 본 연구의 목적은 '문항반응이론(Item Response Theory)'을 적용하여, 60개 문항의 K-BNT를 일반노년층의 이름대기 능력을 가장 잘 평가할 수 있는 15개 문항의 검사(즉, K-BNT-15)를 개발하는 것이었다. 이를 위하여, 일반노인 175명을 대상으로 라쉬분석을 실시하여, 문항적합도, 성별 차이, 문항난이도 등을 평가하였다. K-BNT-15의 실시 결과, 일반 노년층은 10년 단위로 수행력이 감소하였고, 경도인지장애(mild cognitive impairment, MCI) 환자는 일반 노년층에 비해 유의하게 낮은 수행력을 보였다. 본 연구에서는 언어 평가도구의 단축형 개발 시, 특정 집단의 언어적 능력과 문항의 응답 결과의 관계를 규명하여 그 집단에게 적합한 문항을 선별할 수 있다는 점에서 문항반응이론이 유용함을 보여주었다. 또한, K-BNT-15가 노화에 따른 대면이름대기 감소 및 환자군과의 차이를 잘 보여주는 검사임을 검증하였다.

• 한국과학교육학회지
• /
• 제24권3호
• /
• pp.519-531
• /
• 2004

최근 제7차 교육과정이 실시되면서 준거 지향적인 수행평가에 대한 요구가 커지고 있으며, 이러한 상황에서 평가의 절대적인 기준을 마련할 필요성 또한 절실해지고 있다. 본 연구는 제7차 교육과정에 근거하여 고등학교 과학 중 '생식' 단원과 '생물 농축' 단원에 대해서 필수 학습 요소, 성취 기준, 평가 기준 및 평가 문항을 개발하고, 이를 바탕으로 개발한 평가 문항을 실제 현장에 적용하여 그 타당성을 검증하는 것을 목적으로 한다. 본 연구에서는 제7차 교육과정과 고등학교 과학의 7종 교과서를 바탕으로 하여, '생식' 과 '생물 농축' 단원의 필수 학습 요소를 추출하고, 준거 지향 평가의 기초가 되는 객관적이고 타당한 성취 기준 및 평가 기준을 마련하였다. 추출된 필수 학습 요소는 '생식' 단원에서 12개, '생물 농축' 단원에서 4개이었으며, 개발된 성취 기준은 '생식' 단원에서 총 26개, '생물 농축' 단원에서 총 9개로 각각은 지식(K), 탐구(P), 태도(A)의 세 개 영역으로 구분하여 개발하였다. 이상과 같이 개발된 성취 기준을 바탕으로 평가 기준을 개발하였다. 개발된 평가 기준의 수는 '생식' 단원에서 총 25개, '생물 농축' 단원에서 9개였다. 성취 기준과 평가 기준에 따라 '생식' 단원과 '생물 농축' 단원에서 개발된 평가 문항의 수는 서술형 문항 17개, 논술형 문항이 13개, 포트폴리오가 2개로 총 22문항이었다. 각 평가 문항은 구체적인 채점 기준을 제시하였으므로, 교육과정에 근거한 객관적인 평가에 사용될 수 있다. 개발된 평가 문항 중, 서술형 문항 8개를 경기도 소재 고등학교 1학년 학생 240명을 대상으로 적용 분석하였다. 서술형 문항에 대한 학생들의 응답을 두 가지 검사 이론을 적용하여 분석하였는데, 평가 문항의 기본적인 양호도 검증을 실시한 결과, 본 연구에서 개발된 서술형 문항들은 난이도와 변별도 면에서 전반적으로 적절한 지수를 보여 수행 평가로 사용하기에 적절한 문항들이었다. 개발한 서술형 수행 평가 문항들은 미리 개발된 성취 기준과 평가 기준을 바탕으로 하였으므로 교수 학습의 목표와 내용에도 적합하였다. 고전 검사 이론과 다분 문항 반응 이론에 의해 분석된 문항의 변별도에는 언어적인 해석의 차이가 없었으나, 문항 난이도의 경우는 고전 검사 이론을 사용하였을 때 집단의 특성이 많이 나타나 다분 문항 반응 이론을 사용한 결과와 비교하여 해석의 차이가 다양하게 나타났다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2007년도 추계학술발표대회
• /
• pp.609-612
• /
• 2007

정보사회와 컴퓨딩환경의 발전으로 언어, 학력, 인지도 등의 평가도구로서 컴퓨터기반의 평가환경이 보편화되었다. 특히 컴퓨터기반의 학력평가 환경을 위해서는 문항의 난이도와 변별도 등 문항의 특성을 정확히 분석하는 것이 필수적이다. 문항분석은 컴퓨터기반의 평가를 위한 양질의 문제은행 구성 및 문항과 수험자 능력의 정확한 추정과 체계적이고 과학적인 평가를 위한 전제조건이라 할 수 있다. 본 논문에서는 고전평가이론의 문제분석을 적용한 문제은행 시스템을 구현하였으며 수험결과를 분석하여 각 문제의 곤란도나 변별도, 문항분포도를 통하여 문제를 분석할 수 있도록 하였다. 또한 수험자가 각 문제를 푸는데 걸린 시간을 기록하여, 수험자의 문제에 이해도를 정확히 분석하고 수험자의 추측, 랜덤 선택 등으로 인한 정답을 맞힐 가능성과 한 문제를 읽고 이해하는 시간이 너무 오래걸린 이유에 대해서도 추정하였다. 문제분석 및 수험결과의 평가 및 분석으로 교사들은 문항의 양호도를 높일 수 있고 문제은행에 저장되어 있는 문항들을 수정하고 보완하여 양질의 문항을 출제할 수 있도록 하였다.

• 한국학교수학회논문집
• /
• 제16권1호
• /
• pp.63-86
• /
• 2013

이 연구의 목적은 중학생들이 논술형 문항을 해결하면서 무엇을 어렵게 느끼고 있으며 무엇이 문제인지를 알기 위한 것으로, 논술형 문항에 대한 중학생들의 다양한 반응을 살펴보고 학생들과의 인터뷰를 통하여 논술형 문항을 해결하는 동안의 학생들의 사고과정을 분석하였다. 학생들은 논술형 문항을 주로 풀이과정을 논리적으로 쓰는 것(17%), 설명하면서 풀 줄 알아야 하는 것(7%)으로, 또한 많은 수학적 이해를 필요로 하는 문제, 자신의 생각을 쓰는 것, 주관식 등으로 다양하게 인식하고 있었다. 논술형 문항을 해결할 때 가장 어려움을 겪는 부분에 대해서는 문제를 읽고 이해하기(26%), 적용하기(12%), 수학적 글쓰기(25%), 계산능력(23%), 추론능력(14%) 등으로 나타났다. 학생들의 수학적 숙련도에 대한 분석 결과, 각 비율이 추론의 오류(35%), 문제이해의 오류(31%), 적용의 오류(9%), 계산의 오류(3%) 순서로 나타났다.

• 한국콘텐츠학회논문지
• /
• 제22권9호
• /
• pp.439-450
• /
• 2022

연구 목적: 가임 여성의 조기진통에 대한 예방적 자가관리 지식(PSMK-PL) 측정도구를 개발하는 것이다. 연구 방법: 연구절차는 1단계 개념 정의(문헌 고찰, 질적 면담), 2단계 문항개발(문항작성, 전문가 내용타당도, 가임 여성의 인지적 면담), 3단계 내용타당도와 신뢰도 검정(250명의 온라인 설문조사 자료 분석)이었다. 문항반응이론을 적용한 내용타당도는 2-모수 로지스틱 모형을 사용하였다. 내적일관성 신뢰도는 Cronbach's α (95% CI)를 확인하였다. 연구 결과: 전문가 내용타당도 검정과 인지적 인터뷰를 통해 수정한 예비 문항 30개 중 적합도, 양류상관계수, 중요도를 고려해 6개를 삭제하였다. 최종 24문항, 하부 범주는 조기진통의 위험요인(10개), 예방적 관리(8개), 조기진통의 증상과 증상관리(6개)였다. 최종 문항 난이도(-2.18~0.90), 변별도(0.80~2.90), 내적합도(0.78~1.14), 양류상관계수(0.42~0.68)는 모두 수용할 만한 수준이었다. Cronbach's α (95% CI)는 .89(.87~.91)였다. 결론: PSMK-PL 측정도구는 가임 여성의 조기진통에 대한 예방적 자가관리지식을 측정할 수 있는 검정된 척도이다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 2003년도 봄 학술발표논문집 Vol.30 No.1 (A)
• /
• pp.566-568
• /
• 2003

본 논문에서는 SCORM을 기반으로 한 e-Learning 시스템에서 학습자의 학습 활동을 트래킹하여 학습자의 수준을 적응적으로 판단하는 기법을 제시하였다. 제시된 기법에서는 모집단의 크기가 작을 경우 교수자가 지정한 난이도를 이용하여 학습자의 수준을 판단하고, 모집단의 크기가 충분히 클 경우에는 문항반응이론을 적응한 난이도에 의해 학습자의 수준을 판단하였다. 문항반옹이론을 적용할 시점에서 교수자가 지정한 난이도가 문항반응이론에서 추정한 난이도와 차이가 날 경우, 교수자가 지정한 난이도를 문항반응이론의 난이도로 수정하는 적응적인 기법을 제시하였다. SCORM의 트래킹 기능을 이용하여 실험한 결과 문제를 푼 학습자의 수가 적을 경우에는 학습자 수의 변화에 따라 학습자의 수준이 계속 바뀌는 문제점이 있음을 알 수 있었다. 따라서 모집단의 크기가 작을 경우, 본 논문에서 제안한 방법에 의해 교수자가 지정한 문항의 난이도를 이용하여 학습자의 수준을 판단하는 것이 효과적이었다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2018년도 춘계학술발표대회
• /
• pp.187-190
• /
• 2018

최근 프로그래밍 교육에서 학생들의 학습 성취도를 빠르고 정확하게 평가하기 위하여 자동 채점 시스템을 사용한다. 강의를 통해 습득한 이론적인 지식을 이해하기 위해 직접 코드를 작성하는 실습이 진행되는 프로그래밍 교육에서 효과적이기 때문이다. 현재 실습에 필요한 실습문항의 대부분은 강사가 직접 생성해야 한다. 특히 강의내용을 바탕으로 예제 소스코드를 이해하여 빈 칸에 알맞은 코드를 작성하는 실습은 강사가 직접 빈 칸에 해당되는 부분을 예제 코드에서 지정해줘야 하는 추가적인 작업이 필요하다. 이러한 빈 칸 채우기 문항은 일반적으로 빈 칸이 고정된 행태이기 예문에 학생들이 답안을 공유하기 쉽다. 이를 막기 위해서 강사는 유사한 내용의 빈 칸 채우기 문항을 추가적으로 생성해야 한다. 하지만 대부분의 자동 채점 시스템은 이를 지원하지 않거나 강사에게 빈 칸을 직접 지정하도록 하는 경우가 대부분이다. 따라서 본 논문에서는 이러한 문제를 해결하는 빈 칸 채우기 문항 자동생성기법을 제안하고 적용 사례를 보인다.

• 한국조사연구학회지:조사연구
• /
• 제3권2호
• /
• pp.1-15
• /
• 2002

이 연구의 주된 목적은 성격요인검사의 문화간 타당도를 문항수준에서 평가해 보고자 하는 것이다. 차별기능문항분석법 중 Shealy와 Stout(1993)가 개발한 SIBTEST 프로그램을 이용하여서 두 문화 집단, 즉 한국과 미국간에 차별적으로 기능하고 있는 성격요인검사 문항을 밝혀냄으로써, 각 문항이 한국과 미국집단에서 동일한 내용을 측정하고 있는지 경험적으로 평가해 보았다. SIBTEST의 결과에 따르면, 5개의 하위척도를 가진 외향성 척도 중 총 45%의 문항이 두 문화집단에서 차별적으로 기능하고 있음이 밝혀졌다. 따라서 이 검사 점수를 이용하여 집단간 타당한 비교는 어려울 것이며, 일부문항에서 점수 동등성이 보장되지 못한 원인에 대한 후속 연구가 필요할 것이다. 마지막으로, 차별기능문항기법의 적용에 관한 방법론적인 시사점을 논의하였다.