• 제목/요약/키워드: evaluation question

검색결과 494건 처리시간 0.026초

KAB: Knowledge Augmented BERT2BERT Automated Questions-Answering system for Jurisprudential Legal Opinions

  • Alotaibi, Saud S.;Munshi, Amr A.;Farag, Abdullah Tarek;Rakha, Omar Essam;Al Sallab, Ahmad A.;Alotaibi, Majid
    • International Journal of Computer Science & Network Security
    • /
    • 제22권6호
    • /
    • pp.346-356
    • /
    • 2022
  • The jurisprudential legal rules govern the way Muslims react and interact to daily life. This creates a huge stream of questions, that require highly qualified and well-educated individuals, called Muftis. With Muslims representing almost 25% of the planet population, and the scarcity of qualified Muftis, this creates a demand supply problem calling for Automation solutions. This motivates the application of Artificial Intelligence (AI) to solve this problem, which requires a well-designed Question-Answering (QA) system to solve it. In this work, we propose a QA system, based on retrieval augmented generative transformer model for jurisprudential legal question. The main idea in the proposed architecture is the leverage of both state-of-the art transformer models, and the existing knowledge base of legal sources and question-answers. With the sensitivity of the domain in mind, due to its importance in Muslims daily lives, our design balances between exploitation of knowledge bases, and exploration provided by the generative transformer models. We collect a custom data set of 850,000 entries, that includes the question, answer, and category of the question. Our evaluation methodology is based on both quantitative and qualitative methods. We use metrics like BERTScore and METEOR to evaluate the precision and recall of the system. We also provide many qualitative results that show the quality of the generated answers, and how relevant they are to the asked questions.

맞춤형 콘텐츠 구성 엔진의 설계 및 구현 (Design and Implementation of the Customized Contents Organization Engine)

  • 허선영;김은경
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2009년도 추계학술대회
    • /
    • pp.599-601
    • /
    • 2009
  • 현재 이러닝 표준으로 채택하고 있는 SCORM은 런타임 시 학습자의 수준 변화에 따른 맞춤형 콘텐츠 제공이 어렵고, 선택적 학습을 제어하기 어렵다. 따라서 본 논문에서는 이러한 SCORM의 단점을 보완하기 위하여, 수준 평가 모듈, 콘텐츠 재구성 모듈, 문항 출제 모듈로 구성된 맞춤형 콘텐츠 구성 엔진(CCOE : Customized Contents Organization Engine)을 설계 및 구현하였다. 수준 평가 모듈은 문항반응이론을 기반으로 학습자의 수준을 평가하고, 문항 출제 모듈은 각 수준별로 랜덤하게 또는 학습자의 수준에 적합한 문항들을 추출하여 학습 이전 평가, 단원 평가 및 퀴즈로 제공하며, 퀴즈로 제공하기 위해 추출된 문항들을 콘텐츠 재구성 모듈로 전달한다. 콘텐츠 재구성 모듈은 콘텐츠에 태깅된 난이도를 검색하여 학습자의 수준에 적합한 콘텐츠를 추출하고, 문항 출제 모듈로부터 전달받은 퀴즈와 추출된 콘텐츠에 대한 시퀀스를 생성한다. 본 논문에서 제안한 CCOE를 활용하면, 각 단원별로 변화된 학습자의 수준을 재평가하여 변화된 수준에 적합한 학습 콘텐츠를 제공함으로써 학습 효과를 더 높일 수 있을 것으로 기대된다.

  • PDF

한의 오장변증진단평가 도구 개발을 위한 기초 연구 (Preliminary Study to Develop the Instrument of Korean Medical Pattern Identification and Functional Evaluation for Five Organ)

  • 장은수;윤용기;유호룡;유정은;김인창;박지연;정인철
    • 동의생리병리학회지
    • /
    • 제31권2호
    • /
    • pp.126-137
    • /
    • 2017
  • This study was aimed to develop the instrument of Korean medical pattern Identification and Functional Evaluation for Five Organ. This study followed seven steps, consisted of first composition of research members, second set-up of the aim, third review for advanced research, fourth finding an important index, fifth puting on the weight for index, sixth advice from linguist and last development of draft of questionnaire. Twenty two in and out researchers joined and put the weight on each question. We developed a draft version of questionnaire of Korean medical pattern identification and functional evaluation for five organ. Most questions between pattern identification and functional evaluation of five organ have similar weight, but several ones have difference in order. Generally, specific symptom represented specific location or related with pain have relatively higher weight on pattern identification, and weakness question gained weight on functional evaluation. We develop the questionnaire of Korean medical pattern identification and functional evaluation for five organ. Following study, which will evaluate the reliability and validity, is needed.

고등사고력 신장을 위한 중학교 기술.가정 주생활 영역 평가문항 개발 (Development of Housing Evaluation Questions to Enhance Higher-Thinking Skills in Middle school Home Economics)

  • 한수현;조재순
    • 한국가정과교육학회지
    • /
    • 제23권3호
    • /
    • pp.1-18
    • /
    • 2011
  • 지식기반사회에서 고등사고력이 강조되면서 교육평가도 고등사고력 중심의 평가에 초점을 맞춤으로써 학습자의 다양한 개성과 잠재 능력을 길러주고 사고력과 문제해결력을 키우며 인성 및 창의성을 신장시키는 방향으로 요구되고 있다. 이에 본 연구는 학생의 사고 능력을 제고시키고, 습득한 지식과 기능 토대로 생활에서의 문제해결능력, 의사결정능력, 창의력과 같은 고등사고 능력을 신장시킬 수 있는 평가문항을 개발하는데 목적이 있다. 먼저 내용요소 선정을 위해서 국가수준의 성취기준과 평가기준에 따라서 중학교 기술 가정 교과서의 '주생활' 영역을 중심으로 2007 개정교육과정에 따른 9종 교과서의 내용요소와, 교과서에 실린 평가문항, 공공기관에서 운영하고 있는 온라인 문제은행 사이트의 평가문항을 분석하였다. 그 결과에 따라 '가족의 생활' 단원에서 21 개, '가정생활의 실제' 단원에서 7개의 내용요소를 선정하여 총 28개의 평가 내용요소를 선정하였다. 다음으로 고등사고력에 관한 문헌 고찰을 토대로 평가문항 제작 시 고등사고력을 신장시킬 수 있는 방안을 모색하여 '다원목적분류표 사용', '다양한 자료 활용', '평가문항 유형의 다양화', '평가문항 구성의 다양화'라는 4가지 지침을 적용하여 대문항 80개, 소문항을 포함하면 총 175 개의 펑가문항을 개발하였다. 완성된 평가문항에 대해 교사 5인을 대상으로 실시한 타당도는 평균 4.9로 매우 높아 이 연구에서 개발된 평가문항은 개별학교 교육 상황에 맞게 재구성하여 활용함으로써 학생들의 고등사고력 신장에 기여할 수 있을 것으로 기대된다. 앞으로 이 연구에서 개발된 분항 대한 타당도와 신뢰도, 효과성에 대한 객관성을 높이는 후속 연구를 제안한다.

  • PDF

컴퓨터 실습 교양강좌에서 출석률과 강의평가의 관계 (The Relation of Attendance Rate and Course Evaluation in Computer Practice Liberal Education)

  • 최진호
    • 한국정보통신학회논문지
    • /
    • 제17권5호
    • /
    • pp.1233-1238
    • /
    • 2013
  • 대부분의 대학에서 실시되고 있는 강의평가는 교과목의 특성에 따라 많은 차이가 있음에도 불구하고 강의평가의 절대점수를 활용하여 교수평가를 하고 있다. 강의평가의 신뢰성 확보는 교육의 질 향상을 위해 학생들의 의견을 교수에게 피드백한다는 점에서 매우 중요하다. 본 논문에서는 신뢰성 있는 강의평가 결과를 얻기 위해 고려해야할 여러 요소 가운데 학생들의 출석률과 강의평가의 관계를 살펴보고자 한다.

지적자본 관점에서의 과학기술계 연구기관 평가지표 분석 (Analysing Evaluation Indicators for the Research Institutes in Science & Technology Sector in the Perspective of Intellectual Capital Model)

  • 이찬구
    • 기술혁신연구
    • /
    • 제15권2호
    • /
    • pp.177-209
    • /
    • 2007
  • This work firstly aims to analyse the balance between tangibles and intangibles as well as among human capital, structural capital and relational capital of evaluation indicators for the research institutes in science and technology sector conducted in 2006, by adopting intellectual capital model. The research question of this work comes from that while the R&D activity can produce both tangibles and intangibles, there have no been methodologies to relevantly measure and rationally judge these, in particular, intangible performance. The result shows that the institute evaluation system in 2006 had given more weight on tangibles and structural capital than intangibles and other intellectual capitals such as human capital and relational capital, in comparison to the past evaluation system, even though, in principle, the current evaluation system has to deal with the intangible research performances as well as tangible ones in economic, social and cultural perspective. Finally, based on these analysis, I will try to suggest some policy directions for overcoming the deficits of indicators in institute evaluation system.

  • PDF

중소기업의 BSC활용방안에 관한 연구 : 인사평가제도 시스템 구축 사례 (A Study on the application of Balanced Scorecard in Small Business: A case of development of a Human Resource Evaluation System)

  • 강신철
    • Journal of Information Technology Applications and Management
    • /
    • 제16권1호
    • /
    • pp.77-96
    • /
    • 2009
  • The balanced scorecard has drawn attention from many researchers in various fields since its appearance in 1992. It became a norm for performance evaluation framework in many areas, such as marketing, information system evaluation, strategic planning, etc. Centered in the large companies in Korea, the balanced scorecard has been popularly used as a performance evaluation tool for human resource management. Now we Question its applicability to performance evaluation tool even in small business. This study tried to apply the balanced scorecard in developing an information system for performance evaluation in a small business. The study showed that the balanced scorecard can be nicely used in small business as a performance evaluation tool. The process of developing an information system is described in detail. The practitioners are to obtain a lot of insights in designing their human resource management systems from the study results.

  • PDF

질의응답시스템 응답순위 개선을 위한 새로운 유사도 계산방법 (A New Similarity Measure for Improving Ranking in QA Systems)

  • 김명관;박영택
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제10권6호
    • /
    • pp.529-536
    • /
    • 2004
  • 본 논문에서는 질의응답시스템의 성능을 개선하기 위해 문장의 위치정보와 질의형태분류기를 사용하여 질의에 대한 대답순위를 조정하는 새로운 질의-문서 유사도 계산을 제안한다. 이를 위해 첫째로 문서내용을 표현하고 문서의 위치정보를 반영하기 위해 개념그래프를 사용한다. 이 방법은 문서비교에 대표적으로 사용되는 Dice-Coefficient에 기반하고 문장에서 단어의 위치정보론 반영한 유사도 계산이다. 두번째로 질의응답시스템의 대답순위를 개선하기 위하여 질의형태를 고려한 기계학습을 통한 질문에 대한 분류를 하였으며 이를 위해서 뉴스그룹의 FAQ 문서 30,000개를 가지고 기계학습 방법인 나이브 베이지안을 사용한 분류기를 구현하였다. 이에 대한 평가를 위해 세계적인 정보검색대회인 TREC-9의 질의응답시스템분야에 제출된 데이타를 가지고 실험하였으며 기존의 방법에 비해 자동학습기법을 사용하였음에도 평균상호순위가 0.29, 상위 5위에 정답을 포함시킨 경우가 55.1%의 성능을 보였다. 이 방법은 다른 시스템과 달리 질의형태분류를 기계학습 방법을 사용하여 자동으로 학습하는 것에 의의를 갖는다.

초등학교 이러닝 콘텐츠의 학습 유효성 평가 방법에 관한 연구 (A Study on Method for Learning Effectiveness Evaluation of e-learning Contents in Elementary School)

  • 차승희;김현배
    • 정보교육학회논문지
    • /
    • 제9권2호
    • /
    • pp.309-318
    • /
    • 2005
  • 최근 교육의 전 부분에서 이러닝(e-learning)이 도입되고 있고, 또 빠른 속도로 확장되어가고 있다. 이러닝과 함께 새로 대두되는 통합형 학습(blended learning)은 오늘날의 교육이 좀 더 새로운 형태의 교육 패러다임으로 변화하고 있다는 것을 보여주는 한 예이다. 본 논문은 앞서 연구된 여러 이러닝 콘텐츠 평가 준거들을 살펴보고, 초등학교 교사들을 대상으로 실시한 설문을 통해 초등학교에서 이러닝 콘텐츠의 학습유효성을 평가할 수 있는 평가 문항으로 정리하였다. 그리고 이 평가 문항과 학습자의 학업성취도 결과를 이용하여 이러닝 콘텐츠의 학습유효성 평가에 적용해보았다. 본 연구는 초등학교 이러닝 콘텐츠의 평가준거와 평가 방향에 대한 논의를 공유하며, 더 나아가 통합형 학습의 질적 향상을 위한 양질의 이러닝 콘텐츠 개발을 위한 이론적이고 실무적인 자료를 제공하고자 하는데 의의가 있다.

  • PDF

대통령 국정수행 지지도 조사의 개선에 대한 연구 (A Study on Improvement of Presidential Job Approval in the Poll Survey)

  • 배종찬
    • 한국조사연구학회지:조사연구
    • /
    • 제13권1호
    • /
    • pp.113-134
    • /
    • 2012
  • 대통령 지지도는 대통령 자신에 대한 정치적인 성취뿐만 아니라 국민과 관련된 정책 결정 및 추진에 있어 중요한 기준이 된다는 측면에서 매우 중요하다. 그럼에도 불구하고 기존의 대통령 지지도 측정 방식은 현실적인 체감적인 만족과는 상당한 격차를 느끼게 할 정도로 측정 자체에 많은 문제점을 보여 주었다. 본 연구의 목적은 대통령의 국정수행 지지도를 측정하는 문항의 구성과 조사결과의 활용에 있어 현행 방식의 문제점을 지적하고 새로운 개선방안을 제시하기 위함이다. 첫째로 설문기획 측면에서 '대통령 국정수행'을 평가하는 성격의 설문구성은 부적절하다는 것을 도출할 수 있었다. '대통령으로서의 일'을 모르는 응답자들이 '잘하는지와 못하는지'를 알지 못하기 때문이다. 그리고 보기 척도에서도 응답자의 응답가능성을 기초할 때 4점 척도의 보기 구성보다 5점 척도의 보기 구성이 타당함을 밝힐 수 있었다. 둘째로 통계분석 측면에서 대통령 국정수행 평가 문항(잘하는지와 못하는지를 응답하는 문항)과 정책관련 문항, 직접적으로 대통령에 대한 지지도를 물어보는 문항과의 상관분석을 시도하였다. 이를 통해 결국 대통령 국정수행 평가는 적절하지 않으며 대통령에 대해 직접적인 지지 여부를 물어보는 것이 가장 설명력이 있다는 것을 알 수 있었다. 마지막으로 결과활용 측면에서 대통령의 지지도가 '높고 낮음'은 언론 매체의 주관적인 판단에 의존할 것이 아니라 조사 자체의 응답자들을 대상으로 상대적으로 도출하여 대통령 지지도의 결과값과 비교하는 것이 더 설득력이 있다고 보았다.

  • PDF