This study is the result of meta evaluation for the self evaluation of defense R&D programs in Korea by using meta evaluating indicators. The overall meta evaluation result of defense R&D programs gained 74.3 points out of 100, so it was evaluated as 'Good'. But it demonstrated that further improvement for overall system of defense R&D programs evaluation is required. And especially, it demonstrated that more alternatives are necessary in order to improve the utilizations and the feedbacks of evaluation results. The evaluation context component gained 80.2 points out of 100, so it was evaluated as 'Very Good'. The evaluation input component gained 73.1 points out of 100, so it was evaluated as 'Good'. The evaluation process component gained 74.8 points out of 100, so it was evaluated as 'Good'. And the evaluation outcome component gained 69.0 points out of 100, so it was evaluated as 'Good'. Basic model of meta evaluation was derived from the literature review and brain storming. And this meta evaluation model was determined by adopting the result of experts who performed evaluations for defense R&D programs in recent years. The reliability of components and items was verified by Cronbach's a coefficient. It was over 0.6 in evaluation components and items. And the reliability of evaluation context was 0.877, that of evaluation input was 0.755, that of evaluation process was 0.755, that of evaluation output was 0.755 respectively. From the analysis, it is attempted to identify possible problems and to find out the ways of improvements related to the self evaluation system of defense R&D programs. The ultimate objective of this study is to manage the programs effectively and improve the reliability and the objectiveness of the defense R&D programs.
최근 출연(연)의 사회문제 해결형 R&D 사업이 점차 증가하고 있다. 그러나 출연(연)은 사회문제 해결에 적합한 R&D 시스템을 구축하지 못하여 많은 시행착오를 겪고 있다. 이에 본 연구에서는 사회문제 해결형 R&D 수행에 있어 주요 영향요인으로 작용하고 있는 출연(연)의 평가시스템 개선방향에 대해서 논의하고자 하였다. 이를 위해 먼저 사회문제 해결형 R&D에 관해 고찰하고, 출연(연)의 평가시스템 현황 및 사회문제 해결형 R&D 관점에서 한계를 도출한 후, 효과적 추진을 위한 개선방향을 제시하였다. 그리고 마지막으로 본 연구가 주는 함의와 한계를 논의함으로써 마무리하였다. 본 연구는 사회문제 해결 관점의 평가지표를 제시하고 활용방안을 모색한 최초의 연구로서 향후 관련분야 연구의 초석이 될 것으로 기대한다.
국가 R&D사업은 적절한 예산 규모 산정이 어렵기 때문에 참고 가능한 해당 사업의 성과 및 평가정보가 적시에 지원될 경우 판단의 오류를 최소화 할 수 있을 것으로 기대할 수 있다. 그러나 현실적으로는 국가 R&D사업에 대한 성과평가 결과가 의도한 대로 충분히 활용되지 못하고 있는 실정인데, 그 이유로는 크게 두 가지 문제점을 들 수 있다. 첫째, 국가 R&D사업의 성과 및 평가 정보와 관련 예산정보가 적시에 연계 활용되지 못하고 있다. 둘째, 이를 지원하는 시스템간의 연계가 구현되어 있지 않다. 따라서 본 연구에서는 국가 R&D사업의 현황 분석을 신정부 출범 이전과 이후의 제도적, 시스템적 관점에서 고찰하였고 이를 통하여 국가 R&D성과평가와 예산 정보가 연계 가능하도록 개선 프로세스를 제안하고자 하였다.
이 연구의 목적은 주요국의 정부 연구개발 평가제도 개선을 위한 최근 경향을 살펴 봄으로써 우리나라의 R&D평가제도 선진화를 위한 시사점을 모색하기 위함이다. 이 연구는 우리나라의 연구개발평가제도의 현황과 과제를 살펴보고, R&D 투자 상위국의 최근 연구개발사업 평가제도와 비교 분석하는 방식으로 수행되었다. 우리나라는 2006년 국가연구개발 성과평가법이 제정됨에 따라 연구개발사업 평가제도가 도입 운영되고 있다. 미국은 오바마 정부가 들어서면서 종전의 정부성과관리법을 개정('GPRA 현대화법 2010')하여 중점성과목표 관리제도를 강화하였으며, 일본은 2012년 말 '국가연구개발평가에 관한 대강적 지침'을 개정하여 연구개발 프로그램 및 결과지표 개념을 도입하였다. EU에서는 1984년부터 시작된 R&D 프레임워크프로그램(FP)에 대한 평가체계를 지속적으로 개선해 나가고 있다. 주요국의 연구개발 평가와 관련된 최근 동향으로부터 다음과 같은 시사점을 찾을 수 있다. 현행 연구개발사업 평가가 국가 과학기술정책과 기관의 고유임무 성과평가와도 연계성을 가질 수 있는 평가체계로 발전시켜 나가는 것이 중요하다. 또한 국제적인 평가연구 네트워크에 지속적인 참여 확대와 교류 활동을 통해 R&D 평가에 관한 선진 기법들을 적극적으로 수집하고, 나아가 R&D 성과관리에 관한 역량강화 프로그램과 체계적인 평가전문가 인력육성 교육시스템도 필요하다.
Journal of Information Science Theory and Practice
/
제10권spc호
/
pp.96-111
/
2022
With the rapid development of the Fourth Industrial Revolution and digital transformation, scientific and technological innovation measures are being devised to overcome Korea's low-growth, high-cost structure. Accordingly, by examining the R&D investment evaluation system of R&D PIE (R&D Platform for Investment and Evaluation), which has been promoted by the Korean government in response to the Fourth Industrial Revolution, from the perspective of R&D transformation, this study aims to explore a new path for a sustainable national science and technology innovation system following digital transformation. In particular, from the perspective of R&D PIE, a MLP (Multi-level Perspective), which had been conducted as an abstract theoretical study, was attempted with specific cases and analysis for each of the three layers: niche, landscape, and regime. In conclusion, R&D PIE was intended to elevate the abstract R&D investment evaluation system to a platform that leads innovation in the digital space of the Fourth Industrial Revolution. In addition, it was confirmed that the R&D PIE could be replaced or enhanced as a platform for innovation in response to the Fourth Industrial Revolution, thereby providing an alternative to job creation and an escape from economic crisis.
This paper addresses three central decision-making problems frequently encountered in developing evaluation checklists for ex-post evaluation of R&D projects at private R&D centers: 1) what kind of evaluation elements and factors should be included in the evaluation forms\ulcorner 2) how much weight should be assigned to each evaluation factor and element\ulcorner and 3) could the same evaluation elements and factors with weights be applied all the project type(research, development, and engineering)\ulcorner To answer these questions, we identified the evaluation elements/factors based on the review of relevant literature and measured the perceptions of researchers, R&D managers, and top managements of the three private R&D centers to get the information about the importance levels of the elements and the weights of the factors for each of the three project types. The findings include that 1) all the evaluation elements derived from the literature exhibited high importance levels, and 2) the importance levels of the elements and the weights of the factors were quite varied along the project types. Theoretical and practical implications of the findings for ex-post evaluation of R&D projects are discussed.
A variety of approaches are being applied to improve the existing ex-ante evaluation by expert panels in publicly funded R&D. While the objective evaluation criteria are constantly being improved to screen and select the superior projects, alternative approaches such as random prioritization and logical modeling are also underway to overcome the conservative bias of reviewers and to secure disruptive innovation. This study intends to find critical implications for ex-ante evaluation of public R&D system from the comparison of Indonesia and Korea. For the comparative analysis, literature review and expert in-depth interviews are conducted on the national R&D system and the selection evaluation process. In Korea, the selection criteria of projects are legally promulgated for establishing an objective evaluation system, and at the program level, the major considerations in the planning process are specified by Presidential Decree. On the other hand, while Indonesia conducts R&D in 47 strategic fields largely by public research institutes (PRI) based on the non-competitive government contributions. This study draws out implications of institutionalizing the planning process at the level of program, and of increasing the ratio of contract-based competitive funding at the level of project in the national R&D portfolio.
Currently, the investment on Research and Development(R&D) for defense core technology is continuously increasing to maintain advanced country's R&D level. In accordance with this trend, the national defense R&D investment management system is being more strengthening, and importance of performance evaluation is being emphasized more and more. However, the existing indicators of performance evaluation for defense core technology R&D is limited in efficient management because of the qualitative evaluation items and subjective allocation of points. In this paper, we developed a novel indicator for defense core technology R&D performance evaluation through domestic and foreign related literature and inquiry, brainstorming, and analysis techniques by Stepwise Multiple linear Regression(SMR) and Analytic Hierarchy Process(AHP). And we verified effectiveness of proposed indicators of performance evaluation by comparing with the existing evaluation indicators. Our proposed indicators for performance evaluation will create superiority performance on defense R&D fields.
National R&D programs play an important role in the development of a country in this age of the knowledge economy. Since many numbers of R&D programs compete for limited resources such as national R&D budget, the R&D program evaluation problem is a challenging decision-making problem faced by decision makers that deal with R&D management. In this sense, DEA(Data Envelopment Analysis) has been regarded as one of the most widely accepted methods to measure the relative efficiency of productivity of R&D programs. DEA is a methodology to measure and to evaluate the relative efficiency of a homogeneous set of decision-making units(DMUs) in a process which uses multiple inputs to produce multiple outputs. However, the sample of the R&D programs could consist of two or more naturally occurring subsets, thus exhibiting clear signs of heterogeneity such as different objectives. In such situations, the fairness of DEA is limited, for the nature of the relative efficiency of a DMU is likely to be influenced by its membership in a particular subset of the sample. In this study, we propose a methodology AI-DEA(attainment index DEA) allowing for reflecting decision maker's subjective judgement on difference among different subsets of R&D programs which have heterogeneous objectives. This methodology combines AHP and Delphi in order to decide the attainmnet index of each DMU for each outputs, and apply them to DEA model. We illustrate the proposed approach with a pilot evaluation of 13 programs involving 6 different subsets of Korean National R&D programs and compares the results of the original DEA model and AI-DEA model.
이 연구는 농업 연구개발사업의 객관적인 성과와는 달리 농촌진흥청의 역할에 대한 논의가 끊이지 않고 있는 문제의식에서 출발하고 있다. 이에 따라 농업 연구개발사업의 핵심 주체인 농촌진흥청의 내부 연구개발 평가체계를 대상으로 평가기조, 평가자원, 평가수행, 평가활용이라는 4가지 관점에서 메타 평가를 수행하였다. 연구결과는 평가기조에 해당하는 평가대상의 설정이 최하위 수준인 세부 연구과제로 설정되어 있다는 점이 가장 큰 문제로 분석되었다. 따라서 이 연구는 우선적으로 평가목적과 평가대상 등의 평가기조를 과학기술정책 및 평가정책 등의 외부의 정책환경 변화와 조응할 수 있는 방향으로 전환함으로서 현행 농업 연구개발사업의 평가제도를 성과지향적으로 발전시키기 위한 정책대안을 논의하였다.
본 웹사이트에 게시된 이메일 주소가 전자우편 수집 프로그램이나
그 밖의 기술적 장치를 이용하여 무단으로 수집되는 것을 거부하며,
이를 위반시 정보통신망법에 의해 형사 처벌됨을 유념하시기 바랍니다.
[게시일 2004년 10월 1일]
이용약관
제 1 장 총칙
제 1 조 (목적)
이 이용약관은 KoreaScience 홈페이지(이하 “당 사이트”)에서 제공하는 인터넷 서비스(이하 '서비스')의 가입조건 및 이용에 관한 제반 사항과 기타 필요한 사항을 구체적으로 규정함을 목적으로 합니다.
제 2 조 (용어의 정의)
① "이용자"라 함은 당 사이트에 접속하여 이 약관에 따라 당 사이트가 제공하는 서비스를 받는 회원 및 비회원을
말합니다.
② "회원"이라 함은 서비스를 이용하기 위하여 당 사이트에 개인정보를 제공하여 아이디(ID)와 비밀번호를 부여
받은 자를 말합니다.
③ "회원 아이디(ID)"라 함은 회원의 식별 및 서비스 이용을 위하여 자신이 선정한 문자 및 숫자의 조합을
말합니다.
④ "비밀번호(패스워드)"라 함은 회원이 자신의 비밀보호를 위하여 선정한 문자 및 숫자의 조합을 말합니다.
제 3 조 (이용약관의 효력 및 변경)
① 이 약관은 당 사이트에 게시하거나 기타의 방법으로 회원에게 공지함으로써 효력이 발생합니다.
② 당 사이트는 이 약관을 개정할 경우에 적용일자 및 개정사유를 명시하여 현행 약관과 함께 당 사이트의
초기화면에 그 적용일자 7일 이전부터 적용일자 전일까지 공지합니다. 다만, 회원에게 불리하게 약관내용을
변경하는 경우에는 최소한 30일 이상의 사전 유예기간을 두고 공지합니다. 이 경우 당 사이트는 개정 전
내용과 개정 후 내용을 명확하게 비교하여 이용자가 알기 쉽도록 표시합니다.
제 4 조(약관 외 준칙)
① 이 약관은 당 사이트가 제공하는 서비스에 관한 이용안내와 함께 적용됩니다.
② 이 약관에 명시되지 아니한 사항은 관계법령의 규정이 적용됩니다.
제 2 장 이용계약의 체결
제 5 조 (이용계약의 성립 등)
① 이용계약은 이용고객이 당 사이트가 정한 약관에 「동의합니다」를 선택하고, 당 사이트가 정한
온라인신청양식을 작성하여 서비스 이용을 신청한 후, 당 사이트가 이를 승낙함으로써 성립합니다.
② 제1항의 승낙은 당 사이트가 제공하는 과학기술정보검색, 맞춤정보, 서지정보 등 다른 서비스의 이용승낙을
포함합니다.
제 6 조 (회원가입)
서비스를 이용하고자 하는 고객은 당 사이트에서 정한 회원가입양식에 개인정보를 기재하여 가입을 하여야 합니다.
제 7 조 (개인정보의 보호 및 사용)
당 사이트는 관계법령이 정하는 바에 따라 회원 등록정보를 포함한 회원의 개인정보를 보호하기 위해 노력합니다. 회원 개인정보의 보호 및 사용에 대해서는 관련법령 및 당 사이트의 개인정보 보호정책이 적용됩니다.
제 8 조 (이용 신청의 승낙과 제한)
① 당 사이트는 제6조의 규정에 의한 이용신청고객에 대하여 서비스 이용을 승낙합니다.
② 당 사이트는 아래사항에 해당하는 경우에 대해서 승낙하지 아니 합니다.
- 이용계약 신청서의 내용을 허위로 기재한 경우
- 기타 규정한 제반사항을 위반하며 신청하는 경우
제 9 조 (회원 ID 부여 및 변경 등)
① 당 사이트는 이용고객에 대하여 약관에 정하는 바에 따라 자신이 선정한 회원 ID를 부여합니다.
② 회원 ID는 원칙적으로 변경이 불가하며 부득이한 사유로 인하여 변경 하고자 하는 경우에는 해당 ID를
해지하고 재가입해야 합니다.
③ 기타 회원 개인정보 관리 및 변경 등에 관한 사항은 서비스별 안내에 정하는 바에 의합니다.
제 3 장 계약 당사자의 의무
제 10 조 (KISTI의 의무)
① 당 사이트는 이용고객이 희망한 서비스 제공 개시일에 특별한 사정이 없는 한 서비스를 이용할 수 있도록
하여야 합니다.
② 당 사이트는 개인정보 보호를 위해 보안시스템을 구축하며 개인정보 보호정책을 공시하고 준수합니다.
③ 당 사이트는 회원으로부터 제기되는 의견이나 불만이 정당하다고 객관적으로 인정될 경우에는 적절한 절차를
거쳐 즉시 처리하여야 합니다. 다만, 즉시 처리가 곤란한 경우는 회원에게 그 사유와 처리일정을 통보하여야
합니다.
제 11 조 (회원의 의무)
① 이용자는 회원가입 신청 또는 회원정보 변경 시 실명으로 모든 사항을 사실에 근거하여 작성하여야 하며,
허위 또는 타인의 정보를 등록할 경우 일체의 권리를 주장할 수 없습니다.
② 당 사이트가 관계법령 및 개인정보 보호정책에 의거하여 그 책임을 지는 경우를 제외하고 회원에게 부여된
ID의 비밀번호 관리소홀, 부정사용에 의하여 발생하는 모든 결과에 대한 책임은 회원에게 있습니다.
③ 회원은 당 사이트 및 제 3자의 지적 재산권을 침해해서는 안 됩니다.
제 4 장 서비스의 이용
제 12 조 (서비스 이용 시간)
① 서비스 이용은 당 사이트의 업무상 또는 기술상 특별한 지장이 없는 한 연중무휴, 1일 24시간 운영을
원칙으로 합니다. 단, 당 사이트는 시스템 정기점검, 증설 및 교체를 위해 당 사이트가 정한 날이나 시간에
서비스를 일시 중단할 수 있으며, 예정되어 있는 작업으로 인한 서비스 일시중단은 당 사이트 홈페이지를
통해 사전에 공지합니다.
② 당 사이트는 서비스를 특정범위로 분할하여 각 범위별로 이용가능시간을 별도로 지정할 수 있습니다. 다만
이 경우 그 내용을 공지합니다.
제 13 조 (홈페이지 저작권)
① NDSL에서 제공하는 모든 저작물의 저작권은 원저작자에게 있으며, KISTI는 복제/배포/전송권을 확보하고
있습니다.
② NDSL에서 제공하는 콘텐츠를 상업적 및 기타 영리목적으로 복제/배포/전송할 경우 사전에 KISTI의 허락을
받아야 합니다.
③ NDSL에서 제공하는 콘텐츠를 보도, 비평, 교육, 연구 등을 위하여 정당한 범위 안에서 공정한 관행에
합치되게 인용할 수 있습니다.
④ NDSL에서 제공하는 콘텐츠를 무단 복제, 전송, 배포 기타 저작권법에 위반되는 방법으로 이용할 경우
저작권법 제136조에 따라 5년 이하의 징역 또는 5천만 원 이하의 벌금에 처해질 수 있습니다.
제 14 조 (유료서비스)
① 당 사이트 및 협력기관이 정한 유료서비스(원문복사 등)는 별도로 정해진 바에 따르며, 변경사항은 시행 전에
당 사이트 홈페이지를 통하여 회원에게 공지합니다.
② 유료서비스를 이용하려는 회원은 정해진 요금체계에 따라 요금을 납부해야 합니다.
제 5 장 계약 해지 및 이용 제한
제 15 조 (계약 해지)
회원이 이용계약을 해지하고자 하는 때에는 [가입해지] 메뉴를 이용해 직접 해지해야 합니다.
제 16 조 (서비스 이용제한)
① 당 사이트는 회원이 서비스 이용내용에 있어서 본 약관 제 11조 내용을 위반하거나, 다음 각 호에 해당하는
경우 서비스 이용을 제한할 수 있습니다.
- 2년 이상 서비스를 이용한 적이 없는 경우
- 기타 정상적인 서비스 운영에 방해가 될 경우
② 상기 이용제한 규정에 따라 서비스를 이용하는 회원에게 서비스 이용에 대하여 별도 공지 없이 서비스 이용의
일시정지, 이용계약 해지 할 수 있습니다.
제 17 조 (전자우편주소 수집 금지)
회원은 전자우편주소 추출기 등을 이용하여 전자우편주소를 수집 또는 제3자에게 제공할 수 없습니다.
제 6 장 손해배상 및 기타사항
제 18 조 (손해배상)
당 사이트는 무료로 제공되는 서비스와 관련하여 회원에게 어떠한 손해가 발생하더라도 당 사이트가 고의 또는 과실로 인한 손해발생을 제외하고는 이에 대하여 책임을 부담하지 아니합니다.
제 19 조 (관할 법원)
서비스 이용으로 발생한 분쟁에 대해 소송이 제기되는 경우 민사 소송법상의 관할 법원에 제기합니다.
[부 칙]
1. (시행일) 이 약관은 2016년 9월 5일부터 적용되며, 종전 약관은 본 약관으로 대체되며, 개정된 약관의 적용일 이전 가입자도 개정된 약관의 적용을 받습니다.