R&D 규모의 확대는 평가의 효과성과 효율성 제고가 전제이다. R&D 예산 및 사업에 관한 시스템 평가는 예산의 조정 배분과 사업의 성과에 대한 평가로 구분된다. 이 논문은 예산의 조정 배분과 관련한 예산평가 시스템의 운영 측면에서 효율성 및 효과성을 제고하는 것에 중점을 둔 연구이다. 예산평가 시스템의 핵심 관점은 두 가지이다. 하나는 후행단계에서 이루어지는 사업에 대한 조사 분석과 평가의 관점을 예산평가에 보다 긴밀하게 연계시키는 것이며, 다른 하나는 이를 위해서 전반적인 종합조정의 시스템을 재조명하는 것이다. 예산은 정책 기획 집행으로 연결되는 과정이다. 사업을 매개체로 하여 정책에 부합하는 기획내용에 따라 예산을 활용하여 집행하는 것이 바람직한 것이다. 따라서 연구개발사업의 구조 체계와 예산항목(코드) 구조와의 연계 강화가 중요하다. 이것은 의사결정 시스템 차원에서 정책과 예산의 연계와 함께 이루어져야 한다. 또한 예산의 조정 배분, 정책과 사업의 성과평가, 연구개발사업 조사 분석 관련 시스템 상의 연계 강화와 운영일정에 대한 개선이 필요하다. 이를 위해서는 국가과학기술위원회(NSTC)의 기능이 정책기획 중심이 되어야 하며 정책부터 평가까지의 전과정상 객관성과 공정성이 확보될 수 있는 운영지원 체계로 개편되어야 한다. 조정 배분과 성과평가가 유기적으로 연계되는 평가 시스템이 되려면 이들의 집행일정과 조사 분석의 내용과 시기가 보다 효용성이 높아져야 한다.
A variety of approaches are being applied to improve the existing ex-ante evaluation by expert panels in publicly funded R&D. While the objective evaluation criteria are constantly being improved to screen and select the superior projects, alternative approaches such as random prioritization and logical modeling are also underway to overcome the conservative bias of reviewers and to secure disruptive innovation. This study intends to find critical implications for ex-ante evaluation of public R&D system from the comparison of Indonesia and Korea. For the comparative analysis, literature review and expert in-depth interviews are conducted on the national R&D system and the selection evaluation process. In Korea, the selection criteria of projects are legally promulgated for establishing an objective evaluation system, and at the program level, the major considerations in the planning process are specified by Presidential Decree. On the other hand, while Indonesia conducts R&D in 47 strategic fields largely by public research institutes (PRI) based on the non-competitive government contributions. This study draws out implications of institutionalizing the planning process at the level of program, and of increasing the ratio of contract-based competitive funding at the level of project in the national R&D portfolio.
The frameworks for evaluation of national R&D programs reflect their various political and administrative cultures(Gibbons & Georghiou, 1987), and the structure of national R&D system. In this research the core research questions are : what is god evaluation\ulcorner What is being evaluated, by whom, by which criteria, for whom and what purpose\ulcorner In order to examine these general aims and answer these questions, in detail several objectives can be proposed on the process of this research. In this research, the national R&D programs will be considered in terms of the interface between evaluation and the wider policy-making process. The programs for case study are the Alvey program(UK), the Advanced Technology Program (US) and the Framework program(EU) . One of the characteristics of these programs is the well established evaluation systems they have. From the comparative analysis, we can withdraw some useful implication for Korean evaluation practice for national R&D programs. Evaluation system is social process and the way in which it is organized is critical to its outcome.
각국의 과학기술연구개발 투자는 자연의 법칙 규명과 진리탐구에서 벗어나 국가발전의 핵심적인 경쟁력확보 및 삶의 질 향상을 목적으로 하고 있다. 이러한 국가경쟁력을 확보하기 위해서 국가가 시행하는 여러 정책 중에서 정부의 막대한 예산이 투입되는 국가연구개발사업은 사회에 미치는 여러 가지 파급효과를 고려해 보았을 때 중요한 위치를 차지하고 있다. 연구관리 전문기관은 국민의 세금으로 조성된 정부 R&D 정부예산을 정부를 대신하여 연구기획 관리 평가의 공적기능을 민간조직의 형태로 추진하는 점에서 볼 때 준공공부문에 해당하는 특성을 가지고 있다. 정부 R&D 투자의 중요한 주체로서의 연구관리 전문기관의 그 역할의 중요성에도 불구하고, 부처 중심의 정부연구개발예산 편성으로 인해 그 중요성이 간과되어 왔다. 각 부처에 산재해 있는 연구관리 전문기관에 대한 국가적 차원의 현황 파악과 이를 바탕으로 한 이론적 논의가 본격적으로 다루어진 선행연구가 부족하여 관련 정책을 수립하고 시행하는데 많은 어려움이 노정되고 있다. 이에 연구관리 전문기관의 현황파악을 통하여 현상을 분석하고 개념적 특성을 도출하여 유형화를 시도하였다.
이 연구는 농업 연구개발사업의 객관적인 성과와는 달리 농촌진흥청의 역할에 대한 논의가 끊이지 않고 있는 문제의식에서 출발하고 있다. 이에 따라 농업 연구개발사업의 핵심 주체인 농촌진흥청의 내부 연구개발 평가체계를 대상으로 평가기조, 평가자원, 평가수행, 평가활용이라는 4가지 관점에서 메타 평가를 수행하였다. 연구결과는 평가기조에 해당하는 평가대상의 설정이 최하위 수준인 세부 연구과제로 설정되어 있다는 점이 가장 큰 문제로 분석되었다. 따라서 이 연구는 우선적으로 평가목적과 평가대상 등의 평가기조를 과학기술정책 및 평가정책 등의 외부의 정책환경 변화와 조응할 수 있는 방향으로 전환함으로서 현행 농업 연구개발사업의 평가제도를 성과지향적으로 발전시키기 위한 정책대안을 논의하였다.
The primary goal of this study is to develop proper performance indicators for evaluating the results of industrial R&D program. We define R&D results include output, transfer, outcome, and impact in the performance of R&D program. Performance indicators are focused on the results of R&D commercialization, building the industrial foundations as performance proxy of R&D program of Ministry of Knowledge Economy. And we first try to design the coupled structure as logical model between R&D program goals and performance indicators. The coupled structure is represented with objectives of group unit of R&D program, implementation process, R&D practical stage, and the ultimate goal of R&D program.
R&D is inherently an uncertain endeavor, yet now more than ever those performing R&D with public funding are called upon to clarify the utility of their research. Calls for public accountability are mounting with the increase in constraints on government budgets due to the recent worldwide economic recession, in response to which both policymakers and researchers pay much more attention to rigorously assessing publicly funded R&D. A key issue complicating R&D evaluation in these circumstances is how to adequately account for the nature and degree of risk involved in a given R&D program or project. This study deliberates on certain issues involving the measurement of ex-ante risk in public R&D evaluation: (i) information asymmetry between R&D sponsors and performers, (ii) ambiguity in the measurement of returns in both prospective and retrospective evaluation, and (iii) the dilemma between measurement error and omitted variable bias for empirical estimation of R&D performance. The study then presents an analysis of hypothetical evaluation results that apply risk-relevant weights to the annual evaluation outcomes of South Korea's national R&D programs funded during 2006~2012. In this counterfactual re-evaluation of public R&D program performance, high-risk R&D programs turn out to receive higher evaluation than non-high-risk programs. The current study suggests that R&D evaluation ignoring ex-ante risk is not only conceptually invalid since R&D activities are intrinsically uncertain endeavors, but unfair as R&D performers are asked to be accountable for the results that were in fact out of their reach.
국가연구개발사업에 대한 메타평가는 과학기술수요와 목표와 연계된 국가전체의 연구개발시스템의 틀 안에서 구축되어야 한다. 연구개발사업평가시스템은 투입, 수행, 산출, 활용의 전 과정으로 이해될 수 있다. 전문가 24명이 참여한 전문가 델파이기법을 통하여 24개의 평가지표가 개발되었다. 메타평가 모델은 중요한 관점 8개의 하위시스템을 포함하고 있다. 8개 하위시스템에는 기획의 적실성, 정보의 충실성, 평가투입에서 평가자의 적정성, 평가수행과정과 방법의 적절성, 평가활용보고와 응용의 유용성 등이 포함된다. 메타평가모형의 활용방법으로서 평정점수의 평균은 5점척도 기준으로 2.73이며, 이는 평가점수의 중앙값 3.0보다 낮게 나타났다. 평가결과의 환류는 연구개발프로그램의 개선에 특별히 강화될 것을 제언한다.
The objective of this research is to evaluate the Creative Research Initiative Program (CRI), a national R&D program funded by the Ministry of Science & Technology in Korea. The evaluation of CRI covers the following research questions; 1) Have it set a unique position and characteristic distinguished from other government-funded R&D programs\ulcorner 2) Are the achievements of the program relevant to its goal\ulcorner 3) What is its performances and how much is it achieved its goal\ulcorner The results are the followings; 1) CRI is perceived as a pure basic research, distinguished from other national basic research programs, such as the Coal Oriented Basic Research Program and the SRC and ERC. 2) CRI is a well-adapted R&D program in confront of the environmental changes and R&D needs, as well as follows the planned R&D areas. 3) CRI have performed well in the raising-up world-class research leaders and the nation-wide diffusion of creative R&D culture, while it got few performances in the overcoming the limitation of the existing technologies and the independent development of original key technologies for future industries. However, the duration of the program, 5 year, is too short to expect concrete outcome, such as creating original technologies. Many of the outcomes of CRI gets a lot of attention from top class scientists in the world, it is expected to generate various R&D performances in the future.
국가연구개발사업 성과평가제도는 성과와 예산의 유기적인 연계를 강화하고 있다. 본 연구는 국가연구개발사업에 관한 국회의 확정예산을 대상으로 상위평가결과에 영향을 미치는 선행요인을 예산규모, 사업수행기간, 사업의 지속성, 자체평가결과로 분류하고 이들 요인과 상위평가결과와 예산증감율의 관계를 분석하였다. 분석 결과, 예산규모, 사업수행기간, 자체평가 결과는 상위평가결과에 영향을 주는 것으로 나타났다. 또한, 자체평가결과가 예산의 증감에 영향을 주는 상위평가 결과에 가장 큰 영향을 주었다. 본 연구의 결과는 국가연구개발성과평가제도가 국가연구개발예산의 관계를 실증분석을 통해 제시했다는 측면에서 의의를 가진다.
본 웹사이트에 게시된 이메일 주소가 전자우편 수집 프로그램이나
그 밖의 기술적 장치를 이용하여 무단으로 수집되는 것을 거부하며,
이를 위반시 정보통신망법에 의해 형사 처벌됨을 유념하시기 바랍니다.
[게시일 2004년 10월 1일]
이용약관
제 1 장 총칙
제 1 조 (목적)
이 이용약관은 KoreaScience 홈페이지(이하 “당 사이트”)에서 제공하는 인터넷 서비스(이하 '서비스')의 가입조건 및 이용에 관한 제반 사항과 기타 필요한 사항을 구체적으로 규정함을 목적으로 합니다.
제 2 조 (용어의 정의)
① "이용자"라 함은 당 사이트에 접속하여 이 약관에 따라 당 사이트가 제공하는 서비스를 받는 회원 및 비회원을
말합니다.
② "회원"이라 함은 서비스를 이용하기 위하여 당 사이트에 개인정보를 제공하여 아이디(ID)와 비밀번호를 부여
받은 자를 말합니다.
③ "회원 아이디(ID)"라 함은 회원의 식별 및 서비스 이용을 위하여 자신이 선정한 문자 및 숫자의 조합을
말합니다.
④ "비밀번호(패스워드)"라 함은 회원이 자신의 비밀보호를 위하여 선정한 문자 및 숫자의 조합을 말합니다.
제 3 조 (이용약관의 효력 및 변경)
① 이 약관은 당 사이트에 게시하거나 기타의 방법으로 회원에게 공지함으로써 효력이 발생합니다.
② 당 사이트는 이 약관을 개정할 경우에 적용일자 및 개정사유를 명시하여 현행 약관과 함께 당 사이트의
초기화면에 그 적용일자 7일 이전부터 적용일자 전일까지 공지합니다. 다만, 회원에게 불리하게 약관내용을
변경하는 경우에는 최소한 30일 이상의 사전 유예기간을 두고 공지합니다. 이 경우 당 사이트는 개정 전
내용과 개정 후 내용을 명확하게 비교하여 이용자가 알기 쉽도록 표시합니다.
제 4 조(약관 외 준칙)
① 이 약관은 당 사이트가 제공하는 서비스에 관한 이용안내와 함께 적용됩니다.
② 이 약관에 명시되지 아니한 사항은 관계법령의 규정이 적용됩니다.
제 2 장 이용계약의 체결
제 5 조 (이용계약의 성립 등)
① 이용계약은 이용고객이 당 사이트가 정한 약관에 「동의합니다」를 선택하고, 당 사이트가 정한
온라인신청양식을 작성하여 서비스 이용을 신청한 후, 당 사이트가 이를 승낙함으로써 성립합니다.
② 제1항의 승낙은 당 사이트가 제공하는 과학기술정보검색, 맞춤정보, 서지정보 등 다른 서비스의 이용승낙을
포함합니다.
제 6 조 (회원가입)
서비스를 이용하고자 하는 고객은 당 사이트에서 정한 회원가입양식에 개인정보를 기재하여 가입을 하여야 합니다.
제 7 조 (개인정보의 보호 및 사용)
당 사이트는 관계법령이 정하는 바에 따라 회원 등록정보를 포함한 회원의 개인정보를 보호하기 위해 노력합니다. 회원 개인정보의 보호 및 사용에 대해서는 관련법령 및 당 사이트의 개인정보 보호정책이 적용됩니다.
제 8 조 (이용 신청의 승낙과 제한)
① 당 사이트는 제6조의 규정에 의한 이용신청고객에 대하여 서비스 이용을 승낙합니다.
② 당 사이트는 아래사항에 해당하는 경우에 대해서 승낙하지 아니 합니다.
- 이용계약 신청서의 내용을 허위로 기재한 경우
- 기타 규정한 제반사항을 위반하며 신청하는 경우
제 9 조 (회원 ID 부여 및 변경 등)
① 당 사이트는 이용고객에 대하여 약관에 정하는 바에 따라 자신이 선정한 회원 ID를 부여합니다.
② 회원 ID는 원칙적으로 변경이 불가하며 부득이한 사유로 인하여 변경 하고자 하는 경우에는 해당 ID를
해지하고 재가입해야 합니다.
③ 기타 회원 개인정보 관리 및 변경 등에 관한 사항은 서비스별 안내에 정하는 바에 의합니다.
제 3 장 계약 당사자의 의무
제 10 조 (KISTI의 의무)
① 당 사이트는 이용고객이 희망한 서비스 제공 개시일에 특별한 사정이 없는 한 서비스를 이용할 수 있도록
하여야 합니다.
② 당 사이트는 개인정보 보호를 위해 보안시스템을 구축하며 개인정보 보호정책을 공시하고 준수합니다.
③ 당 사이트는 회원으로부터 제기되는 의견이나 불만이 정당하다고 객관적으로 인정될 경우에는 적절한 절차를
거쳐 즉시 처리하여야 합니다. 다만, 즉시 처리가 곤란한 경우는 회원에게 그 사유와 처리일정을 통보하여야
합니다.
제 11 조 (회원의 의무)
① 이용자는 회원가입 신청 또는 회원정보 변경 시 실명으로 모든 사항을 사실에 근거하여 작성하여야 하며,
허위 또는 타인의 정보를 등록할 경우 일체의 권리를 주장할 수 없습니다.
② 당 사이트가 관계법령 및 개인정보 보호정책에 의거하여 그 책임을 지는 경우를 제외하고 회원에게 부여된
ID의 비밀번호 관리소홀, 부정사용에 의하여 발생하는 모든 결과에 대한 책임은 회원에게 있습니다.
③ 회원은 당 사이트 및 제 3자의 지적 재산권을 침해해서는 안 됩니다.
제 4 장 서비스의 이용
제 12 조 (서비스 이용 시간)
① 서비스 이용은 당 사이트의 업무상 또는 기술상 특별한 지장이 없는 한 연중무휴, 1일 24시간 운영을
원칙으로 합니다. 단, 당 사이트는 시스템 정기점검, 증설 및 교체를 위해 당 사이트가 정한 날이나 시간에
서비스를 일시 중단할 수 있으며, 예정되어 있는 작업으로 인한 서비스 일시중단은 당 사이트 홈페이지를
통해 사전에 공지합니다.
② 당 사이트는 서비스를 특정범위로 분할하여 각 범위별로 이용가능시간을 별도로 지정할 수 있습니다. 다만
이 경우 그 내용을 공지합니다.
제 13 조 (홈페이지 저작권)
① NDSL에서 제공하는 모든 저작물의 저작권은 원저작자에게 있으며, KISTI는 복제/배포/전송권을 확보하고
있습니다.
② NDSL에서 제공하는 콘텐츠를 상업적 및 기타 영리목적으로 복제/배포/전송할 경우 사전에 KISTI의 허락을
받아야 합니다.
③ NDSL에서 제공하는 콘텐츠를 보도, 비평, 교육, 연구 등을 위하여 정당한 범위 안에서 공정한 관행에
합치되게 인용할 수 있습니다.
④ NDSL에서 제공하는 콘텐츠를 무단 복제, 전송, 배포 기타 저작권법에 위반되는 방법으로 이용할 경우
저작권법 제136조에 따라 5년 이하의 징역 또는 5천만 원 이하의 벌금에 처해질 수 있습니다.
제 14 조 (유료서비스)
① 당 사이트 및 협력기관이 정한 유료서비스(원문복사 등)는 별도로 정해진 바에 따르며, 변경사항은 시행 전에
당 사이트 홈페이지를 통하여 회원에게 공지합니다.
② 유료서비스를 이용하려는 회원은 정해진 요금체계에 따라 요금을 납부해야 합니다.
제 5 장 계약 해지 및 이용 제한
제 15 조 (계약 해지)
회원이 이용계약을 해지하고자 하는 때에는 [가입해지] 메뉴를 이용해 직접 해지해야 합니다.
제 16 조 (서비스 이용제한)
① 당 사이트는 회원이 서비스 이용내용에 있어서 본 약관 제 11조 내용을 위반하거나, 다음 각 호에 해당하는
경우 서비스 이용을 제한할 수 있습니다.
- 2년 이상 서비스를 이용한 적이 없는 경우
- 기타 정상적인 서비스 운영에 방해가 될 경우
② 상기 이용제한 규정에 따라 서비스를 이용하는 회원에게 서비스 이용에 대하여 별도 공지 없이 서비스 이용의
일시정지, 이용계약 해지 할 수 있습니다.
제 17 조 (전자우편주소 수집 금지)
회원은 전자우편주소 추출기 등을 이용하여 전자우편주소를 수집 또는 제3자에게 제공할 수 없습니다.
제 6 장 손해배상 및 기타사항
제 18 조 (손해배상)
당 사이트는 무료로 제공되는 서비스와 관련하여 회원에게 어떠한 손해가 발생하더라도 당 사이트가 고의 또는 과실로 인한 손해발생을 제외하고는 이에 대하여 책임을 부담하지 아니합니다.
제 19 조 (관할 법원)
서비스 이용으로 발생한 분쟁에 대해 소송이 제기되는 경우 민사 소송법상의 관할 법원에 제기합니다.
[부 칙]
1. (시행일) 이 약관은 2016년 9월 5일부터 적용되며, 종전 약관은 본 약관으로 대체되며, 개정된 약관의 적용일 이전 가입자도 개정된 약관의 적용을 받습니다.