질적인 측면을 충분히 감안하지 못한 양적 성과분석은 연구개발 과제의 성과를 제대로 반영하지 못하는 문제점을 안고 있다. 따라서 양적 성과와 질적 성과를 함께 종합적으로 고려할 수 있는 종합적인 성과분석지수를 개발할 필요가 있다. 본 연구에서는 주성분 분석과 동일 가중치를 부여하는 방식을 이용하여, 특허 출원 건수, SCI 게재논문 건수, 기술이전 건수라는 3가지 양적 성과지표와 이에 대응되는 특허 심사청구 항수, 논문게재 학술지의 IT, 총 연구비 대비기술료 비중의 3가지 질적 성과지표를 성과지표로 고려하면서 성과분석지수를 개발하고자 하였다. 주성분 분석의 적용 결과 특허 출원 건수(0.2160), SCI 논문게재 건수(0.1510), 기술이전 건수(0.1564), 특허 심사청구 항수(0.2257), 논문게재 학술지의 IF(0.2218), 기술료 비중(0.0291)의 가중치를 얻을 수 있었다. 이 6가지 평가지표는 종합평가지수라는 하나의 틀로 결합되어 개별 과제의 성과를 평가하는 데 활용될 수 있다. 더 나아가 양적 성과지표와 질적 성과지표로 구분하여 평가할 수 있다. 가중치 결정 방법에 따라 평가결과가 크게 달라지지는 않았지만, 가중치 결정 방법과 상관없이 양적 성과지표 평가결과와 질적 성과지표 평가결과는 크게 달랐다. 한 가지 흥미로운 점은 과제평가등급과의 상관관계를 따져보았더니 질적 성과지표와 과제등급과의 상관관계가 양적 성과지표와 과제등급과의 상관관계보다 더 크다는 것이다. 따라서 성과분석에 있어서 질적 성과지표를 반영한 질적 성과분석이 반드시 수행될 필요가 있다. 앞으로 특허 인용도 등 보다 다양한 질적 변수를 확보하여 성과분석지수를 보완할 필요가 있을 것이다.
본 연구는 기술개발지원사업의 선정 평가지표를 개발하고, 사례에 적용하여 그 타당성을 파악하고 있다. 개발된 선정평가지표의 기업선정순위와 기존 선정평가지표의 기업선정순위를 비교하여 성과를 낸 기업의 순위를 어떤 선정평가지표가 더 정확히 유추해 냈는지를 확인하고 있다. BSC 및 AHP기법을 이용하여 기술개발지원사업 선정평가지표를 개발하였다.
기관평가제도는 경영관리과정의 최종단계로 평가결과에 의한 인센티브 부여와 피드백과정을 갖는 경영관리의 중심분야 임에도 불구하고 아직까지 정부출연연구기관의 기관평가제도에 대한 유효성 평가에 대한 실증연구가 없는 실정이다. 본 연구에서의 기관평가제도의 유효성에 대한 평가는 기관평가지표가 기관성과를 평가하기에 적절하게 구성되었는지의 여부와 연구기관의 의견이 반영되었는지 여부로 검증하였다. 본 연구의 목적을 달성하기 위하여 다음과 같은 세부적인 방법론을 사용하였다. 첫째, 연구기관의 특성분석과 선행연구를 통하여 연구기관의 BSC 모형을 도출하였다. 둘째, 출연 연구기관의 특성을 고려하여 관점을 도출한 후 전문가를 통한 델파이법(Delphi Method)으로 관점을 확정하였다. 셋째, 기존 평가제도에서 평가지표의 가중치(weight)를 분석하여 관점별로 분류한 후 BSC 형태로 재조정하여 기존 평가제도의 유효성을 분석하였다. 넷째, 피평가자의 설문조사를 통하여 피평가기관의 의견이 반영된 평가지표의 유효성을 분석하였다. 기존 평가제도의 평가지표와 연구기관의 의견이 반영된 평가지표가 BSC 모형에서 적절하게 구성되었는지 분석하기 위하여 연구기관의 BSC 관점간의 가중치가 기존 평가제도와 연구기관의 의견이 반영된 평가지표에 반영되었는지 검증하였다. 연구결과 기초 ${\cdot}$ 원천 연구에 주력하는 기초기술연구회, 산업화 ${\cdot}$ 상업화 연구에 주력하는 산업기술연구회, 공공성 ${\cdot}$ 대형연구에 주력하는 공공기술연구회간에는 미션과 특성이 다르기 때문에 검증결과 관점간의 가중치가 다르게 나타났다. 따라서, 현행 기관평가제도는 연구기관의 특성과 미션을 고려한 유효한 평가제도로 볼 수 있겠다. 연구기관의 의견이 반영되었는지 여부는 기존 평가제도와 연구기관의 의견이 반영된 평가제도를 대상으로 관점간 가중치의 우선순위로 검증하였다. 연구결과 관점간 가중치의 우선순위가 동일할 경우 현행 평가제도는 연구기관의 의견이 반영되었다고 볼 수 있으나, 검증결과 관점간 가중치가 다르게 나타났다. 또한, 추가적인 분석에서 연구회별 관점의 가중치와 소속 연구기관별 관점의 가중치를 분석한 결과 일부 연구기관에서는 연구회의 가중치와달리 나타났다. 따라서, 현행 기관평가제도는 일부 연구기관의 특성이 충분히 반영되지 않아서 유효한 평가제도로 볼 수 없다고 하겠다. 본 연구의 결과에 따라 출연연구기관의 기관평가지표에 대한 각 지표별 가중치와 지표 문항 개선시 유용한 자료로 활용되리라 본다.
공개 경쟁에 의한 제안 업체 선정과 객관적이고 공정한 제안서의 평가는 공공IT 부문에 있어서 성공적인 사업 수행을 위한 필수요소이다. '소프트웨어 기술성 평가기준 적용 가이드'에서는 소프트웨어 기술성 평가기준을 적용하는데 필요한 절차와 단계별 적용방법 및 세부내용 해설과 평가척도 예시를 제시하여 활용이 가능하도록 하였다. 그러나 기술성을 평가하기 위한 평가부문별 평가항목 및 평가기준에 대한 부분이 구체적이지 않아 경쟁력 있는 제안 업체의 기술성을 정확하고 공정하게 평가하는데 어려움이 있다. 따라서 본 연구에서는 제안 업체의 기술성을 정확하게 평가하기 위하여 평가요소 중에서 기술 평가요소에 대한 부분을 평가지표로 선정하고 통계 기법으로 평가지표를 검증하는 방법을 제시하고자 한다.
시청각 관련 지표 개발은 3차원 시청각 환경 제시기술, 시청각 감성을 활용한 Audio의 개발과 시청각 감성 측정기술 및 DB개발 등에 대하여 진행되었다. 3차원 시청각 환경 제시기술 개발은 VR 환경 제시 기술 개발과 모의 시뮬레이터를 통한 평가 단계 및 인간의 공간 인식 특성에 관한 연구로 이루어져 있다. 따라서 지표화 과정에서 VR 제시 시스템 관련 지표(3개), VR평가 지표(3개), 그리고 정보물(2개) 등 총 8개의 지표가 완성되었다. 시청각 감성을 활용한 Audio 개발과 시청각 감성 측정기술 및 DB개발에서는 시청각 감성에 대하여 주관적 평가 실시 후, 이를 이용한 제품개발 및 DB화하는 과정으로 구성되었으며, 각각의 연구물에 대하여 각각 6개와 13개의 지표가 완성되었다. 시청각 감성을 활용한 Audio 개발과 시청각 감성 측정기술 및 DB개발은 감성측정방법에서 제시 자극과 실험육법에서의 다소의 차이는 있었으나, 감성어휘 도출을 통한 SD척도법, 생체신호 측정, 자료처리방법 및 평가기준 등에서 유사성이 있었다. 따라서 각각의 연구물에 대한 지표 개발뿐만 아니라 지표간의 관련성을 비교ㆍ분석함으로써 체계화된 지표 표준화 과정이 필요한 것으로 보인다.
본 연구는 중소·벤처기업에 대한 기술평가 및 기술금융 지원사업이 기업의 경영성과를 향상시키고 성장기반을 확보하는데 유용한 수단인지 여부를 검증하기 위해 기술보증기금이 직접 기술평가 및 보증을 지원한 3,688개 기업을 표본기업으로 분석하였다. 먼저 대표적 경영성과 지표로서 재무건전성이 우수한 기업과 취약한 기업 간에 기술평가지표 세부 항목별로 유의미한 차이가 있는지 t검증을 실시한 결과, 총 33개 기술평가 세부항목 중 25개항목 (75.8%)에서 재무건전성이 우수한 기업집단과 그렇지 못한 기업집단 간에 기술평가의 유의미한 차이가 있는 것으로 나타나 기술평가지표의 유의성이 비교적 높은 것으로 확인되었다. 그리고 대표자역량, 경영진팀웍, 기술집약도, 시장경쟁력 및 투자타당성 등 5개 구성개념 속성들은 모두 기술사업성에 정(+)의 유의한 영향을 미치고, 기술사업성은 기업의 성장성, 노동생산성 및 재무건전성 등 경영성과에 모두 정(+)의 유의한 영향을 미치는 것으로 나타났다.
이 연구는 지난 5년 동안 수행된 학교도서관 활성화사업의 결과로 거의 모든 학교에 도서관이 설치된 상황에서 미흡한 분야를 점검하고 앞으로 수행할 분야를 개발하여 학교도서관의 지속적 발전을 위한 방안을 모색하고자 학교도서관 평가지표를 개발하고자 하였다. 이를 위해 이 연구에서는 문화체육관광부의 2009년 평가지표, 교육과학기술부 정책연구 평가지표, 선행연구인 학교도서관의 BSC 성과지표, 한국도서관협회 학교도서관 평가기준을 분석하고 교육과학기술부의 2단계 학교도서관 진흥 기본 계획과 "학교도서관진흥법", 교육과학기술부의 시 도교육청 평가지표를 분석함으로써 8개 영역 54개의 평가지표를 개발하였으며 최종적으로 8개 영역 48개의 평가지표를 제시하였다. 한편 이 연구에서 제시한 평가기준에 대한 신뢰성을 높이기 위해 분석결과에 대한 검증은 1차적으로 학교도서관 관련전문가를 통해 검토가 이루어졌다. 이 결과를 바탕으로, 2차 평가는 학교도서관 담당 교사를 통해 이루어져 전체적으로 연구한 평가지표에 대해서는 2단계 검증을 수행하였다.
기술개발이 국가경쟁력 제고의 중요한 수단으로 인식됨에 따라 국가차원에서의 연구개발이 적극적으로 추진하고 있다. 우리나라의 경우도 예외가 아니어서, 1990년대 이후 우리 정부는 국가연구개발사업을 높이기 위해 연구 평가제도를 꾸준히 정비하여 왔다. 그러나 아직까지도 연구평가와 관련하여 여러 가지의 개선요구가 연구자들로부터 제기되고 있다. 이러한 현상이 나타나는 이유는 근본적으로 연구평가가 공급자 위주로 이루어지면서 미래지향적이고 효율적인 접근이 이루어지지 못하였다는 데에서 그 원인을 찾을 수 있다. 본 연구에서는 현재 여러 정부부처에서 연구평가를 시행하면서 연구과제의 선정단계와 중간평가단계에서 사용되고 있는 지표가 정책 목표에 합목적적이고 국가연구개발사업의 실질적인 성과를 제고할 수 있도록 구성되어 있는가를 살펴보았다. 연구의 성격에 따라 학술기초 연구사업, 원천기술 연구사업, 그리고 산업기술 개발사업을 분류된 사업그룹별로 연구의 특성을 반영하는 준거 틀과 실제로 사용하고 있는 지표를 비교하였다. 그 결과 아래와 같은 세 가지 유형의 문제점이 도출되었다. 첫째는 연구 성격이나 연구 활동의 수행 단계에 맞지 않는 불필요한 지표들이 활용되고 있는 경우이다. 여기에는 연구수행단계 또는 연구 성격을 감안하여 볼 때 꼭 필요하지 않은 지표임에도 불구하고 채택이 되고 있거나, 하나의 평가지표로 충분히 점검이 가능한데에도 불구하고 유사한 여러 가지의 지표들이 사용되는 경우를 포함하고 있다. 둘째는 지표의 구성에 있어 연구사업의 성공요인을 반영하지 못하고 있는 경우이다. 여기에는 특정한 연구수행단계의 성과를 평가하는데 필요한 지표들이 제외되어 있거나, 연구의 특성에 대한 고려가 이루어지지 않은 상태로 불필요하거나 반복적인 지표가 채택되는 경우를 포함하고 있다. 셋째는 추상적이며 측정이 어려운 지표를 채택하고 있는 경우이다. 여기에는 지표에 대한 정확한 정의가 이루어져 있지 않아 피 평가자가 불필요하거나 과다한 평가 자료를 준비해야 하거나 평가자로 하여금 평가 시 혼돈을 유발할 가능성이 있거나, 또는 상위개념의 평가항목과 하위개념의 평가항목이 혼재되어 구분이 모호한 경우를 포함하고 있다.
국내 정부부처 및 지역자치단체에서 수행하고 있는 연구개발 프로젝트의 선정과 평가에 관한 연구는 광범위하게 이루어지고 있다. 그러나 각 정부 부처별로 실시하는 평가프로세스와 지표의 경우 부처별 특성과, 과제의 특성을 반영하기 위한 프로세스와 지표를 개별적으로 보유하고 있으나, 과제의 평가를 수행하는 조직의 규모나 지역적 특색을 반영하기 어렵다.본 연구는 C 지역의 테크노파크(TechnoPark) 사업자가 수행하는 지역 자치단체 중심 R&D 프로젝트의 특성과 지역적인 특색을 반영한 평가관리 시스템을 개발하고자 한다. 본 연구에서는 먼저 국내 출연연구기관 및 정부부처에서 수행하는 평가시스템의 특성을 파악하고, 각 기관에서의 평가프로세스와 평가지표들을 조사하여 공통적/개별적 특성을 분류하였다. 분류된 프로세스와 지표들과 C 지역의 지역/산업적 특색을 분석하고 C 지역에서 수행한 3년간의 모든 과제에 대한 분석을 수행하여 지역적인 특색을 반영한 평가프로세스와 지표를 도출하였다. 또한 연구개발 프로젝트의 선정평가를 위한 사전 기술성 평가를 위한 기술가치평가와, 프로젝트의 수행결과 이후 나타나는 부가적인 효과를 분석하기 위하여, 프로젝트단위의 균형성과지표를 적용하여 프로젝트의 사후/추적관리 방안을 제시하고자 한다.
본 논문은 기술개발지원사업의 선정 평가지표를 개발하고, 사례에 적용하여 그 타당성을 파악하고 있다. 개발된 선정평가지표의 기업선정순위와 기존 선정평가지표의 기업선정순위를 비교하여 성과를 낸 기업의 순위를 어떤 선정평가지표가 더 정확히 유추해 냈는지를 확인하고 있다. BSC 및 AHP기법을 이용하여 기술개발지원사업 선정평가지표를 개발하였다.
본 웹사이트에 게시된 이메일 주소가 전자우편 수집 프로그램이나
그 밖의 기술적 장치를 이용하여 무단으로 수집되는 것을 거부하며,
이를 위반시 정보통신망법에 의해 형사 처벌됨을 유념하시기 바랍니다.
[게시일 2004년 10월 1일]
이용약관
제 1 장 총칙
제 1 조 (목적)
이 이용약관은 KoreaScience 홈페이지(이하 “당 사이트”)에서 제공하는 인터넷 서비스(이하 '서비스')의 가입조건 및 이용에 관한 제반 사항과 기타 필요한 사항을 구체적으로 규정함을 목적으로 합니다.
제 2 조 (용어의 정의)
① "이용자"라 함은 당 사이트에 접속하여 이 약관에 따라 당 사이트가 제공하는 서비스를 받는 회원 및 비회원을
말합니다.
② "회원"이라 함은 서비스를 이용하기 위하여 당 사이트에 개인정보를 제공하여 아이디(ID)와 비밀번호를 부여
받은 자를 말합니다.
③ "회원 아이디(ID)"라 함은 회원의 식별 및 서비스 이용을 위하여 자신이 선정한 문자 및 숫자의 조합을
말합니다.
④ "비밀번호(패스워드)"라 함은 회원이 자신의 비밀보호를 위하여 선정한 문자 및 숫자의 조합을 말합니다.
제 3 조 (이용약관의 효력 및 변경)
① 이 약관은 당 사이트에 게시하거나 기타의 방법으로 회원에게 공지함으로써 효력이 발생합니다.
② 당 사이트는 이 약관을 개정할 경우에 적용일자 및 개정사유를 명시하여 현행 약관과 함께 당 사이트의
초기화면에 그 적용일자 7일 이전부터 적용일자 전일까지 공지합니다. 다만, 회원에게 불리하게 약관내용을
변경하는 경우에는 최소한 30일 이상의 사전 유예기간을 두고 공지합니다. 이 경우 당 사이트는 개정 전
내용과 개정 후 내용을 명확하게 비교하여 이용자가 알기 쉽도록 표시합니다.
제 4 조(약관 외 준칙)
① 이 약관은 당 사이트가 제공하는 서비스에 관한 이용안내와 함께 적용됩니다.
② 이 약관에 명시되지 아니한 사항은 관계법령의 규정이 적용됩니다.
제 2 장 이용계약의 체결
제 5 조 (이용계약의 성립 등)
① 이용계약은 이용고객이 당 사이트가 정한 약관에 「동의합니다」를 선택하고, 당 사이트가 정한
온라인신청양식을 작성하여 서비스 이용을 신청한 후, 당 사이트가 이를 승낙함으로써 성립합니다.
② 제1항의 승낙은 당 사이트가 제공하는 과학기술정보검색, 맞춤정보, 서지정보 등 다른 서비스의 이용승낙을
포함합니다.
제 6 조 (회원가입)
서비스를 이용하고자 하는 고객은 당 사이트에서 정한 회원가입양식에 개인정보를 기재하여 가입을 하여야 합니다.
제 7 조 (개인정보의 보호 및 사용)
당 사이트는 관계법령이 정하는 바에 따라 회원 등록정보를 포함한 회원의 개인정보를 보호하기 위해 노력합니다. 회원 개인정보의 보호 및 사용에 대해서는 관련법령 및 당 사이트의 개인정보 보호정책이 적용됩니다.
제 8 조 (이용 신청의 승낙과 제한)
① 당 사이트는 제6조의 규정에 의한 이용신청고객에 대하여 서비스 이용을 승낙합니다.
② 당 사이트는 아래사항에 해당하는 경우에 대해서 승낙하지 아니 합니다.
- 이용계약 신청서의 내용을 허위로 기재한 경우
- 기타 규정한 제반사항을 위반하며 신청하는 경우
제 9 조 (회원 ID 부여 및 변경 등)
① 당 사이트는 이용고객에 대하여 약관에 정하는 바에 따라 자신이 선정한 회원 ID를 부여합니다.
② 회원 ID는 원칙적으로 변경이 불가하며 부득이한 사유로 인하여 변경 하고자 하는 경우에는 해당 ID를
해지하고 재가입해야 합니다.
③ 기타 회원 개인정보 관리 및 변경 등에 관한 사항은 서비스별 안내에 정하는 바에 의합니다.
제 3 장 계약 당사자의 의무
제 10 조 (KISTI의 의무)
① 당 사이트는 이용고객이 희망한 서비스 제공 개시일에 특별한 사정이 없는 한 서비스를 이용할 수 있도록
하여야 합니다.
② 당 사이트는 개인정보 보호를 위해 보안시스템을 구축하며 개인정보 보호정책을 공시하고 준수합니다.
③ 당 사이트는 회원으로부터 제기되는 의견이나 불만이 정당하다고 객관적으로 인정될 경우에는 적절한 절차를
거쳐 즉시 처리하여야 합니다. 다만, 즉시 처리가 곤란한 경우는 회원에게 그 사유와 처리일정을 통보하여야
합니다.
제 11 조 (회원의 의무)
① 이용자는 회원가입 신청 또는 회원정보 변경 시 실명으로 모든 사항을 사실에 근거하여 작성하여야 하며,
허위 또는 타인의 정보를 등록할 경우 일체의 권리를 주장할 수 없습니다.
② 당 사이트가 관계법령 및 개인정보 보호정책에 의거하여 그 책임을 지는 경우를 제외하고 회원에게 부여된
ID의 비밀번호 관리소홀, 부정사용에 의하여 발생하는 모든 결과에 대한 책임은 회원에게 있습니다.
③ 회원은 당 사이트 및 제 3자의 지적 재산권을 침해해서는 안 됩니다.
제 4 장 서비스의 이용
제 12 조 (서비스 이용 시간)
① 서비스 이용은 당 사이트의 업무상 또는 기술상 특별한 지장이 없는 한 연중무휴, 1일 24시간 운영을
원칙으로 합니다. 단, 당 사이트는 시스템 정기점검, 증설 및 교체를 위해 당 사이트가 정한 날이나 시간에
서비스를 일시 중단할 수 있으며, 예정되어 있는 작업으로 인한 서비스 일시중단은 당 사이트 홈페이지를
통해 사전에 공지합니다.
② 당 사이트는 서비스를 특정범위로 분할하여 각 범위별로 이용가능시간을 별도로 지정할 수 있습니다. 다만
이 경우 그 내용을 공지합니다.
제 13 조 (홈페이지 저작권)
① NDSL에서 제공하는 모든 저작물의 저작권은 원저작자에게 있으며, KISTI는 복제/배포/전송권을 확보하고
있습니다.
② NDSL에서 제공하는 콘텐츠를 상업적 및 기타 영리목적으로 복제/배포/전송할 경우 사전에 KISTI의 허락을
받아야 합니다.
③ NDSL에서 제공하는 콘텐츠를 보도, 비평, 교육, 연구 등을 위하여 정당한 범위 안에서 공정한 관행에
합치되게 인용할 수 있습니다.
④ NDSL에서 제공하는 콘텐츠를 무단 복제, 전송, 배포 기타 저작권법에 위반되는 방법으로 이용할 경우
저작권법 제136조에 따라 5년 이하의 징역 또는 5천만 원 이하의 벌금에 처해질 수 있습니다.
제 14 조 (유료서비스)
① 당 사이트 및 협력기관이 정한 유료서비스(원문복사 등)는 별도로 정해진 바에 따르며, 변경사항은 시행 전에
당 사이트 홈페이지를 통하여 회원에게 공지합니다.
② 유료서비스를 이용하려는 회원은 정해진 요금체계에 따라 요금을 납부해야 합니다.
제 5 장 계약 해지 및 이용 제한
제 15 조 (계약 해지)
회원이 이용계약을 해지하고자 하는 때에는 [가입해지] 메뉴를 이용해 직접 해지해야 합니다.
제 16 조 (서비스 이용제한)
① 당 사이트는 회원이 서비스 이용내용에 있어서 본 약관 제 11조 내용을 위반하거나, 다음 각 호에 해당하는
경우 서비스 이용을 제한할 수 있습니다.
- 2년 이상 서비스를 이용한 적이 없는 경우
- 기타 정상적인 서비스 운영에 방해가 될 경우
② 상기 이용제한 규정에 따라 서비스를 이용하는 회원에게 서비스 이용에 대하여 별도 공지 없이 서비스 이용의
일시정지, 이용계약 해지 할 수 있습니다.
제 17 조 (전자우편주소 수집 금지)
회원은 전자우편주소 추출기 등을 이용하여 전자우편주소를 수집 또는 제3자에게 제공할 수 없습니다.
제 6 장 손해배상 및 기타사항
제 18 조 (손해배상)
당 사이트는 무료로 제공되는 서비스와 관련하여 회원에게 어떠한 손해가 발생하더라도 당 사이트가 고의 또는 과실로 인한 손해발생을 제외하고는 이에 대하여 책임을 부담하지 아니합니다.
제 19 조 (관할 법원)
서비스 이용으로 발생한 분쟁에 대해 소송이 제기되는 경우 민사 소송법상의 관할 법원에 제기합니다.
[부 칙]
1. (시행일) 이 약관은 2016년 9월 5일부터 적용되며, 종전 약관은 본 약관으로 대체되며, 개정된 약관의 적용일 이전 가입자도 개정된 약관의 적용을 받습니다.