科学技术评价方法及精选文档.ppt

《科学技术评价方法及精选文档.ppt》由会员分享，可在线阅读，更多相关《科学技术评价方法及精选文档.ppt（84页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、科学技术评价方法及本讲稿第一页，共八十四页内容提要内容提要一、引一、引 言言二、什么是科学技术评价二、什么是科学技术评价三、为什么要开展科学技术评价三、为什么要开展科学技术评价四、科学技术评价方法及其应用四、科学技术评价方法及其应用五、主要国家科技评价的做法五、主要国家科技评价的做法六、几点启示六、几点启示本讲稿第二页，共八十四页一、引一、引 言言 科学技术评价活动在科学技术发展的不同历史时期具有不同科学技术评价活动在科学技术发展的不同历史时期具有不同的特征。的特征。在近代科学技术发展的早期，由科学家个人兴趣和好奇心驱在近代科学技术发展的早期，由科学家个人兴趣和好奇心驱动的自由探索研究成为科学

2、技术活动的主要形式，科研活动主要依靠自动的自由探索研究成为科学技术活动的主要形式，科研活动主要依靠自筹资金、社会资助和权贵的捐助，政府的投入很少。科技活动的文化属筹资金、社会资助和权贵的捐助，政府的投入很少。科技活动的文化属性突出。性突出。科学技术评价主要限于科学共同体内部的学术评价和对科学科学技术评价主要限于科学共同体内部的学术评价和对科学家重大科学发现的优先权的识别家重大科学发现的优先权的识别，评价的目的在于，评价的目的在于促进学术交流、促进学术交流、建立科学规范、引导研究方向建立科学规范、引导研究方向。本讲稿第三页，共八十四页一、引一、引 言言 2020世纪以来，人类的科学技术活动进入世

3、纪以来，人类的科学技术活动进入“大科学大科学”时代，科学技时代，科学技术在国家经济、社会和安全中的战略地位日益凸现术在国家经济、社会和安全中的战略地位日益凸现,成为第一生成为第一生产力。特别是二战以后，发展科学技术成为国家战略和国家政策的产力。特别是二战以后，发展科学技术成为国家战略和国家政策的重要方面。科技活动的文化属性和生产力属性并重。政府对科学技重要方面。科技活动的文化属性和生产力属性并重。政府对科学技术活动的宏观引导与组织管理不断加强，对科学研究的投入不断加术活动的宏观引导与组织管理不断加强，对科学研究的投入不断加大。大。科学技术评价不仅限于科学共同体内部的学术评价机制，也成为科学技术

4、评价不仅限于科学共同体内部的学术评价机制，也成为政府制定科技政策、配置科技资源和实施有效管理的重要行为（手段）。政府制定科技政策、配置科技资源和实施有效管理的重要行为（手段）。本讲稿第四页，共八十四页科技活动的本质规律对评价的要求科技活动的本质规律对评价的要求共同理念自由发展物质资源-精神产品水平、质量、精品方针、政策引导个人创造与灵感观念观念过程过程环境环境成果成果组织组织共同目标严格管理物质财富循环增值效益、数量、规模制度规范团队精神与合作等 科学技术工作是集生产力和文化属性为一体的活动科学技术工作是集生产力和文化属性为一体的活动本讲稿第五页，共八十四页科技活动的本质规律对评价的要求科技活

5、动的本质规律对评价的要求n科技评价的困难在于：科技评价的困难在于：需需要要寻寻找找一一种种能能兼兼顾顾生生产产力力评评价价和和文文化化评评价价为一体的方法。为一体的方法。本讲稿第六页，共八十四页二、什么是科学技术评价二、什么是科学技术评价n概念内涵概念内涵 科学技术评价是对科学技术活动及其产出和影响的科学技术评价是对科学技术活动及其产出和影响的价值价值进行进行判断的判断的认识活动认识活动。科学技术评价既是科学共同体和科学技术发展内在的、基本科学技术评价既是科学共同体和科学技术发展内在的、基本的学术评价机制，也是科学技术管理的工具，是对科学技术活动的学术评价机制，也是科学技术管理的工具，是对科学

6、技术活动进行预测、规划、决策、管理、监督的手段。进行预测、规划、决策、管理、监督的手段。本讲稿第七页，共八十四页二、什么是科学技术评价二、什么是科学技术评价科学技术评价分类科学技术评价分类n按科技活动阶段：事前评价、事中评价、事后评价。按科技活动阶段：事前评价、事中评价、事后评价。q按按评评价目价目的的：立：立项评审项评审、中期、中期评评估、估、结题验结题验收、收、绩绩效效评评价。价。q按评价对象：政策评价、计划评价、项目评价、机构评价、人员评价、按评价对象：政策评价、计划评价、项目评价、机构评价、人员评价、成果评价等。成果评价等。q按评价方法：定性评价、定量评价、综合评价等。按评价方法：定性

7、评价、定量评价、综合评价等。q按评价执行方：内部评价、外部评价。按评价执行方：内部评价、外部评价。本讲稿第八页，共八十四页二、什么是科学技术评价二、什么是科学技术评价科学技术评价的原则科学技术评价的原则q科学性科学性q独立独立性性 q客观客观性性(注意客注意客观观与主与主观观的的统统一一,反映事物的本反映事物的本质质属性属性)q公正公正性性q国国际际性性 q实实效性效性q公开性公开性本讲稿第九页，共八十四页三、为什么要开展科学技术评价三、为什么要开展科学技术评价 科学技术评价的需求：科学技术评价的需求：q优化配置政府科技资源；优化配置政府科技资源；q提高政府科技决策与管理的科学化水平；提高政府

8、科技决策与管理的科学化水平；q提高科研工作的效率和质量（引入竞争激励机制）；提高科研工作的效率和质量（引入竞争激励机制）；q促进科学发展目标与国家目标紧密结合（政策引导）；促进科学发展目标与国家目标紧密结合（政策引导）；q营造有利于原始性创新的环境和文化；营造有利于原始性创新的环境和文化；q向公众向公众“交帐交帐”和说明公共资金使用效果（赢得公众的支持、和说明公共资金使用效果（赢得公众的支持、预算制度改革的要求）。预算制度改革的要求）。本讲稿第十页，共八十四页四、科学技术评价方法及其应用四、科学技术评价方法及其应用q定性评价定性评价：同行评议法、回溯和案例评价法同行评议法、回溯和案例评价法q定

9、量评价定量评价：文献计量法、经济计量法文献计量法、经济计量法q综合评价：多指标综合评价法、综合评价：多指标综合评价法、定标比超法定标比超法本讲稿第十一页，共八十四页1 1、同行评议方法、同行评议方法(制度制度)同行评议（同行评议（peer reviewpeer review）是充分依靠科学家群体对科学技术）是充分依靠科学家群体对科学技术活动（包括科研活动、科研资助、科研管理等）进行民主管理活动（包括科研活动、科研资助、科研管理等）进行民主管理的一种方法（或制度）。的一种方法（或制度）。具体而言，同行评议是指某一领域或与其邻近领域的专家采用同一具体而言，同行评议是指某一领域或与其邻近领域的专家采

10、用同一种评价标准，共同对涉及相关领域的某一事项种评价标准，共同对涉及相关领域的某一事项进行独立的价值评议进行独立的价值评议的过程的过程，其评价结果为有关部门的决策提供依据。，其评价结果为有关部门的决策提供依据。本讲稿第十二页，共八十四页1 1、同行评议方法、同行评议方法(制度制度)q同行评议是科技评价中应用最广泛和可信度较高的评价方法，同行评议是科技评价中应用最广泛和可信度较高的评价方法，尤其是对用定量方法难以测度和判断的科研活动的尤其是对用定量方法难以测度和判断的科研活动的价值评估价值评估(merit review)(merit review)，具有其他方法不可替代的优势。，具有其他方法不可

11、替代的优势。美国经济发展委员会美国经济发展委员会：“美国基础研究体系的一个基本优势美国基础研究体系的一个基本优势就是，通过一种认真和具有竞争性的同行评议过程来分配经就是，通过一种认真和具有竞争性的同行评议过程来分配经费拨款。费拨款。”美国国家科学技术理事会基础科学委员会：美国国家科学技术理事会基础科学委员会：“在对单个政府在对单个政府部门当前计划的评审中，以同行评议为基础的价值评价将继续部门当前计划的评审中，以同行评议为基础的价值评价将继续是主要工具。是主要工具。”本讲稿第十三页，共八十四页1 1、同行评议方法、同行评议方法(制度制度)美国美国GPRA确定的评价原则：确定的评价原则：“为确保世

12、界级研究水平而对科为确保世界级研究水平而对科学事业进行管理，同行评议是基础学事业进行管理，同行评议是基础。研究项目要由专家来评定其。研究项目要由专家来评定其价值，资金的配置也须以研究项目的科学价值为依据。潜在的价值，资金的配置也须以研究项目的科学价值为依据。潜在的科研项目和科研计划要根据知识前沿领域的卓越的研究活动的科研项目和科研计划要根据知识前沿领域的卓越的研究活动的标准进行评价。同行评议的价值评估同样可以被用来对一个机标准进行评价。同行评议的价值评估同样可以被用来对一个机构的基础科学项目作回顾性评价。构的基础科学项目作回顾性评价。本讲稿第十四页，共八十四页1 1、同行评议方法、同行评议方法

13、(制度制度)q同行评议广泛应用于各类科技评价活动：同行评议广泛应用于各类科技评价活动：科学出版物（论文、著作等）的评审科学出版物（论文、著作等）的评审 学位、荣誉和职称评定学位、荣誉和职称评定 科研项目评审科研项目评审 科研成果的验收与评奖科研成果的验收与评奖 科研机构评价科研机构评价 科技政策和科技计划评价科技政策和科技计划评价 q同行评议的方式：同行评议的方式：通信评议（函评）；会议评审；函评通信评议（函评）；会议评审；函评+会评；会评；现场评议。现场评议。本讲稿第十五页，共八十四页1 1、同行评议方法（制度）、同行评议方法（制度）q同行评议法的优点：同行评议法的优点：价值评价价值评价q存

14、在的缺陷：存在的缺陷：“熟人关系网熟人关系网”崇尚权威崇尚权威 “马太效应马太效应”不利于支持创新性的非共识项目不利于支持创新性的非共识项目 剽窃行为剽窃行为本讲稿第十六页，共八十四页NIH申请研究资助的同行评议申请研究资助的同行评议 1、机构设置、机构设置 主任办公室主任办公室 18个专业研究所个专业研究所 4个综合研究中心、资源中心和图书馆个综合研究中心、资源中心和图书馆 3个临床医疗、信息技术服务和评估机构个临床医疗、信息技术服务和评估机构（科学评估中心（科学评估中心CSR）本讲稿第十七页，共八十四页2、NIH科学评估中心（科学评估中心（CSR）（1）设立三大综合评审组（临床与人口基础研

15、究、生理系统、分子）设立三大综合评审组（临床与人口基础研究、生理系统、分子和细胞机理）和和细胞机理）和100多个专业评审组多个专业评审组n集中受理申请集中受理申请n将项目申请分配给将项目申请分配给CSR的各专业评审组或研究所的学科评审组的各专业评审组或研究所的学科评审组n将潜在的资助项目申请分配给将潜在的资助项目申请分配给NIH的研究所的研究所n100多个专业评审组对提交的项目申请的多个专业评审组对提交的项目申请的科学创新价值科学创新价值进行评议进行评议 本讲稿第十八页，共八十四页2、NIH科学评估中心（科学评估中心（CSR）（2）分配项目申请的依据）分配项目申请的依据 专业评审组基于专业评审

16、组基于n每个专业评审组的评审指南每个专业评审组的评审指南 研究所基于研究所基于n研究所的使命研究所的使命n研究所的方向研究所的方向本讲稿第十九页，共八十四页3、申请资助的双重评估系统、申请资助的双重评估系统（1）第一层次的评估（项目评价）第一层次的评估（项目评价）专业评审组（专业评审组（SRG）n对申请资助项目的科学创新价值进行评议对申请资助项目的科学创新价值进行评议n对于是否予以资助和资助期限提出建议对于是否予以资助和资助期限提出建议（2）第二层次评估（管理和政策评价）第二层次评估（管理和政策评价）国家咨询理事会（国家咨询理事会（NAC）n评估评估SRG对申请资助项目评议的质量对申请资助项目

17、评议的质量n对对NIH项目官员提出资助建议项目官员提出资助建议n评估优先资助项目评估优先资助项目n提出政策建议提出政策建议本讲稿第二十页，共八十四页研究资助申请研究资助申请医学院或研究中心医学院或研究中心 国立卫生研究院国立卫生研究院 科学评估中心科学评估中心 将申请分配给各专业评审组和研究所将申请分配给各专业评审组和研究所 创新研究思想创新研究思想 提交申请提交申请 专业评审组专业评审组 评估科学价值评估科学价值 研究所研究所 评估项目的可行性评估项目的可行性 咨询理事会和委员会咨询理事会和委员会 提出建议行动提出建议行动 研究所所长研究所所长 向向NIH主任提出最后决策建议主任提出最后决策

18、建议 分配经费分配经费 执行研究执行研究 4、NIH研究资助的评议过程研究资助的评议过程 本讲稿第二十一页，共八十四页5、CSR的同行评议制度的同行评议制度（1）CSR的同行评议的同行评议n各专业评审组由一位与该专业密切相关的资深专家担任专业评审主管（各专业评审组由一位与该专业密切相关的资深专家担任专业评审主管（SRA）n每一个专业评审组由每一个专业评审组由12-24名专家组成（主要来自学术界）名专家组成（主要来自学术界）n每一次专业评审组会议要评审约每一次专业评审组会议要评审约60-100个项目申请个项目申请（2）同行评议专家遴选标准）同行评议专家遴选标准n科学研究造诣深、专业水平高科学研究

19、造诣深、专业水平高n博士学位或相当水平博士学位或相当水平n成熟的判断力成熟的判断力n工作成效显著工作成效显著n学术视野宽阔学术视野宽阔n公平公正公平公正n热心服务热心服务n妇女和少数民族的适当代表妇女和少数民族的适当代表 本讲稿第二十二页，共八十四页5、CSR的同行评议制度的同行评议制度（3）无利益冲突的证明并签字（回避制度）无利益冲突的证明并签字（回避制度）n与申请者的关系：配偶、父母、儿女、合作者与申请者的关系：配偶、父母、儿女、合作者n担任过有关机构的官员、主任、理事、雇员或合作者担任过有关机构的官员、主任、理事、雇员或合作者n与有关机构进行过谈判或存在预期雇佣的有关协议及其他类似关系与

20、有关机构进行过谈判或存在预期雇佣的有关协议及其他类似关系（4）保密制度）保密制度n评议材料和评审会会议录所反映的特殊信息仅供讨论和评议材料和评审会会议录所反映的特殊信息仅供讨论和NIH项目官员使用项目官员使用n在形成每次会议结论时，讨论材料要销毁或反馈所有与评审有关的材料在形成每次会议结论时，讨论材料要销毁或反馈所有与评审有关的材料n除评审主管（除评审主管（SRA）外，讨论内容将不列入评审会议录）外，讨论内容将不列入评审会议录n评审过程中的有关问题应提交评审主管评审过程中的有关问题应提交评审主管本讲稿第二十三页，共八十四页6、专业评审组评审会专业评审组评审会（1）评审标准）评审标准n科学意义科

21、学意义：本研究能解决一项重要问题吗？能发展新的科学知识吗？：本研究能解决一项重要问题吗？能发展新的科学知识吗？n方法和路径方法和路径：设计思路和方法是否先进、可行？能解决遇到的问题吗？：设计思路和方法是否先进、可行？能解决遇到的问题吗？n创新创新：有无新颖的概念和方法？其研究目标是原始创新吗？：有无新颖的概念和方法？其研究目标是原始创新吗？n主要成员主要成员：主要成员接受过良好的训练吗？：主要成员接受过良好的训练吗？n环境环境：现有条件能支持可能的成功吗？科研环境有独一无二的特点吗？：现有条件能支持可能的成功吗？科研环境有独一无二的特点吗？（2）决定是否同意资助的要素）决定是否同意资助的要素n

22、科学价值科学价值n项目实施的考虑项目实施的考虑n经费使用的合理性经费使用的合理性本讲稿第二十四页，共八十四页6、专业评审组评审会专业评审组评审会（3）专业评审组的行动）专业评审组的行动n对申请项目科学价值的优先等级给分（对申请项目科学价值的优先等级给分（1.0-3.0；百分制）；百分制）基于有关的评审标准，评审组首先判断该申请项目科学价值的等级在所有基于有关的评审标准，评审组首先判断该申请项目科学价值的等级在所有被评审项目的一半以上的行列，对请求的研究时间和资助经费提出建议，被评审项目的一半以上的行列，对请求的研究时间和资助经费提出建议，给出优先等级的评分，综合讨论中的意见和建议，给出评议结论

23、。给出优先等级的评分，综合讨论中的意见和建议，给出评议结论。n不评分（一半以下）不评分（一半以下）评审组成员全体一致认为该申请项目的科学价值的等级在所有被评审项目的一半以下的评审组成员全体一致认为该申请项目的科学价值的等级在所有被评审项目的一半以下的行列，就不予评分。行列，就不予评分。通讯评议意见汇总后经评审组审议反馈给申请者通讯评议意见汇总后经评审组审议反馈给申请者。n延缓延缓 在没有附加信息的情况下，评审组无法给出推荐意见。当然，可以访问该项目的有关网在没有附加信息的情况下，评审组无法给出推荐意见。当然，可以访问该项目的有关网站，或由申请者提供补充材料。站，或由申请者提供补充材料。本讲稿第

24、二十五页，共八十四页6、专业评审组评审会专业评审组评审会（4）专业评审组的后续行动）专业评审组的后续行动n按优先等级分数和百分数计算排序按优先等级分数和百分数计算排序n提供总结材料提供总结材料n对通过评审的申请项目，专业评审组要以书面的形式给出总结建议，希望研究所对该项对通过评审的申请项目，专业评审组要以书面的形式给出总结建议，希望研究所对该项目进行资助。目进行资助。n书面总结建议一般包括：书面总结建议一般包括：评议的概要和结论评议的概要和结论 原始的批评意见原始的批评意见 优先级评分和百分制评分排序优先级评分和百分制评分排序 预算建议预算建议 项目管理注意事项项目管理注意事项n移交国家咨询理

25、事会作进一步考虑移交国家咨询理事会作进一步考虑本讲稿第二十六页，共八十四页7、国家咨询理事会的评议行动国家咨询理事会的评议行动 n同意专业评审组的意见同意专业评审组的意见n修改专业评审组的意见修改专业评审组的意见n对延缓的项目组织复审对延缓的项目组织复审本讲稿第二十七页，共八十四页 同行评议的制度安排同行评议的制度安排 1、同行评议专家资格审查制度、同行评议专家资格审查制度 是保证同行评议有效性的基本前提是保证同行评议有效性的基本前提n确定专家遴选标准确定专家遴选标准n同行或单位推荐同行或单位推荐n专家基本情况登记专家基本情况登记n专家资格审查专家资格审查n专家公示专家公示n专家入库专家入库本

26、讲稿第二十八页，共八十四页 同行评议的制度安排同行评议的制度安排2、建立同行评议专家库、建立同行评议专家库 为评价活动提供充足的、符合要求为评价活动提供充足的、符合要求的专家人选的专家人选n根据评价的需要确定专家数量规模根据评价的需要确定专家数量规模n专家信息的完整性专家信息的完整性n专家信息的动态跟踪与更新专家信息的动态跟踪与更新n专家评议信息记录专家评议信息记录n专家库定期评估与动态更新制度专家库定期评估与动态更新制度n专家公示（尤其是评价委员会和专家组成员）专家公示（尤其是评价委员会和专家组成员）n专家库共享机制专家库共享机制本讲稿第二十九页，共八十四页 同行评议的制度安排同行评议的制度

27、安排3、评价专家遴选的随机原则、评价专家遴选的随机原则 避免人为因素干扰，保证遴选程避免人为因素干扰，保证遴选程序的公正性序的公正性n根据评价需要提出所需评价专家的特征信息根据评价需要提出所需评价专家的特征信息 （研究领域、专长、职称、年龄、地区、部门、机构等）（研究领域、专长、职称、年龄、地区、部门、机构等）n遵循相应规则在专家库中随机遴选遵循相应规则在专家库中随机遴选本讲稿第三十页，共八十四页 同行评议的制度安排同行评议的制度安排4、评价专家定期更换制度、评价专家定期更换制度保证评价专家委员会（专家组）的权保证评价专家委员会（专家组）的权威性、公正性和代表性，避免相关利益关系对评价工作的影

28、响威性、公正性和代表性，避免相关利益关系对评价工作的影响n实行任期制，定期更换实行任期制，定期更换n评价专家委员会（专家组）成员任期一般不超过两届评价专家委员会（专家组）成员任期一般不超过两届n在规定的届期内逐年按比例更换专家在规定的届期内逐年按比例更换专家本讲稿第三十一页，共八十四页 同行评议的制度安排同行评议的制度安排5、评价专家回避制度、评价专家回避制度避免评价专家与被评价者之间的利益关系，保证避免评价专家与被评价者之间的利益关系，保证评价的客观、公正性评价的客观、公正性n被评价者可以提出回避专家的名单，书面出据证据和理由被评价者可以提出回避专家的名单，书面出据证据和理由n评价专家保证与

29、被评价者之间无利益冲突关系，并书面签字评价专家保证与被评价者之间无利益冲突关系，并书面签字6、评价意见反馈制度、评价意见反馈制度提高专家评价的客观、公正和科学性提高专家评价的客观、公正和科学性n被评价方具有知情权被评价方具有知情权n评价意见反馈给被评价的人员或单位评价意见反馈给被评价的人员或单位本讲稿第三十二页，共八十四页 同行评议的制度安排同行评议的制度安排7、对评价意见的申诉制度、对评价意见的申诉制度加强对评价活动的监督制约机制加强对评价活动的监督制约机制n被评价方对评价意见持有异议，可以向评价委托方或评价监督委员会提出申诉被评价方对评价意见持有异议，可以向评价委托方或评价监督委员会提出申

30、诉n被评价方提供书面材料被评价方提供书面材料n评价监督委员会负责调查并做出仲裁评价监督委员会负责调查并做出仲裁8、评价专家信用制度、评价专家信用制度提高评价专家的责任感和信誉度，保证评价工作客观、公正提高评价专家的责任感和信誉度，保证评价工作客观、公正n跟踪记录评价专家的评价活动信息跟踪记录评价专家的评价活动信息n建立评价专家信用库建立评价专家信用库n定期在内部组织对评价专家信用的反评估定期在内部组织对评价专家信用的反评估n反评估结果为调整和更换专家提供依据反评估结果为调整和更换专家提供依据本讲稿第三十三页，共八十四页 同行评议的制度安排同行评议的制度安排9、国际评价机制、国际评价机制保证评价

31、工作客观、公正，提高评价的质量和水平保证评价工作客观、公正，提高评价的质量和水平n建立海外评价专家库建立海外评价专家库n按合适比例邀请国际一流专家参与评价工作按合适比例邀请国际一流专家参与评价工作n注意国家安全和保密问题注意国家安全和保密问题10、对、对“非共识非共识”项目建立小额探索资助机制项目建立小额探索资助机制保证创新性保证创新性“非共识非共识”项目的探索项目的探索机会机会n识别识别“非共识非共识”项目项目n建立小额探索资助基金建立小额探索资助基金n评审专家署名推荐评审专家署名推荐n项目主管提议，请个别专家复审项目主管提议，请个别专家复审n研究期限研究期限1-2年年 本讲稿第三十四页，共

32、八十四页 同行评议的制度安排同行评议的制度安排11、对申请项目的新构思实行、对申请项目的新构思实行“优先权优先权”制度制度避免剽窃行为避免剽窃行为n对申请项目的新构思实行对申请项目的新构思实行“优先权优先权”的书面备案的书面备案n保护申请人的原始性创新思想保护申请人的原始性创新思想本讲稿第三十五页，共八十四页2 2、案例与回溯评价法、案例与回溯评价法 q特点：特点：对对关键事件或典型案例关键事件或典型案例进行回顾和剖析，分析导致关键事件发生进行回顾和剖析，分析导致关键事件发生的科学内外部因素，分析研究工作环境和资助机制对取得重要成果的科学内外部因素，分析研究工作环境和资助机制对取得重要成果的作

33、用与影响，总结成功经验与不足，预见科研工作可能产生的影的作用与影响，总结成功经验与不足，预见科研工作可能产生的影响，提高科学研究与科研管理工作的显示度。响，提高科学研究与科研管理工作的显示度。本讲稿第三十六页，共八十四页2 2、案例与回溯评价法、案例与回溯评价法q优点：清晰描绘研究工作的关键事件及其价值，以及内外因素对研究优点：清晰描绘研究工作的关键事件及其价值，以及内外因素对研究工作的影响。工作的影响。q缺点：评价结果难以反映整体，结论不具普适性。缺点：评价结果难以反映整体，结论不具普适性。成本高、研究周期长。成本高、研究周期长。q一般适用于投资周期长、投资强度大的重大科技计划（项目）、大科

34、一般适用于投资周期长、投资强度大的重大科技计划（项目）、大科学工程以及科研机构的评价等。学工程以及科研机构的评价等。本讲稿第三十七页，共八十四页2 2、案例与回溯评价法、案例与回溯评价法q应用：应用：美国美国NSFNSF采用案例和回溯评价方法，定期展示基础研究的贡献。采用案例和回溯评价方法，定期展示基础研究的贡献。著名的评估工作有：著名的评估工作有：19681968年，技术回溯与科学中的重大事件年，技术回溯与科学中的重大事件 19731973年，创新过程中科学与技术的相互作用年，创新过程中科学与技术的相互作用 19801980年，基础研究如何获得了意想不到的回报年，基础研究如何获得了意想不到的

35、回报本讲稿第三十八页，共八十四页3 3、文献计量评价法、文献计量评价法 q文献计量评价法是利用科学产出的文献计量指标的定量数据，文献计量评价法是利用科学产出的文献计量指标的定量数据，采用数学和统计学方法，对科学活动规律及其影响进行研究采用数学和统计学方法，对科学活动规律及其影响进行研究与分析的一种方法。与分析的一种方法。q文献计量评价法基于文献计量评价法基于科学引文索引科学引文索引（SCI）和专利数据库，采取）和专利数据库，采取论文指标、引文指标、专利引文指标等从论文指标、引文指标、专利引文指标等从宏观层面宏观层面研究国家的科学研究国家的科学能力、科学前沿发展趋势、科学活动的水平及影响具有统计

36、学能力、科学前沿发展趋势、科学活动的水平及影响具有统计学意义上的合理性和可信度，对国家宏观科技政策和科技管理具意义上的合理性和可信度，对国家宏观科技政策和科技管理具有一定的参考价值。有一定的参考价值。本讲稿第三十九页，共八十四页3 3、文献计量评价法、文献计量评价法 代表性的工作代表性的工作n美国美国NSF科学与工程指标科学与工程指标（双年份）（双年份）n美国美国ISI科学观察科学观察（双月刊）（双月刊）n英国英国OST科学、工程与技术年度统计报告科学、工程与技术年度统计报告（年度）（年度）n中国科技信息研究所中国科技信息研究所中国科技论文统计与分析中国科技论文统计与分析（年度）（年度）n中科

37、院文献情报中心中科院文献情报中心世界科学中的中国研究报告世界科学中的中国研究报告(不定期不定期)本讲稿第四十页，共八十四页3 3、文献计量评价法在中国科学国际比较中的应用、文献计量评价法在中国科学国际比较中的应用2002年，年，SCI收录中国论文数量达到收录中国论文数量达到39015篇，篇，占世界科学论文的比例从占世界科学论文的比例从1987年的年的1.25%上升到上升到4.38%，位于美、英、日、德、法之后，居世界第，位于美、英、日、德、法之后，居世界第6位。位。（1994年年居第居第15位）位）1991-2003年间，中国论文被引频次年间，中国论文被引频次62万多次，名列世界第万多次，名列

38、世界第19位、亚洲第位、亚洲第3位。位。1997-2002年，中国论文数量平均增长年，中国论文数量平均增长19%，论文平均被引篇数平均增长，论文平均被引篇数平均增长19.4%。1992-2003年，年，中国在世界科学中国在世界科学TOP25国家中综合排名第国家中综合排名第14位，材料科学名列世界位，材料科学名列世界第第6位，数学第位，数学第8位，化学第位，化学第10位，物理学第位，物理学第13位。位。本讲稿第四十一页，共八十四页3 3、文献计量评价法、文献计量评价法q但在微观层面上，例如在评价科研人员或某一个具体项目时，文献但在微观层面上，例如在评价科研人员或某一个具体项目时，文献计量指标存在

39、诸多局限性，如指标的单一性、学科间的不可比较性、计量指标存在诸多局限性，如指标的单一性、学科间的不可比较性、科学价值的不可表征性等等科学价值的不可表征性等等,导致其客观性大打折扣。因此，仅依据导致其客观性大打折扣。因此，仅依据定量数据得出评价结论，往往成为一种定量数据得出评价结论，往往成为一种“Stupid IndicatorStupid Indicator”。q利用文献计量指标评价科研产出能力和水平时，有一个系统误利用文献计量指标评价科研产出能力和水平时，有一个系统误差问题，评价结果的误差与评价系统的尺度大小呈负相关关系，差问题，评价结果的误差与评价系统的尺度大小呈负相关关系，即系统的尺度越

40、大，评价结果的误差就越小，反之，评价结果即系统的尺度越大，评价结果的误差就越小，反之，评价结果的误差就越大。的误差就越大。本讲稿第四十二页，共八十四页3 3、文献计量评价法、文献计量评价法q文献计量评价法较多应用于宏观层面（如国家间的比较）和中观层文献计量评价法较多应用于宏观层面（如国家间的比较）和中观层面（如同质机构间的比较）的科技评价。面（如同质机构间的比较）的科技评价。q评价某一个人（或某一个项目）的科研产出质量及影响，应以评价某一个人（或某一个项目）的科研产出质量及影响，应以“同同行评议行评议”方法为主，文献计量指标仅作为参考指标。方法为主，文献计量指标仅作为参考指标。本讲稿第四十三页

41、，共八十四页4 4、经济计量评价法、经济计量评价法q经济计量评价法是基于投入经济计量评价法是基于投入-产出模型或生产函数模型对科技活动效产出模型或生产函数模型对科技活动效率或效益进行评估的一种方法。包括：率或效益进行评估的一种方法。包括：成本效益法成本效益法：成本、效益、成本、效益、净现值净现值、收益率等指、收益率等指标标。生生产产功能法功能法：利用：利用资资本、本、劳动力劳动力、研究、研究经费经费支出来支出来测度科研测度科研活动活动对对产品产品附加价附加价值值的的边际贡边际贡献献。投入产出法：经济系统投入投入产出法：经济系统投入-产出的相互依存关系。产出的相互依存关系。q由于其产出指标主要采

42、取生产要素和经济效益指标，由于其产出指标主要采取生产要素和经济效益指标，该方法一般仅该方法一般仅适用于开发类研究活动或科技产业化的评价，不适合基础研适用于开发类研究活动或科技产业化的评价，不适合基础研究和应用研究。究和应用研究。本讲稿第四十四页，共八十四页4 4、经济计量评价法、经济计量评价法q针对宏观层面的基础研究和应用研究的绩效评估，有时可以针对宏观层面的基础研究和应用研究的绩效评估，有时可以采用投入产出统计指标来测度科研活动的投入产出效率，如采用投入产出统计指标来测度科研活动的投入产出效率，如单位投入产出的论文数、引文数、专利数、获奖数等，或产单位投入产出的论文数、引文数、专利数、获奖数

43、等，或产出单位论文数、引文数、专利数、获奖数所需的投入成本。出单位论文数、引文数、专利数、获奖数所需的投入成本。本讲稿第四十五页，共八十四页投入产出的国际比较（以英国为例）投入产出的国际比较（以英国为例）n以仅占世界以仅占世界1%的人口，英国的的人口，英国的R&D经费支出占世界经费支出占世界R&D经费支出总量的经费支出总量的4.5%；英国的科学产出论文占世界科技论文总量的；英国的科学产出论文占世界科技论文总量的8%；英国科学家论文被引次数占世界科；英国科学家论文被引次数占世界科学论文被引用总数的学论文被引用总数的9%；20世纪，英国科学家获奖占国际权威科学奖励的世纪，英国科学家获奖占国际权威科

44、学奖励的10%（至（至2000年，英国获诺贝尔自然科学奖人数达年，英国获诺贝尔自然科学奖人数达75名，居世界第二）；英国专利申请数名，居世界第二）；英国专利申请数占世界专利申请总数的占世界专利申请总数的3.4%；英国高技术出口额占世界高技术出口总额的；英国高技术出口额占世界高技术出口总额的8%。n结论：英国基础研究的投入结论：英国基础研究的投入-产出效益是世界上较高的，英国科学技术总体实力和产出效益是世界上较高的，英国科学技术总体实力和水平在世界上处于前列，其研究与发展（水平在世界上处于前列，其研究与发展（R&D）一直保持相当高的水准。）一直保持相当高的水准。本讲稿第四十六页，共八十四页投入产

45、出的国际比较（举例）投入产出的国际比较（举例）n我国科学研究的投入产出效率与发达国家相比有较大的差距。我国科学研究的投入产出效率与发达国家相比有较大的差距。中科院王志新院士对中科院与德国马普协会的比较研究表明（中科院王志新院士对中科院与德国马普协会的比较研究表明（19951995年数据）：年数据）：马普协会有马普协会有29002900名科学家和名科学家和65006500名流动人员，每年科研经费名流动人员，每年科研经费1111亿美元，每年发表亿美元，每年发表SCISCI论文超过论文超过1 1万篇，万篇，平均每篇论文投入平均每篇论文投入1010万美元万美元；而中科院有；而中科院有4 4万名科技人员

46、和万名科技人员和1 1万多名研究生，每年科研经费万多名研究生，每年科研经费4 4亿美元，每年发表亿美元，每年发表SCISCI论文论文20002000篇，篇，平均每篇论文投平均每篇论文投入入2020万美元万美元，是德国马普协会的两倍。，是德国马普协会的两倍。本讲稿第四十七页，共八十四页5 5、定标比超法（、定标比超法（Bench MarkingBench Marking）q定标比超法是经济活动领域中应用最广、影响最大的竞争情报定标比超法是经济活动领域中应用最广、影响最大的竞争情报方法之一。方法之一。（美国施乐公司对日本公司竞争时最早使用）（美国施乐公司对日本公司竞争时最早使用）q最早将定标比超方

47、法用于科学研究活动评价的是美国科学院科学、工最早将定标比超方法用于科学研究活动评价的是美国科学院科学、工程与公共政策委员会（程与公共政策委员会（COSEPUPCOSEPUP）。）。q19971997年和年和19981998年美国科学院分别出版了两份研究报告：年美国科学院分别出版了两份研究报告：美国数学研究国际定标比超美国数学研究国际定标比超 美国材料科学与工程研究的国际定标比超美国材料科学与工程研究的国际定标比超 本讲稿第四十八页，共八十四页5 5、定标比超法、定标比超法q开展学科领域的国际定标比超评价时开展学科领域的国际定标比超评价时,一般要回答三个问题一般要回答三个问题:（1 1）本国在该

48、领域相对于其他国家和地区处于什么样的地位）本国在该领域相对于其他国家和地区处于什么样的地位?（2 2）影响本国在该领域的研究绩效是什么）影响本国在该领域的研究绩效是什么?（3 3）基于现在的发展趋势）基于现在的发展趋势,本国在近期和远期会处于什么样的本国在近期和远期会处于什么样的相对位置相对位置?q定标比超法一般多应用于学科领域的国际比较及科研机构的定标比超法一般多应用于学科领域的国际比较及科研机构的诊断和战略性评价。诊断和战略性评价。本讲稿第四十九页，共八十四页1992-2002年，我国部分学科篇论文平均引用率与世界水平比较年，我国部分学科篇论文平均引用率与世界水平比较本讲稿第五十页，共八十

49、四页 中科院化学研究所定标比超案例中科院化学研究所定标比超案例 1、基本程序、基本程序n选择追赶对象选择追赶对象n确定追赶目标确定追赶目标n制定行动方案制定行动方案n推动跨越发展推动跨越发展 本讲稿第五十一页，共八十四页 中科院化学研究所定标比超案例中科院化学研究所定标比超案例2、比超对象、比超对象比自己先进的同一领域国际一流科研机构比自己先进的同一领域国际一流科研机构 选择选择3个国外的著名化学研究所个国外的著名化学研究所n日本分子研究所日本分子研究所n马普高分子研究所马普高分子研究所n加拿大国家研究理事会加拿大国家研究理事会steacie分子研究所分子研究所 本讲稿第五十二页，共八十四页

50、中科院化学研究所定标比超案例中科院化学研究所定标比超案例3、调研分析竞争情报、调研分析竞争情报为确定战略目标和行动方案提供依据为确定战略目标和行动方案提供依据 n研究人员情况研究人员情况(数量、结构、流动等数量、结构、流动等)，以及课题组的设立机制和规模，以及课题组的设立机制和规模n研究方向和重点，以及近年来的变化情况研究方向和重点，以及近年来的变化情况n论文发表情况论文发表情况(近年发表论文的情况、在高影响因子刊物发表情况、近年发表论文的情况、在高影响因子刊物发表情况、一些科学家发表论文情况分析一些科学家发表论文情况分析)，以及论文被引用情况分析，以及论文被引用情况分析n研究经费研究经费n研