文章快速检索    
  重庆大学学报(社会科学版)  2018, Vol. 24Issue (6): 93-103  DOI: 10.11835/j.issn.1008-5831.2018.06.009 RIS(文献管理工具)
0

引用本文 

邱香华, 韩云波. 回归论文本位和学者本位的期刊论文评价模型创新——模糊综合评判法在SCI和CSSCI期刊论文评价中的应用[J]. 重庆大学学报(社会科学版), 2018, 24(6): 93-103. DOI: 10.11835/j.issn.1008-5831.2018.06.009
QIU Xianghua, HAN Yunbo. Innovation of evaluation model of journal papers based on the regression of journal paper standard and scholar standard: An application of fuzzy comprehensive evaluation method in SCI/CSSCI journal paper evaluation[J]. Journal of Chongqing University(Social Science Edition), 2018, 24(6): 93-103. DOI: 10.11835/j.issn.1008-5831.2018.06.009

基金项目

全国理工农医院校社科学报联络中心基金资助一般项目"高校社科期刊品牌建设研究"(LGNY16B5)

通信作者

韩云波(1966-), 男, 山东济南人, 西南大学期刊社编审, 主要从事编辑学研究, Email:xbhyb@swu.edu.cn

作者简介

邱香华(1971-), 女, 山东莘县人, 西南大学期刊社编辑, 主要从事编辑学研究, Email:xianghua_qiu@163.com

文章历史

修回日期: 2018-07-04
回归论文本位和学者本位的期刊论文评价模型创新——模糊综合评判法在SCI和CSSCI期刊论文评价中的应用
邱香华, 韩云波     
西南大学 期刊社, 重庆 400715
摘要: 改革开放以来,SCI作为自然科学期刊的一种量化评价方法进入中国,随后在社会科学领域也出现了CSSCI。随着中国科学研究水平的进步,单纯量化评价方法的不足日益突显,引文索引开发者也出现了数据开发还是期刊评价的纠结。因此,运用更加科学合理的方法,量性分析与质性评价相结合,是弥补SCI与CSSCI作为评价工具之不足的有效途径。选取论文下载量、SCI分区、影响因子、学术影响力等四个指标,建立模糊综合评判模型,可以实现SCI期刊论文的可量化评价。在社会科学领域的期刊论文评价中,近年来先后出现了"以文评人"和"以文评刊"的探索,在归一化处理和一致性检验的基础上,同样可以实现对CSSCI期刊论文的科学评价,从而避免走入"以刊评文"的误区,使期刊论文评价更加科学合理并具有可执行性,进而回归学术研究的论文本位与学者本位。
关键词: SCI期刊    CSSCI期刊    期刊论文评价    社会科学评价    模糊综合评判    以刊评文    论文评测    
Innovation of evaluation model of journal papers based on the regression of journal paper standard and scholar standard: An application of fuzzy comprehensive evaluation method in SCI/CSSCI journal paper evaluation
QIU Xianghua , HAN Yunbo     
Journal Press, Southwest University, Chongqing 400715, P. R. China
Abstract: Since the implementation of the reform and open policy, SCI has entered China as a quantitative evaluation method for natural science journals, and then CSSCI has emerged in the field of social sciences in China. With the improvement of the level of scientific research in China, the shortage of simple quantitative evaluation method is becoming more and more obvious, and the SCI/CSSCI developers have being entangled in the selection of data development or journal evaluation. Therefore, using more scientific and reasonable methods, i.e., combining quantitative analysis with qualitative assessment, is an effective way to make up for the deficiency of SCI and CSSCI as evaluation tools. The fuzzy comprehensive evaluation model, which is established by means of four indexes involving the amount of paper downloading, SCI zoning, impact factors, academic influence, leads to the quantifiable evaluation of SCI journal papers. In the evaluation of journal papers in the field of social sciences, in recent years, there has been the exploration in "evaluating an author by papers" and then in "evaluating a journal by papers". Based on the normalization and consistency test, the scientific evaluation of CSSCI journal papers can be realized, which can avoid "evaluating a paper by journal" and make the evaluation of a journal paper more scientific, reasonable and executable, and then returning to paper standard and scholar standard in academic research.
Key Words: SCI (Science Citation Index) journals    CSSCI (Chinese Social Sciences Citation Index) journals    journal paper evaluation    social science evaluation    fuzzy comprehensive evaluation    paper evaluation by journal    paper evaluating    
一、SCI与CSSCI:数据开发还是期刊评价

改革开放以来, 中国学术研究成果不断走向世界。今天, 正值国家建设“双一流”大学号角已经吹响之际, 在学术论文数量有了极大突破的基础上, 如何提升学术论文质量而不仅仅是以数量取胜, 已经成为当下的热点话题。长期以来, 尤其是在高校的评价体系中, 学术论文的数量和质量一直是最重要的衡量指标, 并逐渐形成了一些共通性的评价指向。

在自然科学领域, 1987年国家科委委托中国科技信息研究所调研中国在国际期刊上发表的科技论文, 确定以SCI、EI、ISR、ISTP四大检索系统为统计源[1], 几年后剔除了ISR。目前, 在大多数高校已经形成以SCI为核心并根据JCR分区确定论文质量权重的评价方式, 从重视科研论文的数量逐步向重视质量转变。由于各高校具体情况的差异, 在具体评价方式上, 又出现了以在SCI收录期刊的发文数、以SCI收录期刊的影响因子、以SCI论文的被引次数、以h指数等作为评价指标的不同方法[2]。也有学者提出, 对于不同学科门类之间论文的学术影响力, 应采用多指标进行综合评价, 并进而论证了其合理性[3]。针对长期以来存在的“评刊”还是“评文”的争议, 虽然各高校采用了种种办法来使评价体系尽可能做到公平合理, 但依然存在着种种不尽如人意之处。

在社会科学领域, 与SCI相类似, 国际上也有SSCI和A&HCI等检索系统, 但由于中西方的具体情况存在差异, 社会科学论文主要发表阵地是在国内, 目前已形成北京大学图书馆开发的“中文核心期刊要目总览”(亦称“北大核心”或“北核”)和南京大学中国社会科学评价研究中心开发的“中文社会科学引文索引”(CSSCI)(亦称“南大核心”或“C刊”)等检索系统。对于社会科学论文的评价而言, 与自然科学论文的评价相似, 长期以来也主要是“以刊评文”, 以是否进入检索系统收录期刊为准, 尤其是目前多数高校将在CSSCI来源期刊发表的论文作为各类考核要求的标准。在一些大学排行榜中, CSSCI发文量也是社科评价的重要数量指标。由于CSSCI来源期刊学术影响力差异较大, 一些学校也对CSSCI来源期刊进行了类似分区的权重划分。尽管有各种努力, 但出于“以文评刊”初衷的来源期刊遴选, 依然囿于“以刊评文”而广受“学术共同体”的诟病。尽管CSSCI自身也在不断做出改进, “努力探索数据及其发布方式的多元化”[4], 但依然如朱剑所指出的, “CSSCI虽然比较忠实地遵循了‘加氏定律’, 但在其起步阶段表现出了对核心期刊明显的路径依赖, 对评价功能的过度宣传, 使其在影响迅速扩大的同时背离了初衷, 检索工具变成了评价产品”, 因而极力呼吁“对于‘三大核心’及所有的评价机构来说, 明智的进路选择在于, 退出学术评价, 回归评价数据开发者的定位”[5]。但显然, “三大核心”的用户即高校和科研机构对这样的呼吁并不买账, 量化评价的客观性成了跨越学科门类多样性与研究领域复杂性而保持相对公平的法宝, 因而, CSSCI等的数据开发反而进一步强化了其评价性定位。

无论是SCI还是CSSCI, 目前都存在着量化统计在标准一致的客观性背景下势必牺牲科学研究个体性特征的问题, 这对于原创性的科学研究尤其不利, 反而是给那些貌似遵循学术规范而实际上内容平庸的“中流”水平的科研成果大开了方便之门。由此衍生出了三个方面差异极大的声音:(1)数据开发者试图极力撇清其“评价”的功能, 但是, 评价功能就明明白白地摆在那里, 如果仅仅是单纯的数据开发而不讲究将“优质”数据遴选出来提供给用户, 那么, 数据开发也就失去了意义。(2)科研管理者面对众多的学科门类和复杂的研究领域, 如何能够找到一个能够进行横向比较的相对公平或熵值最小的评价标准, 否则, 管理者如何制定倾斜政策和确定发展规划?(3)科研工作者希望自己的论文获得更大的学术影响力, 而传播市场的不同平台提供给论文的传播效果显然是不一样的, 不同期刊的传播能力的差异所在, 不仅仅是市场渠道, 也有平台美誉度, 而数据在传播能力形成及提升的过程中, 毋庸置疑地充当了十分重要的角色。

本文要思考的问题是, 能不能找到一种方法, 在运用SCI和CSSCI的评价功能时, 对基于大数据的客观描述进行补充, 引入模糊方法或质性评价作为适当补充, 以此对基于数据的纯客观评价可能带来的指标体系一律化而导致的僵化刻板进行补弊纠偏。本文拟分别就SCI和CSSCI的情况进行说明, 提出相应的思考和建议。

二、模糊综合评判法与SCI期刊论文质量评价

SCI作为国际上一种优秀的科学论文检索系统, 几十年来在科学界产生了极其重要的影响。改革开放以来, SCI被引入到中国科研评价体系之中, 目前SCI期刊论文发表的数量和质量早已成为各大高校和科研院所职称评审、申报项目、课题验收、选拔各类人才的重要标准。SCI进入中国科研评价30余年来, 初步摆脱了早期对SCI的盲目迷信, 开始对SCI评价机制与体系进行反思与重构。

(一) SCI运用于期刊论文评价的现实困境

对于SCI期刊论文质量的评价, 各大高校也各有一套具体的评判标准, 有的依据中科院JCR分区进行评价, 有的依据SCI的影响因子进行区分, 有的依据SCI期刊论文的引用频次进行评价, 还有高校根据综合分区和影响因子等制定了一套评价办法。值得注意的是, 这些评价标准的制定, 大多是人为依据某些较单一的指标进而由科研管理部门或少数专家人为进行的定性分析, 由此划定评价标准, 在一定程度上缺乏经过反复检测的模型验证, 因而具有一定的盲目性和主观性。需要探索的是, 如何利用SCI期刊的各种指标对SCI期刊论文质量进行评价, 从而更加合理地评价和选择相应的学术期刊, 进而实施科研人员的绩效奖励, 不仅有利于调动科研人员的积极性, 而且有助于建立更加和谐的科研环境和秩序。但由于SCI在各学科之间收录的期刊不平衡, 学科分布不协调, 各个学科之间具有差异性, 给奖励政策的制定带来了困难和挑战。各高校奖励政策的制定应注重减少学科影响带来的差别性待遇, 进而提高科研人员整体的积极性。为此, 可考虑将SCI期刊论文质量的评价进行归一化处理, 结合“刊”和“文”的双重因素, 进而制定相应论文奖励政策。

反映SCI期刊论文质量的因素有很多, 常见的有论文下载量、SCI分区、影响因子和学术影响力等, 其中论文下载量和影响因子显然是量化的指标。然而, 简单地从数据来评判某篇论文的好坏并不具有很强的说服力, 还要结合学科结构和期刊本身的特点来评判。论文下载量在一定程度上反映了文章质量的好坏, 研究内容前沿、研究方法新颖的文章一般会引起广泛的关注, 下载量会相对增加。SCI分区是广泛参照的评价标准, 被各大高校普遍采用。然而, 单纯以SCI分区来评判论文水平的体系存在的问题正逐渐凸显。SCI期刊中的影响因子千差万别, 从衡量期刊质量的影响因子来看, 不仅期刊与期刊之间存在着非常大的差别, 而且学科与学科之间也有很大差异。学科间期刊影响因子的差异, 使论文与影响因子直接挂钩则会产生学科间不可比较的困难。此外, 业内人士也会关注论文的被引频次, 被引频次的高低除了取决于期刊的论文质量以外, 与其所属学科领域、研究群体的大小等也有直接关系。而且, 同样一篇论文发表在影响较大的期刊上和发表在一般期刊上, 其引用情况可能会有很大的差异, 这就不能单纯从引用频次来判断论文质量高低。综合以上分析, SCI期刊论文的质量评价是一项复杂的系统工程, 无论是以上指标中的任何一项, 都不可避免地存在种种偏颇, 甚至会引进种种偶然性因素。本文旨在将影响SCI期刊论文的四个主要指标作相应处理, 建立评判SCI期刊论文质量的指标体系, 进而实现高校SCI期刊论文评价的量化。

对于评价SCI期刊论文质量的指标体系研究已有大量的成果, 有诸多文献基于建立的指标体系再进一步利用模糊方法进行研究。本文从SCI期刊论文下载量、分区、影响因子和学术影响力等四个方面建立SCI期刊论文质量的评价指标体系, 利用模糊综合评判法将SCI期刊论文质量的定性分析转换为定量评价分析。对影响SCI期刊论文的因素进行量化处理, 可以消除因学科间评价因素不均衡而给论文质量评估带来的不可比问题, 建立有效的学术评价标准, 避免简单依据某种因素评判带来的盲目性和主观性, 使得高校SCI期刊质量论文评判更加科学合理。

(二) 模糊综合评判法的基本流程与指标体系

模糊综合评判法是一种基于模糊数学的评价方法, 适合解决各种非确定性问题, 能有效克服传统评价方法中可能出现的不同程度的人为因素和主观因素的影响, 比传统的定性描述更加科学和准确。其评价流程如图 1

图 1 模糊综合评判法评价流程

确定评价指标体系是对SCI期刊论文质量评价的基础性工作, 是评价的主要依据。为获得有价值的评价效果, 力求全面客观地反映SCI期刊论文质量, 其具体要求有四:第一, 确定评价因素集要与SCI期刊论文质量评价的目标一致。第二, 要具有可测性, 评价体系中SCI期刊论文质量评价内容可通过实际观察加以直接测量来获得明确结论。第三, 评价SCI期刊论文质量的各因素之间相互独立, 不存在因果关系, 因素集的构建具有层次性。第四, 指标要有可比性, 指标要反映SCI期刊论文质量中共同的属性。

科学、规范的评价指标可以减少评价误差, 更精确地反映客观事实, 提高评价质量。针对本文的研究内容, 需要搜集的资料包括论文发表3个月、6个月和1年的下载量, 论文发表当年中科院分区和JCR国际分区, 论文发表当年发表期刊的影响因子以及该期刊前两年的影响因子, 论文所属研究领域的权威人士对论文发表期刊的认可度, 论文发表 1年内的他引率等一些材料。本文建立的SCI期刊论文质量评价指标体系如表 1

表 1 SCI期刊论文质量评价指标体系
(三) 运用模糊综合评判模型进行综合评价 1. 确定评价因素集和评价等级集

U={论文下载量(U1), SCI分区(U2), 影响因子(U3), 学术影响力(U4)};

U1={三个月内的下载量(u11), 六个月内的下载量(u12), 一年内的下载量(u13)};

U2={中科院分区(u21), JCR国际分区(u22)};

U3={当期影响因子(u31), 前一年影响因子(u32), 前两年影响因子(u33)};

U4={业内认可度(u41), 期刊论文数量(u42), 引用率(u43)}。

本文确定的评语集为V={一类(v1), 二类(v2), 三类(v3), 四类(v4) }。

2. 确定指标权重

指标体系中各层次指标的权重通过熟悉论文评价的专家讨论确定, 其权重分配如表 2

表 2 SCI期刊论文质量评价体系中各级指标权重
3. 进行一级综合评判

假设评价小组成员由100人组成, 为了克服专家主观打分对分析结果的影响, 采用数据调查法与专家打分法相结合。评价组人员对SCI期刊论文A的质量情况进行投票, 其统计结果如表 3

表 3 评价组成员对论文A的评价情况

表 3可得U1U4的单因素评价矩阵Z1Z4为:

$ \begin{array}{l} {Z_1} = \left( {\begin{array}{*{20}{l}} {0.60}&{0.30}&{0.10}&0\\ {0.64}&{0.28}&{0.06}&{0.02}\\ {0.58}&{0.22}&{0.20}&0 \end{array}} \right);{Z_2} = \left( {\begin{array}{*{20}{l}} {0.56}&{0.24}&{0.16}&{0.04}\\ {0.52}&{0.32}&{0.16}&0 \end{array}} \right);\\ {Z_3} = \left( {\begin{array}{*{20}{l}} {0.48}&{0.40}&{0.12}&0\\ {0.64}&{0.26}&{0.10}&0\\ {0.58}&{0.30}&{0.10}&{0.02} \end{array}} \right);{Z_4} = \left( {\begin{array}{*{20}{l}} {0.56}&{0.40}&{0.04}&0\\ {0.42}&{0.34}&{0.24}&0\\ {0.48}&{0.42}&{0.10}&0 \end{array}} \right)。\end{array} $

Z1Z4表 2中的D1D4可得U1U4的综合评价矩阵H1H4, 其中Hi= DiZi(i=1, 2, 3, 4)。这里实施的主要是模糊矩阵的合成运算。

$ \begin{array}{l} {H_1} = \left( {0.4, 0.3, 0.2, 0.02} \right);{H_2} = \left( {0.5, 0.32, 0.16, 0.04} \right);\\ {H_3} = \left( {0.4, 0.4, 0.12, 0.02} \right);{H_4} = \left( {0.35, 0.35, 0.24, 0} \right)。\end{array} $
4. H1H4组成单因素评价矩阵
$ H = \left( {\begin{array}{*{20}{c}} {{H_1}}\\ {{H_2}}\\ {{H_3}}\\ {{H_4}} \end{array}} \right) = \left( {\begin{array}{*{20}{c}} {0.4}&{0.3}&{0.2}&{0.02}\\ {0.5}&{0.32}&{0.16}&{0.04}\\ {0.4}&{0.4}&{0.12}&{0.02}\\ {0.35}&{0.35}&{0.24}&0 \end{array}} \right) $

求综合评价矩阵R=BH=(0.3, 0.3, 0.24, 0.04)。为方便处理, 将R归一化得:

$ {R_1} = \left( {0.3/0.88, 0.3/0.88, 0.24/0.88, 0.04/0.88} \right) = \left( {0.34, 0.34, 0.27, 0.05{\rm{ }}} \right) 。$
5. 对划分的四类论文进行赋值并计算分值
表 4 论文评价赋值及分类指标

取评分矩阵G= (95, 85, 75, 65), 则分值F= R1GT=84.77。

由此可得SCI期刊论文A的质量属于“二类”, 距离“一类”还有一定的差距。事实上在实际操作中既可以对论文进行“一类、二类、三类、四类”的评定, 也可以从SCI期刊论文质量的最终得分来判定论文质量。

三、CSSCI/核心期刊论文质量评价的模糊综合化改进

由于单纯“以刊评文”很难对科研成果进行准确的评价, 在社会科学领域, 近年来从各大型数据库及评价系统开始, 作出了各种改善评价的努力, 在影响因子及被引频次的基础上, 引入一些具有定性意义但又可以用定量方式表现出来的指标, 对单纯的定量指标进行评价, 并且落实到具体的单篇论文评价上, 在大数据运用中以模糊综合化方式进行改进。基于对“以刊评文”现象的纠偏, 本文列举“以文评人”和“以文评文”两类尝试, 提出讨论与建议。

(一) 以文评人:《中国哲学社会科学最有影响力学者排行榜研究报告:基于中文论文的研究(2017版)》的指标体系及运用

《中国哲学社会科学最有影响力学者排行榜研究报告:基于中文论文的研究(2017版)》于2017年9月25日由长安大学中国人文社会科学评价研究中心发布。该报告采集了8 100位学者的中文论文数据, 发布三类排行榜, 其中一级学科排行榜3 150人、二级学科排行榜7 978人、交叉学科排行榜4 579人。该排行榜摒弃了以往单纯依据CSSCI或核心期刊论文发表数量进行排行的传统做法, 引入了更多具有质性评价性质的指标。正如该指标体系简介所称:“学术影响力是评价科研人员实力的重要内容之一。但是, 如何评价学者的学术影响力一直是学界的难题。本排行榜力图构建一套客观、可重复、操作性强、多维的评价指标体系。” [6]具体指标如表 5所示。

表 5 学者排行榜指标体系与权重分配

在上述6个指标中, 近五年核心期刊发文量、他引总量、论文下载量3个指标是传统型指标, 具有明显的量性特征; H指数、AR指数、高被引论文篇数3个指标是特征型指标, 具有明显的质性特征。在3个特征型指标中, H指数2005年由美国加利福尼亚大学圣地亚哥分校的乔治·希尔施提出, 指作者发表的Np篇论文中有h篇每篇至少被引用了h次, 而Np-h篇论文每篇被引次数均等于或小于h次, H指数用于综合评判学者的产出数量与产出水平, 将二者结合起来可以评定学者产出论文的平均被引水平。H指数自2005年以来得到广泛运用, 但H指数的静态指标性质, 其弊端亦很快显现出来, 有学者指出其“缺乏灵敏度, 缺乏区分度, 缺乏波动性”三个缺陷, 因而提出了用于解决“h指数只升不降的问题”的AR指数, “AR指数是在R指数解决了h指数的敏感度和区分度问题的基础上, 试图采用论文发表年龄这一因变量来解决h指数只升不降的问题”[7]。在长安大学的评价体系中, AR指数的意义在于“借鉴Page Rank算法的思路, 将进入重要作者的引用认同视为同行评议的肯定性结果, 对个体研究人员的学术影响力进行评价”。在数据计算方面, 该指标体系指出:“由于各指标的计量单位不同, 在综合结果中产生的影响不同, 因此我们对数据进行标准化处理, 以消除计量单位带来的影响。所有指标数据的综合处理步骤如下:(1)统计TN、CN、DN、H指数和高被引论文篇数等指标值; (2)建立AR矩阵, 计算AR值; (3)对各指标的数据进行标准化处理; (4)运用指标体系计算学者的总体得分; (5)依据计算结果对各学科学者进行排名。”

经过我们对排行榜中部分学校和学科入选学者进行同行评议的抽样测评, 由传统指标进行量性评价再建立AR矩阵的方法, 可以避免数量与质量的较大误差, 其评价结果基本上符合同行评议结果。

(二) 以文评刊:“中文学术出版物评测发布系统”的指标体系及运用

上文所述“以文评人”的做法, 在传统量化评价基础上采用AR指数等进行数据修正的做法, 主要用于评价学者, 并避免了产出水平不高和动态分布不均匀等误差。而南京大学中国社会科学评价研究中心开发的“中文学术出版物评测发布系统”, 则以论文成果为中心, 预期可以实现“以文评刊”, 进而对量化评价中可能出现的偏颇实现有力的补救。

南京大学中国社会科学评价研究中心于2018年5月30日向各期刊社发出“评审专家邀请函”, 邀请相关专家参与“CSSCI期刊论文测评”工作。邀请函中约定的评审专家入选条件如下:(1)热爱社会主义祖国, 拥护中国共产党的领导; (2)具有上述专业学科领域博士学位或高级专业技术职称; (3)在学术出版机构实际承担责任编辑工作; (4)热心公益, 愿意积极参与CSSCI期刊论文质量测评工作; (5)每位评审专家原则上每月应完成不低于10篇的论文测评; (6)评审专家年龄一般在55周岁以下。中心随后组建了两个“CSSCI期刊论文评测项目”微信群。2018年7月1日, 该评测项目先期为1 000位专家配置了账号, 以“中文学术出版物评测发布系统”的方式上线进行试评。

和其他期刊评价系统公开发布详细的评价指标体系及其权重、计算方法等不同, 南京大学中国社会科学评价研究中心网站上虽然有“遴选标准”和“遴选程序”两个栏目, 但均为空白, 因而无法获得其正式的官方评价方法及程序的数据。但据相关信息透露, CSSCI的指标主要是被引频次和影响因子两项, 分别占不同权重。换言之, CSSCI的评价就是纯量化评价, 这一评价长期以来受到主张应由“学术共同体”进行评价的学者们的强烈诟病。因而, “CSSCI期刊论文测评”项目的出台, 就是试图以学术共同体同行评议的方式, 对纯量化评价进行具有质性评价意义的有力补充。

“中文学术出版物评测发布系统”公布的“十分制评分标准说明”[8], 包含权重相等的4项指标, 每项评分均取1至10的整数值, 最后得分为各项平均分, 保留到小数点后两位。每项指标在说明中均列出了优质论文和劣质论文的评分说明, 而对中等质量的论文未作说明。本文根据其具体评分说明, 整理为表 6

表 6 CSSCI论文评测十分制评分标准

上述4项指标较好地反映了一篇优质论文应当具备的主要元素:创新程度、完备程度、难易程度分别反映了作者在论文构思和写作过程中的主观因素, 成果价值则是论文完成之后的客观效果。上述两个方面, 将论文的主客观方面良好地结合起来, 主观方面通过论文反映作者的学术水平, 客观方面通过论文反映传播的社会效益。

“中文学术出版物评测发布系统”首期提供了CSSCI来源期刊(高校学报类)2018年上半年的18个学科的概率抽样论文253篇。从目前的专家打分来看, 部分论文的得分并不理想。在此举出两类数据(表 7)。一是多学科综合数据。据2018年7月5日微信群发布的数据, 已评篇数198篇, 最高分8.59分, 最低分3.35分, 无优质论文, 集中于5至7分(139篇, 占70%), 劣质论文虽然仅有24篇, 但其12%的比例已经颇为惊人。二是单学科数据。以中国语言文学为例, 相对于其他学科而言, 中国语言文学属于低影响因子学科。从2018年7月17日已评篇数30篇(其中已有10人评分的21篇, 最少评测人数4人)的数据看, 极度缺乏优质论文, 最高分仅8分; 但劣质论文也相对较少, 最低分4.30分, 5分以下仅2篇, 占比7%;主要为中等质量论文, 5至7分段24篇, 占比高达80%。

表 7 CSSCI论文评测抽样评测得分表

表 7看, 学报论文抽样质量并不理想, 作为全国高校文科学报质量水平体现的70种CSSCI来源期刊几乎没有优质论文, 且7分以上的论文比例不到20%, 大量论文仅为中等质量之作, 甚至有比例不低的劣质论文充斥版面, 这不得不引起人们的深思。

近年来, 对于核心或C刊“以刊评文”一直存在两个方面不同的声音。一方面, 管理部门在以C刊发表论文作为科研成果质量认定标准方面, 出现了惊人的一致; 由此延伸开来, 在以文献计量学方法总结归纳研究现状时, 人们也往往将CSSCI来源期刊或核心期刊作为文献来源, 比如一篇文章就在阐释其“数据来源”时指出:“要探寻我国高等教育领域学科建设研究的演变过程, 需要借助高质量的相关文献进行分析。本研究选取了北大核心收录的14种高等教育类期刊作为文献来源, 以提高研究的信效度。”[9]在这样的“信效度”前提下, C刊或核刊的地位不言而喻, 应该说在一定程度上不仅得到了管理部门的认可, 也得到了至少是以文献计量学方法观察学术史的“学术共同体”的认可。另一方面, 部分期刊利用量化评价的系统漏洞, 大量发表以敛财为宗旨的劣质论文, 同时又利用聚敛的钱财高价购买少量优质论文, 并运用不当引用手段推高数据, 导致在以单纯的数据评价中能够“鱼目混珠”进入C刊或核刊, 这部分期刊虽然在学术界臭名远扬, 但仍然以C刊或核刊的资格而得到了多数机构量化管理的认可。仅有个别机构采取了“黑名单”的方式, 如中山大学在《中山大学人文社会科学重要核心期刊目录(境内中文)》中, 就明确列出了CSSCI来源期刊的“黑名单期刊16种”及CSSCI扩展版“黑名单期刊2种”[10]

学术界及期刊界对“以刊评文”有着强烈的反弹, 如刘庆昌认为:“以刊评文更大的问题在于学术评价部门和机构对具体成果及其研究者的相对轻视。之所以如此说, 是因为以刊评文的原理就是只问研究成果发表的刊物性质, 而不问研究者究竟做了什么。学术研究的创造问题、规范问题和道德问题, 研究者的学养、理想问题, 都不在学术评价部门和机构的考虑之列。一种不见学术、不见人的学术评价方略当然是值得商榷的。”[11]以此来看, “评刊”的最终归宿是“评文”, 而“评文”则必将走向“评人”, 学术共同体重视的是学术研究的具体内容与观点, 其落脚点显然更应该是在作为学术研究主体的“人”与作为学术研究成果的“文”上面, 而“刊”的作用主要是作为学术研究的载体而存在。

按照应然性的推论, C刊发表的都应该是有相对较高水平的学术论文, 而从本文上述评测抽样得分可见, 虽然多数论文都得到了5分及以上的合格分, 但抽样中5分以下的已占到了16%, 对于C刊来说, 这是一个相当高的比例。“如果高校和研究机构的管理部门, 简单采用以刊评文的方法, 那么, ‘好班里的差生’因在‘好班’, 也就自然成为‘好学生’; 同样的, ‘差班里的好学生’也会因在‘差班’, 自然成为‘差生’。虽然这种情况出现的概率较低, 但只要有一例, 就说明可能有这一类情况, 那么, 以刊评文的办法就是不可取的”[11]。因而, 以评刊的基本数据为基础, 回归到“文”并进而回归到“人”的层面, 才是最大限度确保学术评价公正性的必要途径。

(三) 运用模糊综合评判法“评刊”进而“评文”与“评人”

在本文讨论SCI期刊论文评价部分, 我们提出了模糊综合评判法的运用, 由此得出SCI期刊论文质量的最终得分, 并以此判定SCI论文质量的好坏。在人文社会科学领域, 也有学者提出运用判断矩阵方法, 获得从目标层到准则层、准则层到指标层的判断矩阵数据, 进行归一化处理, 并进行一致性检验, 最后得出“学术成果质量相对于各个评价指标的表达式”[12]。人文社科的评价与自然科学评价在总的原理上相似, 本文已列出SCI期刊论文评价的计算方式, 此处不再赘述。

需要说明的是, 无论是SCI期刊还是CSSCI来源期刊, 无论期刊数据库是否认可其自身的评价功能, 都应自觉承担起净化期刊学术环境的责任, 在数据开发与运用的过程中自觉承担起反对和防范“劣币驱逐良币”学术失范的责任。在此, 笔者针对期刊提出两点思考。

第一, 处理好“刊”作为属概念与“文”作为种概念的关系。“刊”是属, 呈现给人们的是整体印象; “文”是种, 呈现给人们的是个体印象。期刊之所以能够进入评价体系并体现评价功能, 在于期刊的总体质量通过整体数据而得到认可, 进而推论出“属”中的“种”与“属”有着相关性和一致性, 进而验证“以刊评文”的合理性。然而, 个别期刊利用计量方法的漏洞, 发表了一些劣质论文, “好班”里混进了“差生”, 导致期刊声誉下降, 这也是“以刊评文”受到诟病的重要原因。因而, 本文认为, 期刊应有明确的学术质量底线意识, 设立最低限制, 将劣质论文挡在门外, 编辑和评审专家都应本着“把每一篇文章做成精品”的学术精品意识, 让每一篇文章都能够经得起评测的检验。

第二, 处理好“刊”作为传播平台与“文”作为传播内容的关系。在21世纪传播方式变迁中, “‘以传者为本位’的传播思想真正转变到了‘以受者为本位’上来”[13]。期刊的核心功能定位在于传播平台, 站在期刊的立场上, 重视的是“以传者为本位”; 论文的核心功能定位在于传播内容, 站在论文的立场上, 重视的是“以受者为本位”。在当下传播大势下, 论文即单篇的“文”理应受到更多的重视, 也就是说, 不仅要重视期刊的影响因子, 更要重视单篇论文的被引频次以及被引质量。这就要求, 期刊编辑在从策划到收稿、审稿、录用的流程中, 有必要对论文的传播质量进行预评估, 以此作为编辑出版工作的重要依据。同时, 还要做好论文传播质量的精细化数据分析, 以此作为编辑出版工作的相关依据。

四、结语:“以人为本”创新期刊论文质量评价

在一切围绕期刊和学术研究的工作中, 都需要贯彻“以人为本”的基本原则, 但也必须要有可以横向比较的数据基础, “以刊评文”就是基于数据可比较性而出现的, 其后出现的种种问题, 说明无论是期刊评价还是学术评价, 都是一个复杂系统, 有些可以量化分析, 有些则不便运用纯量化手段, 因而需要运用模糊综合评判法来进行处理, 在归一化处理和一致性检验的基础上, 充分尊重学术研究的个性化特征与创新性思维, 做出更加科学合理且具有充分可执行性的基于“刊”的平台功能并以“文”和“人”为本位的评价, 促进科学研究的良性发展。

参考文献
[1] 方永才, 吴光豪, 陈雷. SCI期刊的学科分布及不同学科论文评价的探讨[J]. 浙江大学学报(农业与生命科学版), 2004, 30(1): 114–118. DOI: 10.3321/j.issn:1008-9209.2004.01.024
[2] 徐晓芹. 基于SCI定量评价科研人员成果的几种方法及其适用性[J]. 农业图书情报学刊, 2015, 27(7): 66–69.
[3] 郭红梅, 何苗, 邢星, 等. 不同自然科学门类间论文学术影响力多指标综合评价的合理性研究[J]. 图书情报工作, 2012, 56(22): 62–68.
[4] 朱剑. 面对学术评价现实的改进尝试——简评2012-2013年"CSSCI来源期刊目录"[J]. 高校教育管理, 2012(2): 1–5.
[5] 朱剑. 歧路彷徨:核心期刊、CSSCI的困境与进路——"三大核心"研制者观点述评[J]. 清华大学学报(哲学社会科学版), 2016(1): 5–26.
[6] 中国哲学社会科学最有影响力学者排行榜研究报告: 基于中文论文的研究(2017版)[EB/OL].(2017-09-25).http://evaluation.chd.edu.cn/info/1003/1271.htm.
[7] 金碧辉, RousseauRonald. R指数、AR指数:h指数功能扩展的补充指标[J]. 科学观察, 2007(3): 1–8.
[8] 中文学术出版物评测发布系统.十分制评分标准说明[EB/OL].[2018-07-03].http://csscipc.nju.edu.cn/#/app/evaluate-details-list.
[9] 刘浩, 饶武元. 我国高教领域学科建设研究的现状、热点及前沿——基于2005-2016年高等教育类核心期刊的知识图谱可视化分析[J]. 重庆高教研究, 2017(1): 90–99.
[10] 中山大学人文社会科学重要期刊目录原则(2014年修订)(中大社科[2014] 27号)[EB/OL].(2014-12-08).http://research.sysu.edu.cn/node/273.
[11] 刘庆昌. 学术评价的主体资格、内在标准与价值追求[J]. 中国社会科学评价, 2017(3): 117–124.
[12] 杜向民, 樊建强. 人文社科类学术成果同行评议的指标体系及权重分配[J]. 中国高教研究, 2015(1): 74–74.
[13] 蒋建梅, 秦建国. 新闻娱乐化的文化阐释[J]. 探索, 2010(3): 115–118.