核心做法不是彻底弃用自动评分,而是把自动评分降级为筛选器:让它负责把明显不合格的样本挑出来,把边界样本交给人工判断。只有当一项判断能够被拆成稳定的、可复核的规则时,才适合交给自动评分;一旦样本规模扩大后例外开始成批出现,就说明这条规则已经越过了适用边界,需要保留人工环节。
自动评分适合处理的是同质化、标准明确、结果可复核的判断。例如检查一批页面是否存在明显的结构缺失,只要规则定义清楚,机器给出的结果和人工逐个看往往一致。这类判断交给自动评分,节省的是重复劳动。
反过来,需要结合上下文、意图或业务背景才能下结论的判断,不适合直接交给评分。典型特征是:同一个数值在不同场景下含义不同;两个样本得分相同但问题严重程度完全不同;规则制定者自己都难以说清扣分理由。这类判断一旦被评分替代,最先丢失的是例外处理能力。
一个可操作的区分方法是:随机抽十到二十个样本,让自动评分和人工分别判断,记录两者结论不一致的样本。如果不一致集中在少数固定类型上,说明规则可以继续收紧;如果不一致分散在多种类型上,说明这项判断暂时还不能被替代。
在样本量小的时候,人工逐个判断是可行的,因为例外数量本身有限。规模扩大后如果例外的类型仍然可以被归纳成几类,那么更合适的做法是保留人工,同时把例外类型写成清单,让评分结果只作为参考项。
具体动作是:把最近一批人工判断中“与自动评分结论相反”的样本单独挑出,按原因归类。如果归类后只剩三到五类,且每类都有明确的识别特征,就可以在流程里为这几类设置人工复核节点。结果是评分不再直接决定处理方式,而是决定哪些样本进入人工队列。
需要留意的是,请求量或评分覆盖率下降,并不能单独证明人工介入起了作用。流量波动、抓取节奏变化、样本来源改变都可能造成同样的现象。判断处理是否正确,要看人工复核后的结论是否稳定,而不是看某个统计数字的变化。
如果自动评分的总体结论经常和人工不一致,但拆开看每个分项都还算可靠,那么更适合改写而不是退出。把单一总分拆成几个独立分项,每个分项只回答一个窄问题,人工只需要在分项之间做取舍,而不是推翻整个评分。
假设一个场景:某工具对一批样本给出综合分,人工复核发现分数低的样本里,有一部分其实是正常内容。进一步拆解后发现,扣分主要来自某一个分项,而这个分项在特定内容类型下并不适用。此时的处理不是放弃评分,而是给这个分项加上适用条件,或者在该条件下不参与总分计算。
这个动作的结果是:自动评分继续承担大部分筛选工作,人工只需要处理分项之间冲突的样本。下一步可以观察冲突样本是否随着规则调整而减少,如果减少,说明拆分方向正确;如果冲突类型反而增多,说明问题出在判断标准本身,而不是评分粒度。
退出自动评分是一种合理选择,但需要明确条件。当规则需要不断打补丁才能维持和人工一致,且每次补丁都会引入新的例外,维护规则本身占用的时间已经超过直接人工判断,那么继续维护评分就不划算。
判断是否达到这个条件,可以记录一段时间内为修正规则所花的工时,以及同一时间段内人工直接判断同样数量样本所需的工时。两者接近或前者更高时,退出就有了依据。这里的关键是记录真实工时,而不是凭感觉判断“规则很麻烦”。
退出不等于完全不用工具。可以保留自动评分作为提示,只把最终结论交给人工,这样既避免了规则维护的负担,也没有丢掉机器在批量初筛上的效率。
防止人工判断被替代的长期办法,是把“哪些情况不能直接照搬评分”写进流程文档,而不是试图让评分覆盖所有情况。流程里应明确:哪些样本必须人工确认,哪些分项在什么条件下不适用,人工推翻评分后需要记录什么信息。
这些边界信息积累到一定程度后,会成为调整评分规则的依据,而不是反过来让评分吞掉判断空间。工具的具体功能、数据规模和适用条件需要以实际核对为准,不同工具之间也不宜直接套用同一套边界。
最终要守住的是:自动评分负责缩小需要看的范围,人工负责决定范围之外的事情。两者分工清楚,规模化之后才不会因为例外增多而让判断质量整体下滑。