先给结论:报告页数大于实际对象数量,通常不是工具算错,而是“同一对象被拆成多行”或“分页把对象切碎”。要判断该不该去重,先确认报告里的行代表的是对象还是对象的状态;如果一行代表一个URL的一次抓取或一次曝光,那页数本来就不该等于对象数。下面按两种常见解释拆开,再给出能区分它们的证据和动作。
很多SEO工具资源导出的明细,一行对应一次观测,而不是一个独立页面。典型情况包括:同一URL在桌面端和移动端各出一行;同一URL在两次抓取中各出一行;带参数版本与规范版本各出一行。此时页数偏高是正常的,去重反而会丢掉判断所需的维度。
区分方法是看导出的列结构。如果存在抓取时间、设备、来源这类字段,且同一URL在这些字段上有不同取值,那么这份报告的对象粒度就是“URL×条件”,不是URL。此时正确动作是先按分析目标选维度,再做聚合,而不是直接删重复行。
另一种情况是同一逻辑对象真的出现了多个可抓取地址:带与不带结尾斜杠、大小写不同、参数顺序不同、分页的每一页都被当成独立页面。这会同时抬高报告页数和实际对象数量之间的差距,而且差距会随抓取轮次变化。
区分证据是看这些重复地址的响应状态和规范标记。如果重复地址都返回正常内容且各自声明不同的规范地址,说明是站内结构问题,去重只能解决报告,不能解决根源;如果重复地址中只有一个返回正常内容、其余跳转或返回空内容,那么去重是安全的,重点应放在确认跳转是否稳定。
假设一份报告有1000行,你怀疑实际对象只有700个。可以这样验证:先按URL去掉查询参数和结尾斜杠做一次归并,统计归并后还剩多少组;再检查每组内部是否存在不同的标题或状态码。
这一步的结果会直接决定下一步:确认是同一对象后,去重规则应写成可复用的脚本或筛选条件,并记录在报告说明里;确认是不同对象后,不应去重,而应回到对象定义,明确这次分析到底以URL、以页面还是以主题为单位。
去重完成不代表数字就能直接对比。报告页数、实际对象数量、可索引对象数量是三套口径。若你的目标是评估覆盖情况,应以去重后的对象数为分母;若目标是排查抓取预算,则应保留多地址记录,因为它们确实消耗了抓取。选择哪一种,取决于这次分析要回答的问题,而不是哪个数字更好看。
最后提醒一点:请求量或抓取量归零、页数骤降,都不能单独证明去重做对了。它也可能是抓取失败、权限变更或导出范围被改动。把去重前后的对象数、状态码分布和抓取时间一起留档,才能在下一次对比时判断变化来自对象本身还是来自统计方式。