先给结论:同一地址出现设备差异或登录差异时,不要急着判断收录异常,而要先确认返回差异属于“同一份内容的不同呈现”还是“不同用户实际拿到不同内容”。前者通常只需固定一个可复现的抓取环境做对照;后者要先判断差异是否由服务端按设备、Cookie 或登录态分流。判断依据是响应头、首屏 HTML 和登录态请求三者的差异位置,而不是收录查询结果本身。
对照的第一步不是换设备反复看,而是把变量收窄。你需要记录同一地址在以下条件下的返回:未登录、无 Cookie、移动端 UA、桌面端 UA,以及登录后的同一路径。重点看首屏 HTML 是否已包含正文,还是只返回一个壳页面再靠脚本填充。
实际动作:用同一网络、同一时间窗口分别请求上述条件,保存响应头和首屏 HTML。结果如何影响下一步——如果未登录与登录返回的首屏 HTML 正文一致,差异只在展示层,收录对照以未登录版本为准即可;如果登录后正文才出现,说明内容受登录态控制,收录查询要围绕公开可访问版本做,而不是围绕你登录后看到的页面做。
当移动端与桌面端返回的正文主体一致,只是模板、导航或图片尺寸不同,这属于正常的响应式或独立移动站适配。此时对照的重点是确认公开版本可被抓取,而不是要求两端 HTML 完全一致。
<link rel="alternate"> 或等价方式声明对应关系。当未登录请求拿不到正文,登录后才显示完整内容,或不同账号看到不同内容,这已经不是展示差异,而是访问控制差异。此时收录查询的对象必须是搜索引擎和未登录用户能拿到的那一版。
设备与登录差异经常混在一起,单看页面截图容易误判。可区分的原因证据有三类:
Vary 指向 User-Agent 或 Cookie,说明服务端按这些字段分流。把这三类证据分开记录,再决定是调整公开版本,还是接受某些状态不被收录。不要用收录查询结果反推差异原因,因为查询结果只反映某个时间点的状态,不能单独证明分流逻辑正确。
假设某商品页未登录时只返回“请登录查看”,登录后显示完整价格与描述。若你先做收录查询,看到该地址未被索引,可能误判为抓取问题并去改站点地图。但按本流程先对照,会发现未登录首屏根本没有正文,属于访问控制差异。此时正确动作是决定该页是否应公开:若不公开,保持访问控制即可;若应公开,先让未登录请求返回正文,再重新提交对照。这个顺序能避免把“本就不该公开”误当成“抓取失败”。
robots.txt 的抓取限制不等于可靠的索引移除,已收录地址仍可能因外部链接或历史快照出现;站点地图不保证收录,它只是提示可抓取范围。HTTPS 也不保证页面安全无漏洞或必然获得更好排名。不同搜索引擎对登录态、动态渲染和移动适配的支持情况须分别核查,不能拿一个引擎的对照结果直接套到另一个。
另外,请求量或抓取量归零不能单独证明你的处理正确,它也可能是抓取预算转移、路径被合并或统计口径变化造成的。做对照时保留改动前后的响应头与首屏 HTML,才能在下一次收录查询时判断变化来自你的调整还是外部因素。