可复查的状态证据,指的是任何一次提交动作都能被独立还原:谁在什么时候、通过什么入口、提交了哪个地址,以及之后搜索引擎端出现了什么可观察的变化。它不依赖“我提交过了”的记忆,而依赖截图、日志、平台回执和查询结果这几类可存档的记录。缺少这些记录时,提交与收录之间的因果关系无法确认,后续排查也就失去了起点。
在动手提交之前,先把“提交什么”和“往哪提交”写清楚,否则证据链从源头就是模糊的。
https://example.com/a/ 与 https://example.com/a 在部分系统里会被视为不同对象。这一阶段最容易被忽略的是把“提交”当成一个动作而不是一个事件。把它拆成对象、入口、时间三要素,后面才有可对照的基准。
提交动作本身应当产生可保存的输出,而不是只留下操作记忆。
noindex、canonical 指向哪里。这些是判断“为什么没被收录”时的直接依据。实施阶段最关键的一步,是把每次提交与对应的 URL 建立一对一映射。批量提交时如果只记录总数,后续无法定位是哪一条出了问题。
提交之后能观察到两类信号:抓取信号和索引信号。二者不是一回事,需要分开核查。
抓取信号来自服务器访问日志。在日志中筛选搜索引擎爬虫的 User-Agent,查看目标 URL 是否被请求过、返回了什么状态码、请求时间与提交时间是否吻合。如果日志里完全没有该 URL 的请求记录,说明抓取尚未发生;如果有请求但返回 4xx 或 5xx,问题出在服务器或地址本身,而不是提交动作。
索引信号来自搜索结果与站点查询。用完整 URL 或特定查询语句检查页面是否已进入索引。需要注意,能搜到某条结果不等于该 URL 已被正常索引,可能是其他页面在匹配;反过来,搜不到也不等于一定没被索引,查询方式本身会影响结果。
把两类证据放在一起,可以得到四种典型判断:
这里要避免一个常见误判:把 HTTPS 当成收录或排名的保证。HTTPS 不保证安全无漏洞,也不保证排名,它只是传输层的一个条件,不能作为收录状态的证据。
单次证据只能回答一次问题,持续维护才能回答“变化发生在什么时候”。建议维护一张记录表,字段包括:URL、提交入口、提交时间、首次抓取时间、抓取状态码、首次发现索引时间、当前索引状态、备注。每次复查只追加新行,不覆盖旧记录。
复查频率按页面重要程度区分:核心页面可以缩短间隔,长尾页面可以放宽。判断结果时以“状态是否发生变化”为准,而不是以“是否达到某个固定天数”为准,因为抓取与索引的节奏受多种因素影响,不存在统一的见效时间。
如果发现某条 URL 长期无抓取记录,下一步不是反复提交,而是回到准备阶段核查 robots.txt、服务器日志和站内链接入口,确认爬虫是否具备到达该地址的路径。
从当前待处理的 URL 中挑一条,按上面的字段补全记录表,并对照服务器日志确认是否已有爬虫请求。这条记录会成为后续所有判断的基准,也能直接暴露问题出在提交、抓取还是索引环节。