检查重要页面是否被发现,核心是看三件事:搜索引擎有没有抓到它、有没有把它放进索引、以及它能不能通过站内链接被稳定找到。最直接的做法是用站点查询指令加页面URL、查看抓取统计和日志,再对照站内链接与站点地图。只看到“已收录”并不够,还要确认收录的是不是你想推广的那个版本。
“被发现”通常指搜索引擎已经知道这个URL存在,可能来自站点地图、站内链接、外链或手动提交。“被收录”则是它已经进入索引,有机会参与搜索展现。两者不是一回事:页面可能被抓取但因内容单薄、重复或返回状态异常而未收录,也可能收录了旧参数版本而不是主版本。
因此检查时要分两层记录:第一层是发现渠道,第二层是索引结果。只看索引结果,容易把“没被发现”和“被发现但没收录”混为一谈,后续处理方向也会错。
发现异常时,常见处理分两种:主动提交与内链加速,以及先修技术障碍再提交。前者适合页面可正常访问、内容独特、只是缺少入口的情况;后者适合返回错误状态、被robots规则阻止、规范标签错误或页面重复的情况。
判断方法很简单:如果日志里完全没有爬虫请求,且sitemap和站内链接都正常,可以先加强内链并提交URL;如果日志里有请求但返回404、301或403,先修服务器和规则,再谈提交。两种方案不是互相替代,而是有先后顺序。跳过修复直接提交,通常只是重复触发同一个问题。
调整内链、提交URL或修改页面后,不要只看一两天的数据就下结论。搜索需求会随季节、热点和节假日变化,数据采集也可能延迟或漏记。比较时应固定同一批页面、同一统计口径和相近时间窗口,并记录改动日期。若前后流量差异同时伴随行业搜索量变化,就不能把全部变化归因于这次SEO调整。
假设某产品页原先只能从分类页第五层进入,后来加到首页推荐位。若该页日志中爬虫请求增加、索引状态从“未收录”变为“已收录”,可以认为发现效率改善;若请求没变,则要回头检查链接是否被JavaScript隐藏、是否加了nofollow,或服务器是否对爬虫返回了异常状态。
挑一个你最在意的重要页面,按上面的清单逐项记录:sitemap是否存在、站内能否点到、日志有无抓取、canonical指向哪里、内容是否重复。把“未发现”和“已发现未收录”分开标记,再决定是先修技术问题还是先补入口。连续观察几次抓取和索引状态,比单次查询更能说明问题。