Robots 检测
使用方法
- 输入域名
- 查看 robots.txt 规则和 Sitemap 检测结果
常见问题
Disallow: / 是什么意思?
表示禁止所有搜索引擎抓取整站,上线后务必检查是否误设置。
检测robots.txt规则与sitemap可用性
| 地址 | https://www.sitemaps.org/robots.txt |
|---|---|
| 状态 | 200 存在 |
| 规则条数 | 0 |
| 声明 Sitemap | 1 |
| 全站屏蔽 | 否 |
Sitemap: https://www.sitemaps.org/sitemap.xml
| Sitemap 地址 | 状态 | 内容 |
|---|---|---|
| https://www.sitemaps.org/sitemap.xml | 200 | 84 个 URL |
Disallow: / 是什么意思?
表示禁止所有搜索引擎抓取整站,上线后务必检查是否误设置。