html - 关于 robots.txt 禁止参数 URL
问题描述
我有以 search?=keyword 结尾的页面,我希望 Google 阻止抓取这些页面。示例页面如下。我想知道我是否在 robots.txt 中添加了 Disallow: /search,这样可以吗?
示例网址:
http://www.website.com/search?=neymar
http://www.website.com/search?=ronaldo
http://www.website.com/search?=kobe
所以基本上,我不希望 Google 抓取所有以 /search?=keyword 结尾的 URL。谢谢你。
解决方案
您可以简单地使用“Disallow: /”标签和 URL。这将起作用
推荐阅读
- amazon-web-services - 如何使用 Eclipse JEE 从我的 Web 应用程序登录到 AWS?
- java - Java - 解释对象文件
- java - 使用 JTransforms 的 FFT:是基数 2 吗?
- r - Replace multiple data frames (in a list) column names from a separate list of values?
- powershell - 作为计划任务运行时,PowerShell 脚本看不到映射的驱动器
- c# - 我如何重构它以在此 Lambda 中传递“要使用的属性”以使该方法可重用?
- powershell - 查找时间戳超过给定持续时间的相邻 CSV 行
- visual-studio-2017 - 为什么 Visual Studio SQL Server 数据库项目在目标 SQL Server 不是时抛出 SQL71501 错误
- ruby-on-rails - 在 Ruby on Rails 中处理数据迁移的正确方法是什么?
- angular - mat-autocomplete 和输入显示不正确,我的表单有问题