使用.htamless 来阻止不想要的访客来你的网页
在这个文章中,我们将会讨论「如何借由.htamless阻止不想要的访客或是机器人访问你的网页」
.htamless是在服务器中的隐藏文档,它可以控制网页与其他工具之间访问的权限。
按照步骤,我们可以通过几种不同的方法,可以阻挡不需要的访客进入你的网页。
编辑你的.htamless文档
使用IP位址阻挡
阻挡单一IP位址
deny from 123.123.123.123
阻挡多个IP位址
阻挡一个范围的IP,例如123.123.123.1 - 123.123.123.255,你也可以把最后一组比特删除。
deny from 123.123.123
你也可以使用CIDR(Classless Inter-Domain Routing) 无类别区隔路由标记方式来阻挡IP。
阻挡范围123.123.123.1 - 123.123.123.255, 使用 123.123.123.0/24
阻挡范围123.123.64.1 - 123.123.127.255, 使用 123.123.123.0/18
deny from 123.123.123.0/24
依据User-Agent string 来阻挡不良用户
一些恶意的用户会使用不同的IP发送请求,但是在这些全部请求之中,只使用相同的User-Agent,在这种情况下,你可以只阻挡用户的User-Agent字符串。
阻挡单个不良User-Agent
如果你只想阻挡一个特殊的User-Agent字符串,你可以使用RewriteRule。
RewriteEngine On RewriteCond %{HTTP_USER_AGENT} Baiduspider [NC] RewriteRule .* - [F,L]
BrowserMatchNoCase "Baiduspider" bots
Order Allow,Deny Allow from ALL Deny from env=bots
阻挡多个不良User-Agent
BrowserMatchNoCase "Baiduspider" bots BrowserMatchNoCase "HTTrack" bots BrowserMatchNoCase "Yandex" bots
Order Allow,Deny Allow from ALL Deny from env=bots
阻挡不良参照链接(盗连)
Block a single bad referer
阻挡单个参照链接
RewriteEngine On RewriteCond %{HTTP_REFERER} example.com [NC] RewriteRule .* - [F]
Order Allow,Deny Allow from ALL Deny from env=bad_referer Block multiple bad referers
阻挡多个参照链接
RewriteEngine On RewriteCond %{HTTP_REFERER} example.com [NC,OR] RewriteCond %{HTTP_REFERER} example.net [NC] RewriteRule .* - [F]
SetEnvIfNoCase Referer "example.com" bad_referer SetEnvIfNoCase Referer "example.net" bad_referer
Order Allow,Deny Allow from ALL Deny from env=bad_referer
暂时阻止不良搜索机器人
在某些情况下,你或许不想要直接发送403消息网页给访客,因为那是个(长时间)拒绝他进入网页的消息。
举个例子来说,例如当天有个营销活动,网页将会产生大量的的网络流量,在这期间,你不想要让一些好的搜索引擎机器人像是GOOGLE或是雅虎,进入你的网页并检索网页,因为有可能会使用额外的流量来增加服务器的负担
以下代码,将可以用503回应的方式来设置基本的错误网页消息,这是用缺省的方式去告诉搜索引擎,这个请求只是暂时性的被阻挡并且一段时间后可以再尝试。503回应与403回应是不同的,503是通过430回应来暂时性的拒绝进入权限,像是GOOGLE将会确认为503回应后,他们将会再来尝试检索网页,并非删除他的检索。
当你注意到一些新的搜索机器人在爬(抓取)你的网页太频过频繁,并且你想要阻挡他们或是让他们不要那么频繁抓取,可以使用robots.txt文档来处理,是一个很好的方式。
以下代抓取User-Agent的任何请求,其中包含搜索机器人、搜索爬虫、搜索蜘蛛,大多数主要的搜索引擎都是符合的,第二个RewriteCond是允许这些机器人仍然可以请求robots.txt文档来核对最新的规则,但是任何其他的请求都很单纯的得到503网页回应或是"Site temporarily disabled for crawling"。
常态来说,你在开始使用两天后,还不想删除503回应的话,GOOGLE可能会开始去理解成长时间的服务器中断,并且会开始从GOOGLE的索引删除你的网页链接。
评论列表 (0)