嘟嘟社区

66.249.79.这个IP段一秒钟爬我搜索页上百次


66.249.79.这个IP段一秒钟爬我搜索页上百次
数据库负载100%
搜索页没有内容、是伪装蜘蛛攻击吗
这是 Google 的爬虫…

66开头好像是google

NetRange:       66.249.64.0 – 66.249.95.255
CIDR:           66.249.64.0/19
NetName:        GOOGLE
NetHandle:      NET-66-249-64-0-1
Parent:         NET66 (NET-66-0-0-0-0)
NetType:        Direct Allocation
OriginAS:
Organization:   Google LLC (GOGL)
RegDate:        2004-03-05
Updated:        2012-02-24
Ref:            https://rdap.arin.net/registry/ip/66.249.64.0

soasurs 发表于 2021-11-1 15:12
这是 Google 的爬虫…

为什么一直爬我搜索页
都把我小鸡爬宕机了

aqinhai 发表于 2021-11-1 15:16
为什么一直爬我搜索页
都把我小鸡爬宕机了

好事 要么你就做静态缓存

hang6 发表于 2021-11-1 15:18
好事 要么你就做静态缓存

我做的国人站 谷歌收录我没用

aqinhai 发表于 2021-11-1 15:34
我做的国人站 谷歌收录我没用

那你 robot 屏蔽谷歌蜘蛛就行了

那么厉害直接拉黑这个ip就行了
谷歌的蜘蛛

robots.txt里边写不让它爬搜索页就行了