vps交流

淘宝允许搜索引擎抓取了?


我记得之前显示不允许抓取

淘宝热卖也做了百度竞价

https://www.taobao.com/robots.txt

小号专用马甲 发表于 2022-6-25 00:00
https://www.taobao.com/robots.txt

site出来好几万 是咋回事
爬虫强爬吗

uov 发表于 2022-6-25 00:01
site出来好几万 是咋回事
爬虫强爬吗

不知道 百度可以可以更换ua爬 但是结果应该不会放出来,不然就违反robots.txt 了
具体咋回事不知道  我用bing 也可以搜到淘宝商品
可能是淘宝流量不好 放开了一点吧

小号专用马甲 发表于 2022-6-25 00:04
不知道 百度可以可以更换ua爬 但是结果应该不会放出来,不然就违反robots.txt 了
具体咋回事不知道  我用 …

感觉有点淘宝做不过拼夕夕

现在电脑看个东西都要登录
隔壁强子就不需要
还有某多多根本没pc端
抓了也没用,看个商品还要登录
淘宝越来越不行了
淘宝其他二级域名有些页面允许抓取的。
淘宝允许搜索引擎抓取了?