网站根据浏览器请求头Accept-Language匹配不同语言模板,比如,大陆打开显示是中文,欧美是英文,问题来了,百度Google蜘蛛抓取显示什么语言?
用了不同的蜘蛛抓取测试工具,有的中文有的英文,现在有点搞不清。 |
那还得再给蜘蛛写个 |
现在根据useragent匹配了,国外蜘蛛英文,国内中文。 |
网站根据浏览器请求头Accept-Language匹配不同语言模板,比如,大陆打开显示是中文,欧美是英文,问题来了,百度Google蜘蛛抓取显示什么语言?
用了不同的蜘蛛抓取测试工具,有的中文有的英文,现在有点搞不清。 |
那还得再给蜘蛛写个 |
现在根据useragent匹配了,国外蜘蛛英文,国内中文。 |