如何使用Python请求伪造浏览器访问?

user1726366:

我想从下面的网站获取内容。如果使用Firefox或Chrome这样的浏览器,则可以获取所需的真实网站页面,但是如果使用Python request软件包(或wget命令)进行获取,则它将返回完全不同的HTML页面。我以为网站的开发人员为此做了一些阻碍,所以问题是:

如何使用python请求或命令wget伪造浏览器访问?

http://www.ichangtou.com/#company:data_000008.html

alecxe:

提供User-Agent标题

import requests

url = 'http://www.ichangtou.com/#company:data_000008.html'
headers = {'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_10_1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.95 Safari/537.36'}

response = requests.get(url, headers=headers)
print(response.content)

仅供参考,以下是适用于不同浏览器的User-Agent字符串列表:


附带说明一下,有一个非常有用的第三方程序包,称为fake-useragent,它在用户代理上提供了一个不错的抽象层:

假用户代理

最新的简单useragent伪造者与实际数据库

演示:

>>> from fake_useragent import UserAgent
>>> ua = UserAgent()
>>> ua.chrome
u'Mozilla/5.0 (Windows NT 6.2; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/32.0.1667.0 Safari/537.36'
>>> ua.random
u'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/36.0.1985.67 Safari/537.36'

本文收集自互联网,转载请注明来源。

如有侵权,请联系 [email protected] 删除。

编辑于
0

我来说两句

0 条评论
登录 后参与评论

相关文章

使用 Python 请求无法访问私人网站,而使用浏览器工作时

如何使用python请求登录浏览器提示符(下图)?

如何使用Python请求像我的浏览器一样跟随URL

使用Python或浏览器复制POST请求

如何访问浏览器的DocumentFragment节点?

使用浏览器访问网址

访问网站时如何查找浏览器发出的所有JavaScript请求

python请求http响应500(可以在浏览器中访问网站)

在浏览器中的javascript中访问请求ip

在没有使用Python的浏览器的情况下,如何从HTML表单发出POST请求?

如何使用python获取默认的浏览器名称?

如何使用python关闭网络浏览器

如何使用Python在浏览器中预览pdf文件?

Python:如何使用Webbrowser模块打开默认浏览器?

如何使用Python连接到Tor浏览器

如何使用无头浏览器运行Selenium Python

如何分辨curl请求与浏览器请求

使用请求/请求从浏览器发布文件

如何从Selenium浏览器将会话和cookie加载到Python中的请求库?

如何使用 COR 策略通过浏览器向 AWS API 网关执行 Ajax 请求?

如何使用206部分内容使浏览器请求更小的范围

如何在浏览器中使用JSON数据模拟REST发布请求

如何在JavaScript中使用浏览器发送DELETE请求

如何在Swift中使用桌面浏览器发出HTTP请求

如何使用JavaScript获取浏览器上次请求加载的文件的列表?

浏览器如何知道发送请求时应该使用哪个版本的 HTTP?

如何使用PHP脚本模拟确切的浏览器请求?

Laravel 4:如何使用浏览器插件以JSON格式发送POST请求?

如何使用Angular检测浏览器?