python爬虫之Requests库，及基本使用
yuyutoo 2024-12-23 14:28 11 浏览 0 评论
一、Requests简介
urllib库参考：Python 爬虫之urllib库
Requests是用python语言基于urllib编写的，该模块主要用来发 送 HTTP 请求，requests 模块比 urllib 模块更简洁，是学习 python 爬虫的较好的http请求模块。
不是 python 的内置库，如果没有安装，可以安装先。
pip install requests二、各种请求方式
requests里提供个各种请求方式，每次调用 requests 请求之后，会返回一个 response 对象，该对象包含了具体的响应信息。响应信息如下：
- 属性或方法 ：说明
- apparent_encoding ：编码方式
- close()：关闭与服务器的连接
- content：返回响应的内容，以字节为单位
- cookies：返回一个 CookieJar 对象，包含了从服务器发回的 cookie
- elapsed ：返回一个 timedelta 对象，包含了从发送请求到响应到达之间经过的时间量，可以用于测试响应速度。比如 r.elapsed.microseconds 表示响应到达需要多少微秒
- encoding：解码 r.text 的编码方式
- headers ：返回响应头，字典格式
- history ：返回包含请求历史的响应对象列表（url）
- is_permanent_redirect ：如果响应是永久重定向的 url，则返回 True，否则返回 False
- is_redirect：如果响应被重定向，则返回 True，否则返回 False
- iter_content()：迭代响应
- iter_lines()：迭代响应的行
- json()：返回结果的 JSON 对象 (结果需要以 JSON 格式编写的，否则会引发错误)
- links：返回响应的解析头链接
- next：返回重定向链中下一个请求的 PreparedRequest 对象
- ok：检查 "status_code" 的值，如果小于400，则返回 True，如果不小于 400，则返回 False
- raise_for_status() ： 如果发生错误，方法返回一个 HTTPError 对象
- reason：响应状态的描述，比如 "Not Found" 或 "OK"
- request：返回请求此响应的请求对象
- status_code：返回 http 的状态码，比如 404 和 200（200 是 OK，404 是 Not Found）
- text：返回响应的内容，unicode 类型数据
- url：返回响应的 URL
1、基本Get 请求
import requests
x = requests.get('http://www.baidu.com')
print(x.status_code)
print(x.reason)
print(x.apparent_encoding)
print(x.text)执行结果：
200
OK
utf-8
<!DOCTYPE html>
<!--STATUS OK--><html> <head><meta http-equiv=content-type content=text/html;charset=utf-8>.....请求 json 数据文件，返回 json 内容:
通过params参数传递一个字典内容，从而直接构造url
import requests
params = {
'name': 'zhangsan',
'age': 100
}
x = requests.get('http://httpbin.org/get',params=params)
print(x.url)
print(x.json())执行结果：
http://httpbin.org/get?name=zhangsan&age=100
{'args': {'age': '100', 'name': 'zhangsan'}, 'headers': {'...抓取二进制数据
在上面的例子中，我们抓取的是网站的一个页面，实际上它返回的是一个 HTML 文档。如果想抓取图片、音频、视频等文件，需要用到content，这样获取的数据是二进制数据。
如抓取百度logo图片：
import requests
x = requests.get('https://www.baidu.com/img/flexible/logo/pc/result.png')
print(x.content)执行结果：
b'\x89PNG\r\n\x1a\n\x00\x00\x00\rIHDR\x00\x00\x00\xca\x00\得到的是一串二进制的乱码，如果想得到图片，直接将其保存到本地即可。
import requests
x = requests.get('https://www.baidu.com/img/flexible/logo/pc/result.png')
with open('baidulogo.png','wb') as f:
f.write(x.content)执行后，在本地目录，可以看到图片已经下载
添加headers
有些网页，必须需要headers才能访问。这时只需要将参赛传到 headers参数中即可，如下所示：
import requests
headers = {
'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_11_4) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/52.0.2743.116 Safari/537.36'
}
x = requests.get('https://baidu.com/', headers=headers)
print(x.text)2、基本POST请求
在爬虫中，另外一个比较常见的请求方式就是 POST 请求，跟GET用法差不多。
post() 方法可以发送 POST 请求到指定 url，一般格式如下：
requests.post(url, data={key: value}, json={key: value}, args)- url 请求 url。
- data 参数为要发送到指定 url 的字典、元组列表、字节或文件对象。
- json 参数为要发送到指定 url 的 JSON 对象。
- args 为其他参数，比如 cookies、headers、verify等。
import requests
data = {'name': 'zhangsan', 'age': '100'}
x = requests.post("http://httpbin.org/post", data=data)
print(x.text)执行结果：
{
"args": {},
"data": "",
"files": {},
"form": {
"age": "100",
"name": "zhangsan"
},
"headers": {
"Accept": "*/*",
"Accept-Encoding": "gzip, deflate",
"Content-Length": "21",
....3、其他请求
其他请求可以自行测试，差不多用法。
r = requests.put('https://httpbin.org/put', data = {'key':'value'})
r = requests.delete('https://httpbin.org/delete')
r = requests.head('https://httpbin.org/get')
r = requests.options('https://httpbin.org/get')三、requests 方法
requests 方法如下表：
- 方法：描述
- delete(url, args)：发送 DELETE 请求到指定 url
- get(url, params, args)：发送 GET 请求到指定 url
- head(url, args)：发送 HEAD 请求到指定 url
- patch(url, data, args)：发送 PATCH 请求到指定 url
- post(url, data, json, args)：发送 POST 请求到指定 url
- put(url, data, args)：发送 PUT 请求到指定 url
- request(method, url, args)：向指定的 url 发送指定的请求方法
import requests
# 发送请求
x = requests.request('get', 'https://httpbin.org/')
# 返回网页内容
print(x.status_code)执行结果：
200设置请求头：
# 导入 requests 包
import requests
kw = {'s':'python 教程'}
# 设置请求头
headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36"}
# params 接收一个字典或者字符串的查询参数，字典类型自动转换为url编码，不需要urlencode()
response = requests.get("https://httpbin.org", params = kw, headers = headers)
# 查看响应状态码
print (response.status_code)
# 查看响应头部字符编码
print (response.encoding)
# 查看完整url地址
print (response.url)
# 查看响应内容，response.text 返回的是Unicode格式的数据
print(response.text)执行结果：
200
utf-8
https://httpbin.org/?s=python+%E6%95%99%E7%A8%8B
<!DOCTYPE html>
<html lang="en">
<head>
<meta charset="UTF-8">
<title>httpbin.org</title>
<link href="https://fonts.googleapis.com/css?family=Open+Sans:400,700|Source+Code+Pro:300,600|Titillium+Web:400,600,700"
rel="stylesheet">
....四、requests其他高级用法
1、文件上传
实现方法和其他参数类似，也是构造一个字典然后通过files参数传递。
import requests
files= {"files":open("git.jpeg","rb")}
response = requests.post("http://httpbin.org/post",files=files)
print(response.text)2、获取cookie
import requests
response = requests.get("http://www.baidu.com")
print(response.cookies)
for key,value in response.cookies.items():
print(key+"="+value)3、会话维持
cookie的一个作用就是可以用于模拟登陆，做会话维持。
import requests
s = requests.Session()
s.get("http://httpbin.org/cookies/set/number/123456")
response = s.get("http://httpbin.org/cookies")
print(response.text)4、证书验证
现在的很多网站都是https的方式访问，所以这个时候就涉及到证书的问题，有时遇到：requests.exceptions.SSLError: HTTPSConnectionPool 错误。
import requests
from requests.packages import urllib3
urllib3.disable_warnings()
response = requests.get("https://httpbin.org",verify=False)
print(response.status_code)当然，我们也可以指定一个本地证书用作客户端证书，这可以是单个文件（包含密钥和证书）或一个包含两个文件路径的元组：
import requests
response = requests.get('https://httpbin.org/', cert=('/path/server.crt', '/path/server.key'))
print(response.status_code)上面的代码是演示实例，我们需要有 crt 和 key 文件，并且指定它们的路径。另外注意，本地私有证书的 key 必须是解密状态，加密状态的 key是不支持的。
5、代理设置
import requests
from requests.auth import HTTPBasicAuth
response = requests.get("http://192.168.152.100:9001/",auth=HTTPBasicAuth("user","123"))
print(response.status_code)还有一种方式
import requests
response = requests.get("http://192.168.152.100:9001/",auth=("user","123"))
print(response.status_code)6、超时设置
在某些网络情况不好的情况下，服务器可能很久才会响应甚至无法响应，此时就需要设置超时来避免无限的等待。在 requests 中，我们可以通过 timeout 参数来设置超时时间，这个时间是发出请求到服务器返回的整个过程所用的时间，即连接和读取两个过程，单位为秒。当然，也可以分别设置连接和读取各自的超时时间：
import requests
r = requests.get('https://httpbin.org/get', timeout=1)
print(r.status_code)
r = requests.get('https://httpbin.org/get', timeout=(5, 30))当然，如果不设置 timeout 或者将其设置为 None ,则表示不会进行超时处理，即会永久等待下去。
相关推荐
- 墨尔本一华裔男子与亚裔男子分别失踪数日 警方寻人
-
中新网5月15日电据澳洲新快网报道，据澳大利亚维州警察局网站消息，22岁的华裔男子邓跃(Yue‘Peter’Deng，音译)失踪已6天，维州警方于当地时间13日发布寻人通告，寻求公众协助寻找邓跃。华...
- 网络交友须谨慎!美国犹他州一男子因涉嫌杀害女网友被捕
-
伊森·洪克斯克（图源网络，侵删）据美国广播公司（ABC）25日报道，美国犹他州一名男子于24日因涉嫌谋杀被捕。警方表示，这名男子主动告知警局，称其杀害了一名在网络交友软件上认识的25岁女子。雷顿警...
- 一课译词:来龙去脉（来龙去脉 的意思解释）
-
Mountainranges[Photo/SIPA]“来龙去脉”，汉语成语，本指山脉的走势和去向，现比喻一件事的前因后果（causeandeffectofanevent），可以翻译为“i...
- 高考重要考点:range（range高考用法）
-
range可以用作动词，也可以用作名词，含义特别多，在阅读理解中出现的频率很高，还经常作为完形填空的选项，而且在作文中使用是非常好的高级词汇。...
- C++20 Ranges:现代范围操作（现代c++白皮书）
-
1.引言：C++20Ranges库简介C++20引入的Ranges库是C++标准库的重要更新，旨在提供更现代化、表达力更强的方式来处理数据序列（范围，range）。Ranges库基于...
- 学习VBA，报表做到飞 第二章 数组 2.4 Filter函数
-
第二章数组2.4Filter函数Filter函数功能与autofilter函数类似，它对一个一维数组进行筛选，返回一个从0开始的数组。...
- VBA学习笔记:数组:数组相关函数—Split，Join
-
Split拆分字符串函数，语法Split（expression，字符，Limit，compare），第1参数为必写，后面3个参数都是可选项。Expression为需要拆分的数据，“字符”就是以哪个字...
- VBA如何自定义序列，学会这些方法，让你工作更轻松
-
No.1在Excel中，自定义序列是一种快速填表机制，如何有效地利用这个方法，可以大大增加工作效率。通常在操作工作表的时候，可能会输入一些很有序的序列，如果一一录入就显得十分笨拙。Excel给出了一种...
- Excel VBA入门教程1.3 数组基础（vba数组详解）
-
1.3数组使用数组和对象时，也要声明，这里说下数组的声明：'确定范围的数组，可以存储b-a+1个数，a、b为整数Dim数组名称(aTob)As数据类型Dimarr...
- 远程网络调试工具百宝箱-MobaXterm
-
MobaXterm是一个功能强大的远程网络工具百宝箱，它将所有重要的远程网络工具（SSH、Telnet、X11、RDP、VNC、FTP、MOSH、Serial等）和Unix命令（bash、ls、cat...
- AREX:携程新一代自动化回归测试工具的设计与实现
-
一、背景随着携程机票BU业务规模的不断提高，业务系统日趋复杂，各种问题和挑战也随之而来。对于研发测试团队，面临着各种效能困境，包括业务复杂度高、数据构造工作量大、回归测试全量回归、沟通成本高、测试用例...
- Windows、Android、IOS、Web自动化工具选择策略
-
Windows平台中应用UI自动化测试解决方案AutoIT是开源工具，该工具识别windows的标准控件效果不错，但是当它遇到应用中非标准控件定义的UI元素时往往就无能为力了，这个时候选择silkte...
- python自动化工具:pywinauto（python快速上手 自动化）
-
简介Pywinauto是完全由Python构建的一个模块，可以用于自动化Windows上的GUI应用程序。同时，它支持鼠标、键盘操作，在元素控件树较复杂的界面，可以辅助我们完成自动化操作。我在...
- 时下最火的 Airtest 如何测试手机 APP?
-
引言Airtest是网易出品的一款基于图像识别的自动化测试工具，主要应用在手机APP和游戏的测试。一旦使用了这个工具进行APP的自动化，你就会发现自动化测试原来是如此简单！！连接手机要进行...
- 【推荐】7个最强Appium替代工具，移动App自动化测试必备!
-
在移动应用开发日益火爆的今天，自动化测试成为了确保应用质量和用户体验的关键环节。Appium作为一款广泛应用的移动应用自动化测试工具，为测试人员所熟知。然而，在不同的测试场景和需求下，还有许多其他优...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- mybatis plus (70)
- scheduledtask (71)
- css滚动条 (60)
- java学生成绩管理系统 (59)
- 结构体数组 (69)
- databasemetadata (64)
- javastatic (68)
- jsp实用教程 (53)
- fontawesome (57)
- widget开发 (57)
- vb net教程 (62)
- hibernate 教程 (63)
- case语句 (57)
- svn连接 (74)
- directoryindex (69)
- session timeout (58)
- textbox换行 (67)
- extension_dir (64)
- linearlayout (58)
- vba高级教程 (75)
- iframe用法 (58)
- sqlparameter (59)
- trim函数 (59)
- flex布局 (63)
- contextloaderlistener (56)