python 包中的 urllib 網路請求教學

2022-04-19 13:01:05

一、簡介
二、發起請求
三、攜帶引數請求
四、獲取響應資料
五、設定headers
六、使用代理
七、認證登入
八、設定cookie
九、例外處理
十、HTTP異常
十一、超時異常
十二、解析編碼
十三、引數拼接
十四、請求連結解析
十五、拼接連結
十六、字典轉換引數

一、簡介

是一個 python 內建包，不需要額外安裝即可使用
urllib 是 Python 標準庫中用於網路請求的庫，內建四個模組，分別是
urllib.request：用來開啟和讀取 url，可以用它來模擬傳送請求，獲取網頁響應內容
urllib.error：用來處理 urllib.request 引起的異常，保證程式的正常執行
urllib.parse：用來解析 url，可以對 url 進行拆分、合併等
urllib.robotparse：用來解析 robots.txt 檔案，判斷網站是否能夠進行爬取

二、發起請求

import urllib.request

# 方法一
resp = urllib.request.urlopen('http://www.baidu.com', timeout=1)
print(resp.read().decode('utf-8'))

# 方法二
request = urllib.request.Request('http://www.baidu.com')
response = urllib.request.urlopen(request)
print(response.read().decode('utf-8'))

三、攜帶引數請求

請求某些網頁時需要攜帶一些資料

import urllib.parse
import urllib.request

params = {
'name':'autofelix',
'age':'25'
}

data = bytes(urllib.parse.urlencode(params), encoding='utf8')
response = urllib.request.urlopen("http://www.baidu.com/", data=data)
print(response.read().decode('utf-8'))

四、獲取響應資料

import urllib.request

resp = urllib.request.urlopen('http://www.baidu.com')
print(type(resp))
print(resp.status)
print(resp.geturl())
print(resp.getcode())
print(resp.info())
print(resp.getheaders())
print(resp.getheader('Server'))

五、設定headers

import urllib.request

headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/56.0.2924.87 Safari/537.36'
}
request = urllib.request.Request(url="http://tieba.baidu.com/", headers=headers)
response = urllib.request.urlopen(request)
print(response.read().decode('utf-8'))

六、使用代理

import urllib.request

proxys = urllib.request.ProxyHandler({
'http': 'proxy.cn:8080',
'https': 'proxy.cn:8080'
})

opener = urllib.request.build_opener(proxys)
urllib.request.install_opener(opener)

request = urllib.request.Request(url="http://www.baidu.com/")
response = urllib.request.urlopen(request)
print(response.read().decode('utf-8'))

七、認證登入

有些網站需要攜帶賬號和密碼進行登入之後才能繼續瀏覽網頁

import urllib.request

url = "http://www.baidu.com/"
user = 'autofelix'
password = '123456'
pwdmgr = urllib.request.HTTPPasswordMgrWithDefaultRealm()
pwdmgr.add_password(None,url,user,password)

auth_handler = urllib.request.HTTPBasicAuthHandler(pwdmgr)
opener = urllib.request.build_opener(auth_handler)
response = opener.open(url)
print(response.read().decode('utf-8'))

八、設定cookie

如果請求的頁面每次需要身份驗證，我們可以使用 Cookies 來自動登入，免去重複登入驗證的操作

import http.cookiejar
import urllib.request

cookie = http.cookiejar.CookieJar()
handler = urllib.request.HTTPCookieProcessor(cookie)
opener = urllib.request.build_opener(handler)
response = opener.open("http://www.baidu.com/")

f = open('cookie.txt', 'a')
for item in cookie:
f.write(item.name+" = "+item.value+'n')
f.close()

九、例外處理

from urllib import error, request

try:
resp = request.urlopen('http://www.baidu.com')
except error.URLError as e:
print(e.reason)

十、HTTP異常

from urllib import error, request

try:
resp = request.urlopen('http://www.baidu.com')
except error.HTTPError as e:
print(e.reason, e.code, e.headers, sep='n')
except error.URLError as e:
print(e.reason)
else:
print('request successfully')

十一、超時異常

import socket, urllib.request, urllib.error

try:
resp = urllib.request.urlopen('http://www.baidu.com', timeout=0.01)
except urllib.error.URLError as e:
print(type(e.reason))
if isinstance(e.reason,socket.timeout):
print('time out')

十二、解析編碼

from urllib import parse

name = parse.quote('飛兔小哥')

# 轉換回來
parse.unquote(name)

十三、引數拼接

在存取url時，我們常常需要傳遞很多的url引數
而如果用字串的方法去拼接url的話，會比較麻煩

from urllib import parse

params = {'name': '飛兔', 'age': '27', 'height': '178'}
parse.urlencode(params)

十四、請求連結解析

from urllib.parse import urlparse

result = urlparse('http://www.baidu.com/index.html?user=autofelix')
print(type(result))
print(result)

十五、拼接連結

如果拼接的是兩個連結，則以返回後面的連結
如果拼接是一個連結和引數，則返回拼接後的內容

from urllib.parse import urljoin

print(urljoin('http://www.baidu.com', 'index.html'))

十六、字典轉換引數

from urllib.parse import urlencode

params = {
'name': 'autofelix',
'age': 27
}
baseUrl = 'http://www.baidu.com?'
print(baseUrl + urlencode(params))

到此這篇關於python 包中的 urllib 網路請求教學的文章就介紹到這了,更多相關 urllib 網路請求內容請搜尋it145.com以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援it145.com！

python 包中的 urllib 網路請求教學

目錄

一、簡介

二、發起請求

三、攜帶引數請求

四、獲取響應資料

五、設定headers

六、使用代理

七、認證登入

八、設定cookie

九、例外處理

十、HTTP異常

十一、超時異常

十二、解析編碼

十三、引數拼接

十四、請求連結解析

十五、拼接連結

十六、字典轉換引數

熱門文章