Python+Pytest實現壓力測試詳解

2023-03-13 06:00:04

在現代Web應用程式中，效能是至關重要的。為了確保應用程式能夠在高負載下正常執行，我們需要進行效能測試。今天，應小夥伴的提問，田辛老師來寫一個Pytest進行壓力測試的簡單案例。這個案例的測試網站我們就隱藏了，不過網站的基本情況是：

阿里
框架：FastAdmin.net

1.程式說明

1.1 設定測試引數

首先，田辛老師做的第一件事情就是設定測試引數。程式碼如下

# 定義測試用例  
def test_performance():  
    # 設定測試引數  
    url = 'http://www.a.com/'  
    num_threads = 20  
    num_requests = 200  
    timeout = 5

這裡面,田老師設定了網站的URL，執行緒數，每個執行緒的請求次數，以及超時時間。可以看到，這裡面田老師一共會做4000次請求。

1.2 初始化測試結果

這段程式碼我想不需要田老師多講，這裡做一個提示：注意縮排，這段程式碼仍然在測試用例test_performance內。

    # 初始化測試結果  
    response_times = []  
    errors = 0  
    successes = 0

1.3 定義測試函數

接下來，田老師定義了一個內部函數。這個函數就是在某一執行緒內完成設定次數的請求。

    # 定義測試函數  
    def test_func():  
        nonlocal errors, successes  
        for _ in range(num_requests):  
            try:  
                start_time = time.time()  
                requests.get(url, timeout=timeout)  
                end_time = time.time()  
                response_time = end_time - start_time  
                response_times.append(response_time)  
                successes += 1  
            except requests.exceptions.RequestException:  
                errors += 1

1.4 建立執行緒、執行執行緒、等待

    # 建立測試執行緒  
    threads = []  
    for _ in range(num_threads):  
        t = threading.Thread(target=test_func)  
        threads.append(t)  
      
    # 啟動測試執行緒  
    for t in threads:  
        t.start()  
      
    # 等待測試執行緒結束  
    for t in threads:  
        t.join()

1.5 計算測試結果

    # 計算測試結果  
    total_requests = num_threads * num_requests  
    throughput = successes / (sum(response_times) or 1)  
    concurrency = num_threads  
    error_rate = errors / (total_requests or 1)  
    cpu_usage = psutil.cpu_percent()  
    memory_usage = psutil.virtual_memory().percent

1.6 將測試結果寫入檔案

    # 將測試結果寫入檔案  
    with open('performance_test_result.txt', 'w') as f:  
        f.write(f'總請求數：{total_requests}n')  
        f.write(f'總時間：{sum(response_times):.2f}sn')  
        f.write(f'吞吐量：{throughput:.2f} requests/sn')  
        f.write(f'並行數：{concurrency}n')  
        f.write(f'錯誤率：{error_rate:.2%}n')  
        f.write(f'CPU利用率：{cpu_usage:.2f}%n')  
        f.write(f'記憶體利用率：{memory_usage:.2f}%n')

2.程式執行

2.1 直接執行

在PyCharm裡面直接執行這段程式碼，得出的結果是：

總請求數：4000
總時間：1837.65s
吞吐量：2.17 requests/s
並行數：20
錯誤率：0.12%
CPU利用率：4.10%
記憶體利用率：88.60%

2.2 加個裝飾器然後出報告

如果在PyCharm裡面直接執行上面的程式碼，雖然我們把結果寫在檔案中，但是，不好看呀。

所以呢，田老師再額外介紹一個方法，這個方法能夠生成一個相對美觀的測試報告出來。

2.2.1 宣告壓力測試

首先在定義用例的時候通過裝飾器宣告這是一個壓力測試：

# 定義測試用例  
@pytest.mark.performance  
def test_performance():  
    # 設定測試引數  
    url = 'http://www.a.biz/'  
    num_threads = 20

2.2.2 在命令列中通過pytest命令執行測試

第二步，在命令列中執行測試

-v 用於顯示詳細的測試結果
--html 用於指定輸出報告的位置。這個引數需要依賴包：pytest-html

$ pytest -v --html=report.html test_a.py

輸出執行結果是：

======================== test session starts =================================
platform win32 -- Python 3.10.9, pytest-7.2.1, pluggy-1.0.0 -- D:python-grpminiconda_envpy3.10_playwrightpython.exe
cachedir: .pytest_cache
metadata: {'Python': '3.10.9', 'Platform': 'Windows-10-10.0.22624-SP0', 'Packages': {'pytest': '7.2.1', 'pluggy': '1.0.0'}, 'Plugins': {'allure-pytest': '2.12.0', 'base-url': '2.0.0', 'html': '3.2.0', 'metadata': '2.0.4', 'ordering': '0.6', 'playwright': '0.3.0'}, 'JAVA_HOME': 'D:\java-grp\jdk\', 'Base URL': ''}
rootdir: E:developpythonpytest-trainingtest
plugins: allure-pytest-2.12.0, base-url-2.0.0, html-3.2.0, metadata-2.0.4, ordering-0.6, playwright-0.3.0
collected 1 item

test_a.py::test_performance PASSED [100%]

========================== warnings summary =================================
test_a.py:25
E:developpythonpytest-trainingtesttest_a.py:25: PytestUnknownMarkWarning: Unknown pytest.mark.performance - is this a typo? You can register custom marks to avoid this warning - for details, see https://docs.pytest.org/en/stable/how-to/mark.html
@pytest.mark.performance

-- Docs: https://docs.pytest.org/en/stable/how-to/capture-warnings.html
-- generated html file: file:///E:/develop/python/pytest-training/test/report.html --
================= 1 passed, 1 warning in 99.09s (0:01:39) ===================

(D:python-grpminiconda_envpy3.10_playwright) E:developpythonpytest-trainingtest>

最終生成的報告是：（有點長，擷取了關鍵部分）

3.案例缺陷

因為時間關係，本案例今天沒有時間在伺服器端執行，所以通過psutil庫所取得CPU利用率和記憶體利用率時間並不對。如果是在伺服器端執行，這兩個數位才是對的。

如果要在本地獲取伺服器的CPU，記憶體，IO等情況，有一個監控神器：Prometheus。不過這東西設定起來又是另一個話題，且聽後話~哈哈（55555，好像，又刨了一個坑）

4 完整原始碼

#!/usr/bin/env python  
# -*- coding:utf-8 -*-  
"""  
#-----------------------------------------------------------------------------  
#                     --- TDOUYA STUDIOS ---  
#-----------------------------------------------------------------------------  
#  
# @Project : pytest-training  
# @File    : test_a.py  
# @Author  : tianxin.xp@gmail.com  
# @Date    : 2023/3/10 14:39  
#  
# 壓力測試案例  
#  
#--------------------------------------------------------------------------"""  
import threading  
import time  
  
import psutil  
import pytest  
import requests  
  
  
# 定義測試用例  
@pytest.mark.performance  
def test_performance():  
    # 設定測試引數  
    url = 'http://www.tdouya.biz/'  
    num_threads = 20  
    num_requests = 200  
    timeout = 5  
  
    # 初始化測試結果  
    response_times = []  
    errors = 0  
    successes = 0  
  
    # 定義測試函數  
    def test_func():  
        nonlocal errors, successes  
        for _ in range(num_requests):  
            try:  
                start_time = time.time()  
                requests.get(url, timeout=timeout)  
                end_time = time.time()  
                response_time = end_time - start_time  
                response_times.append(response_time)  
                successes += 1  
            except requests.exceptions.RequestException:  
                errors += 1  
  
    # 建立測試執行緒  
    threads = []  
    for _ in range(num_threads):  
        t = threading.Thread(target=test_func)  
        threads.append(t)  
  
    # 啟動測試執行緒  
    for t in threads:  
        t.start()  
  
    # 等待測試執行緒結束  
    for t in threads:  
        t.join()  
  
    # 計算測試結果  
    total_requests = num_threads * num_requests  
    throughput = successes / (sum(response_times) or 1)  
    concurrency = num_threads  
    error_rate = errors / (total_requests or 1)  
    cpu_usage = psutil.cpu_percent()  
    memory_usage = psutil.virtual_memory().percent  
  
    # 輸出測試結果  
    print(f'總請求數：{total_requests}')  
    print(f'總時間：{sum(response_times):.2f}s')  
    print(f'吞吐量：{throughput:.2f} requests/s')  
    print(f'並行數：{concurrency}')  
    print(f'錯誤率：{error_rate:.2%}')  
    print(f'CPU利用率：{cpu_usage:.2f}%')  
    print(f'記憶體利用率：{memory_usage:.2f}%')  
  
    # 將測試結果寫入檔案  
    with open('performance_test_result.txt', 'w') as f:  
        f.write(f'總請求數：{total_requests}n')  
        f.write(f'總時間：{sum(response_times):.2f}sn')  
        f.write(f'吞吐量：{throughput:.2f} requests/sn')  
        f.write(f'並行數：{concurrency}n')  
        f.write(f'錯誤率：{error_rate:.2%}n')  
        f.write(f'CPU利用率：{cpu_usage:.2f}%n')  
        f.write(f'記憶體利用率：{memory_usage:.2f}%n')

到此這篇關於Python+Pytest實現壓力測試詳解的文章就介紹到這了,更多相關Python Pytest壓力測試內容請搜尋it145.com以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援it145.com！