首頁 > 軟體

淺談Python xlwings 讀取Excel檔案的正確姿勢

2021-02-26 13:00:27

使用Python載入最新的Excel讀取類庫xlwings可以說是Excel資料處理的利器,但使用起來還是有一些注意事項,否則高大上的Python會跑的比老舊的VBA還要慢。

這裡我們對比一下,用幾種不同的方法,從一個Excel表格中讀取一萬行資料,然後計算結果,看看他們的耗時。

1. 處理要求:

一個Excel表格中包含了3萬條記錄,其中B,C兩個列記錄了某些計算值,讀取前一萬行記錄,將這兩個列的差值進行計算,然後彙總得出差的和。

檔案是這個樣子:Book300s.xlsx 。

2. 處理方式有以下3種,我們對比一下耗時的大小。

處理方式 程式碼名稱
1. 使用Python的xlwings類庫,讀取Excel檔案,然後採用Excel的Sheet和Range的參照方式讀取並計算 XLS_READ_SHEET.py
2. 直接使用Excel自帶的VBA語言進行計算 VBA

3. 使用Python的xlwings類庫,讀取Excel檔案,然後採用Python的自帶資料型別List列表進行資料儲存和計算

XLS_READ_LIST.py

3. 首先測試第一種,XLS_READ_SHEET.py

使用Python的xlwings類庫,讀取Excel檔案,然後參照Excel的Sheet和Range的方式來讀取並計算

#coding=utf-8
import xlwings as xw
import pandas as pd
import time

start_row = 2 # 處理Excel檔案開始行
end_row = 10002 # 處理Excel結束行

#記錄開啟表單開始時間
start_open_time = time.time()

#指定不顯示地開啟Excel,讀取Excel檔案
app = xw.App(visible=False, add_book=False)
wb = app.books.open('D:/PYTHON/TEST_CODE/Book300s.xlsx') # 開啟Excel檔案
sheet = wb.sheets[0] # 選擇第0個表單

#記錄開啟Excel表單結束時間
end_open_time = time.time()

#記錄開始迴圈計算時間
start_run = time.time()

row_content = []
#讀取Excel表單前10000行的資料,Python的in range是左閉右開的,到10002結束,但區間只包含2到10001這一萬條
for row in range(start_row, end_row):
  row_str = str(row)
  #迴圈中參照Excel的sheet和range的物件,讀取B列和C列的每一行的值,對比計算
  start_value = sheet.range('B' + row_str).value
  end_value = sheet.range('C' + row_str).value
  if start_value <= end_value:
    values = end_value - start_value
    #同時測試List陣列新增記錄
    row_content.append(values)

#計算和
total_values = sum(row_content)

#記錄結束迴圈計算時間
end_run = time.time()
sheet.range('E2').value = str(total_values)
sheet.range('E3').value = '使用Sheet計算時間(秒):' + str(end_run - start_run)

#儲存並關閉Excel檔案
wb.save()
wb.close()

print ('結果總和:', total_values)
print ('開啟並讀取Excel表單時間(秒):',  end_open_time - start_open_time)
print ('計算時間(秒):',  end_run - start_run)
print ('處理資料條數:' , len(row_content))

用Python直接存取Sheet和Range取值的計算結果如下:

讀取Excel檔案用時 4.47秒

處理Excel 10000 行資料花費了117秒的時間。

4. 然後我們用Excel自帶的VBA語言來處理一下相同的計算。也是直接參照Sheet,Range等Excel物件,但VBA的陣列功能實在是不好用,就不測試新增陣列了。

Option Explicit

Sub VBA_CAL_Click()
  Dim i_count As Long
  Dim offset_value, total_offset_value As Double
  Dim st, et As Date
  st = Time()

  i_count = Sheets("Sheet1").Cells(Rows.Count, 1).End(xlUp).Row
  i_count = 10001
  For i_count = 2 To i_count
     If Range("C" & i_count).Value > Range("B" & i_count).Value Then
       offset_value = Range("C" & i_count).Value - Range("B" & i_count).Value
       total_offset_value = total_offset_value + offset_value
     End If
  Next i_count

  et = Time()
  Range("E2").Value = total_offset_value
  Range("E3").Value = et - st

  MsgBox "Result: " & total_offset_value & Chr(10) & "Running time: " & et - st
End Sub

VBA處理計算結果如下:

儲存了3萬條資料的Excel檔案是通過手工開啟的,在電腦上大概花費了8.2秒的時間

處理Excel 前10000行資料花費了1.16秒的時間。

5.使用Python的xlwings類庫,讀取Excel檔案,然後採用Python的自帶資料型別List進行資料儲存和計算,計算完成後再將結果寫到Excel表格中

#coding=utf-8
import xlwings as xw
import pandas as pd
import time

#記錄開啟表單開始時間
start_open_time = time.time()

#指定不顯示地開啟Excel,讀取Excel檔案
app = xw.App(visible=False, add_book=False)
wb = app.books.open('D:/PYTHON/TEST_CODE/Book300s.xlsx') # 開啟Excel檔案
sheet = wb.sheets[0] # 選擇第0個表單

#記錄開啟Excel表單結束時間
end_open_time = time.time()

#記錄開始迴圈計算時間
start_run = time.time()

row_content = []
#讀取Excel表單前10000行的資料,並計算B列和C列的差值之和
list_value = sheet.range('A2:D10001').value
for i in range(len(list_value)):
   #使用Python的類庫直接存取Excel的表單是很緩慢的,不要在Python的迴圈中參照sheet等Excel表單的單元格,
   #而是要用List一次性讀取Excel裡的資料,在List記憶體中計算好了,然後返回結果
   start_value = list_value[i][1]
   end_value = list_value[i][2]
   if start_value <= end_value:
     values = end_value- start_value
     #同時測試List陣列新增記錄
     row_content.append(values)

#計算和
total_values = sum(row_content)
#記錄結束迴圈計算時間
end_run = time.time()
sheet.range('E2').value = str(total_values)
sheet.range('E3').value = '使用List 計算時間(秒):' + str(end_run - start_run)

#儲存並關閉Excel檔案
wb.save()
wb.close()

print ('結果總和:', total_values)
print ('開啟並讀取Excel表單時間(秒):',  end_open_time - start_open_time)
print ('計算時間(秒):',  end_run - start_run)
print ('處理資料條數:' , len(row_content))

用Python的LIST在記憶體中計算結果如下:

讀取Excel檔案用時 4.02秒

處理Excel 10000 行資料花費了 0.10 秒的時間。

6 結論:

Python操作Excel的類庫有以往有 xlrd、xlwt、openpyxl、pyxll等,這些類庫有的只支援讀取,有的只支援寫入,並且有的不支援Excel的xlsx格式等。

所以我們採用了最新的開源免費的xlwings類庫,xlwings能夠很方便的讀寫Excel檔案中的資料,並支援Excel的單元格格式修改,也可以與pandas等類庫整合使用。

VBA是微軟Excel的原生二次開發語言,是辦公和資料統計的利器,在金融,統計,管理,計算中應用非常廣泛,但是VBA計算能力較差,支援的資料結構少,編輯器粗糙。

雖然VBA有很多不足,但是VBA的宿主Office Excel卻是天才程式設計師基於C++開發的作品,穩定,高效,易用 。

有微軟加持,VBA雖然資料結構少,執行速度慢,但存取自己Excel的Sheet,Range,Cell等物件卻速度飛快,這就是一體化產品的優勢。

VBA讀取Excel的Range,Cell等操作是通過底層的API直接讀取資料的,而不是通過微軟統一的外部開發介面。所以Python的各種開源和商用的Excel處理類庫如果和VBA來比較讀寫Excel格子裡面的資料,都是處於劣勢的(至少是不佔優勢的),例子2的VBA 花費了1.16秒就能處理完一萬條資料。

Python基於開源,語法優美而健壯,支援物件導向開發,最重要的是,Python有豐富而功能強大的類庫,支援多種工作場景的開發。

我們應該認識到,Excel對於Python而言,只是資料來源檔案的一種,當處理大量資料時,Python處理Excel就要把Excel當資料來源來處理,一次性地讀取資料到Python的資料結構中,而不是大量呼叫Excel裡的物件,不要說頻繁地寫入Excel,就是頻繁地讀取Excel裡面的某些單元格也是效率較低的。例子1的Python頻繁讀取Sheet,Range資料,結果花費了117秒才處理完一萬條資料。

Python的計算效率和資料結構的操作方便性可比VBA強上太多,和VBA聯合起來使用,各取所長是個好主意。

當Excel資料一次性讀入Python的記憶體List資料結構中,然後基於自身的List資料結構在記憶體中計算,例子3的Python只用了 0.1秒就完成了一萬條資料的計算並將結果寫回Excel。

總結:

處理方式-計算Excel裡的一萬條記錄的差值的總和 效率
1. 使用Python的xlwings類庫,採用Excel的Sheet和Range的參照方式,按行讀取Excel檔案的記錄並計算 差,計算用時 117秒
2. 直接使用Excel自帶的VBA語言進行計算,也是採用Excel的Sheet和Range的參照方式,按行讀取Excel檔案的記錄並計算 很高 ,計算用時 1.16秒

3. 使用Python的xlwings類庫,一次性讀取Excel檔案中的資料到Python的List資料結構中,然後在Python的List列表中進行資料儲存和計算

最高,計算用時 0.1秒     

到此這篇關於淺談Python xlwings 讀取Excel檔案的正確姿勢的文章就介紹到這了,更多相關Python xlwings 讀取Excel內容請搜尋it145.com以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援it145.com!


IT145.com E-mail:sddin#qq.com