pandas中的DataFrame資料遍歷解讀

2022-12-15 14:02:24

pandas DataFrame資料遍歷

讀取csv內容，格式與資料型別如下

data = pd.read_csv('saveLH8888.csv')
print(type(data))
print(data)

輸出結果如下：

按行遍歷資料：iterrows

獲取行名：名字、年齡、身高、體重

for i, line in data.iterrows():
	print(i)
    print(line)
    print(line['date'])

輸出結果如下：

i：是資料的索引，表示第幾行資料
line：是每一行的具體資料
line[‘date’]：通過字典的方式，能夠讀取資料

按行遍歷資料：itertuples

for line in data.itertuples():
    print(line)

輸出結果如下：

存取date方式如下：

for line in data.itertuples():
    print(line)
    print(getattr(line, 'date'))
    print(line[1])

輸出結果如下：

按列遍歷資料：iteritems

for i, index in data.iteritems():
    print(index)

輸出結果如下，使用方式同iterrows。

讀取和修改某一個資料

例如：我們想要讀取行索引為：1，列索引為：volume的值 27，程式碼如下：

iloc：需要輸入索引值，索引從0開始
loc：需要輸入對應的行名和列名

print(data.iloc[1, 5])
print(data.loc[1, 'volume'])

例如：我們想要將行索引為：1，列索引為：volume的值 27 修改為10，程式碼如下：

data.iloc[1, 5] = 10
print(data.loc[1, 'volume'])
print(data)

輸出結果如下：

遍歷dataframe中每一個資料

for i in range(data.shape[0]):
    for j in range(data.shape[1]):
        print(data.iloc[i, j])

輸出結果如下，按行依次列印：

dataframe遍歷效率對比

構建資料

import pandas as pd
import numpy as np

# 生成樣例資料
def gen_sample():
    aaa = np.random.uniform(1,1000,3000)
    bbb = np.random.uniform(1,1000,3000)
    ccc = np.random.uniform(1,1000,3000)
    ddd = np.random.uniform(1,1000,3000)
    return pd.DataFrame({'aaa':aaa,'bbb':bbb, 'ccc': ccc, 'ddd': ddd})

9種遍歷方法

# for + iloc 定位
def method0_sum(DF):
    for i in range(len(DF)):
        a = DF.iloc[i,0] + DF.iloc[i,1]

# for + iat 定位
def method1_sum(DF):
    for i in range(len(DF)):
        a = DF.iat[i,0] + DF.iat[i,1]

# pandas.DataFrame.iterrows() 迭代器
def method2_sum(DF):
    for index, rows in DF.iterrows():
        a = rows['aaa'] + rows['bbb']

# pandas.DataFrame.apply 迭代
def method3_sum(DF):
    a = DF.apply(lambda x: x.aaa + x.bbb, axis=1)

# pandas.DataFrame.apply 迭代 
def method4_sum(DF):
    a = DF[['aaa','bbb']].apply(lambda x: x.aaa + x.bbb, axis=1)
    
# 列表
def method5_sum(DF):
    a = [ a+b for a,b in zip(DF['aaa'],DF['bbb']) ]

# pandas  
def method6_sum(DF):
    a = DF['aaa'] + DF['bbb']

# numpy 
def method7_sum(DF):
    a = DF['aaa'].values + DF['bbb'].values
    
# for + itertuples
def method8_sum(DF):
    for row in DF.itertuples():
        a = getattr(row, 'aaa') + getattr(row, 'bbb')

效率對比

df = gen_sample()
print('for + iloc 定位:')
%timeit method0_sum(df)

df = gen_sample()
print('for + iat 定位:')
%timeit method1_sum(df)

df = gen_sample()
print('apply 迭代:')
%timeit method3_sum(df)

df = gen_sample()
print('apply 迭代 + 兩列:')
%timeit method4_sum(df)

df = gen_sample()
print('列表:')
%timeit method5_sum(df)

df = gen_sample()
print('pandas 陣列操作:')
%timeit method6_sum(df)

df = gen_sample()
print('numpy 陣列操作：')
%timeit method7_sum(df)

df = gen_sample()
print('for itertuples')
%timeit method8_sum(df)

df = gen_sample()
print('for iteritems')
%timeit method9_sum(df)

df = gen_sample()
print('for iterrows:')
%timeit method2_sum(df)

結果：

for + iloc 定位:
225 ms ± 9.14 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
for + iat 定位:
201 ms ± 6.37 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
apply 迭代:
88.3 ms ± 2.3 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
apply 迭代 + 兩列:
91.2 ms ± 5.29 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
列表:
1.12 ms ± 54.7 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
pandas 陣列操作:
262 µs ± 9.21 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
numpy 陣列操作：
14.4 µs ± 383 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
for itertuples
6.4 ms ± 265 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)
for iterrows:
330 ms ± 22.3 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)