首頁 > 軟體

python中DataFrame資料合併merge()和concat()方法詳解

2022-07-05 10:01:06

merge()

1.常規合併

①方法1

指定一個參照列,以該列為準,合併其他列。

import pandas as pd

df1 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num1': [120, 101, 104],
                    'num2': [110, 102, 121],
                    'num3': [105, 120, 113]})
df2 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num4': [80, 86, 79]})
print(df1)
print("=======================================")
print(df2)
print("=======================================")
df_merge = pd.merge(df1, df2, on='id')
print(df_merge)

②方法2

要實現該合併,也可以通過索引來合併,即以index列為基準。將left_index 和 right_index 都設定為True
即可。(left_index 和 right_index 都預設為False,left_index表示左表以左表資料的index為基準, right_index表示右表以右表資料的index為基準。)

import pandas as pd

df1 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num1': [120, 101, 104],
                    'num2': [110, 102, 121],
                    'num3': [105, 120, 113]})
df2 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num4': [80, 86, 79]})
print(df1)
print("=======================================")
print(df2)
print("=======================================")

df_merge = pd.merge(df1, df2, left_index=True, right_index=True)
print(df_merge)

相比方法①,區別在於,如圖,方法②合併出的資料中有重複列。

重要引數

pd.merge(right,how=‘inner’, on=“None”, left_on=“None”, right_on=“None”, left_index=False, right_index=False )

引數描述
left左表,合併物件,DataFrame或Series
right右表,合併物件,DataFrame或Series
how合併方式,可以是left(左合併), right(右合併), outer(外合併), inner(內合併)
on基準列 的列名
left_on左表基準列列名
right_on右表基準列列名
left_index左列是否以index為基準,預設False,否
right_index右列是否以index為基準,預設False,否

其中,left_index與right_index 不能與 on 同時指定。

合併方式 left right outer inner

準備資料‘

新準備一組資料:

import pandas as pd

df1 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num1': [120, 101, 104],
                    'num2': [110, 102, 121],
                    'num3': [105, 120, 113]})
df2 = pd.DataFrame({'id': ['001', '004', '003'],
                    'num4': [80, 86, 79]})
print(df1)
print("=======================================")
print(df2)
print("=======================================")

inner(預設)

使用來自兩個資料集的鍵的交集

df_merge = pd.merge(df1, df2, on='id')
print(df_merge)

outer

使用來自兩個資料集的鍵的並集

df_merge = pd.merge(df1, df2, on='id', how="outer")
print(df_merge)

left

使用來自左資料集的鍵

df_merge = pd.merge(df1, df2, on='id', how='left')
print(df_merge)

right

使用來自右資料集的鍵

df_merge = pd.merge(df1, df2, on='id', how='right')
print(df_merge)

2.多對一合併

import pandas as pd

df1 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num1': [120, 101, 104],
                    'num2': [110, 102, 121],
                    'num3': [105, 120, 113]})
df2 = pd.DataFrame({'id': ['001', '001', '003'],
                    'num4': [80, 86, 79]})
print(df1)
print("=======================================")
print(df2)
print("=======================================")

如圖,df2中有重複id1的資料。

合併

df_merge = pd.merge(df1, df2, on='id')
print(df_merge)

合併結果如圖所示:

依然按照預設的Inner方式,使用來自兩個資料集的鍵的交集。且重複的鍵的行會在合併結果中體現為多行。

3.多對多合併

如圖表1和表2中都存在多行id重複的。

import pandas as pd
df1 = pd.DataFrame({'id': ['001', '002', '002', '002', '003'],
                    'num1': [120, 101, 104, 114, 123],
                    'num2': [110, 102, 121, 113, 126],
                    'num3': [105, 120, 113, 124, 128]})
df2 = pd.DataFrame({'id': ['001', '001', '002', '003', '001'],
                    'num4': [80, 86, 79, 88, 93]})
print(df1)
print("=======================================")
print(df2)
print("=======================================")

df_merge = pd.merge(df1, df2, on='id')
print(df_merge)

concat()

pd.concat(objs, axis=0, join=‘outer’, ignore_index:bool=False,keys=None,levels=None,names=None, verify_integrity:bool=False,sort:bool=False,copy:bool=True)

引數描述
objsSeries,DataFrame或Panel物件的序列或對映
axis預設為0,表示列。如果為1則表示行。
join預設為"outer",也可以為"inner"
ignore_index預設為False,表示保留索引(不忽略)。設為True則表示忽略索引。

其他重要引數通過範例說明。

1.相同欄位的表首位相連

首先準備三組DataFrame資料:

import pandas as pd
df1 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num1': [120, 114, 123],
                    'num2': [110, 102, 121],
                    'num3': [113, 124, 128]})
df2 = pd.DataFrame({'id': ['004', '005'],
                    'num1': [120, 101],
                    'num2': [113, 126],
                    'num3': [105, 128]})
df3 = pd.DataFrame({'id': ['007', '008', '009'],
                    'num1': [120, 101, 125],
                    'num2': [113, 126, 163],
                    'num3': [105, 128, 114]})


print(df1)
print("=======================================")
print(df2)
print("=======================================")
print(df3)

合併

dfs = [df1, df2, df3]
result = pd.concat(dfs)
print(result)

如果想要在合併後,標記一下資料都來自於哪張表或者資料的某類別,則也可以給concat加上 引數keys

result = pd.concat(dfs, keys=['table1', 'table2', 'table3'])
print(result)

此時,新增的keys與原來的index組成元組,共同成為新的index。

print(result.index)

2.橫向表合併(行對齊)

準備兩組DataFrame資料:

import pandas as pd
df1 = pd.DataFrame({'num1': [120, 114, 123],
                    'num2': [110, 102, 121],
                    'num3': [113, 124, 128]}, index=['001', '002', '003'])
df2 = pd.DataFrame({'num3': [117, 120, 101, 126],
                    'num5': [113, 125, 126, 133],
                    'num6': [105, 130, 128, 128]}, index=['002', '003', '004', '005'])

print(df1)
print("=======================================")
print(df2)

當axis為預設值0時:

result = pd.concat([df1, df2])
print(result)

橫向合併需要將axis設定為1

result = pd.concat([df1, df2], axis=1)
print(result)

對比以上輸出差異。

  • axis=0時,即預設縱向合併時,如果出現重複的行,則會同時體現在結果中
  • axis=1時,即橫向合併時,如果出現重複的列,則會同時體現在結果中。

3.交叉合併

result = pd.concat([df1, df2], axis=1, join='inner')
print(result)

總結

到此這篇關於python中DataFrame資料合併merge()和concat()方法的文章就介紹到這了,更多相關python資料合併merge()和concat()方法內容請搜尋it145.com以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援it145.com!


IT145.com E-mail:sddin#qq.com