首頁 > 軟體

python sklearn與pandas實現缺失值資料預處理流程詳解

2022-09-28 14:00:44

注:程式碼用 jupyter notebook跑的,分割線線上為程式碼,分割線下為執行結果

1.匯入庫生成缺失值

通過pandas生成一個6行4列的矩陣,列名分別為'col1','col2','col3','col4',同時增加兩個缺失值資料。

import  numpy as np 
import pandas as pd
from sklearn.impute import SimpleImputer
#生成缺失資料
df=pd.DataFrame(np.random.randn(6,4),columns=['col1','col2','col3','col4']) #生成一份資料
#增加缺失值
df.iloc[1:2,1]=np.nan
df.iloc[4,3]=np.nan
df

        col1        col2        col3        col4
0    -0.480144    1.463995    0.454819    -1.531419
1    -0.418552       NaN        -0.931259    -0.534846
2    -0.028083    -0.420394    0.925346    0.975792
3    -0.144064    -0.811569    -0.013452    0.110480
4    -0.966490    -0.822555    0.228038    NaN
5    -0.017370    -0.538245    -2.083904    0.230733

2.檢視哪些值缺失(第2行第2列,第5行第4列)

nan_all=df.isnull() #獲得所有資料中的nan
nan_all

    col1    col2    col3    col4
0    False    False    False    False
1    False    True    False    False
2    False    False    False    False
3    False    False    False    False
4    False    False    False    True
5    False    False    False    False

3 any()方法來查詢含有至少1個缺失值的列,all()方法來查詢全部缺失值的列

#使用any方法
nan_col1=df.isnull().any() #獲得含有nan的列
print(nan_col1)

col1    False
col2     True
col3    False
col4     True
dtype: bool

#使用all方法
nan_col2=df.isnull().all() #獲得全部為nan的列
print(nan_col2)

col1    False
col2    False
col3    False
col4    False
dtype: bool

4.法一:直接丟棄缺失值

df1=df.dropna()#直接丟棄含有nan的行記錄
df1

col1    col2    col3    col4
0    -0.480144    1.463995    0.454819    -1.531419
2    -0.028083    -0.420394    0.925346    0.975792
3    -0.144064    -0.811569    -0.013452    0.110480
5    -0.017370    -0.538245    -2.083904    0.230733

5.法二:使用sklearn將缺失值替換為特定值

首先通過SimpleImputer建立一個預處理物件,缺失值替換方法預設用均值替換,及strategy=mean,還可以使用中位數median,眾數most_frequent進行替換,接著使用預處理物件的fit_transform對df進行處理,程式碼如下:

#使用sklearn將缺失值替換為特定值
nan_mean=SimpleImputer(strategy='mean') #用均值填補
nan_median=SimpleImputer(strategy='median') #用中位數填補
nan_0=SimpleImputer(strategy='constant',fill_value=0) #用0填補
#應用模型
nan_mean_result=nan_mean.fit_transform(df)
nan_median_result=nan_median.fit_transform(df)
nan_0_result=nan_0.fit_transform(df)
print(nan_mean_result)
print(nan_median_result)
print(nan_0_result)

 [-0.48014389  1.46399462  0.45481856 -1.53141863]
 [-0.4185523  -0.22575384 -0.93125874 -0.53484561]
 [-0.02808329 -0.42039426  0.925346    0.97579191]
 [-0.14406438 -0.81156913 -0.0134516   0.11048025]
 [-0.96649028 -0.82255505  0.22803842 -0.14985173]
 [-0.01737047 -0.53824538 -2.0839036   0.23073341]
 
 [-0.48014389  1.46399462  0.45481856 -1.53141863]
 [-0.4185523  -0.53824538 -0.93125874 -0.53484561]
 [-0.02808329 -0.42039426  0.925346    0.97579191]
 [-0.14406438 -0.81156913 -0.0134516   0.11048025]
 [-0.96649028 -0.82255505  0.22803842  0.11048025]
 [-0.01737047 -0.53824538 -2.0839036   0.23073341]
 
 [-0.48014389  1.46399462  0.45481856 -1.53141863]
 [-0.4185523   0.         -0.93125874 -0.53484561]
 [-0.02808329 -0.42039426  0.925346    0.97579191]
 [-0.14406438 -0.81156913 -0.0134516   0.11048025]
 [-0.96649028 -0.82255505  0.22803842  0.        ]
 [-0.01737047 -0.53824538 -2.0839036   0.23073341]

6.法三:使用pandas將缺失值替換為特定值

pandas對缺失值處理方法是df.fillna(),該方法的兩個主要引數是value和method。前者通過固定或手動指定的值替換缺失值,後者使用pandas提供的方法替換缺失值。以下是method支援的方法:

(1)pad和ffill:使用前面的值替換缺失值

(2)backfill和bfill:使用後面的值替換缺失值

(3)大多數情況下用均值、眾數、中位數的方法較為常用

#使用pandas將缺失值替換為特定值
nan_result_pd1=df.fillna(method='backfill')
nan_result_pd2=df.fillna(method='bfill',limit=1)#用後面的值替換缺失值,限制每列只能替換一個缺失值
nan_result_pd3=df.fillna(method='pad')
nan_result_pd4=df.fillna(0)
nan_result_pd5=df.fillna({'col2':1.1,'col4':1.2}) #手動指定兩個缺失值分別為1.1,1.2
nan_result_pd6=df.fillna(df.mean()['col2':'col4'])
nan_result_pd7=df.fillna(df.median()['col2':'col4'])
print(nan_result_pd1)
print(nan_result_pd2)
print(nan_result_pd3)
print(nan_result_pd4)
print(nan_result_pd5)
print(nan_result_pd6)
print(nan_result_pd7)

  col1      col2      col3      col4
0 -0.480144  1.463995  0.454819 -1.531419
1 -0.418552 -0.420394 -0.931259 -0.534846
2 -0.028083 -0.420394  0.925346  0.975792
3 -0.144064 -0.811569 -0.013452  0.110480
4 -0.966490 -0.822555  0.228038  0.230733
5 -0.017370 -0.538245 -2.083904  0.230733
       col1      col2      col3      col4
0 -0.480144  1.463995  0.454819 -1.531419
1 -0.418552 -0.420394 -0.931259 -0.534846
2 -0.028083 -0.420394  0.925346  0.975792
3 -0.144064 -0.811569 -0.013452  0.110480
4 -0.966490 -0.822555  0.228038  0.230733
5 -0.017370 -0.538245 -2.083904  0.230733
       col1      col2      col3      col4
0 -0.480144  1.463995  0.454819 -1.531419
1 -0.418552  1.463995 -0.931259 -0.534846
2 -0.028083 -0.420394  0.925346  0.975792
3 -0.144064 -0.811569 -0.013452  0.110480
4 -0.966490 -0.822555  0.228038  0.110480
5 -0.017370 -0.538245 -2.083904  0.230733
       col1      col2      col3      col4
0 -0.480144  1.463995  0.454819 -1.531419
1 -0.418552  0.000000 -0.931259 -0.534846
2 -0.028083 -0.420394  0.925346  0.975792
3 -0.144064 -0.811569 -0.013452  0.110480
4 -0.966490 -0.822555  0.228038  0.000000
5 -0.017370 -0.538245 -2.083904  0.230733
       col1      col2      col3      col4
0 -0.480144  1.463995  0.454819 -1.531419
1 -0.418552  1.100000 -0.931259 -0.534846
2 -0.028083 -0.420394  0.925346  0.975792
3 -0.144064 -0.811569 -0.013452  0.110480
4 -0.966490 -0.822555  0.228038  1.200000
5 -0.017370 -0.538245 -2.083904  0.230733
       col1      col2      col3      col4
0 -0.480144  1.463995  0.454819 -1.531419
1 -0.418552 -0.225754 -0.931259 -0.534846
2 -0.028083 -0.420394  0.925346  0.975792
3 -0.144064 -0.811569 -0.013452  0.110480
4 -0.966490 -0.822555  0.228038 -0.149852
5 -0.017370 -0.538245 -2.083904  0.230733
       col1      col2      col3      col4
0 -0.480144  1.463995  0.454819 -1.531419
1 -0.418552 -0.538245 -0.931259 -0.534846
2 -0.028083 -0.420394  0.925346  0.975792
3 -0.144064 -0.811569 -0.013452  0.110480
4 -0.966490 -0.822555  0.228038  0.110480
5 -0.017370 -0.538245 -2.083904  0.230733

另外,如果是直接替換為特定值,也可以考慮用pandas的replace功能,例如本範例可直接使用df.replace(np.nan,0),這種方法簡單粗暴,但也能達到效果。當然replace的出現是為了解決各種替換用的,缺失值只是其中一種應用而已。

到此這篇關於python sklearn與pandas實現缺失值資料預處理流程詳解的文章就介紹到這了,更多相關python 資料預處理內容請搜尋it145.com以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援it145.com!


IT145.com E-mail:sddin#qq.com