python工具dtreeviz決策樹視覺化和模型可解釋性

2022-03-03 13:00:48

最近逛 Github 時，發現一款非常棒的 dtreeviz 工具庫：它用於決策樹視覺化和模型解釋。使用 dtreeviz 可以視覺化特徵空間如何在決策節點上分割，訓練樣本如何分佈在葉節點中，樹如何對特定觀察進行預測等等。這些操作對於理解分類或迴歸決策樹的工作方式至關重要。

一、安裝

pip install dtreeviz             # install dtreeviz for sklearn
pip install dtreeviz[xgboost]    # install XGBoost related dependency
pip install dtreeviz[pyspark]    # install pyspark related dependency
pip install dtreeviz[lightgbm]   # install LightGBM related dependency

二、用法

dtree：建立決策樹視覺化的主要功能。給定決策樹迴歸器或分類器，使用 graphviz 建立並返回樹視覺化。

1.所需的庫

匯入所需要的基本庫

from sklearn.datasets import *
from sklearn import tree
from dtreeviz.trees import *

2.迴歸決策樹

樹的預設方向是自上而下，但您可以使用orientation=“LR” 將其更改為從左到右。view() 給出一個帶有渲染的 graphviz 物件的彈出視窗。

regr = tree.DecisionTreeRegressor(max_depth=2)
boston = load_boston()
regr.fit(boston.data, boston.target)

viz = dtreeviz(regr,
               boston.data,
               boston.target,
               target_name='price',
               feature_names=boston.feature_names)
              
viz.view()

3.分類決策樹

分類樹需要class_names 的附加引數，給出類值與類名的對映。

classifier = tree.DecisionTreeClassifier(max_depth=2)  # limit depth of tree
iris = load_iris()
classifier.fit(iris.data, iris.target)

viz = dtreeviz(classifier, 
               iris.data, 
               iris.target,
               target_name='variety',
               feature_names=iris.feature_names, 
               class_names=["setosa", "versicolor", "virginica"]  # need class_names for classifier
              )  
              
viz.view()

4.預測路徑

突出顯示引數 X 中傳遞的單個觀察的特徵值所在的決策節點。給出觀察的特徵值並突出樹用於遍歷路徑的特徵。

regr = tree.DecisionTreeRegressor(max_depth=2)  # limit depth of tree
diabetes = load_diabetes()
regr.fit(diabetes.data, diabetes.target)
X = diabetes.data[np.random.randint(0, len(diabetes.data)),:]  # random sample from training

viz = dtreeviz(regr,
               diabetes.data, 
               diabetes.target, 
               target_name='value', 
               orientation ='LR',  # left-right orientation
               feature_names=diabetes.feature_names,
               X=X)  # need to give single observation for prediction
              
viz.view()

如果只想視覺化預測路徑，則需要設定引數show_just_path=True

dtreeviz(regr,
        diabetes.data, 
        diabetes.target, 
        target_name='value', 
        orientation ='TD',  # top-down orientation
        feature_names=diabetes.feature_names,
        X=X, # need to give single observation for prediction
        show_just_path=True     
        )

5.解釋預測路徑

這些視覺化對於向沒有機器學習技能的人解釋為什麼您的模型做出特定預測很有用。在explain_type=plain_english 的情況下，它在預測路徑中搜尋並找到特徵值範圍。

X = dataset[features].iloc[10]
print(X)
Pclass              3.0
Age                 4.0
Fare               16.7
Sex_label           0.0
Cabin_label       145.0
Embarked_label      2.0

print(explain_prediction_path(tree_classifier, X, feature_names=features, explanation_type="plain_english"))
2.5 <= Pclass 
Age < 36.5
Fare < 23.35
Sex_label < 0.5

在explain_type=sklearn_default（僅適用於scikit-learn）的情況下，我們可以僅視覺化預測路徑中涉及的特徵的重要性。特徵的重要性是基於雜質的平均減少來計算的。

explain_prediction_path(tree_classifier, X, feature_names=features, explanation_type="sklearn_default")

此外我們還可以自定義顏色，比如：

dtreeviz.trees.dtreeviz(regr,
                        boston.data,
                        boston.target,
                        target_name='price',
                        feature_names=boston.feature_names,
                        colors={'scatter_marker': '#00ff00'})

到此這篇關於python工具dtreeviz決策樹視覺化和模型可解釋性的文章就介紹到這了,更多相關python工具dtreeviz內容請搜尋it145.com以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援it145.com！