和
歡迎使用另一篇有趣而輕鬆的機器學習教程
決策樹A
決策樹是一種監督學習算法。這主要用於分類問題
A3在生活中有很多類比，事實證明它在機器學習的廣泛領域都受到影響，包括分類和回歸
樹木也被稱為捕獲
訂閱並單擊該響鈴圖標，請加入我們的通知團隊
因此，決策樹是類似於結構的流程圖，其中每個內部節點表示對每個分支的屬性的測試
表示測試的結果，並且每個葉子或終端節點都擁有一個類標籤
樹中最高的節點是根節點
在決策分析中，決策樹可用於直觀地表示決策，並且
決策為
顧名思義，它使用樹狀決策模型
因此，CAR的優勢在於易於理解解釋和可視化
決策樹隱式執行變量篩選或特徵選擇
它可以處理數值和分類數據
它還可以處理多輸出問題，決策樹需要用戶花費較少的精力進行數據準備和
參數之間的非線性關係不會影響剪輯性能
但是，成本的缺點是決策樹學習者可以創建複雜的樹，從而無法很好地概括數據
這也稱為過擬合
決策樹可能會變得不穩定，因為數據中的細微變化可能會導致完全不同
生成的讀數稱為方差，需要通過套袋和過帳的方法降低該方差
貪婪算法不能保證返回全局最優決策。樹。這可以通過訓練多棵樹來緩解
特徵和样本在哪裡隨機？
更換樣品
決策樹學習者還可以創建偏見樹（如果某些類占主導），因此建議平衡數據集
優先級設置決策樹（如果您查看決策樹的某些應用程序）
我們可以預測客戶是否會為保險公司支付續保費
因此，如果您希望全部預測，則可以預測是，如果需要，則可以預測否，而您可以預測
那麼，無論男女，年齡都有多少？
他需要根據身高和體重確定一個人是男性還是女性
另外，他需要根據決策樹的多少房間以及樓層大小來確定房屋價格。
倒置是否根在頂部
因此，在圖像中，讓我們看一下兩者之間的主要區別和相似之處
當因變量連續時使用分類樹和回歸樹回歸樹
當因變量為分類時使用的分類樹
對於回歸樹，終端節點在訓練數據中獲得的值是平均值或平均值
的觀測值落在該區域，因此如果看不見的數據觀測落在該區域
分類樹的用戶將以平均值作為其位置
終端節點在訓練數據中獲得的值或類別是
落入該區域的觀測值因此是無味的，落入該區域的觀測值將使用模式值進行預測
因此，拆分過程將繼續進行，直到達到用戶定義的停止標準為止
例如，一旦每個節點的觀察數小於50，我們就可以告訴算法停止，因此在兩種情況下
處理結果成全樹
在達到停止標準之前，但完全生長的樹木可能會覆蓋數據，從而導致精度下降
數據，這帶來了修剪修剪是用於解決過度擬合的技術之一，我們將在“未來”講座中詳細了解
那麼，讓我們考慮一個基本示例，如何將算法表示為樹呢？
那使用了泰坦尼克號數據集來預測乘客或倖存者
此模型使用了數據集中的三個特徵，即六個年齡和
在這種情況下，我們的配偶或子女人數可以縮寫為Si be Sp，在這種情況下，乘客的飲食或生存情況是？
儘管實際交易集將具有更多功能，但分別表示為紅色和綠色文本
這只是更大樹中的一個分支，但是您不能忽略算法的簡單性
那麼，背景到底發生了什麼？
走向一棵樹需要決定要選擇的特徵以及要使用的分割條件，以及何時停止
當它任意再生時，您需要對其進行修剪以使其看起來更漂亮
因此，讓我們開始使用鎮靜技術進行拆分
那麼它如何看待拆分的話說，因此進行戰略拆分的決定會嚴重影響一棵樹的準確性？
分類樹和回歸樹的決策標準不同
決策樹使用多種算法
他們決定將一個節點拆分為兩個或多個子節點，子節點的創建增加了結果子節點的同質性。
換句話說，我們可以根據具有相似特徵決策的數據將數據分組到區域中
樹將所有可用變量上的節點拆分，然後選擇拆分結果，使拆分結果最均勻
本講演中最不道德的子節點示例
算法選擇還基於Target變量的類型，因此讓我們看一下決策樹中四種最常用的算法
一個美容指數
Chi-Squared三個信息增益可減少方差
因此，我們將不再詳細介紹這些算法，因為
其中一些涉及大量數學，大多數艱苦的工作都在Scikit學習庫中完成
讓我們直觀地了解一下，如果手動鳴叫，則拆分數據將起作用
因此，通過我們任意
生成的數據有x 1和x 2，這是我們的獨立變量，如果您必須查看此數據
我們可以將其分為五個區域
所以我們可以在x 1等於20處畫一條線
x 2等於50，然後x 1處的另一個等於尖叫5
那麼最後的血在5 x 2之間等於30
所以我們有區域R1 R2 R3
R4和R5，我們憑經驗做到這一點
前面提到的我現在將為您執行此操作，請記住您可以將其進一步拆分為更多區域，例如
我們可以在此處拆分R4，這將導致我們的3個子節點更多，但就目前而言
我們只有5個區域。所以我們從我們的根節點3開始，也解決了X1小於打印的問題
所以我們選擇是或否
所以如果是x是t的x立方S6
因此，如果您查看那邊的圖，然後將其分成R1，那麼如果沒有，則對R1進行sv f
我們已經問過你了
然後您轉到我們的另一個分支，我們要求X1小於25
所以如果x是，我們看x小於25，如果不是，則為R3
那麼我們問自己X2是否小於50
如果是，您得到了5，如果沒有，我們得到了4，因此您可以看到這很簡單
這就是使您與決策樹學習決策並駕齊驅的所有基礎知識
與其他高級機器學習算法（例如隨機森林和
我們將在以後的講座中介紹
用於實現算法的流行庫
Scikit學習這是一個很棒的api，可以使用Python中的幾行代碼來建立和運行模型
因此，感謝您的收看，請不要忘記按一下喜歡的按鈕，然後單擊娃娃圖標成為我們的一部分
通知旅和
在Patreon上也支持我們。下節課見
您