A : ワンホットエンコーディング，B : 乱数

A : ブースティング，B : 乱数

A : ブースティング，B : ダミー変数

A : ワンホットエンコーディング，B : ダミー変数

アルゴリズム：SAMME，基本学習器の数：50

アルゴリズム：ENTROPY，基本学習器の数：100

アルゴリズム：ENTROPY，基本学習器の数：50

アルゴリズム：SAMME，基本学習器の数：100

A : 再現度，B : 重み付き

A : 正解度，B : 調和

A : 再現度，B : 調和

A : 正解度，B : 重み付き

学習モデルとして最大木単体で用いることは、基本学習器の構築アルゴリズムとして最大木を用いたバギングよりも、一般化誤差を下げることが期待される

バギングでは，各基本学習器を訓練するためのデータセットとして，学習用データに基づくブートストラップ標本を用いる

バギングは逐次アンサンブル法の一つである

バギングでは，任意の弱学習器に適切な弱学習器を加えることで，強学習器へと”強化する”ことを考える

特徴が質的変数の場合でも，ワンホットエンコーディング等を利用して二値変数に変換することで，量的変数と同様の基準で分割可能である．

回帰木の構築では，あるノードを分割する全ての分割ルールの中で，そのノードの誤差の減少量が最大となるルールを選ぶ．

分割ルールの候補として，あるノードにおける分割ルールを決定するため，そのノードに含まれる学習用データを用いて，可能なすべての分割ルールを考える．

特徴が量的変数の場合，あるノードにおける可能なすべての分割ルールの数は，そのノードに含まれる観測の数と等しくなる．

A : 質的変数，B : 誤分類確率

A : 量的変数，B : 予測精度

A : 量的変数，B : 誤分類確率

A : 質的変数，B : 予測精度

クロスバリデーションにおける検証曲線を確認し，負の平均二乗誤差が最も小さくなる最大深度を設定する．

複数の木構造モデルの中から，交差検証等を用いることで，最も予測誤差が小さくなるモデルを選択する．

「ツリーサイズ」や「最大深度」を事前に定めることにより，与えられた設定条件を満たすまで学習用データを分割することで，木構造モデルを構築する．

木構造構築のための分割を，事前に設定したパラメータに従い，早い段階で止める．

データのサイズが大きくないとき、得られた評価を用いるのは危険性が高い。

データのサイズが大きいとき、ホールドアウトによる検証は理にかなっている。

学習用データと検証用データにデータを分割してモデル検証を行う。

モデルの学習及び精度の評価は、同じデータで行う。