勾配 ブース ティング 決定 木
強力な機械学習モデル(勾配ブースティング木)の紹介|ワピア|Note
それでは、ご覧いただきありがとうございました!
勾配ブースティング木手法をPythonで実装して比較していく!|スタビジ
ensemble import GradientBoostingClassifier gbrt = GradientBoostingClassifier(random_state = 0) print ( "訓練セットに対する精度: {:. format ((X_train, y_train))) ## 訓練セットに対する精度: 1. 000 print ( "テストセットに対する精度: {:. format ((X_test, y_test))) ## テストセットに対する精度: 0. 958 過剰適合が疑われる(訓練セットの精度が高すぎる)ので、モデルを単純にする。 ## 枝刈りの深さを浅くする gbrt = GradientBoostingClassifier(random_state = 0, max_depth = 1) ## 訓練セットに対する精度: 0. 991 ## テストセットに対する精度: 0. 972 ## 学習率を下げる gbrt = GradientBoostingClassifier(random_state = 0, learning_rate =. 01) ## 訓練セットに対する精度: 0. 988 ## テストセットに対する精度: 0. 勾配ブースティング木手法をPythonで実装して比較していく!|スタビジ. 965 この例では枝刈りを強くしたほうが汎化性能が上がった。パラメータを可視化してみる。 ( range (n_features), gbrt. feature_importances_, align = "center") 勾配ブースティングマシンの特徴量の重要度をランダムフォレストと比較すると、いくつかの特徴量が無視されていることがわかる。 基本的にはランダムフォレストを先に試したほうが良い。 予測時間を短くしたい、チューニングによってギリギリまで性能を高めたいという場合には勾配ブースティングを試す価値がある。 勾配ブースティングマシンを大きな問題に試したければ、 xgboost パッケージの利用を検討したほうが良い。 教師あり学習の中で最も強力なモデルの一つ。 並列化できないので訓練にかかる時間を短くできない。 パラメータに影響されやすいので、チューニングを注意深く行う必要がある。 スケール変換の必要がない、疎なデータには上手く機能しないという点はランダムフォレストと同様。 主なパラメータは n_estimators と learning_rate であるが、ランダムフォレストと異なり n_estimators は大きくすれば良いというものではない。大きいほど過学習のリスクが高まる。 n_estimators をメモリや学習時間との兼ね合いから先に決めておき、 learning_rate をチューニングするという方法がよくとられる。 max_depth は非常に小さく、5以下に設定される場合が多い。
やはり LightGBM が最も高速で実用的なようです。 ロボたん なるほどなー!違いが分かりやすい! ウマたん ぜひ自分でも実装して比較してみてねー!! Xgboost はデータセットが膨大な場合、 処理時間がかかり過ぎて実用的じゃなくなるケースがあります。 実際現在推進している実務でも Xgboost に限界を感じております・・ ぜひ 勾配ブースティングの違いを理解して、実装してみましょう! LightGBMを使ったデータ分析については以下のUdemy講座で詳しくまとめていますのでよければチェックしてみてください! 【初学者向け】データ分析コンペで楽しみながら学べるPython×データ分析講座 【オススメ度】 【講師】 僕! 【時間】 4時間 【レベル】 初級~中級 このコースは、 なかなか勉強する時間がないという方に向けてコンパクトに分かりやすく必要最低限の時間で重要なエッセンスを学び取れるように 作成しています。 アニメーションを使った概要編 と ハンズオン形式で進む実践編 に分かれており、概要編ではYoutubeの内容をより体系的にデータ分析・機械学習導入の文脈でまとめています。 データサイエンスの基礎について基本のキから学びつつ、なるべく堅苦しい説明は抜きにしてイメージを掴んでいきます。 統計学・機械学習の基本的な内容を学び各手法の詳細についてもなるべく概念的に分かりやすく理解できるように学んでいきます。 そしてデータ分析の流れについては実務に即した CRISP-DM というフレームワークに沿って体系的に学んでいきます! データ分析というと機械学習でモデル構築する部分にスポットがあたりがちですが、それ以外の工程についてもしっかりおさえておきましょう! 続いて実践編ではデータコンペの中古マンションのデータを題材にして、実際に手を動かしながら機械学習手法を実装していきます。 ここでは、探索的にデータを見ていきながらデータを加工し、その上で Light gbm という機械学習手法を使ってモデル構築までおこなっていきます。 是非興味のある方は受講してみてください! Twitterアカウント( @statistics1012)にメンションいただければ最低価格の1200円になる講師クーポンを発行いたします! \30日間返金無料/ Pythonの勉強に関しては以下の記事を参考にしてみてください!