作ってわかる! アンサンブル学習アルゴリズム入門

著者名：坂本俊之

シーアンドアール研究所（2019/05発売）

• ISBN：9784863542808

内容説明

本書は、LightGBMやXGBoostなどに代表されるアンサンブル学習のアルゴリズムをPython 3でゼロから実装することで、その仕組みや原理を学べる1冊です。


<序文より抜粋>
ビッグデータを解析するための機械学習アルゴリズムとしては、ディープラーニング、つまりニューラルネットワークの他にも、ベイズ分類器や決定木、それにそれらを組み合わせた「アンサンブル学習」アルゴリズムなど、さまざまな種類があり、データやその利用シーンに応じて適切なものを選択しなければ、その威力を発揮させることはできません。実際、海外のデータコンペティションにおいてはLightGBMなどのアルゴリズムがよく利用されますが、それは勾配ブースティングアルゴリズムの一種であり、「アンサンブル学習」アルゴリズムの1つです。
そうした「アンサンブル学習」アルゴリズムは強力な分析力を提供してくれますが、それらを正しく使いこなし、最大限の性能を引き出すためには、アルゴリズムの詳細についての理解が欠かせません。そして、どのようなアルゴリズムについても、その手法を最もよく理解できる学習手段は、そのアルゴリズムを実際に一からプログラミングしてみることなのです。
そうした「アンサンブル学習」と呼ばれる手法について、最も基礎的な部分から解説し、実際にコードを作成しながらその動作原理を学ぶ、というの本書の目的となります。
そして本書では、Python言語を使用して、複数のアンサンブル学習アルゴリズムを、完全に一からスクラッチで制作します。数式でアルゴリズムを理解するのではなく、実際に一からプログラムを書き、コードに触れることで得られる知識は、実際のデータ解析における問題解決能力を大きく養ってくれるはずです。

目次

CHAPTER 01 アンサンブル学習の基礎知識
CHAPTER 02 機械学習プログラミングの準備
CHAPTER 03 線形回帰と確率的勾配降下法
CHAPTER 04 決定木アルゴリズム
CHAPTER 05 プルーニング
CHAPTER 06 バギング
CHAPTER 07 AdaBoost
CHAPTER 08 改良AdaBoost
CHAPTER 09 勾配ブースティング
CHAPTER 10 その他のアンサンブル手法

感想・レビュー

※以下の感想・レビューは、株式会社ブックウォーカーの提供する「読書メーター」によるものです。

[ぶう]

アンサンブルとは複数の機械学習モデルの予測をブレンドして結果を求める手法であり、予測精度の向上には欠かせない重要な技術である。実際にkaggleなどのコンペで、あともう一押し精度アップが欲しい時には必ずと言っていいほど使われる手法である。分類では複数モデルの多数決、回帰では平均値を取るということであり、まさに「三人寄れば文殊の知恵」を機械学習に当てはめたものと言えよう。本書はアンサンブル手法をpythonを用いスクラッチで実装をすることで、理解を深める事が狙いの本。サンプルのコードも多く掲載されている。

2022/10/28

[zukky65]

決定木をベースとしたアンサンブル学習（bagging, adaboost, gradientboostなど）について基本的な説明＋コードが書かれた本。細かいアルゴリズムの説明はないが、コードで重要なポイントについてはちゃんと説明があるのでわかりやすい。 ただ、コードを本に書くときの制約なのか、この本のPythonはあまり見ないコーディングスタイルになっていて、これでPythonを覚えるとあとあと大変なことになると思うので、Python初心者にはお勧めしない。

2019/11/03

[山澤 穫]

枝を切らなきゃ！剪定だ！！！

2023/09/30