出版社内容情報
本書ではベイズ最適化の理論・アルゴリズムを基礎から応用まで詳細に説明し、ブラックボックス最適化ソフトウェア「Optuna」の利用方法も紹介しています。増補改訂版では、Optunaのバージョンアップに合わせて第4章を全面的に修正・加筆。ベイズ最適化の実践・開発をサポートしています。また第5章では「リグレット解析」と呼ばれる理論を新たに取り上げました。ベイズ最適化を学ぶための基礎体力が身につけられるよう、理論と実践の両面を更に充実させています。
【目次】
第1章 機械学習による適応的実験計画とベイズ最適化
1.1 データ駆動型実験科学とベイズ最適化
1.2 ブラックボックス最適化とハイパーパラメータ最適化
1.3 ベイズ最適化
第2章 ブラックボックス関数のベイズモデリング
2.1 ベイズ線形回帰モデル
2.2 ガウス過程回帰モデル
第3章 ベイズ最適化のアルゴリズム
3.1 はじめに
3.2 改善確率量獲得関数
3.3 期待改善量獲得関数
3.4 信頼下限獲得関数
3.5 トンプソン抽出獲得関数
3.6 エントロピー探索獲得関数
3.7 エントロピー探索獲得関数.予測
3.8 ベイズ最適化の終了条件
3.9 出力の生成方法
3.10 ハイパーパラメータの取り扱い
第4章 Optuna によるベイズ最適化の実装方法
4.1 Optuna とは
4.2 Optuna の基礎的な使い方
4.3 Optuna におけるペイズ最適化
4.4 GPSampler の基礎的な使い方
4.5 GPSampler の発展的な使い方
4.6 Optuna の発展的な使い方
4.7 OptunaHub の利用
第5章 ベイズ最適化の理論
5.1 アルゴリズムの性能評価に対する二つのアプローチ
5.2 ベイズ最適化アルゴリズムの評価指標: リグレットの定義
5.3 リグレット性の証明のための準備
5.4 信頼上限アルゴリズムのリグレット解析
第6章 制約付きベイズ最適化
6.1 制約付き最適化とは
6.2 制約付き最適化の問題設定
6.3 制約を考慮した目的関数のモデリング
6.4 制約付き期待改善量
6.5 制約付き予測エントロピー探索
第7章 多目的ベイズ最適化
7.1 多目的最適化とは
7.2 多目的最適化の問題設定
7.3 多目的最適化における目的関数のモデリング
7.4 期待超体積改善量
第8章 高次元空間でのベイズ最適化
8.1 高次元空間上でのベイズ最適化の課題
8.2 目的関数の加法的分解に基づく方法
8.3 入力空間の次元削減に基づく方法
8.4 局所的なモデリングに基づく方法
第9章 並列ベイズ最適化
9.1 並列最適化とは
9.2 並列最適化における問題点
9.3 嘘つき法
9.4 局所ペナルティ法
9.5 モンテカルロ獲得関数
付録
A.1 数理最適化と勾配法の基礎
A.2 ブラックボックス最適化のための種々の方法
