出版社内容情報
本書ではベイズ最適化の理論・アルゴリズムを基礎から応用まで詳細に説明し、ブラックボックス最適化ソフトウェア「Optuna」の利用方法も紹介しています。増補改訂版では、Optunaのバージョンアップに合わせて第4章を全面的に修正・加筆。ベイズ最適化の実践・開発をサポートしています。また第5章では「リグレット解析」と呼ばれる理論を新たに取り上げました。ベイズ最適化を学ぶための基礎体力が身につけられるよう、理論と実践の両面を更に充実させています。
【目次】
第1章 機械学習による適応的実験計画とベイズ最適化
1.1 データ駆動型実験科学とベイズ最適化
1.2 ブラックボックス最適化とハイパーパラメータ最適化
1.3 ベイズ最適化
第2章 ブラックボックス関数のベイズモデリング
2.1 ベイズ線形回帰モデル
2.2 ガウス過程回帰モデル
第3章 ベイズ最適化のアルゴリズム
3.1 はじめに
3.2 改善確率量獲得関数
3.3 期待改善量獲得関数
3.4 信頼下限獲得関数
3.5 トンプソン抽出獲得関数
3.6 エントロピー探索獲得関数
3.7 エントロピー探索獲得関数.予測
3.8 ベイズ最適化の終了条件
3.9 出力の生成方法
3.10 ハイパーパラメータの取り扱い
第4章 Optuna によるベイズ最適化の実装方法
4.1 Optuna とは
4.2 Optuna の基礎的な使い方
4.3 Optuna におけるペイズ最適化
4.4 GPSampler の基礎的な使い方
4.5 GPSampler の発展的な使い方
4.6 Optuna の発展的な使い方
4.7 OptunaHub の利用
第5章 ベイズ最適化の理論
5.1 アルゴリズムの性能評価に対する二つのアプローチ
5.2 ベイズ最適化アルゴリズムの評価指標: リグレットの定義
5.3 リグレット性の証明のための準備
5.4 信頼上限アルゴリズムのリグレット解析
第6章 制約付きベイズ最適化
6.1 制約付き最適化とは
6.2 制約付き最適化の問題設定
6.3 制約を考慮した目的関数のモデリング
6.4 制約付き期待改善量
6.5 制約付き予測エントロピー探索
第7章 多目的ベイズ最適化
7.1 多目的最適化とは
7.2 多目的最適化の問題設定
7.3 多目的最適化における目的関数のモデリング
7.4 期待超体積改善量
第8章 高次元空間でのベイズ最適化
8.1 高次元空間上でのベイズ最適化の課題
8.2 目的関数の加法的分解に基づく方法
8.3 入力空間の次元削減に基づく方法
8.4 局所的なモデリングに基づく方法
第9章 並列ベイズ最適化
9.1 並列最適化とは
9.2 並列最適化における問題点
9.3 嘘つき法
9.4 局所ペナルティ法
9.5 モンテカルロ獲得関数
付録
A.1 数理最適化と勾配法の基礎
A.2 ブラックボックス最適化のための種々の方法
内容説明
本書はベイズ最適化の教科書ですが、特に種々の概念の理論的(数学的)な背景や導出の説明を重点的に行うように構成しました。一方、実践的な利用方法も同時に学べるように、ブラックボックス最適化ソフトウェアであるOptunaを用いた実装方法も詳細に説明しています。改訂版では、この両軸をより強化することで、理論と実践を共に深められるような内容になっています。
目次
第1章 機械学習による適応的実験計画とベイズ最適化
第2章 ブラックボックス関数のベイズモデリング
第3章 ベイズ最適化のアルゴリズム
第4章 Optunaによるベイズ最適化の実装方法
第5章 ベイズ最適化の理論
第6章 制約付きベイズ最適化
第7章 多目的ベイズ最適化
第8章 高次元空間でのベイズ最適化
第9章 並列ベイズ最適化
付録
著者等紹介
今村秀明[イマムラヒデアキ]
2018年東京大学理学部情報科学科卒。2020年東京大学大学院情報理工学系研究科コンピュータ科学専攻修士号。2020年4月から株式会社Preferred Networksリサーチャー。学生時代はベイズ最適化の理論などを研究。現在は同AutoMLチームにてブラックボックス最適化ソフトウェアOptunaの開発および汎用原子レベルシミュレータMatlantisを利用したブラックボックス最適化の応用研究開発に従事
松井孝太[マツイコウタ]
2014年名古屋大学大学院情報科学研究科計算機数理科学専攻博士課程後期課程 単位取得退学。2017年博士(情報科学)。2025年4月から京都大学大学院医学研究科社会健康医学系専攻医療統計学分野准教授。同5月から滋賀大学データサイエンス・AIイノベーション研究推進センター特任准教授(兼任)。専門は統計的機械学習、生物統計学。特に医学や材料科学などのスモールデータな領域のための、転移学習や適応的実験計画の手法を用いたデータ解析手法の研究開発に従事(本データはこの書籍が刊行された当時に掲載されていたものです)
※書籍に掲載されている著者及び編者、訳者、監修者、イラストレーターなどの紹介情報です。