機械学習を解釈する技術―予測力と説明力を両立する実践テクニック

森下 光之助【著】

技術評論社（2021/08発売）

• サイズ A5判／ページ数 255p／高さ 22cm
• 商品コード 9784297122263
• NDC分類 007.1
• Cコード C3055

出版社内容情報

機械学習の研究開発が急速な勢いで進んでいます。理論研究はもちろん、機械学習手法が実装されたオープンソースのパッケージ開発も進み、それらを実務で利用するためのノウハウも蓄積されてきています。結果として、機械学習をはじめたばかりの入門者でも比較的高い精度の予測モデルを構築できるようになりました。
Deep Learning

内容説明

あらゆる予測モデルを解釈する４つの手法ＰＦＩ、ＰＤ、ＩＣＥ、ＳＨＡＰ／特徴量の重要度／特徴量と予測値の関係性／インスタンスごとの異質性／予測の理由―そのモデルの振る舞いを説明できますか？

目次

１章　機械学習の解釈性とは
２章　線形回帰モデルを通して「解釈性」を理解する
３章　特徴量の重要度を知る―Ｐｅｒｍｕｔａｔｉｏｎ　Ｆｅａｔｕｒｅ　Ｉｍｐｏｒｔａｎｃｅ
４章　特徴量と予測値の関係を知る―Ｐａｒｔｉａｌ　Ｄｅｐｅｎｄｅｎｃｅ
５章　インスタンスごとの異質性をとらえる―Ｉｎｄｉｖｉｄｕａｌ　Ｃｏｎｄｉｔｉｏｎａｌ　Ｅｘｐｅｃｔａｔｉｏｎ
６章　予測の理由を考える―ＳＨａｐｌｅｙ　Ａｄｄｉｔｉｖｅ　ｅｘＰｌａｎａｔｉｏｎｓ
付録Ａ　Ｒによる分析例―ｔｉｄｙｍｏｄｅｌｓとＤＡＬＥＸで機械学習モデルを解釈する
付録Ｂ　機械学習の解釈手法で線形回帰モデルを解釈する

著者等紹介

森下光之助［モリシタミツノスケ］
東京大学大学院経済学研究科で計量経済学を用いた実証分析を学び、経済学修士号を取得。株式会社グリッドに入社し、機械学習を用いたデータ分析プロジェクトに従事。現在はＴＶＩＳＩＯＮ　ＩＮＳＩＧＨＴＳ株式会社で執行役員兼データ・テクノロジー本部副本部長。テレビデータの分析、社内データの利活用の促進、データ部門のマネジメントを行っている（本データはこの書籍が刊行された当時に掲載されていたものです）
※書籍に掲載されている著者及び編者、訳者、監修者、イラストレーターなどの紹介情報です。

感想・レビュー

※以下の感想・レビューは、株式会社ドワンゴの提供する「読書メーター」によるものです。

[ぶう]

予測モデルの用途は予測と解釈である。シンプルな線形回帰モデルは予測精度はそこそこであるが、解釈性が高い。逆にディープニューラルネットワークを始めとする複雑な機械学習モデルは予測精度を高められる分、解釈性が犠牲となりやすい。つまり予測精度と解釈性はトレードオフの関係にあるのだ。本書では、ブラックボックス化しやすい機械学習モデルを解釈する手法を解説してくれている。紹介されている手法はPFI、PD、ICE、SHAPの4つ。解釈性の高い線形回帰モデルを比較のベースとして解説されており、理解しやすい構成であった。

2021/11/04

[Taizo]

機械学習はもともと解釈性を犠牲にして予測性能を高める目的で発展してきた。なのでそもそも「解釈性」というものは相性が悪いものだったりする。するんだけど、ブラックボックスのままじゃあまりにも危険だよねってことで、少しでもその振る舞いを理解する試みが最近活発に。本書はその機械学習の解釈する技術を非常に分かりやすく網羅的に記述している。アルゴリズムによらないPFI、PDP、ICE、SHAPという4つのテクニックを順々に解説。個人的には何よりも理解を促すための実験が非常に秀逸だと感じた。

2022/05/12

[yyhhyy]

ブラックボックスの機械学習の特徴量の影響を推察する技術について。なかなかこのテーマで書かれた本がない中、とても貴重。

2021/12/18

[PenguinTrainer]

ブラックボックスな機械学習手法の推論結果の寄与度計算方法が紹介された本。 PFI、PD、ICE、SHAPと4つ紹介されているが、計算負荷の問題を除けばSHAPが最も使い勝手が良い方法であるという印象を受けた。他の手法では特定の引数や特定の出力に特化した説明性の付与であった。 CNNにおけるGradCAMやtransformerにおけるattentionでは、ネットワーク構造に制約を受けて適用範囲が狭いのでSHAPを使いこなすのと計算量の削減が適用されたSHAPの活用を進めていきたい。

2024/05/31

[しろっこー]

特徴量と予測値の関係を理解する助けとなる指標である, PFI, PD, ICE, SHAPの概説. 誌面のcode割合(Python)が多いためpage数ほど中身はないが最小toy modelと実dataに対する計算を行なっており, 特に最小toy modelの結果は概念理解の助けとなると感じた. 付録では上述の4指標を線形回帰で計算し直したりRでのcode例を記載したりと初学者向けの配慮がなされている.

2022/03/21