つくりながら学ぶ！深層強化学習 PyTorchによる実践プログラミング

著者名：小川雄太郎

マイナビ出版（2018/07発売）

• ISBN：9784839965624

内容説明

強化学習、さらにディープラーニングを組み合わせた深層強化学習DQN（Deep Q-Network）という用語を目にする機会が増えています。本書は関連の概念を分かりやすく解説しつつ、Python＋PyTorchで「倒立振子課題」「迷路を解くプログラム」「ブロック崩しの攻略」を実装していきます。

第1章「強化学習の概要」では機械学習とその3分類（教師あり学習、教師なし学習、強化学習）について紹介します。

第2章「迷路課題に強化学習を実装しよう」では、簡単な強化学習（方策勾配法、Sarsa、Q学習）のコードをひとつずつ実装しながら、強化学習のアルゴリズムと実装方法を理解します。迷路を最短ルートでゴールするよう強化学習させます。

第3章「倒立振子課題に強化学習を実装しよう」では、2章で学んだ強化学習の基本をより複雑な課題への適用します。倒立振子とは、“ほうきを手のひらの上に立てる”遊びと同じ内容でその制御ルールを強化学習させます。Anacondaを用いたセットアップ方法も解説します。

第4章「Pytorchでディープラーニングを実装しよう」では、ディープラーニングの内容を理解し、PyTorchで実装します。ニューラルネットワークとディープラーニング発展の歴史、学習フェイズと推論フェイズについて解説。最後に手書き数字の画像を分類するMNIST課題を実装解説します。

第5章「深層強化学習DQNを実装しよう」では、強化学習にディープラーニングを組み合わせた“深層強化学習”を理解し、DQNを実装できるようにします。第3章の倒立振子課題に対してDQNを実装します。

第6章「深層強化学習の発展版を実装しよう」では、新しい深層強化学習の手法、Double-DQN、Dueling Network、Prioritized Experience Replay、そしてA3C、A2Cを理解し、実装できるようにします。

第7章「AWSのGPU環境でブロック崩しを実装しよう」では、ブロック崩しゲームを対象に深層強化学習のA2Cを実装します。実行環境としてAmazonのクラウドサービスAWSのGPU環境を使用する方法も解説します。

感想・レビュー

※以下の感想・レビューは、株式会社ドワンゴの提供する「読書メーター」によるものです。

[Thinking_sketch_book]

★★★★☆ 専門的には多くの部分が端折られている気もするが初学者には必要な箇所を限定し、動くコードを提供しているところがとても良い これで概要は分かったので実際に動くものを作ろうと思う

2022/08/14

[たいそ]

2018年。機械学習の中の強化学習について。数式も出てはくるが、どちらかというと実際に作って動かして理解するというタイプの本。コード中のコメントは多く、解説も丁寧。機械学習というと膨大なデータが必要という印象があるが、この本で取り上げられている題材はそうではないので、データ集めに悩まずに済むが、計算量は少なくないので、環境を用意するか気長に待てるかということになる。クラウド（AWS)で行う方法も紹介されているが、お金はかかる。

2019/04/20

[センケイ (線形)]

地に足が着いていると思われる PyTorch を使った貴重な本だ。ただちょっと売らんかなな側面も強い。かゆいところに手が届く図があり、なんとなく理解した気になっていたことを改めてよく知ることができる。後で使用する関数も近い範囲にまとめて書かれている。一方で、後述するといっていたものが続きは参考文献でってなったり、２色刷りなのにコード部分が白黒だったり、たまに while で計算速度を遅くしたりしていて、改善の余地もありそうだ。希少性は高いと思うので、これらの点を気にしないのであれば是非、という感想だ。

2019/04/17

[よっす]

著者は説明がうまいですね！強化学習の理解に向けて一歩一歩説明してくれている＆コードとセットで説明が進むため頭に入ってきやすい。そして、読み進めるのが楽しくなる。他の書籍だと、難解な理論をいきなりぶち上げてくる傾向にあるので。。 とりあえず強化学習の基本的な部分を、ひとつひとつ動くコードとともに学んでいくスタイルなので、その分、場当たり的な解説になっている感は否めませんが、そこはsutton氏のリファレンス的な書籍などに求めればよいでしょう。 強化学習理解の取っ掛かりの一冊として良書ではないでしょうか。

2020/01/04

[Erikom]

まだ実践が途中...

2023/01/21