出版社内容情報
構造とコードを理解して的確に実装！
本書は、言語とマルチモーダルに対応したTransformerモデルの内部構造から、コードを交えた実践テクニックまでを解説。Transformerモデルを実際のプロジェクトで使いこなすための確固たる基盤技術を習得したい方に格好の一冊です。本書は、「Transformerの中核となる概念」から始まり、「生成系モデルのバリエーションと高度化」「マルチモーダルや小規模言語モデル」「LLMのトレーニング、最適化、スケーリング」といった実践的な応用へと進みます。Hugging FaceやvLLMのライブラリ等を使ったコード例を交えて解説します。
【目次】
内容説明
本書では、現代的なＴｒａｎｓｆｏｒｍｅｒモデルの基礎概念から応用・実装のテクニックまでを解説。実際のプロジェクトでＴｒａｎｓｆｏｒｍｅｒモデルを使いこなすための確固たる基盤技術を習得したい方に格好の一冊となっています。最初は、Ｔｒａｎｓｆｏｒｍｅｒモデルの基礎として、エンコーダーやデコーダーを含むアーキテクチャと機能の仕組みを解説。以降は生成系モデルにフォーカスし、まずＭｏＥ（Ｍｉｘｔｕｒｅ ｏｆ Ｅｘｐｅｒｔｓ）などの主要な派生アーキテクチャや、プロンプト技術による推論能力の高度化を学びます。次に、人間の好みに合わせる選好アライメントやＲＡＧ（検索拡張生成）を用いたシステム構築、マルチモーダルモデルの中核技術とＲＡＧへの応用、ＳＬＭ（小規模言語モデル）のファインチューニングやエージェント機能といった実践的な知識を提供します。最後に、トレーニング、ＱＬｏＲＡ（メモリ使用効率を高めたファインチューニング）、最適化とスケーリング技術に加え、バイアス検出などの倫理的かつ責任あるＡＩの実践手法までを解説。ＬＬＭの活用を網羅的に学ぶことができます。
目次
１ 現代のＴｒａｎｓｆｏｒｍｅｒモデルの基礎（Ｔｒａｎｓｆｏｒｍｅｒはなぜ必要か；詳解Ｔｒａｎｓｆｏｒｍｅｒ）
２ 生成系Ｔｒａｎｓｆｏｒｍｅｒ（モデルファミリとアーキテクチャのバリエーション；テキスト生成戦略とプロンプティングテクニック；選好アライメントとＲＡＧ）
３ 専門化されたモデル（マルチモーダルモデル；効率的な特化型ＳＬＭ；ＬＬＭの訓練と評価；ＬＬＭの最適化とスケーリング；倫理的かつ責任あるＬＬＭ）
著者等紹介
ケーニヒシュタイン，ニコール［ケーニヒシュタイン，ニコール］ ［Ｋｏｅｎｉｇｓｔｅｉｎ，Ｎｉｃｏｌｅ］
著名なデータサイエンティスト兼定量分析研究者。リヒテンシュタインの資産運用会社ワイデン・キャピタルのチーフデータサイエンティスト兼ＡＩ・定量分析部門責任者を務める。ＬＬＭ研究への資金提供に関して欧州委員会（Ｅｕｒｏｐｅａｎ Ｃｏｍｍｉｓｓｉｏｎ）の外部専門家であり、規制産業における生成ＡＩの導入について助言を行うため、証券監督者国際機構（ＩＯＳＣＯ）の外部専門家も務める。著書に『Ｍａｔｈ ｆｏｒ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ』（Ｍａｎｎｉｎｇ Ｐｕｂｌｉｃａｔｉｏｎｓ）がある（本データはこの書籍が刊行された当時に掲載されていたものです）
※書籍に掲載されている著者及び編者、訳者、監修者、イラストレーターなどの紹介情報です。
