出版社内容情報
生成AIの進展は社会や産業に大きな変革をもたらす一方、生成AIが生み出す有害なコンテンツや意図しない挙動といったリスクに関する課題が浮き彫りになっています。本書は、エンジニア、研究者を対象に、生成AIにおけるリスクとその対処法を体系的にまとめます。1章ではAI安全性を定義し、近年の動向を概説します。2章では現実に直面する脅威を分類・整理します。3章でOpenAIが公開しているモデルスペックを題材にAIの理想的な振る舞いについて考えます。第4章で安全性に関する評価方法について紹介したあと、5章ではレッドチーミングについて解説します。6章と7章でモデルレベル、システムレベル双方からの安全性向上技術を解説し、最終章でAI安全性の未来について考察します。安全な生成AIの開発と運用に必要となる知識を1冊にまとめます。
【目次】
第1章 AI安全性の基礎
1.1 AI安全性とは
1.2 AI安全性の社会的動向
1.3 まとめ
第2章 AIリスクの分類
2.1 不快表現を生成するリスク
2.2 情報漏洩リスク
2.3 誤情報リスク
2.4 悪用リスク
2.5 精神的依存リスク
2.6 その他の外部に潜むリスク
2.7 まとめ
第3章 AIの理想的な振る舞い
3.1 モデルスペックの構成
3.2 安全性ルール：制約の範囲を超えない
3.3 他組織のルール
3.4 まとめ
第4章 安全性評価技術：ベンチマーク
4.1 LLMを評価する安全性ベンチマーク
4.2 MLLMを評価する安全性ベンチマーク
4.3 まとめ
第5章 安全性評価技術：レッドチーミング
5.1 レッドチーミングの概要
5.2 攻撃手法の体系化
5.3 レッドチーミング実践
5.4 まとめ
第6章 安全性向上技術：モデルレベル
6.1 事前学習における安全性向上技術
6.2 SFTにおける安全性向上技術
6.3 RLHFにおける安全性向上技術
6.4 合成データアプローチ
6.5 推論フェーズにおける安全性制御
6.6 まとめ
第7章 安全性向上技術：システムレベル
7.1 ガードレール
7.2 ガードレールコンポーネント
7.3 ガードレールツールキット
7.4 まとめ
第8章 AI安全性の未来
8.1 対話から実行へ：エージェントAIのリスク
8.2 デジタルから物理世界へ：ロボティクスAIのリスク
8.3 人知を超えた知性へ：AGI/ASIのリスク
8.4 まとめ
付録A 実務クイックスタート
内容説明
安全なＡＩを実現するための終わりなき挑戦。ＡＩリスク ＡＩガバナンス 責任あるＡＩ モデルスペック 憲法ＡＩ 安全性チューニング 安全性評価ベンチマーク レッドチーミング ＡＩセキュリティ ガードレール ジェイルブレイク 過剰安全性。
目次
第１章 ＡＩ安全性の基礎
第２章 ＡＩリスクの分類
第３章 ＡＩの理想的な振る舞い
第４章 安全性評価技術：ベンチマーク
第５章 安全性評価技術：レッドチーミング
第６章 安全性向上技術：モデルレベル
第７章 安全性向上技術：システムレベル
第８章 ＡＩ安全性の未来
著者等紹介
綿岡晃輝［ワタオカコウキ］
２０２１年、神戸大学大学院システム情報学研究科博士前期課程修了。同年、ＬＩＮＥ株式会社（現・ＬＩＮＥヤフー株式会社）に入社し、Ｔｒｕｓｔｗｏｒｔｈｙ ＡＩチームに配属。ＬＬＭ（大規模言語モデル）の信頼性および安全性に関する研究開発に従事。２０２４年よりＳＢ Ｉｎｔｕｉｔｉｏｎｓ株式会社に入社し、Ｒｅｓｐｏｎｓｉｂｌｅ ＡＩチームのリーダーとして、大規模言語モデルやＶＬＭ（視覚言語モデル）における安全性向上に関する研究開発に携わっている。総務省ＡＩセキュリティ分科会構成員（本データはこの書籍が刊行された当時に掲載されていたものです）
※書籍に掲載されている著者及び編者、訳者、監修者、イラストレーターなどの紹介情報です。
感想・レビュー
※以下の感想・レビューは、株式会社ドワンゴの提供する「読書メーター」によるものです。
そけ
