ＫＳ情報科学専門書 ことばの意味を計算するしくみ 計算言語学と自然言語処理の基礎

著者名：谷中瞳【著】

講談社（2025/01発売）

• ISBN：9784065369845

内容説明

・私たちの頭の中では、ことばに対してどのような処理が行われているのだろうか？
・頭の中で（いままさに）行われている処理は、コンピュータによって再現できるのだろうか？

これらの問いに、ことばの意味を計算する2つのアプローチ（計算言語学と統計的言語処理）から挑む！

【言語処理学会前会長　乾健太郎先生推薦！】
本書は、ChatGPTで周知となった「ことばのテクノロジー」としての自然言語処理と、哲学・数学・論理学から「ことばをサイエンスする」計算言語学との架け橋となる教科書である。
どちらの世界も知り尽くした第一線の若手研究者が基礎から最先端までを妥協なしに書き上げた。
骨太だが、豊富な例とかみ砕いた説明が読者の背中を押してくれる。
生成AIを作る人使う人はもちろん、「ことばを数学する」と聞いて心がざわつくようなすべての人に届けたい。

【主な内容】
第1部　ことばの意味を計算するには
第1章　はじめに：文の容認可能性
第2章　ことばの分析から解析へ

第2部　計算言語学からみた，ことばの意味を計算するしくみ
第3章　形式統語論の考え方
第4章　形式意味論の考え方
第5章　形式意味論の準備：集合論
第6章　形式意味論の準備：記号論理学
第7章　形式意味論に基づく含意関係の計算
第8章　組合せ範疇文法に基づく意味合成
第9章　イベント意味論と推論
第10章　談話意味論

第3部　自然言語処理からみた，ことばの意味を計算するしくみ
第11章　分布意味論
第12章　ニューラル言語モデル
第13章　大規模言語モデル
第14章　分布意味論の特性と問題点

第4部　学際的視点からみた，ことばの意味を計算するしくみ
第15章　古典的計算主義とコネクショニズム
第16章　深層ニューラルネットの体系性の分析
第17章　計算言語学と自然言語処理の融合の展望

目次

第1章　はじめに：文の容認可能性
第2章　ことばの分析から解析へ
2.1　語彙の曖昧性
2.2　文の曖昧性
2.3　文脈の曖昧性
2.4　ことばの意味の計算
第3章　形式統語論の考え方
3.1　範疇文法
3.2　範疇文法と論理との関係
3.3　範疇文法から組合せ範疇文法へ：wh 移動
3.4　組合せ範疇文法（CCG）
3.5　CCGの組合せ規則
3.6　CCGに基づく日本語の分析
第4章　形式意味論の考え方
4.1　含意関係
4.2　推意と前提
4.3　文の意味
4.4　外延と内包
第5章　形式意味論の準備：集合論
5.1　集合論の基本定義
5.2　関係と関数
5.3　二項関係・同値関係
第6章　形式意味論の準備：記号論理学
6.1　記号論理学とは
6.2　命題論理の形式言語
6.3　命題論理の証明論
6.4　命題論理の意味論
6.5　述語論理の形式言語
6.6　述語論理の証明論
6.7　述語論理の意味論
第7章　形式意味論に基づく含意関係の計算
7.1　証明論的含意
7.2　意味論的含意
第8章　組合せ範疇文法に基づく意味合成
8.1　構成性
8.2　ラムダ計算の導入
8.3　型付きラムダ計算
8.4　意味表示の型
8.5　意味合成の基本
8.6　量化を含む文の意味合成
8.7　多重量化
第9章　イベント意味論と推論
9.1　イベント意味論
9.2　定理証明を用いた推論
9.3　公理を用いた知識補完
9.4　意味合成と推論の実装
第10章　談話意味論
10.1　照応の問題
10.2　談話表示理論
10.3　談話表示構造解析の実装
第11章　分布意味論
11.1　分布仮説
11.2　単語のベクトル化
11.3　分散表現と言語モデル
第12章　ニューラル言語モデル
12.1　ニューラルネットワークの基本
12.2　Word2Vec
12.3　リカレントニューラルネットワーク
12.4　系列変換モデル
12.5　Transformer
第13章　大規模言語モデル
13.1　BERT
13.2　GPT
13.3　ChatGPT
第14章　分布意味論の特性と問題点
14.1　分布意味論の特性
14.2　分布意味論の問題点
第15章　古典的計算主義とコネクショニズム
15.1　言語から認知へ
15.2　古典的計算主義
15.3　コネクショニズム
第16章　深層ニューラルネットの体系性の分析
16.1　思考の体系性に関する分析
16.2　推論の体系性に関する分析
第17章　計算言語学と自然言語処理の融合の展望
17.1　計算言語学の知見に基づく言語モデルの分析
17.2　自然言語処理と計算言語学の融合に基づく言語解析・コーパス
17.3　Neuro-Symbolic AI

感想・レビュー

※以下の感想・レビューは、株式会社ブックウォーカーの提供する「読書メーター」によるものです。

[Thinking_sketch_book]

★★★★☆ 統計や機械学習から自然言語処理を学ぶと計算言語学には辿りつきづらく、両者を基礎的、包括的に解説してくれている良書だと思う。これまでの言語分析の観点から統計的意味論の足りていないところの分析が面白い。最新の学習では不足を補うような改良がなされているので内容は実感古くなっているが視点はとても面白かった。特に否定を含んだ場合の含意関係が逆転するところなど、このような説明方法があるのかと視点が面白かった。

2025/07/20

意味論の邦書は少ないので増えたのが嬉しい。～§6で形式統語論、形式意味論をダイジェスト紹介し、§7～10あたりからが本番。§11以降はNNを始めとする自然言語処理。計算言語学と自然言語処理の融合とあるが、大規模言語モデルが強すぎて、それに言語学の知見から切り込むくらい。情報科学科の講義がベースだからか、意味論以上に、§11以降の説明が飛び飛びで厳しい。QKVモデルとか、QKVがどう違うのか全然わからない。個人的には（著者も思わず？「理解」と表現しているが）「意味を理解するとは？」の詳述があると嬉しいなあ…

2025/06/15

[愛楊]

2024年。『計算言語学と自然言語処理の基礎』という題の通り、形式統語論・意味論、談話構造分析などの計算言語学の部に加え、分布意味論（Transformer）の自然言語処理の部から構成されている。完全を期すという点で東大らしい本だと思った。また他の方の感想にもある通り、背景となる言語哲学の要素が少ないと思った（ただ、注にある言語哲学に関する部分は非常に役に立った）。

2025/01/18

[tyfk]

自然言語処理（第3部）なら他にも本あるし、計算言語学（第2部）への興味で手に取った。形式統語論（範疇文法）から形式意味論（イベント、談話）への展開はかなりわかりやすく構成されてたけど、このページ数だと広く浅くになってしまって、どれも食足りない。具体例で計算の内実はわかるけど、それは手段の解説であって、なんかやはり言語哲学がない感じがつまらないかなと。

2024/12/17

[さいもん]

最初に形式言語学の話を一通り行い、次に分布意味論とLLMを説明して、最後に計算主義の立場からこの二つを整理するという構成。LLMがどのような言語学的立場に立脚しているのか、というのがわかって面白い。 ヒトの脳には統語論的構造があるのだろうか？つまり、文法やルールが埋め込まれているのだろうか？とてもスリリングな問いかけだった。 その一方、薄めの本のわりに形式言語学は集合論から始めるし、LLMはMLPから説明を始めるし、だいぶ詰め込まれていてハイスピードな印象があった。

2025/01/31