日本経済新聞出版 THE COMING WAVE AIを封じ込めよ

著者名：ムスタファ・スレイマン【著】/マイケル・バスカー【著】/上杉隼人【訳】

日経BP（2024/09発売）

• ISBN：9784296118755

内容説明

■AlphaGoを開発したDeepMindの共同創業者でMicrosoft AIのCEOが警告
■AI、合成生物学、量子コンピュータ、新世代の技術が招く未曾有の大惨事

AI、ロボット工学、合成生物学、核融合、量子コンピュータ、DNAプリンター、自律型致死兵器、人工ウイルス……。
超進化する新世代テクノロジーが組み合わさることで、開発者すら想定していない未曾有の大混乱と大惨事がもたらされる。

人類は分水嶺を越えようとしている。だがまだ何も準備ができていない。このまま強力なテクノロジーの「封じ込め」に失敗すれば、現在の国家は崩壊し、世界秩序は大混乱に陥る。

私たちは一部の超巨大AI企業と金持ちに牛耳られた激しい格差社会で不安定な生活を強いられるのか。
あるいは権威主義体制のディストピア的監視社会で暮らすのか。

AlphaGoを開発したDeepMindの共同創業者で、Microsoft AIのCEOを務める著者が著した警告の書。


【本書に寄せられた賛辞】
「興味深く重要な本」――ユヴァル・ノア・ハラリ
「必読書」――ダニエル・カーネマン
「未曾有の時代を乗り切るための優れたガイドブック」――ビル・ゲイツ
「政府が取るべき緊急行動とその課題を提唱している」――グレアム・アリソン
「AIと合成生物学の到来により、今後10年間は人類史上最高のものか、あるいは最悪のものになる。スレイマンほど今後の壮大な課題を認識し、説明できる人はいない」――エリック・ブリニョルフソン

目次

用語集
プロローグ
第1章　封じ込めは不可能

第Ｉ部　ホモ・テクノロジカス
第2章　果てなき拡散
第3章　封じ込め問題

第II部　来たるべき波
第4章　知能のテクノロジー
第5章　生命のテクノロジー
第6章　広がる波
第7章　来たるべき波の4つの特徴
第8章　止められないインセンティブ

第III部　弱体化する国家
第9章　国家と国民の「大いなる取引」
第10章　脆弱性増幅器
第11章　国家の未来
第12章　ジレンマ

第IV部　波を越えて
第13章　封じ込めは可能にせねばならない
第14章　封じ込めへの10 ステップ
　1　安全性――技術的安全性を確立するための「アポロ計画」
　2　監査――知識は力なり、力は制御なり
　3　チョークポイント――時間を稼ぐ
　4　開発者――批判する人も参加しよう
　5　企業――利益とパーパス
　6　政府――生き残り、改革し、規制せよ
　7　同盟――条約締結に向けて
　8　文化――謙虚に失敗から学ぶ
　9　社会運動――人々の力
　10　隘路――通過するしか方法はない

「人新世」の後の人類
謝辞
原註

感想・レビュー

※以下の感想・レビューは、株式会社ドワンゴの提供する「読書メーター」によるものです。

[owlsoul]

AIと合成生物学は、知性と生命という人類の根源に影響するテクノロジーだ。これらが結びつくことによって我々は人類史上最大の富と変革を目指せるが、その一方で予測不能な人類存亡の危機に直面する可能性もある。汎用的なテクノロジーの波及効果を完全に予測することは不可能であり、その解放は悪用や予想外の使用による大惨事を招きかねない。もしそのような事態となれば、人々は中央集権による極度の監視社会を望むかもしれない。秩序崩壊か、ディストピアか。かなりハードなテクノロジー悲観論。人類は自らの好奇心によって滅びるのだろうか。

2025/09/21

[iwtn_]

AI系の本でまともそうなのとそうじゃなさそうなのを2冊買って、これはまともな方と思いつつ読むが、妙にダラダラとした内容だった。危機感を煽るのは理解できるし、可能性としてはそうなんだけど、この内容を批判すること自体を封じられてしまうのはちょっと……という感想。生物系も確かに未曾有の影響をもたらす技術だし、それと発展を続けるAIが組み合わされば、鬼に金棒であるのは間違いない。とはいえ、対策部分は普通。面白くなくて何度も本を閉じながら読み進めた。となると、そうじゃなさそうな本は……そっちのほうが面白かったり？

2025/01/04

[Dヨッシー]

AI本の中で、鋭い分析かつバランスがある良書。過去の汎用技術の予想外の影響についての考察、AIが今までの汎用技術とどのような点で大きく異なるのかが物凄くわかりやすく、知的に有益である。特に、4つの影響や波とのぶつかり合いはAI独自。リスクに関しても、それぞれのセクターやよくある誤解まで広範囲な考察がしてある。国家のあり方や解決策に関しては微妙な点がありますが、前半の合成生物学などの章は洞察を得られる素晴らしい内容になっております。

2024/12/07

[むらむら]

れる、という話。オウム真理教の事件や大規模ランサムウェア、オッペンハイマーの原子爆弾の実用化や人間を負かしたアルファ碁まで、さまざまな先例を通して、規制の重要さを訴える。規制のために研究を停止するなど、概念は理解できるものの、中国のような統制国家、ロシアや北朝鮮のハッカーに時間を与えてしまうのでは？という気がしなくもない。トランプ政権の現在を予言しているような論調はとても刺激的だった。

2025/04/13

[fdsk8]

読んだ直後はテクノロジーが怖くなったとまず思った。ただ、自分が明日から何かできるような話ではなく、とりあえず現状のテクノロジーの進歩を知ることができた。

2025/04/05