内容説明
超知能AIが出現したら何が起こるか――AI開発の指針「アシロマAI原則」の取りまとめに尽力し、AI安全性研究を牽引する著者が、現在考えうるシナリオを検討し、来るべき世界の姿と生命の究極の未来を考察する。労働、法律、軍事、倫理から、生命と宇宙、機械の意識まで多岐にわたる問題を論じた全米ベストセラー。31か国で刊行。
「この時代の最も重要な議論に参加したければ、テグマークの示唆に富む本を読めばいい」
──スティーヴン・ホーキング
イーロン・マスク、エリック・ブリニョルフソン、レイ・カーツワイル、ニック・ボストロム、スチュワート・ラッセル、マーティン・リースら推薦!
ニューヨークタイムズ・ベストセラー
タイムズ紙 Books of the Year 2017
デイリー・テレグラフ紙 Books of the Year 2017
バラク・オバマ Favorite Books of 2018
ビル・ゲイツ 10 Favorite Books about Technology
★NHK Eテレで2019年に放映された「超AI入門特別編」に、著者が出演しています。
目次
プロローグ オメガチームの物語
最初の数百万ドル/ 危険なゲーム/ 最初の数十億ドル/ 新たなテクノロジー/ 権力掌握/ 統合
第1章 いまもっとも重要な議論へのいざない
複雑さのおおまかな歴史/ 生命の3つの段階/ 論争/ 誤解/ この先の道筋
第2章 物質が知能を持つ
知能とは何か/ 記憶とは何か/ 計算とは何か/ 学習とは何か
第3章 近未来: ブレイクスルー、バグ、法律、兵器、仕事
ブレイクスルー/ バグ VS 堅牢なAI/ 法律/ 兵器/ 仕事と賃金/ 人間レベルの知能
第4章 知能爆発
全体主義/ プロメテウスが世界を支配する/ ゆっくりとした立ち上がりと多極的なシナリオ/ サイボーグとアップロード/ 実際には何が起こるのか
第5章 余波: 1万年先まで
自由論者のユートピア/ 善意の独裁者/ 平等主義者のユートピア/ 門番/ 保護者としての神/ 奴隷としての神/ 征服者/ 後継者/ 動物園の飼育係/ 1984/ 先祖返り/ 自滅
第6章 宇宙からの恵み: 今後10億年とさらにその先
資源を最大限に活用する/ 宇宙への入植によって資源を確保する/ 宇宙のヒエラルキー/ 展望
第7章 目標
物理学: 目標の起源/ 生物学: 目標の進化/ 心理学: 目標の追求とそれに対する反抗/ 工学: 目標を外部に委ねる/ 友好的なAI: 目標を合致させる/ 倫理: 目標を選ぶ/ 究極の目標
第8章 意識
どうでもいい問題なのでは/ 意識とは何か/ 何が問題か/ 意識は科学の範囲を超えているのか/ 意識に関する実験的な手掛かり/ 意識に関するいくつかの理論/ 意識をめぐる論争/ AIの意識は何を感じるか/ 意義
エピローグ FLIチームの物語
FLIの誕生/ プエルトリコでの冒険/ AI安全性研究を主流にする/ アシロマAI原則/ 留意を伴う楽観論
