LIFE3.0 - 人工知能時代に人間であるということ

著者名：テグマーク,マックス【著】/水谷淳【訳】

紀伊國屋書店（2019/12発売）

• ISBN：9784314011716

内容説明

超知能AIが出現したら何が起こるか――AI開発の指針「アシロマAI原則」の取りまとめに尽力し、AI安全性研究を牽引する著者が、現在考えうるシナリオを検討し、来るべき世界の姿と生命の究極の未来を考察する。労働、法律、軍事、倫理から、生命と宇宙、機械の意識まで多岐にわたる問題を論じた全米ベストセラー。31か国で刊行。

「この時代の最も重要な議論に参加したければ、テグマークの示唆に富む本を読めばいい」
──スティーヴン・ホーキング

イーロン・マスク、エリック・ブリニョルフソン、レイ・カーツワイル、ニック・ボストロム、スチュワート・ラッセル、マーティン・リースら推薦!

ニューヨークタイムズ・ベストセラー　
タイムズ紙　Books of the Year 2017
デイリー・テレグラフ紙　Books of the Year 2017
バラク・オバマ　Favorite Books of 2018
ビル・ゲイツ　10 Favorite Books about Technology

★NHK Eテレで2019年に放映された「超AI入門特別編」に、著者が出演しています。

目次

プロローグ オメガチームの物語
最初の数百万ドル/ 危険なゲーム/ 最初の数十億ドル/ 新たなテクノロジー/ 権力掌握/ 統合

第1章 いまもっとも重要な議論へのいざない
複雑さのおおまかな歴史/ 生命の3つの段階/ 論争/ 誤解/ この先の道筋

第2章 物質が知能を持つ
知能とは何か/ 記憶とは何か/ 計算とは何か/ 学習とは何か

第3章 近未来: ブレイクスルー、バグ、法律、兵器、仕事
ブレイクスルー/ バグ VS 堅牢なAI/ 法律/ 兵器/ 仕事と賃金/ 人間レベルの知能

第4章 知能爆発
全体主義/ プロメテウスが世界を支配する/ ゆっくりとした立ち上がりと多極的なシナリオ/ サイボーグとアップロード/ 実際には何が起こるのか

第5章 余波: 1万年先まで
自由論者のユートピア/ 善意の独裁者/ 平等主義者のユートピア/ 門番/ 保護者としての神/ 奴隷としての神/ 征服者/ 後継者/ 動物園の飼育係/ 1984/ 先祖返り/ 自滅

第6章 宇宙からの恵み: 今後10億年とさらにその先
資源を最大限に活用する/ 宇宙への入植によって資源を確保する/ 宇宙のヒエラルキー/ 展望

第7章 目標
物理学: 目標の起源/ 生物学: 目標の進化/ 心理学: 目標の追求とそれに対する反抗/ 工学: 目標を外部に委ねる/ 友好的なAI: 目標を合致させる/ 倫理: 目標を選ぶ/ 究極の目標

第8章 意識
どうでもいい問題なのでは/ 意識とは何か/ 何が問題か/ 意識は科学の範囲を超えているのか/ 意識に関する実験的な手掛かり/ 意識に関するいくつかの理論/ 意識をめぐる論争/ AIの意識は何を感じるか/ 意義

エピローグ FLIチームの物語
FLIの誕生/ プエルトリコでの冒険/ AI安全性研究を主流にする/ アシロマAI原則/ 留意を伴う楽観論

感想・レビュー

※以下の感想・レビューは、株式会社ブックウォーカーの提供する「読書メーター」によるものです。

[けんとまん１００７]

ＡＩに代表されるテクノロジーの時代に、人間はどのような存在であるのか。ＡＩについては、現段階の状況をもとに、今後、どのような方向へ行くのかが大事になる。映画の世界になるのか、それおも、それを超えてしまうのか。ＡＩも、強いＡＩと弱いＡＩがあるし、イメージだけ先行しているのが、ここで言うＡＧＩ（汎用性）。人間は、その方向性を決める役割だろうと思うのだが、どうなるか・・・いずれにしろ、エネルギー（電気）がないことには始まらないという、とてもベーシックな部分がどうなるかだ。

2020/06/14

[inami]

◉読書　★4　いや〜とても面白かった。自分の好きな分野とはいえ実に興味深く読ませてもらいました。タイトルの『LIFE3.0』だけだと何のことだかよく分からないのですが、サブタイトルに『人工知能時代に人間であるということ』とあるとおり（なおさらわからないか　笑）、AIによって生命と宇宙はどのような未来を迎えるのか、安全なAIを実現させるためにどのような課題を克服しなければならないか・・超知能AI実現後の考えられる12のシナリオを挙げ、特徴や問題点を論じています。さて、皆さんはどのような生命の未来を望みますか

2022/11/29

[小太郎]

これまで読んだＡＩ関連の本の中では一番分かり易く、ＳＦ小説を読むような感じでした。近々起こるとされているＡＩのシンギュラリティや新たなブレイクスルーを創造力豊かな描写と現実に対応した内容や展開予想など読んでいてワクワクしたりちょっと恐怖を覚えたりと息を付かせぬ本でした。特にこれから宇宙規模で拡大するかもしれないＡＩの未来を考えると人類はひょっとしてＡＩを作るためだけにに登場した進化の橋渡しのような気もします。特に最後の方のＡＩの意識めぐる論争などは並みのＳＦよりはるかに興味深い話でした。

2022/12/20

[姉勤]

とどのつまり、生物の究極の目的が、最高の機能の獲得か、無限増殖かのいずれか、もしくはその双方かで、本書が言いたい事ととの齟齬が生まれてくると思う。そもそも人間の快感や個体の生存の延長なぞ、遺伝子が与えた目的達成のためのオマケであって、それを扶ける情報とエンジンが、生命として残す価値が、人間を含めてあるかということ。どんなに進化しようとも、時空間に依存する自律的情報であれば、それが放散にしろ縮退にしろ宇宙の終わりと共に死を迎える。どんな高いLIFE-X.Xバージョンより、post-LIFE0.1を求めたい。

2023/01/15

[Isamash]

理論物理学者マックス・テグマークMIT教授2017年著作の訳本。AIの将来の予測不能も今から安全性研究を中心に据えてAI研究をすべきと主張。実際組織化も行い多くの賛同者を得。イーロン・マスクから多額の資金も得ているとのこと。意識に関する研究紹介が非常に興味深かった。以前は研究対象としてさえ白眼視されたが多くの科学研究が行われてきてる。その成果（大脳の特定場所が重要）も受けて何らかの状態変化が意識の実態と仮説設定しAIも意識を持ちうると考える。閉じ込められていたAIの脱出劇も語られ、自立AIに怖さを覚えた。

2023/05/20