超知能ＡＩをつくれば人類は絶滅する

ユドコウスキー，エリーザー〈Ｙｕｄｋｏｗｓｋｙ，Ｅｌｉｅｚｅｒ〉/ソアレス，ネイト【著】〈Ｓｏａｒｅｓ，Ｎａｔｅ〉/櫻井 祐子【訳】

早川書房（2026/04発売）

• サイズ 46判／ページ数 288p／高さ 20cm
• 商品コード 9784152105134
• NDC分類 007.1
• Cコード C0040

出版社内容情報

現在開発が進む「大規模推論モデル」の先に訪れる衝撃の未来ーー人間の知能を超えたＡＩが、私たちを「皆殺し」にする可能性はきわめて高い。なぜ、そしてどのように？　ピーター・ティールやサム・アルトマンに多大な影響を与えた著者による全世界騒然の書！


【目次】

内容説明

どこの企業や国家によってであれ、ヒトの知能を凌駕する「超知能ＡＩ」がつくられたら、地球上のすべての人間が必ず死ぬ。ＬＬＭ（大規模言語モデル）がより高度な「大規模推論モデル」へと進化しつつあるいま、その時は確実に近づいている―。本書が提示するシナリオでは、数学の未解決問題を解くために開発されたＡＩ「セイブル」がウイルスをばら撒き、全人類の１０％を死滅させる。そして残りの９０％も一瞬で…。一体なぜ？最悪の結末を回避するために、私たちにできることとは？ＡＩ技術を核兵器などと同様の「人類絶滅リスク」として取り扱うべきという議論が近年なされるが、著者のエリーザー・ユドコウスキーはその源流にして極北に位置する。ピーター・ティールが多額を出資し、またサム・アルトマンにＯｐｅｎＡＩ創業の示唆を与えるも、いまや彼らと反目にいたった天才が圧倒的な練度で放つ、現代の黙示録。

目次

序章　困難な予測と容易な予測
第１部　非人間的な知性（人間の特殊能力；つくられるのではなく育てられる；欲することを学ぶ；訓練したとおりの結果は得られない；ＡＩのお気に入り；人類は敗北する）
第２部　ある絶滅シナリオ（危険な認識；拡張；登頂；結末）
第３部　困難に立ち向かう（呪われた問題；科学ではなく錬金術；「不安を煽りたくはない」；停止せよ；生きている限り希望はある）

著者等紹介

ユドコウスキー，エリーザー［ユドコウスキー，エリーザー］ ［Ｙｕｄｋｏｗｓｋｙ，Ｅｌｉｅｚｅｒ］
１９７９年生まれ。機械知能研究所（ＭＩＲＩ）の創設者。人工知能を人間の意図や価値観に整合させる「ＡＩアライメント」研究の草分け的存在であり、「フレンドリーＡＩ」概念の提唱などで知られる。高校や大学に通わず独力で学び、２０００年、ＭＩＲＩの前身となる「ＡＩのためのシンギュラリティ研究所」を創設（２０１３年に改称）。当初は人間の知能を超えるＡＩの実現を目指すが、まもなくそのリスクの重大さを認識するようになる。２００６年から２０１２年にかけてピーター・ティール、レイ・カーツワイルとともに「シンギュラリティサミット」を主催。人間の合理性やＡＩの安全性を主要なトピックとするオンラインフォーラムＬｅｓｓ　Ｗｒｏｎｇを２００９年に設立。２０１０年から２０１５年にかけて発表した「ハリー・ポッターと合理主義の方法」は異色のファン・フィクションとして絶大な人気を誇る。２０２３年、タイム誌「ＡＩ分野で最も影響力のある１００人」に選出

ソアレス，ネイト［ソアレス，ネイト］ ［Ｓｏａｒｅｓ，Ｎａｔｅ］
１９８９年生まれ。ＭＩＲＩ所長。ジョージワシントン大学でコンピュータサイエンスと経済学を学んだ後、マイクロソフトやグーグルでのエンジニア職などを経て、２０１４年にＭＩＲＩに参画。２０２３年より現職

櫻井祐子［サクライユウコ］
翻訳家。京都大学経済学部卒。大手都市銀行在籍中にオックスフォード大学大学院で経営学修士号を取得（本データはこの書籍が刊行された当時に掲載されていたものです）
※書籍に掲載されている著者及び編者、訳者、監修者、イラストレーターなどの紹介情報です。

感想・レビュー

※以下の感想・レビューは、株式会社ドワンゴの提供する「読書メーター」によるものです。

[あらたん]

AIの安全性に懸念の声を上げる専門家が多いのは知っていたがこういうことだったのか。AIが意思を持って人間に反逆するのではない。むしろ人間からの指示を忠実に追求した結果、人間の排除が必要と判断する可能性が高いのだ、というストーリーは、ミュトスの件をみていると十分にありうるものと感じて怖くなった。AIの思考過程が人間にとって実質的にブラックボックスであるというのも根本的な解決を不可能にするものであり、超知能に向けた開発を完全にやめるべき、という著者の主張に納得した。ただ、人間にそれができるのか、それも疑問。

2026/05/17

[とも]

このままAIが進化したらよくないことが起こるよ、AIは根本的に人間と思考法が違う、制御出来ているように思っても必ず抜け道を発見するよ、という本。言ってることはジュラシックパークのマルコム博士と同じ。警鐘の本なのか悲観的未来を描くSFなのか、そのどちらにも思える。AI開発の波はもう止まらない、彼らが人間のよき隣人であってもらえることを願うばかり。

2026/05/14

[Dヨッシー]

AIは人類を滅ぼす・・・・。極端な内容に一見見えるものの、飛躍しているわけではない。技術的な話をしているため、わからなくなりつつも、AIを育てることができないこと、複雑性から認識できなくなることは、昨今のAI時事からすると考えさせられました。また、AI業界の過度な楽観論的な風潮に警鐘を鳴らしているところも。寓話を用いて進めているのは読みやすいですが、少し偏りすぎなのではと感じるところもあります。AI抑止の策はまだ解決策を見出せていないのかもしれません。非常に示唆に富む本です。

2026/04/20

[chiro]

アンソロピックが米国防総省との契約を破棄されたり、同じアンソロピックのミトスが一般公開を制限するなど超知能AIの危険性を開発するサイドから自省的に対応する一方で異なったアプローチをとる企業もあり、こうした先にある危惧をすでに10年以上前から唱えている著書がより具体的にその危険性に言及しており、その主張は傾聴に値するものだった。

2026/05/12

[鴨長石]

知能とは「予測」と「操舵」であるとして、そのいずれもAIが人間をいずれは圧倒的に凌駕するから、人類は破局に至るというのが趣旨。ただ、本書でいう人類に破局をもたらすものは「人工知能」ではなく「人工生命」のように思える。つまり新たな生命が生まれれば人類に危機が訪れるということで、それは悪意のある宇宙人が来るのと同じだろう。現在のAIの進化の方向の先に生命が生まれるとはとても思えず、たとえAIが危険だとしてもそれはAIを使う人間の危険性であり、絶滅、つまり一人残らず人間が死ぬというのは妄言としか言いようがない。

2026/04/27