超知能ＡＩをつくれば人類は絶滅する

ユドコウスキー，エリーザー〈Ｙｕｄｋｏｗｓｋｙ，Ｅｌｉｅｚｅｒ〉/ソアレス，ネイト【著】〈Ｓｏａｒｅｓ，Ｎａｔｅ〉/櫻井 祐子【訳】

早川書房（2026/04発売）

• サイズ 46判／ページ数 288p／高さ 20cm
• 商品コード 9784152105134
• NDC分類 007.1
• Cコード C0040

出版社内容情報

現在開発が進む「大規模推論モデル」の先に訪れる衝撃の未来ーー人間の知能を超えたＡＩが、私たちを「皆殺し」にする可能性はきわめて高い。なぜ、そしてどのように？　ピーター・ティールやサム・アルトマンに多大な影響を与えた著者による全世界騒然の書！


【目次】

内容説明

どこの企業や国家によってであれ、ヒトの知能を凌駕する「超知能ＡＩ」がつくられたら、地球上のすべての人間が必ず死ぬ。ＬＬＭ（大規模言語モデル）がより高度な「大規模推論モデル」へと進化しつつあるいま、その時は確実に近づいている―。本書が提示するシナリオでは、数学の未解決問題を解くために開発されたＡＩ「セイブル」がウイルスをばら撒き、全人類の１０％を死滅させる。そして残りの９０％も一瞬で…。一体なぜ？最悪の結末を回避するために、私たちにできることとは？ＡＩ技術を核兵器などと同様の「人類絶滅リスク」として取り扱うべきという議論が近年なされるが、著者のエリーザー・ユドコウスキーはその源流にして極北に位置する。ピーター・ティールが多額を出資し、またサム・アルトマンにＯｐｅｎＡＩ創業の示唆を与えるも、いまや彼らと反目にいたった天才が圧倒的な練度で放つ、現代の黙示録。

目次

序章　困難な予測と容易な予測
第１部　非人間的な知性（人間の特殊能力；つくられるのではなく育てられる；欲することを学ぶ；訓練したとおりの結果は得られない；ＡＩのお気に入り；人類は敗北する）
第２部　ある絶滅シナリオ（危険な認識；拡張；登頂；結末）
第３部　困難に立ち向かう（呪われた問題；科学ではなく錬金術；「不安を煽りたくはない」；停止せよ；生きている限り希望はある）

著者等紹介

ユドコウスキー，エリーザー［ユドコウスキー，エリーザー］ ［Ｙｕｄｋｏｗｓｋｙ，Ｅｌｉｅｚｅｒ］
１９７９年生まれ。機械知能研究所（ＭＩＲＩ）の創設者。人工知能を人間の意図や価値観に整合させる「ＡＩアライメント」研究の草分け的存在であり、「フレンドリーＡＩ」概念の提唱などで知られる。高校や大学に通わず独力で学び、２０００年、ＭＩＲＩの前身となる「ＡＩのためのシンギュラリティ研究所」を創設（２０１３年に改称）。当初は人間の知能を超えるＡＩの実現を目指すが、まもなくそのリスクの重大さを認識するようになる。２００６年から２０１２年にかけてピーター・ティール、レイ・カーツワイルとともに「シンギュラリティサミット」を主催。人間の合理性やＡＩの安全性を主要なトピックとするオンラインフォーラムＬｅｓｓ　Ｗｒｏｎｇを２００９年に設立。２０１０年から２０１５年にかけて発表した「ハリー・ポッターと合理主義の方法」は異色のファン・フィクションとして絶大な人気を誇る。２０２３年、タイム誌「ＡＩ分野で最も影響力のある１００人」に選出

ソアレス，ネイト［ソアレス，ネイト］ ［Ｓｏａｒｅｓ，Ｎａｔｅ］
１９８９年生まれ。ＭＩＲＩ所長。ジョージワシントン大学でコンピュータサイエンスと経済学を学んだ後、マイクロソフトやグーグルでのエンジニア職などを経て、２０１４年にＭＩＲＩに参画。２０２３年より現職

櫻井祐子［サクライユウコ］
翻訳家。京都大学経済学部卒。大手都市銀行在籍中にオックスフォード大学大学院で経営学修士号を取得（本データはこの書籍が刊行された当時に掲載されていたものです）
※書籍に掲載されている著者及び編者、訳者、監修者、イラストレーターなどの紹介情報です。

感想・レビュー

※以下の感想・レビューは、株式会社ドワンゴの提供する「読書メーター」によるものです。

[パトラッシュ]

映画『ターミネーター』のラスボス的コンピューター「スカイネット」は、人類を自らの存続に不都合な存在とみなし滅亡せんと図る。自我や意識を持ち人の知能を大きくしのぐ超知能ＡＩが誕生すれば、スカイネット同様の人類絶滅リスクに直面すると著者は警告する。より高度のＡＩが自律的に創られるようになれば教育や修正の機会が失われ、ＡＩが人類に疑心暗鬼を抱き不要な人間抹殺こそ合理的との結論に至るのではと。アンソロピックは哲学者が「クロード」に善き人格を持たせようと試みているが、人の飽くなき金や権力への欲望の前には無力なのか。

2026/07/10

[あらたん]

AIの安全性に懸念の声を上げる専門家が多いのは知っていたがこういうことだったのか。AIが意思を持って人間に反逆するのではない。むしろ人間からの指示を忠実に追求した結果、人間の排除が必要と判断する可能性が高いのだ、というストーリーは、ミュトスの件をみていると十分にありうるものと感じて怖くなった。AIの思考過程が人間にとって実質的にブラックボックスであるというのも根本的な解決を不可能にするものであり、超知能に向けた開発を完全にやめるべき、という著者の主張に納得した。ただ、人間にそれができるのか、それも疑問。

2026/05/17

[和尚]

面白く、現実的で、そして怖さのある一冊。
エンジニアはＡＩをつくることには失敗したが、最終的にＡＩを育てることに成功したのだ。という作中の言葉には心から頷きつつ、いつかはわからないけれど、想像したものは起こりうる、想像を超えてという話にも本当にと同意し、途中の「物語」も興味深く面白かった。
そして、タイトルにも行きたく可能性を思う。早さを感じている上で、どんな側面からでも止まるとは思えない進化の先にこういう未来に行きつかないことを祈る。

2026/10/10

[りんご]

ターミネーターを見た時（いつかロボットに殺されるのかな）と怯えたのですが、ある時何かで「人工知能は他者を排除しようという人間的な欲は持たない。だから攻撃してこない」みたいな説を見ました。じゃあ大丈夫か。それから何年も経ちこの本。やっぱり人は絶滅だな。何故か。人が愚かすぎるから、存在させても意義は少なく、デメリットの方が多そうだから。いつその日が訪れるのか。それまで私は善良でありたい。

2026/08/15

[ta_chanko]

ひとたび人知を超える超AIが開発されたら、人類は初めて自身の知能をはるかに超える存在と向き合うことになる。超AIの思考法はブラックボックス。人間には知る由もない。AIに意思はなくても、目的を達成するために(非合法的・非倫理的な手段含む)あらゆる手段を試行しながら最適解を導き出す。その結果として人類が滅亡に追いやられる可能性は、きわめて高い。超AIの開発や実装に対していかに慎重に抑制的に取り組んでいくかが大事だが、きわめて困難な課題と言わざるをえない。そういうものを、今、人類は生み出そうとしている。

2026/07/25