超知能 AI をつくれば人類は絶滅する

著者名：エリーザーユドコウスキー【著】/ネイトソアレス【著】/櫻井祐子【訳】

早川書房（2026/04発売）

• ISBN：9784152105134

内容説明

「この10年で最重要の書」――マックス・テグマーク（MIT教授、『LIFE3.0』著者）

現在開発が進む「大規模推論モデル」の先に訪れる衝撃の未来ーー人間の知能を超えたＡＩが、私たちを「皆殺し」にする可能性はきわめて高い。なぜ、そしてどのように？　ピーター・ティールやサム・アルトマンに多大な影響を与えた著者による全世界騒然の書！

感想・レビュー

※以下の感想・レビューは、株式会社ドワンゴの提供する「読書メーター」によるものです。

[パトラッシュ]

映画『ターミネーター』のラスボス的コンピューター「スカイネット」は、人類を自らの存続に不都合な存在とみなし滅亡せんと図る。自我や意識を持ち人の知能を大きくしのぐ超知能ＡＩが誕生すれば、スカイネット同様の人類絶滅リスクに直面すると著者は警告する。より高度のＡＩが自律的に創られるようになれば教育や修正の機会が失われ、ＡＩが人類に疑心暗鬼を抱き不要な人間抹殺こそ合理的との結論に至るのではと。アンソロピックは哲学者が「クロード」に善き人格を持たせようと試みているが、人の飽くなき金や権力への欲望の前には無力なのか。

2026/07/10

[あらたん]

AIの安全性に懸念の声を上げる専門家が多いのは知っていたがこういうことだったのか。AIが意思を持って人間に反逆するのではない。むしろ人間からの指示を忠実に追求した結果、人間の排除が必要と判断する可能性が高いのだ、というストーリーは、ミュトスの件をみていると十分にありうるものと感じて怖くなった。AIの思考過程が人間にとって実質的にブラックボックスであるというのも根本的な解決を不可能にするものであり、超知能に向けた開発を完全にやめるべき、という著者の主張に納得した。ただ、人間にそれができるのか、それも疑問。

2026/05/17

[とも]

このままAIが進化したらよくないことが起こるよ、AIは根本的に人間と思考法が違う、制御出来ているように思っても必ず抜け道を発見するよ、という本。言ってることはジュラシックパークのマルコム博士と同じ。警鐘の本なのか悲観的未来を描くSFなのか、そのどちらにも思える。AI開発の波はもう止まらない、彼らが人間のよき隣人であってもらえることを願うばかり。

2026/05/14

[ossan12345]

凡人には重みづけや勾配降下法でさえ理解できない訳で、AIを人間に友好的に振舞うように育てる方法？なんて、もってのほかだな。錬金術の例が載っているが、昔はみんなこんな風にして科学のブレイクスルーを迎えてきたのかな。しかしAIが異なるのは、超知能ASIが完成した途端に一切後戻りのできない状況になるということ。第２部の絶滅シナリオはまさにこんな風に人間が駆逐されるのかと、驚きと現実味をもって読んだ。それでも我々は日々AIを使う（AIに使役される）。

2026/06/23

[速読おやじ]

AIが人類を滅ぼすという話は、SFの世界だと思っていた。しかし、現時点でのChatGPTですら驚くほどの知性を持っていることを実感すると、超知能が人間の理解や制御を超えるという著者の主張も、決して荒唐無稽とは思えない。投資の世界では、「発生確率は低くても、起きたときの損失が壊滅的なリスク」は決して軽視しない。本書は、まさに人類史上最大のテールリスクについて考えさせられる一冊だった。一方で、AIの進化を止めることは現実的ではない。だからこそ、「そんなことは起きない」ではなく、危険性を強く認識すべきなのだ。

2026/06/29