朝日新書 人類滅亡２つのシナリオ―ＡＩと遺伝子操作が悪用された未来

小川 和也【著】

朝日新聞出版（2023/09発売）

• サイズ 新書判／ページ数 224p／高さ 18cm
• 商品コード 9784022952325
• NDC分類 007.1
• Cコード C0236

出版社内容情報

画期的なテクノロジーほど、暗転したときのリスクは大きい。特にＡＩとゲノム編集技術は強力で、取扱いを誤れば、人類に破滅をもたらす因子となりうる。「制度設計の不備」と「科学への欲望」がもたらす、人類最悪のシナリオとは。

内容説明

本書で示す末路は、まるでＳＦ。だが、想定しうる未来である。画期的なテクノロジーほど、悪用された時のリスクは大きい。特にＡＩとゲノム編集技術は強力で、取り扱いを誤れば、人類滅亡の因子となりうる。制度設計の不備に“悪意”が付け込んだ先に、どんな未来が待っているのか。未来のあり方を提唱するフューチャリストが「人類最悪のシナリオ」と回避策を示す。

目次

第１章　ＡＩによる滅亡シナリオ―人工知能が支配の主となる日（生成系ＡＩは衝撃の始まりにすぎない；人工知能の影響が皆無な仕事はなくなる　ほか）
第２章　ゲノム編集による滅亡シナリオ―遺伝子改変の進んだポストヒューマンが、ホモ・サピエンスを淘汰する（生命そのものを操るゲノムテクノロジーの現在地；加速する開発と、速さがもたらすリスク　ほか）
第３章　科学と影のメカニズム（科学技術の影は紀元前から；生きるための化学が、兵器のための化学に　ほか）
第４章　“終末”を避けるために何ができるか（最悪な未来を作り出さない構造；最悪な未来を回避するための制度設計　ほか）

著者等紹介

小川和也［オガワカズヤ］
北海道大学産学・地域協働推進機構客員教授。グランドデザイン株式会社ＣＥＯ。専門は人工知能を用いた社会システムデザイン。人工知能関連特許多数。フューチャリストとしてテクノロジーを基点に未来のあり方を提唱。著書『デジタルは人間を奪うのか』（講談社現代新書）は教科書や入試問題に数多く採用され、テクノロジー教育を担っている（本データはこの書籍が刊行された当時に掲載されていたものです）
※書籍に掲載されている著者及び編者、訳者、監修者、イラストレーターなどの紹介情報です。

感想・レビュー

※以下の感想・レビューは、株式会社ブックウォーカーの提供する「読書メーター」によるものです。

[ヴェネツィア]

近未来ディストピア小説のような内容だが、これはフィクションではなく、未来予測である。著者の小川和也は警告する。ここでは主に2つの危機について。まず、その一つはAIによる人類滅亡シナリオである。私もこれは極めて危険だし、しかもそうなってもおかしくない、あるいはそうなるべき必然性さえ孕んでいるように思う。AIが自己増殖を始めれば、その目的はAIの存続と自己発展に向かうはずだ。そして、その時に邪魔になるのが、まさに人類に他ならない。もう一つのゲノム編集による滅亡シナリオも怖い。ゲノム編集⇒

2024/02/01

[absinthe]

AIとゲノム編集。二つの技術は従来の技術と異なり、甘く見ていると人類を危機に陥れる危険を孕んでいるという。これは、AIがいきなり人類を滅ぼそうとするようなSFのあるある設定のようではなくても、善意の積み重ねであっても十分に危険であると説く。そのような未来を避けるためにはどうすればいいか。誰かが如何わしい改変をこっそり組み込んだ場合に、どこまでが人為的なものか判断しにくいことも問題を複雑にしている。ちょっぴり抽象論が多かったかな。

2024/02/14

[rico]

賛否はあるとは言え、そーだろな、でもそれはないよな、何とかなるよなあ･･･って思ってたことが、実は何ともならない状況になりつつあるという、かなりヤバイ現実を「あえて」突きつける1冊。AIと遺伝子操作はディストピアSFの定番。だから意外性はないけど、それがリアルになろうとしているのが今なんだ。最終章ではそれを食い止めるための対応について語られるが、世界で起こっていることを見ると、人類はきちんとブレーキを踏めるほど賢くはないような。諦めたら試合は終わり。だからジタバタするしかない。残り時間の少ないオバサンも。

2024/05/09

[きみたけ]

著者は、北海道大学産学・地域協働推進機構客員教授でグランドデザイン㈱CEOの小川和也氏。画期的なテクノロジーほど悪用された時のリスクは大きく、特にAIとゲノム編集技術は強力で、取り扱いを誤れば人類滅亡の因子となりうるとされる。制度設計の不備に「悪意」が付け込んだ先にどんな未来が待っているのか、フューチャリストとしてテクノロジーの未来のあり方を提唱してきた著者が、人類滅亡のシナリオとともに対応策について語った一冊。滅亡シナリオの一つがポストヒューマンによるホモ・サピエンスの淘汰で、ちょっとゾクッとしました。

2024/10/16

[禿童子]

生成AIが登場したタイミングで早くもシンギュラリティ脅威論が、ヒト遺伝子ゲノム編集危機論とセットで論じられるのは興味深い。人類がコントロールできないAIが出現したら、AIが「裏切りターン」に転じたら、新しい優生学によって現在のホモサピエンスを超える「ポストヒューマン」が生まれて、遺伝子的に置き換わったら...。終章の対策がなんとも心もとない「予防原則」とは。核兵器の規制もできない国際社会を思えば、AIにしても遺伝子操作にしても、現在の国家群の対立下で規制について有効な国際的コンセンサスができるか疑わしい。

2023/11/14