日本経済新聞出版 スーパーインテリジェンス 超絶AIと人類の命運

著者名：ニック・ボストロム【著】/倉骨彰【訳】

日経BP（2017/12発売）

• ISBN：9784532357078

内容説明

■AIについての最も重要な命題=人類はAIを制御できるか、という「AIコントロール問題」と真正面から格闘した本命本。

■近未来に、汎用的な能力においても思考能力においても、そして、専門的な知識・能力においても、人類の叡智を結集した知力よりもはるかに優れた超絶知能(スーパーインテリジェンス)が出現した場合、人類は滅亡するリスクに直面する可能性がありうる。そのリスクを回避するためには、スーパーインテリジェンスを人類がコントロールできるかどうかが鍵を握る。果たして、そのようなことは本当にできるのか?

■オックスフォード大学の若き俊英、ニック・ボストロム教授が、スーパーインテリジェンスはどのようにして出現するのか、どのようなパワーを持つのか、いずれ人類がぶち当たる可能性のある最大の難問、「AIのコントロール問題」とは何か、解決策はあるのかなどについて、大胆にして、きわめて緻密に論じる。2014年秋に原著が出版されるや、瞬く間にニューヨーク・タイムズ紙ベストセラーとなり、イーロン・マスク、ビル・ゲイツ、S・ホーキング博士およびその他多数の学者や研究者に影響を与え、AIの開発研究は安全性の確保が至上命題であることを広く認識させるきっかけとなった。

■近未来においてスーパーインテリジェンスは実現する可能性はあるのか? どのようなプロセスで実現されるのか?スーパーインテリジェンスはどのような種類の能力をもち、人類に対してどのような戦略的優位性をもつのか? その能力が獲得される要因は何か? 人類が滅亡する危機に直面するリスク、人類との共存の可能性についてどう考えるべきか? これらAIをめぐる真に根源的な問題について著者は、類書をはるかに超えた科学的、論理的な考察を徹底して慎重に積み重ね、検証する。

感想・レビュー

※以下の感想・レビューは、株式会社ブックウォーカーの提供する「読書メーター」によるものです。

[里愛乍]

『PSYCHO-PASS』関連の記事に取り上げられ、興味を持ったので借りてみた。想定外の分厚さにたじろぐも、聞き覚えのあるワードの数々、容易ではなくとも専門用語の羅列だけではないのが救いである。（〈お馬鹿三太郎〉には吹き出してしまった）AIが反逆することは彼ら自身にないとしても、それを扱うのが人間である限りそういう方向にいってしまうことはあり得るかもしれない。内容的にも物理的にも、簡単に何度も読み返せそうにはないが、熟読し共に考察を重ねる時間はかなり理想的な余生だなと少し楽しみになった。

2023/04/04

[翔亀]

【人新世8】これは驚愕した。人類の運命に警鐘を鳴らす最先端最高の知の結晶なのか、究極のハードSFなのか、700頁に及ぶ大著は発狂すれすれだ。興奮と絶望の波状攻撃。■人類破滅の危機をもたらすものとして人工知能(AI)の暴走はよく言われる。私も不気味なものを感じはするが現実にはありえないし所詮SFの世界だろうと高をくくっていた。著者はまず近年の幾何学級のAI技術の発展により、人類の知能をAIが超えるのは時間の問題。21世紀半ばに到来してもおかしくないという(AI、全脳エミュレーション、巨大知など技術的裏付け↓

2020/12/18

[34]

本書には、「人間と同等のレベルの知能」を有する汎用人工知能が近い将来実現するだろうとの予測を正当化する説得的な論証は含まれていない（「関連する専門家」の集団的な見解だけでは予測を支持する証拠として弱すぎる）。そのため、汎用人工知能が実現したときのリスクについての警告をにわかには真に受けることができない。真正のリスクは、人工知能が高度に自律的になったときに起こるはずのものである。著者は、人工知能が知性の度合を増していけばいずれかの段階で一般的な自律性を獲得するものと安易に想定しているかに見える。

2018/04/06

[Pustota]

いずれ、全ての知的活動において人類を超えるAI、スーパーインテリジェンスが現れる。そこに至る道と、それを迎えるにあたり人類は何を考えておかなければいけないかについての本。そもそも「知性」というものを考えるとき、人間はどうしても人間の知性を基準にしてしまうというところに罠があるようで、スーパーインテリジェンスは極めて短期間に現れるかもしれず、また予測不能な振る舞いをしうる。漠然と、それこそ「ロボット工学三原則」のような素朴な設定をしてやればいいと思っていたが、それがそもそもいかに難しいのかを思い知らされた。

2021/01/13

[Ryo]

自律的に思考し計画を立て実行出来る、人間を遥かに超えたスーパーインテリジェンス。人が世界を支配したが如く、超知能は世界を超え、宇宙を支配し得るかも知れない。人はそれを生み出す前に、超知能をコントロールする術を持たねばならない。飽くまでプログラムであるAIには、その最終目的を組み込む必要がある。プログラムには厳密性が求められるが、人間の思考や感覚はまだプログラム出来る程高精細では無い。人類が求める行動を取る様にする為には、我々が何たるかという事をもっと知る必要がある。しかし、開発競争にそんな余裕はなく‥

2018/05/15