システム・エラー社会 「最適化」至上主義の罠

著者名：ロブ・ライヒ/メラン・サハミ

ＮＨＫ出版（2022/12発売）

• ISBN：9784140819272

内容説明

巨大テック企業のイノベーションが民主主義を壊す！　スタンフォード大学からの警鐘

巨大テック企業やIT技術者を動かす根本原理である「最適化」は、イノベーションを支える思想である。しかし、「最適化」そのものが目的となるとき、それは公平・プライバシー・個人の幸福の追求といった価値を破壊することになる――。コンピュータサイエンスのイノベーションを象徴する地・シリコンバレーに多数の人材を送り出すスタンフォード大学は、卒業生や先端IT技術者に見られる過度の技術偏重に危機感を抱き、コンピュータ工学における倫理教育プログラムを刷新した。その動きを主導するの三人の教授による、人類の繁栄と個人の幸福を両立させる方法を模索する一冊！

第１部「テクノロジスト」の解読
　第1章 不完全なマインドセット「最適化」
　第2章ハッカーとVCの結託は問題含み
　第3章 破壊的イノベーションvs.民主主義

第２部「テクノロジー」の分析
　第4章 アルゴリズムの意思決定は公正か
　第5章 プライバシーに価値はあるか
　第6章 スマートマシンの世界で人類は繁栄できるか
　第7章 インターネットに言論の自由はあるか

第３部　未来を再コーディングする
　第8章 民主主義は難局を乗り切れるか

感想・レビュー

※以下の感想・レビューは、株式会社ブックウォーカーの提供する「読書メーター」によるものです。

[まゆまゆ]

インターネットを始めとするテクノロジーが万能の解決策になった、というユートピア的な見解を持つ人が増えている。テクノロジーを最適化しようとするためには倫理的な問題をクリアしなければならず、個人、職業、社会政治とそれぞれの観点から為すべきことを語っていく内容。力を持ちすぎたGAFAの今後の行く末が世界に大きな影響を与えるのは目に見えている。良い方向に進むためには一人ひとりの倫理的な認識に委ねなれる、と。

2023/03/30

[maghrib]

ビッグテックのテクノロジーがもたらすプライバシー侵害、不公平性、社会分断等の課題を議論する。テクノロジストによる、特定指標（特にビッグテックの営利追求）の最適化を追求する姿勢を批判的に論じている。スタンフォード大の講義がベースなので技術者倫理教育の観点もあるが、より制度的な提言に踏み込む。ソフトウェアによる行動規範強化の危険性を述べたレッシグの「CODE」の事例アップデート版とも言える。事例は豊富だが視点がちょっと多岐に渡りすぎかも。

2024/04/06

[Ujiro21]

本屋でタイトルが目につき読む。言論自由とプライバシーの価値が時代で変化した事、民主主義崩壊、大衆迎合の話を目にする機会が多くなった背景が、GAFAらを作り上げたテクノロジストと個人情報をトレードオフし享受しているユーザであることを改めて認識。全体的に大学一般教養的で、タイトル程の奇を狙った内容ではなく眠くなるが、現代の置かれている状況に説明がついた気になり読了後の満たされた感覚がとても心地いい。米国にてエンジニアへ倫理観を持たせる為の資格試験の目論みが、初頭から頓挫していることに、日本社会との差を感じた

2023/03/10

[Yuki2018]

スタンフォードの教授３人の共著、かつそれが哲学者・エンジニア・政治学者で、テーマが「破壊的イノベーションvs民主主義」ということで、いかにも面白そうだと思い手に取ったのだが、正直かなりの駄作。「テクノロジーを支配する権限を市民の手に取り戻すべきだ」と言いたいのだと思うが、兎に角長くて苦痛かつ誰にでも言えそうなことを言っているだけ。JSミルの時代から１ミリも進んでいない議論だ。スタンフォードの教授と言ってもピンキリだと良く分かる。

2023/07/29

[iwtn_]

ITの発展とビッグテックがもたらした問題とその処方箋。ただし、米国中心の話題だし、提案内容は効くのに時間がかかりそう。タイトルに「最適化」とあるが、民主主義は最善を求めるよりも最悪を回避するほうが上手く、それを実践するためにはテクノロジストへの倫理教育や慎重に規制を設定するのが良い、みたいな話。アンチ技術というよりはバランスをとっていく方向性でそこは同意。資本と技術との結びつきで、更にロビー活動で政治にまで影響させてしまうのは、かつての産業でもあったが、ITはメディアそのものになれるので懸念は大きそう。

2023/01/08