出版社内容情報
高リスクな分野での安全なAI運用を実現する！
本書は、機械学習が雇用、融資、保釈、セキュリティなどといった高リスクな意思決定の分野において活用されるなか、説明責任・公平性・プライバシーなどの課題にどう取り組むかを明らかにします。アルゴリズムによる差別やデータ漏洩といった実例を踏まえつつ、機械学習の失敗を未然に防ぐための実践的フレームワークを提示します。Pythonの実装例も充実しており、責任あるAIの構築を目指す読者に不可欠な1冊です。
【目次】
内容説明
本書は、機械学習モデルがもたらす重大なリスクを軽減し、責任あるＡＩ運用を実現するための実践ガイドです。特に「高リスク」な意思決定が行われる分野、たとえば生体認証による識別、重要インフラの管理、教育、雇用、公共および民間の必須サービス、法執行、移民および国境管理、刑事司法、そして民主的プロセスなどにおける事例を重視しています。本書は三部構成となっており、第１部では実践的なアプリケーションの観点から主要な問題を論じ、第２部で構造化および非構造化データの観点からトピックをさらに深掘りし、実装上の課題や分析手法を具体的に検討します。第３部では現実世界の高リスクな事例をもとに、成功のための実践的な助言を提示します。説明可能性、安全性、バイアス、プライバシーなどの課題に対し、Ｐｙｔｈｏｎベースの実践的ツールを活用した具体的対策を提供し、実務者が主体的にリスクを管理できる指針を提供します。
目次
第１部 ＡＩリスクマネジメントの理論と実践的応用（現代の機械学習におけるリスク管理；解釈可能性と説明可能性；機械学習システムの安全性と性能の検証；機械学習におけるバイアスの管理；機械学習のセキュリティ）
第２部 ＡＩリスクマネジメントの実践（説明可能なブースティング・マシンおよびＸＧＢｏｏｓｔの説明；ＰｙＴｏｒｃｈを用いた画像分類器の説明；ＸＧＢｏｏｓｔモデルの選択とデバッグ；ＰｙＴｏｒｃｈ画像分類器のデバッグ；ＸＧＢｏｏｓｔによるバイアスのテストと修正；ＸＧＢｏｏｓｔのレッドチーム演習）
第３部 結論（高リスクの機械学習で成功する方法）
著者等紹介
ホール，パトリック［ホール，パトリック］ ［Ｈａｌｌ，Ｐａｔｒｉｃｋ］
ＢＮＨ．ＡＩの主任科学者であり、フォーチュン５００企業および最先端のスタートアップ企業に対してＡＩリスクに関する助言を行っている。また、ＮＩＳＴのＡＩリスクマネジメント・フレームワーク（ＡＩ ＲＭＦ）を支援する研究にも従事している。さらに、ジョージ・ワシントン大学ビジネススクール意思決定科学学部の客員教員として、データ倫理、ビジネス分析、機械学習の授業を担当している。ＢＮＨ．ＡＩを共同創設する以前は、Ｈ２Ｏ．ａｉにおいて責任あるＡＩの取り組みを主導し、機械学習における説明可能性およびバイアス軽減を目的とした、世界初の商用アプリケーションの１つを開発した。また、ＳＡＳ Ｉｎｓｔｉｔｕｔｅにおいては、グローバルな顧客対応および研究開発の職務を歴任した。学歴としては、イリノイ大学にて計算化学を学び、ノースカロライナ州立大学のＩｎｓｔｉｔｕｔｅ ｆｏｒ Ａｄｖａｎｃｅｄ Ａｎａｌｙｔｉｃｓを修了している
カーティス，ジェームズ［カーティス，ジェームズ］ ［Ｃｕｒｔｉｓ，Ｊａｍｅｓ］
Ｓｏｌｅａ Ｅｎｅｒｇｙにおける定量的研究者であり、統計的予測を活用して米国の電力網の脱炭素化を推進することに注力している。以前は、金融サービス機関、保険会社、規制当局、医療提供者に対するコンサルタントとして、より公平なＡＩ・機械学習モデルの構築支援に従事していた。コロラド鉱山学校（Ｃｏｌｏｒａｄｏ Ｓｃｈｏｏｌ ｏｆ Ｍｉｎｅｓ）にて数学の修士号を取得している
パンディ，パルル［パンディ，パルル］ ［Ｐａｎｄｅｙ，Ｐａｒｕｌ］
電気工学のバックグラウンドを持ち、現在はＨ２Ｏ．ａｉの主任データサイエンティストとして勤務している。それ以前は、Ｗｅｉｇｈｔｓ ＆ Ｂｉａｓｅｓ社において機械学習エンジニアとして従事していた。Ｋａｇｇｌｅのノートブック部門ではグランドマスターの称号を持ち、２０１９年にはＬｉｎｋｅｄＩｎにおいてソフトウェア開発分野のトップボイスの１人に選出された。また、データサイエンスおよびソフトウェア開発に関する記事を多数執筆しており、責任あるＡＩに関連するテーマで、指導、講演、ワークショップ講師としても幅広く活動している
高江洲勲［タカエスイサオ］
三井物産セキュアディレクション株式会社。シニアプロフェッショナル。情報処理安全確保支援士。ＣＩＳＳＰ。ＡＩセキュリティに着目し、機械学習アルゴリズムの脆弱性に関する研究や、機械学習を用いたセキュリティタスク自動化の研究を行っている。研究成果は、世界的に著名なハッカーカンファレンスであるＢｌａｃｋ Ｈａｔ Ａｒｓｅｎａｌ（ＡＳＩＡ、ＵＳＡ、ＥＵＲＯ）やＤＥＦＣＯＮ Ｄｅｍｏ Ｌａｂｓ／ＡＩ Ｖｉｌｌａｇｅ、ＣＯＤＥ ＢＬＵＥ、ＢＳｉｄｅｓ（Ｔｏｋｙｏ、Ｓｉｎｇａｐｏｒｅ）、ＡＶＴＯＫＹＯなどで発表している。近年はセキュリティ・キャンプ（２０１９年より講師、また２０２２年からは講師兼プロデューサーとして参画）に携わるなど、教育にも力を入れている
伊東道明［イトウミチアキ］
株式会社ＣｈｉｌｌＳｔａｃｋ代表取締役ＣＥＯ。長年ＡＩ×セキュリティ領域の研究に従事し、国際学会ＩＥＥＥ ＣＳＰＡ２０１８にて最優秀論文賞、ＩＰＡセキュリティキャンプ・アワード２０１８最優秀賞を受賞している。自身が国際セキュリティコンテストでの優勝経験をもち、セキュリティ・キャンプにて講師として人材育成にも携わっている。さまざまな研究開発の経験を経て２０１８年にＣｈｉｌｌＳｔａｃｋを創業。Ｆｏｒｂｅｓ ３０ Ｕ３０ Ａｓｉａ ２０２５ ＡＩ部門に選出
園田道夫［ソノダミチオ］
情報通信研究機構など所属。サイバーセキュリティの人材育成に長年携わるが、育成されている側だという説もある。得意技はイベントからの育成事業企画。近年もう１つの得意技であるパターン認識と言語化を武器としてさまざまなセキュリティに関わる事象、人材育成に関わる事象の数理モデル化の研究を行っている
北條孝佳［ホウジョウタカヨシ］
西村あさひ法律事務所・外国法共同事業パートナー弁護士。元警察庁技官としての技術的バックグラウンドを持ち、弁護士として法務を含めた企業などのサイバーセキュリティ全般を取扱い、多数の事案に対応している。国立研究開発法人情報通信研究機構・招へい専門員、埼玉県警察・サーバー犯罪対策技術顧問、徳島県警察・サイバー犯罪対策テクニカルアドバイザー、ＮＰＯデジタル・フォレンジック研究会・理事など多数の委員等を務める
石川太一［イシカワタイチ］
新卒で総合商社に入社し、情報システム部門に配属。ＩＴセキュリティ担当者としてＤＸ案件のセキュリティ支援態勢構築を主導。その一環として、グローバル・グループにおける生成ＡＩガイドラインの作成の展開や、ＡＩ×セキュリティ領域のＲ＆Ｄに取り組む。商社入社的は、米国カーネギーメロン大学大学院でＩＴセキュリティを専攻し、ＡＩアルゴリズムの応用研究に従事（本データはこの書籍が刊行された当時に掲載されていたものです）
※書籍に掲載されている著者及び編者、訳者、監修者、イラストレーターなどの紹介情報です。
