出版社内容情報
我々はネットワークを通じて日々情報にアクセスして生活している。その中では、情報の信頼性が大きな意味を持つ。いわゆるディープフェイクの存在は、その根幹を揺らがせる大きな問題だ。
現代における「信頼できる情報」とは何か。多くの人にとっての「信頼できる情報」は、視覚や聴覚といった感覚的な要素に大きく依存している。だからこそ、視覚的・聴覚的に本物らしい偽物を生成できるディープフェイクは、単純なフェイクニュースよりも強い破壊力を持つ。これは、文字だけの情報に対する懐疑心とは異なり、映像や音声に対して人が無意識に「信じやすい」という認知心理にも関係している。
同時にディープフェイクの問題は、ネットにおける我々のアイデンティティや尊厳に関わる課題も拡大している。
SNSや動画投稿サイトを通じて、誰もが日常を公開し、なにかに対する意見を述べている。ディープフェイクは、そうした公開された「顔」「声」「言葉」を悪用し、他者になりすます手段を与えてしまうことになる。単に「騙す」だけでなく、「自分が勝手に使われる」「人格を奪われる」という現象が、誰にでも降りかかる可能性を否定できない時代になったのだ。
本書では、ディープフェイクの脅威、生成技術と対策、拡散と課題について詳述。ディープフェイクと人が共棲する未来について考察する。特別寄稿「ディープフェイクの規制」も収録。
【目次】
第一章 ディープフェイクが社会をゆらす
有名人の顔や声が詐欺の入り口に／ディープフェイクの「数」が世界を覆う／政治介入や世論誘導にも広がる／特定の人になりすます。高度化するフェイク攻撃／拡散・カジュアル化するフェイクポルノ／時代を先駆けた「メディアクローン」研究
第二章 「メディアクローン」研究プロジェクト
「本物に近いが、本物ではないもの」が及ぼす影響／生体という「鍵」を守る技術／「メディアクローン」という概念／「オレオレ詐欺」に着目／メディアクローンがもたらす「将来への影響」／研究プロジェクトの視点とは／「情報拡散のあり方」を踏まえた研究に
第三章 ディープフェイク生成の技術と対策
生体認証への攻撃と対策／ハードとソフトでPADへの対策が進む／生体認証の具体例／機械学習の進化がディープフェイクを生み出す／画像生成を一般化した「拡散モデル」とは／画像認識に必須な「CNN」とは／顔はどのように「フェイク」されるのか／ディープフェイク生成が抱える技術的課題／ディープフェイクを見破る技術／改ざんをどう特定するのか／「無毒化」にはまだ課題も山積
第四章 ディープフェイクの拡散と課題、そして「プラスの用途」とは
フェイクニュースはどう拡散するのか／エコーチェンバーとフィルターバブル／偽情報が持つ拡散力の源泉と学際的アプローチの必要性／CREST FakeMediaとインフォデミックの定量的分析／コロナ禍での「インフォデミック」／ワクチン運動とボットによる情報操作／警告は拡散防止に役立つのか／「XFinch」実験で見えるもの／「だまされる科学」の実践／技術的な課題：いたちごっこと汎化性能の限界／人間の行動と信頼できる情報源の確保／情報の真正性と「来歴記録」／来歴記録の限界と正しい認識／ディープフェイクを「プラス」に使うには／「失われた声」の再生とアクセシビリティ／プライバシー保護の強化とバイアス軽減
第五章 ディープフェイクと人が共棲する未来
現状は「悲観的状況」にあふれているが……／AIは信頼を設計する存在に／人の姿が「時をかけるメディア」に／
特別寄稿 ディープフェイクの規制
ディープフェイクの問題／規制の考え方／欧州の取り組み／欧州域外の取り組み／おわりに
