内容説明
生成AIの活用は、医療・福祉・介護の現場にも広がり始めています。しかし、「まだ関係ない」「どう使えばよいかわからない」といった理由で、運用指針が曖昧なままになっているケースも少なくありません。本書は、現場で起こりがちな「失敗事例」から、生成AI活用におけるリスクとその対処方法を整理した一冊です。個人情報の取り扱いや著作権といった基礎知識を押さえたうえで、目的外利用や不適切な活用など、実際に起こり得る問題を取り上げ、「なぜ問題になるのか」「どう防ぐのか」を具体的に解説します。
目次
はじめに
生成AIは強力な味方か、トラブルメーカーか?
シャドーAIが最も深刻な情報セキュリティリスク
「何が危険か」の理解が、AI活用の第一歩
支援現場のAI活用の「失敗事例」から学ぶ
こんな方にこそ、読んでほしい!
失敗から学び、正しく活用するために
基礎編
そもそも「生成AI」とは?
生成AIの基本的な仕組み
大規模言語モデルは「それらしい文章」を生成するだけ
医療・介護・福祉現場での生成AI活用例
無料版と有料版の違い
そもそも「個人情報」とは?
個人情報保護法での定義
医療・福祉現場での「要配慮個人情報」
AIと個人情報の関係
AIへの個人情報の入力は「第三者提供」か「委託」か?
越境移転規制
医療分野では「3省2ガイドライン」の準拠も必要
「匿名加工情報」とは何か?
そもそも「著作権」とは?
著作権の基本
医療・福祉現場での著作権の注意点
「引用」のルール
AIと著作権の関係
AIはあくまで「道具」である
倫理的判断をAI任せにする危険性
支援現場での理想的なAIの使い方
事例編
【Case01】メール文作成のためにChatGPTの無料版を利用して、患者の個人情報を入力してしまった
【Case02】面談記録を作成するため、本人にバレないように面談を録音してしまった
【Case03】患者の同意を取得せずに、新しいAIツールを導入してしまった
【Case04】実習で私物のスマホを利用してカルテの写真を撮影し、レポート作成のためにAIを使ってしまった
【Case05】困難事例をChatGPTに相談した回答履歴のURLをSNSに投稿してしまった
【Case06】発達障害のある方がAIに依存しているのを放置して、支援者との信頼関係が崩れてしまった
【Case07】AIが作成した支援記録を鵜呑みにして、薬の名前を間違えて認識してしまった
【Case08】リハビリプログラムをAIに丸投げして作ってしまった
【Case09】医療機関でGoogle Workspaceを導入済なので問題ないと考えGeminiに患者情報を入力してしまった
【Case10】妄想をAIが助長してしまい、交通事故につながってしまった
【Case11】商用利用不可の生成AIで作った画像を、施設のパンフレットに使ってしまった
【Case12】AIに電子カルテのパスワードを入力してしまい、不正アクセスにつながった
【Case13】AIが生成した架空の参考文献を、研究発表にそのまま掲載してしまった
【Case14】カフェのフリーWi-Fiで電子カルテにアクセスし、患者情報が傍受されてしまった
【Case15】AIを使って医学書を要約し、研修資料として職員に配布してしまった
【Case16】利用者情報をUSBメモリに保存し、担当者会議に向かう途中で紛失してしまった
【Case17】新人職員がAIに頼りきりになっているにもかかわらず、適切な指導ができなかった
【Case18】虐待リスク判定AIのスコアを鵜呑みにして、実際の虐待サインを見逃してしまった
【Case19】AI翻訳を使って外国人利用者と意思疎通したが、重大な誤訳に気づかなかった
【Case20】カフェで業務用パソコンを開いていたら、隣の人に画面を覗き見されてしまった
【Case21】AIで「ヒヤリハット報告書」を作成したら、事実と異なる内容が含まれていた
【Case22】利用者の家族がAIで調べた情報をもとに、支援方針に強く反対してきた
【Case23】事例検討会のために利用者の面談録音データを、ファイル転送サービスで外部の支援者に共有してしまった
【Case24】ビデオ通話での画面共有で、利用者の個人情報が映り込んでしまった
【Case25】会社のパソコンを所持した状態で飲み会に行ってしまった
【Case26】本人の同意を得ずに、利用者の写真をAIで「アニメ風に加工」して広報に使用してしまった
【Case27】退職者のITツールの権限削除を忘れており、退職後に情報漏洩事故が発生した
【Case28】虐待防止委員会の録画データを、誤って第三者に共有してしまった
【Case29】AIで生成した食事メニューを提供したら、利用者のアレルギー食材が含まれていた
【Case30】「名前を隠せば匿名」と思い込み、DV被害者の居場所が元夫に特定されてしまった
【Case31】 シャドーAI で従業員が漏洩していた個人情報が詐欺に利用されてしまった
【Case32】 理事長のディープフェイク音声と「リアルな利用者の名前」に騙され、システムを乗っ取られてしまった
【Case33】 自律型AI「Claude Code」に丸投げしたら、機密データが勝手にネット公開されていた
おわりに
支援現場のAI活用実態と未来図
AI活用は既に当たり前になっている
支援現場でAIを何に使っているのか?
現場の不安はAI活用のルールが曖昧なこと
「シャドーAI」が生まれる構造
年収よりもAI活用ルールの整備で従業員満足度が上がる
現場は「AIの適切な使い方」を学びたいと思っている
これからの支援現場のAI活用7つの提言
支援現場のAI導入で失敗しないために
AI導入前に考えるべき3つの問い
支援現場の「AI利用ガイドライン」文面案
「AI活用に関する同意書」文面案
AIツールの「伝え方」の工夫
してはいけない事例を学び、正しいAI活用を!



