K-BRAIN / PRACTICAL GUIDE
AIを使う前に 組織として決めるべきこと
医療・介護の生成AI安全活用を「入力」「確認」「責任」「運用」の視点から整理する基礎ガイド
生成AIは医療・介護現場の文書作成や情報整理を助ける一方で、入力情報の扱いと出力の正確性が問題になります。正式な導入を決めていない組織でも、職員が個人の判断で利用している可能性があります。
必要なのは「すべて禁止」か「自由に使う」かという二択ではありません。どの業務に使い、どの情報を渡し、どこで人が確認するのかを組織として説明できることです。
最初に押さえたい結論
CORE MESSAGE
生成AIの安全活用は ツール選定より先に「運用の境界」を決めることから始まる
使う目的・入力する情報・出力の扱い・最終判断者・相談先を組織として明確にする
同じ生成AIでも一般向け案内文の草案と、患者の経過情報を含む文書の扱いとではリスクが異なります。「生成AIが使えるか」だけでなく何を目的に、どの条件なら利用してよいかを整理する必要があります。
このガイドでは公的・業界資料に基づく論点と、K-Brainが実務上の説明に用いる整理方法を区別して示します。特定の製品やAIサービスの安全性を保証するものではありません。
正式導入前に把握したい利用実態
正式にAIの導入を決めていない病院や介護事業所でも、職員が文章の下書きや情報整理にAIを使い始めている可能性があります。組織のルールがない状態と、実際に誰も利用していない状態は同じではありません。
まずは職員を責めるためではなく、どのサービスを、誰が、どんな業務で、どの契約や端末から使うのかを整理します。利用実態が見えなければ、現実に合うルールや研修も設計しにくくなります。
STARTING POINT
利用状況の確認で最初に聞くこと
「使っている人はいるか」だけでなく「何をAIへ入力したか」「結果をどの業務に使ったか」「出力を誰が見直したか」まで確認します。
実際の聞き取りでは職員個人や患者を特定できる情報を、不必要に集めないことも重要です
入力情報の境界を考える
「患者名を消せば安全」とは限らない
個人の氏名を除いたとしても、年齢・疾患・時期・地域・詳細な経過などの組み合わせから本人が推測されることがあります。氏名を削除する操作と、法令上・技術上の匿名化を同じものとして扱うべきではありません。
また患者・利用者情報以外にも、職員情報、未公開の経営資料、契約内容、施設固有の運用情報など、業務上入力してはいけない情報が存在し得ます。
入力前に確認したい3つの視点
その情報は必要か 利用目的に対して最小限か
入力してよい環境か 契約条件・保存・再利用・管理機能を確認したか
識別や機密の問題はないか 組み合わせた情報も含めて点検したか
個人情報保護委員会は生成AIサービスに個人データを含むプロンプトを入力する際の取扱いについて注意喚起しています。
AI出力と人の判断を分ける
生成AIの文章が自然でも、事実であるとは限りません。存在しない文献や誤った制度情報を、もっともらしく示す可能性があります。診療・治療・ケア・算定・経営に関わる判断では、特に出典と条件の確認が必要です。
下書き・論点整理・情報の構造化
原典・事実・施設ルールと突き合わせる
専門職・組織として利用可否を決める
「誰かが見る」では不十分です。事実確認をする担当者、最終承認者、誤りが見つかった際の対応先まで役割を決めることで、運用の再現性が高まります。
クラウドとオフラインをどう選ぶか
クラウド型か完全オフライン型かだけで「安全」「危険」を決めることはできません。提供者との契約、入力データの保存・再利用、アクセス権限、モデルの更新方法、管理担当者の有無などを確認する必要があります。
| 利用環境 | 確認したいこと | 注意点 |
|---|---|---|
| 一般向けクラウド | 利用規約・データ取扱い・アカウント | 業務情報を入力できるとは限らない |
| 法人向けクラウド | 契約・管理機能・保存・外部連携 | 法人契約だけで医療情報入力が許可されるわけではない |
| 閉域・オフライン | 端末・持ち出し・更新・保守・権限 | 外部通信の制限だけで運用上のリスクは消えない |
スマートフォンでは表を左右へスクロールできます
システム選定に先立ち、何を扱うのか、どこまでAIを使うのか、誰が責任を持って管理できるのかを整理します。導入しないという結論も、合理的な選択肢の一つです。
公的資料をどう読み分けるか
医療・介護現場で生成AIのルールを考える際、参照すべき資料は一つではありません。扱う課題に応じて、医療情報システムの安全管理、個人情報、AI利用のリスク、組織としてのAIガバナンスを分けて確認します。
厚生労働省 医療情報システムの安全管理に関するガイドライン 第7.0版
医療情報システムの安全管理に関する資料。生成AI利用に関係するシステム・委託・運用の論点を確認する基礎となります。ただし、すべてのAI利用についての院内ルールを一冊で完成させる文書ではありません。
HAIP 医療・ヘルスケア分野における生成AI利用ガイドライン 第2版
医療分野で想定されるユースケースと、誤情報・プライバシー・著作権等のリスクを整理した業界団体の資料。法律や行政による一律の許可基準そのものではありません。
経済産業省・総務省 AI事業者ガイドライン 第1.2版
安全性・プライバシー・セキュリティ・説明責任などを含め、AIに関わる主体が考えるべき広い論点を示します。個別医療行為の許認可や適法性を判定する資料ではありません。
K-Brainの実務解釈
ガイドラインの確認で終わらせず、対象業務・入力情報・利用環境・確認担当・報告先を自組織の言葉へ翻訳することが必要です。以下の6領域は、その作業を進めるための独自の整理枠組みです。
K-Brainの6領域チェック
組織の生成AI利用状況を初期整理するとき、K-Brainでは次の6領域に分けて問いを立てます。これは公的ガイドラインの条文や義務項目をそのまま再掲したものではなく、実務で確認すべき内容をまとめたK-Brain独自の整理フレームです。
何の業務で何を改善したいのか
誰がどのAIとアカウントを使うのか
何を渡せてどこから止めるのか
下書きか参考情報か意思決定の材料か
誰が照合し誰が最終判断するのか
研修・相談・誤入力対応・定期見直し
すべての項目が十分に定まっている場合は、現状の運用を維持するという判断もあり得ます。一部が曖昧なら、その項目だけ見直す方が全体を作り直すより合理的なことがあります。
導入前の7ステップ
課題がまだ明確でない組織では、一度に詳細なルール集を作るより、現在の利用状況から少しずつ整理する方が取り組みやすくなります。
- 利用実態の把握
利用しているAI・用途・端末・アカウントを整理
- 業務ごとの目的設定
下書き・情報整理・教育などの用途を分ける
- 入力情報の分類
患者・利用者情報や組織内部情報の扱いを確認
- 利用環境の点検
契約・保存・学習利用・管理権限を確認
- 人の確認と判断者の指定
原典照合と最終判断を担う担当を定める
- ルールと職員教育の整備
迷いやすい場面を教材と運用手順にする
- 見直しの仕組みづくり
事故対応・相談・契約変更・制度更新を反映
導入しない判断も選択肢
現状の業務整理や情報管理が先になる場合もあります。AIの導入有無ではなく、組織課題の改善と管理可能性で判断します。
研修・ルール・運用は役割が異なる
研修だけをしても組織の利用基準は決まりません。ルールだけを作っても職員が理解しなければ機能しません。両方があっても、実際に困ったときの相談先が分からなければ現場で止まってしまいます。
何を認め 何を止めるか
なぜ確認が必要か理解する
迷ったとき誰に聞くかを決める
職員の知識を増やすだけではなく、入力してはいけない場面で止まれることと、迷った際に相談できる体制が必要です。
現場を想定した3つの事例
以下は理解を助けるための仮想場面です。K-Brainの支援実績や特定施設の事例ではありません
ケースA｜職員研修の案内文を作りたい
公開して差し支えない一般的なテーマから構成案を作る用途は考えられます。ただし院内の未公開方針や実名・個別事例を入力してよいかは別問題です。公開前には内容・引用資料・施設の方針との整合を担当者が確認します。
この場面の確認ポイント
入力 公開可能な一般情報だけで下書きを作れるか
出力 出典と施設方針を人が確認するか
判断 最終的な配布承認は誰が行うか
ケースB｜匿名化したつもりの症例を要約したい
患者名を削除していても、複数の特徴を合わせると識別につながるおそれがあります。具体的な症例を外部AIへ入力してよいと自己判断するのではなく、所属組織の規程と情報管理担当者による確認を優先します。
この場面の確認ポイント
入力 識別可能性と利用目的を評価できているか
環境 その情報を扱う条件を契約上・組織上満たすか
判断 不明な場合に利用を止める手順があるか
ケースC｜AIの回答を業務改善に使いたい
AIが示した改善案や制度情報を、そのまま採用するのは適切ではありません。元となる業務データや制度の原文を確認した上で、費用・安全性・職員負担などの影響を検討します。
この場面の確認ポイント
出力 根拠と前提条件を検証できるか
運用 試行範囲・承認者・見直し条件があるか
判断 最終決定をAIへ委ねていないか
K-Brainの視点と関連支援
合同会社K-Brain代表の笠野甲斐は、理学療法士として総合病院で約10年間勤務し、臨床・研究・学会活動や後輩育成に関わってきました。その後ヘルスケアIT領域へ活動の場を広げ、医療現場とITの両面から事業を進めています。
医療現場で重要なのは「その情報は正しいか」「誰が確認して判断するか」という視点です。IT活用では「その情報をどこへ渡すのか」「どの条件で管理するのか」も欠かせません。K-Brainはその接点にある実際の運用の設計を重視します。
課題によって支援の入口を分ける
新しいAIの導入を前提とするものではありません。現状維持・一部修正・研修・ルール整備など、組織の現在地に応じて必要な対応を検討します。
よくある質問と参考資料
医療機関でChatGPTを使ってはいけませんか
一律に禁止・許可を判断できるものではありません。利用目的・契約条件・入力情報・院内規程・確認体制によって検討が必要です。
患者名を消せばAIに入力してよいですか
氏名を削除しただけでは十分とは限りません。情報の組み合わせによる識別可能性や、医療情報・施設内部情報の扱いも確認してください。
法人契約やオフライン環境なら安全ですか
それだけで安全性は保証されません。契約・設定・保存・アクセス管理・端末管理・職員の利用方法を一体として考える必要があります。
生成AI研修だけ受ければ院内ルールは不要ですか
研修と運用ルールは役割が異なります。職員が判断基準を理解し、迷ったときに確認できる体制まで設計することが重要です。
まだAIを導入していなくても確認が必要ですか
個人利用が先行している可能性もあります。導入前から利用実態と入力情報の境界を確認しておくことは有用です。
AI利用ルールは一度作れば終わりですか
サービスの利用条件や技術・制度・組織内の運用は変わります。定期的な見直しと相談・報告体制が必要です。
参考資料
本ガイドは次の一次資料・関連団体資料を参照し、K-Brainの実務上の視点から整理したものです。それぞれ対象・目的・拘束力が異なるため、個別の判断では原典と自組織の条件を照合してください。
AIを増やす前に止まる場所を決める
医療・介護現場の生成AI活用で最初に必要なのは、ツールを増やすことでも一律に禁止することでもありません。用途・入力範囲・人の確認・最終判断・相談先を明確にし、組織として説明できる使い方へ近づけることです。
現状を把握した結果、いまの使い方を維持するという判断もあります。必要なのは新しい仕組みの導入そのものではなく、現場の業務と情報を適切に扱える状態です。
NEXT STEP / K-BRAIN
まず今のAI利用状況から確認する
どのAIを使っているのか把握できていない 何を入力してよいか判断しにくい 研修と院内ルールのどちらから始めるか迷っている。そうした段階から現状を整理します。
AIルール確認プログラムを見る →
コメント