L3 能力 9 · AI 活用シリーズ · 第 0 章

AI を健康 PDCA に
組み込む

LLM を「壁打ち相手・解釈補助・反証視点・文献ナビ」の 4 用途に絞り、 既存 8 能力との接続マップと、やってはいけない 3 つのラインを示します。

TL;DR · この章の要点
本記事は教育目的の情報提供です。LLM の出力を医療判断の代替として使用しないでください。処方薬の調整、急性症状の判断、希少疾患の判断は必ず医療現場で行ってください。

「LLM を健康管理に使う」と言ったとき、人によって思い浮かべるものは大きく違います。検査結果を読ませる、論文を要約させる、サプリの相互作用を聞く、医師に何を相談すべきか相談する——どれも妥当な用途ですが、混ざると焦点がぼやけます。本記事では用途を 4 つの分類に絞り、既存の 8 能力との接続マップを示します。

同時に、AI を健康判断に使う際に 絶対に踏み越えてはいけない 3 つのラインを明示します。LLM のハルシネーション(誤情報生成)と医学的判断境界の問題は、本シリーズ全体を通して繰り返し戻ってくる主題です。

§ 1LLM の 4 用途分類

LLM の健康 PDCA への適用は、用途を 4 つに絞ると整理しやすくなります。

用途典型的な問い対応する能力
壁打ち相手「この目標は曖昧すぎませんか?」「もっと良い指標はある?」能力 1〜4(Plan)
解釈補助「この検査値の変化は誤差か本物か?」「Goodhart 化していない?」能力 5(Check · 解釈)
反証視点「私の判断は希望バイアスに歪んでいない?」「他の解釈はある?」能力 6(Check · バイアス)
文献ナビ「この主題で最も読むべき RCT は?」「DOI 教えて」横串(すべての能力)

4 つを意識的に分けるのは、それぞれ 異なる種類の失敗 をするからです。壁打ち相手として使う LLM は「賛同しすぎ」の失敗(sycophancy)をしやすく、文献ナビとして使う LLM は「論文の捏造」の失敗(fabrication)をしやすい。検証手順がそれぞれ違うため、用途を分けることがそのまま失敗対策になります。

Spec4 用途分類は本サイト編集者の合成判断であり、特定の論文に基づくものではありません。LLM の医療応用の分類論として広く合意されたものはまだ存在しません。

用途 1:壁打ち相手

「目標を SMART 化したい」「測定するバイオマーカーを網羅したい」「介入を効果量・コスト・実行可能性で評価したい」「n=1 試験設計の整合性を確認したい」——いずれも自分の頭で考えるべき問いを、LLM に投げて反論や追加観点を得る用途です。

この用途の 主な失敗モード は sycophancy(おべっか)です。ユーザーが「この介入は良いと思うんだけど」と前置きすると、LLM は「素晴らしい選択です」と賛同しがち。対策は、能力 6(バイアス制御)で扱う Devil's advocate 設定です。詳しくは #3 認知バイアスの可視化 へ。

用途 2:解釈補助

検査結果の縦断データを LLM に投入し、「シグナル vs ノイズ」を判定させる用途です。CV(変動係数)と RCV(参照変化値)を踏まえた判断、Goodhart 化のリスク検出、可視化生成までを含みます。

主な失敗モード は数値の取り違え——LLM は計算が苦手で、特に統計量(平均・標準偏差・相関係数)の計算で誤りやすい。詳しくは #2 データ解釈のセカンドオピニオン へ。

用途 3:反証視点

「この介入で改善した気がする」という自己観察を、確証バイアス・ノセボ・希望バイアス・埋没コストの観点から検証させる用途。LLM を「自分の判断を否定する役」に固定して使います。

主な失敗モード は LLM 自身がバイアスを持つこと——訓練データに含まれる文化的偏見、近年の研究では「医療において LLM は性別・人種で異なる判断をする」という報告もあります。詳しくは #3 認知バイアスの可視化 へ。

用途 4:文献ナビ

「メトホルミンと老化に関する最も重要な RCT を 3 つ挙げて」「DunedinPACE の妥当性を検証した論文の DOI は?」——一次資料への入り口として LLM を使う用途です。

Spec主な失敗モードはハルシネーション(fabricated references)。Ji 2023 のサーベイは LLM が「実在しない論文・著者・DOI」を生成する頻度を 15〜30 % と報告しています [01]。本シリーズの引用論文を本サイトに採用する際は、すべて DOI で実在確認 する手順を必須化しています。

§ 2既存 8 能力との接続マップ

本シリーズの各記事は、既存 8 能力に対する深掘りです。能力ごとに、本記事の 4 用途のうちどれが主に該当するかを整理します。

能力主な用途本シリーズの該当記事
1. 目標設定(Plan)壁打ち相手#1 介入設計の壁打ち
2. 指標選択(Plan)壁打ち相手・文献ナビ#1
3. 介入選択(Plan)壁打ち相手・文献ナビ#1
4. 実験設計(Plan)壁打ち相手#1
5. データ解釈(Check)解釈補助#2 データ解釈のセカンドオピニオン
6. バイアス制御(Check)反証視点#3 認知バイアスの可視化
7. 意思決定(Act)壁打ち相手・文献ナビ#4 医師との橋渡し
8. 継続(Do)壁打ち相手(自己観察支援)本シリーズでは深く扱わない(短期介入が中心)

能力 8(継続)は LLM 活用の効果が他能力に比べて薄く、本シリーズでは独立記事を設けていません。継続の問題は技術より行動科学・環境設計の領域で、LLM はサポート役にしかなれないと判断したためです。

§ 3「やってはいけない」3 つのライン

LLM を健康 PDCA に組み込むときに、踏み越えると 本シリーズの責任範囲を超える 3 つのラインがあります。

ライン 1:処方判断を LLM に委ねる

処方薬の開始・継続・中止・用量変更は医師の判断で行うべき行為です。LLM に「メトホルミンの用量を上げるべきか?」と問うのは情報収集として有用ですが、その出力に従って自分で用量を変えるのは、薬機法・医師法上の境界を超えます。詳しくは #4 医師との橋渡し および 医師との協力モデル を参照してください。

ライン 2:診断を LLM に委ねる

「この症状は〇〇病ですか?」という問いに対する LLM の回答は、症例レポートでも医学的助言でもありません。Singhal 2023 [02] は Med-PaLM が医師相当の医学知識を持ちうると報告しましたが、これは「ベンチマーク試験での性能」であり、個人の診断行為への適用は別の問題です。診断は問診・身体所見・検査の統合的判断で、外来診療の文脈なしには成立しません。

ライン 3:一次資料の捏造を受容する

LLM が「Tanaka et al. *Lancet* 2024」と論文を提示してきたとき、その実在を疑わずに引用するのは編集規範 F1(エビデンス階層明示)と F4(製品ブランド推奨禁止の隣接条項)に違反します。Ji 2023 [01] が報告するように、LLM のハルシネーション率は 論文情報で 15〜30 %。本サイトの引用はすべて DOI を doi.org または PubMed で実在確認する手順を必須化しています。

Anti-pattern · 01

「LLM が出した DOI なので信頼できる」

LLM は実在する形式の DOI 文字列を生成できますが、その先のページが存在するかは別問題。本シリーズで引用するすべての論文は DOI を実際にブラウザで開いて記事が表示されることを確認 しています。LLM が出した文献情報は必ず一次確認してください。

§ 4このシリーズの読み方

本シリーズは PDCA フェーズに 1:1 対応する 5 記事で構成されています。すべてを順に読む必要はなく、自分が詰まっているフェーズの章だけ読むのが効率的です。

すべての章で、prompt は 2026-05 時点の主要 LLM 出力傾向に基づくことを冒頭で再掲します。LLM のバージョン更新で挙動は確実に変わるため、自分のセットアップで再検証してください。


反論・限界


一次資料

  1. Ji Z, Lee N, Frieske R, et al. "Survey of Hallucination in Natural Language Generation." ACM Comput Surv 2023; 55(12): 1–38. DOI: 10.1145/3571730
  2. Singhal K, Azizi S, Tu T, et al. "Large language models encode clinical knowledge." Nature 2023; 620: 172–180. DOI: 10.1038/s41586-023-06291-2
  3. Goh E, Gallo R, Hom J, et al. "Large Language Model Influence on Diagnostic Reasoning." JAMA Netw Open 2024; 7(10): e2440969. DOI: 10.1001/jamanetworkopen.2024.40969