整骨院でAI活用を進める前に。便利さより先に疑い方を持つ

AIを臨床に使う流れは、もう止まらないと思います。

問診の整理、鑑別の候補出し、紹介状の下書き、患者説明の文章化、論文の要約、院内マニュアルの作成。

整骨院や治療院でも、AIを使う場面はかなり増えていくはずです。

実際、AIは便利です。

人間が見落としていた視点を出してくれることもあります。

でも、その便利さは「AIが正しい」という意味ではありません。

むしろ、AIが優秀に見えるからこそ、間違った提案を疑えないことが危ない。

Nature Healthの研究が示した、AI臨床判断支援の両面性

Nature Healthに、アフリカのプライマリケアで使われたLLMベースの臨床意思決定支援システムに関する研究が掲載されました。

研究では、ケニアの16のプライマリケア施設で、電子カルテに組み込まれたAIによる臨床判断支援システムを評価しています。

対象は、AIが使われた記録のうち、医師パネルが確認した1,469件です。

結果を見ると、AIは多くの場面で有用でした。

一方で、無視できない危険もありました。

これを見ると、単純に「AIは危ない」とも「AIはすごい」とも言えません。

AIはリスクを減らすこともある。

でも、AIがリスクを増やすこともある。

そして重要なのは、AIの出力を医療者がどう受け取り、どこまで採用したかです。

危ないのは、AIの間違いより「採用のされ方」

AIが間違えること自体は、ある程度想定しておくべきです。

問題は、その間違いが臨床家の判断を通過して、実際の記録や方針に入り込むことです。

今回の研究でも、有害と評価されたAIの提案の一部が、最終的な記録に反映されていました。

これはかなり重要です。

AIが間違っただけなら、まだ止められます。

でも、臨床家がその間違いを「もっともらしい」と感じて採用してしまえば、患者さんに影響する可能性があります。

AIは、自信なさそうに間違えてくれません。

かなり堂々と、それっぽく出してきます。

しかも、文章がきれいです。

だから、知識がない人ほど「なんか正しそう」と思ってしまう可能性があります。

臨床家の判断力が弱い状態でAIを使うと、AIは判断力を補うどころか、誤った判断を強化することがあります。

整骨院でAIを使うなら、まず守備範囲を決める

整骨院や治療院でAIを使う場合、医療機関での臨床判断支援とは前提が違います。

診断を確定する場ではありません。

薬を処方する場でもありません。

画像検査や血液検査をその場で行うわけでもありません。

だからこそ、AIに何をさせて、何をさせないのかを決めておく必要があります。

• 問診内容の整理に使う
• 見落としやすいレッドフラッグの確認に使う
• 患者説明の言い換え案を出す
• 紹介状や情報提供書の下書きを補助させる
• 鑑別候補の「抜け」を確認する

このあたりは、AIの使いどころとして有用だと思います。

一方で、AIに診断を決めさせる、施術の適応を丸投げする、医療機関へ送るべきかどうかを最終判断させる、という使い方は危ないです。

AIは補助です。

最終判断は、臨床家が引き受ける必要があります。

AIは、臨床家の実力差を消さない

AIがあれば、誰でも同じように臨床判断できるようになる。

そう期待したくなる気持ちは分かります。

でも、現実にはそう簡単ではないと思います。

AIの出力を読むには、前提知識が必要です。

その提案が妥当かどうか、どこが怪しいか、患者さんの背景に合っているか、整骨院の守備範囲を超えていないか。

これを判断するのは人間です。

AIは、臨床家の実力差をゼロにするものではありません。

むしろ、実力差を広げる可能性があります。

知識がある人は、AIを壁打ち相手として使えます。

知識がない人は、AIの出力をそのまま信じやすくなります。

つまり、AIは臨床家の判断力を置き換えるというより、判断力を増幅する道具なのだと思います。

院内で使うなら、ルールがいる

AIを個人の便利ツールとして使うだけなら、まだリスクは個人の範囲に見えます。

でも、院内で使うなら話は別です。

新人も使う。中途スタッフも使う。受付や広報でも使う。患者説明にも使う。

こうなると、院として最低限のルールが必要になります。

• 患者さんの個人情報を入力しない
• AIの回答をそのまま患者説明に使わない
• 診断名や疾患名を断定する文章は必ず確認する
• レッドフラッグや対診判断は人間が最終確認する
• 院内マニュアルやガイドラインと矛盾しないか確認する
• 出力の根拠が不明な場合は、必ず一次情報やガイドラインに戻る

AIを使うこと自体が悪いわけではありません。

むしろ、正しく使えばかなり有用です。

ただ、便利だからといってルールなしで使うと、院内の臨床判断や患者説明がバラバラになります。

AIを導入するなら、使い方のマニュアルも必要になります。

AIに任せるほど、臨床家の責任は軽くならない

AIによる臨床判断支援は、臨床の質を上げる可能性があります。

見落としを減らすかもしれません。

情報整理を速くするかもしれません。

紹介や説明の質を上げるかもしれません。

ただし、AIは責任を取ってくれません。

AIが出した提案を採用したのは誰か。

AIの出力を患者さんに伝えたのは誰か。

AIの間違いを見抜けなかったのは誰か。

最終的には、患者さんの前に立っている臨床家です。

だから、AIを使うなら、AIを疑う力も一緒に育てる必要があります。

便利な道具を使うほど、人間側の基準が問われる。

AI時代の臨床は、たぶんそういう方向へ進んでいくのだと思います。