8月18日、The Decoderが「As AI beats doctors, regulators shouldn't force a human into the loop, JAMA piece says」と題した記事を公開した。複雑症例の診断でAIが正解率**60%を記録する一方、内科医20人は15.9%**にとどまったという数字を引きながら、JAMA（米国医師会雑誌）に掲載された論説が「人間による最終判断の義務化は、AIが医師を上回った段階では逆効果になりうる」と主張している。
「人間が関与すること」が逆に精度を下げる
医療AIの議論でよく聞かれるのが「AIはあくまで医師を支援するもの」という立場だ。米国医師会（AMA）や米国内科学会（ACP）は一貫して「AIは医師の意思決定を補助するものであり、代替してはならない」と主張している。医学教授のRobert Wachter氏も同様の立場からAI単独による医療を「エコノミークラスの医療」と表現しており、人間の監督を不可欠とする見方を示している。
JAMAに掲載された今回の論説は、こうした見方に真っ向から異を唱えるものだ。
論説が引用する数字は具体的だ。377件の複雑症例において、ChatGPT o3は60%の確率で正しい診断を第一候補として挙げたのに対し、20人の内科医が同じことができたのは15.9%にとどまった。Googleの会話型システムAMIEは、模擬患者との対話でほぼ全カテゴリにわたって一般内科医を上回るスコアを記録した。Microsoftの診断オーケストレーターMAI-DxOは、予算制約のある条件下で医師の約4倍の確率で正しい診断に到達し、コストも低かった。
さらに核心となるのが「人間が介在することで精度が落ちる」という主張だ。106件の実験を対象としたメタ分析によると、AIのほうが優れている場合、人間が判断に加わると誤った箇所でシステムの結論を覆すため、結果が悪化するという。実患者ケースを使った研究では、GPT-4単独での診断推論スコアが**92%だったのに対し、同じモデルにアクセスできる医師が出した結果は76%**に落ちた。
チェス界で起きたことが医療でも起きる
論説はチェスの歴史を比喩として使う。1997年にDeep Blueがカスパロフを破った後、しばらくは「人間＋AI」のチームが最強だった。しかし2017年頃からAI単独がそのチームをも凌駕するようになった。著者らは、医療でも同じ移行が起きつつあると見ている。
「AIが医師より優れていない段階」では人間の監督が安全網として機能する。しかしAIが明確に上回った後も人間の最終判断を義務付け続けると、それ自体がエラーの発生源になる。論説が問題視しているのは、その「移行期」を見越した規制設計がいま欠けていることだ。
2030年を見据えた規制の再設計を
著者らは2030年までに、認知的タスクの一部（あるいは多く）で自律型AIが実用レベルに達すると予測する。それを踏まえ、いま見直すべき領域として以下を挙げている。
- 責任（Liability）：AIが誤診した場合の法的責任の所在
- 診療報酬（Payment）：AI診断に対する保険適用の枠組み
- 規制（Regulation）：人間の関与を一律に義務付ける規則の見直し
- 医学教育（Medical Training）：AIへの依存によって医師自身のスキルが低下するリスク（Lancetの内視鏡研究はこれを示唆している）
限界と留保
論説自体も限界を率直に認めている。エビデンスの大半は単一タスクのシミュレーションから来ており、実際の患者ケアを通じた検証ではない。また、人間とAIの間での情報の引き継ぎ（ハンドオフ）は現状の弱点だ。
外科手術、出産、内視鏡処置といった身体的な手技は当面人間が担う。ロボティクスがまだそこまで追いついていないためだ。そしてAI特有のリスク——ハルシネーション、インターネット障害、サイバー攻撃による機能停止——は医師には存在しない形の障害であり、精度の高さと天秤にかけて評価する必要があると著者らも認める。
医療AIの規制論争は「AIを使うか使わないか」から「どの段階でどこまで自律させるか」へと移行しつつある。JAMAという権威ある媒体でこの論説が掲載されたこと自体、議論の重心が動き始めていることを示している。
詳細はAs AI beats doctors, regulators shouldn't force a human into the loop, JAMA piece saysを参照していただきたい。
