臨床用人工知能システムにおける運用上の安全性の定義

なぜ医療で安全なAIが重要か

病院では画像を読影して疾患を検出するために人工知能の導入が急速に進んでいますが、通常の精度指標では答えられない問いがあります──いつ機械に判断を任せても安全と言えるのか。本稿は、医師がいつ安心してAIに依存できるか、いつ無視すべきか、いつ自ら詳しく確認すべきかを実務的に決める方法を提示します。目的は単に賢いアルゴリズムを作ることではなく、患者を守り、不必要な検査を減らし、臨床現場の負担を増やすことなく日常診療に組み込むことです。

引用: Kim, YT., Kim, H., Bahl, M. et al. Defining operational safety in clinical artificial intelligence systems. npj Digit. Med. 9, 281 (2026). https://doi.org/10.1038/s41746-026-02450-7

キーワード: 臨床用人工知能, 運用上の安全性, 医用画像, 意思決定支援, リスク層別化