経営会議で頻出する「AIで30%削減」というフレーズは、しばしば分母が定義されないまま独り歩きする。今号は、公開監査報告書と一次取材ベースの事例から、ROI設計の構造的盲点を検証する。
米テキサス大学MDアンダーソンがんセンター(以下MDA)は2013年、IBMと「Oncology Expert Advisor」プロジェクトを開始した。当初の目的は白血病治療における意思決定支援AIを構築し、臨床医の推奨精度向上と処方判断の高速化を実現することだった。
当初契約額は約240万ドルだったが、段階的拡張の結果、MDAが投じた総額は最終的に約6,200万ドル(約62億円)に達したことがテキサス大学システム監査報告書(2016年11月公表)で明らかになっている。しかしプロジェクトは4年間で急拡大しながら、実運用の白血病診療フローには一度も組み込まれなかった。Epic電子カルテとの統合すら完了しておらず、臨床医が使える環境にすら達していなかった。
2017年、MDAはプロジェクトを打ち切った。翌2018年、STAT Newsの取材で内部文書が公表され、Watson for Oncologyが特定症例に対し「安全でも正しくもない(unsafe and incorrect)」治療推奨を出していた事例が報じられた。Watsonの学習データが少数の Memorial Sloan Kettering 内症例に強く依存しており、MDAの実患者データ分布と乖離していたことが要因の一つとされる。
投資判断の根拠は「AIで臨床医の意思決定時間を大幅に短縮する」という抽象的KPIだった。監査報告書は、契約が正規の調達手続きを迂回して締結された点、独立した外部レビューが不在だった点を強く問題視している。「効率化」の分母 — 何を基準に何%削るのか — は最後まで定義されなかった。経営層が想定していた「診療フロー全体の効率化」と、現場が使う「特定症例での意思決定支援」の間には、桁違いのスコープ差が存在していた。
公開ソース:
1. UT System Administration Special Review of Procurement Procedures Related to the M.D. Anderson Cancer Center Oncology Expert Advisor Project(2016年11月): utsystem.edu
2. STAT News “IBM's Watson supercomputer recommended 'unsafe and incorrect' cancer treatments”(2018-07-25): statnews.com
① 削減率の分母が未定義
「30%削減」が対象とするプロセス範囲が経営層と現場で異なっていた。気づけた点: 契約時点で「削減対象プロセスのTotal Addressable Volume」を数値化していれば齟齬は顕在化した。
② 統合コストのTCO過小評価
ライセンス費用は計上されたが、電子カルテ統合・データクレンジング・臨床医教育の隠れコストが試算されていなかった。気づけた点: 監査報告書は「独立した外部レビューの不在」を明確に指摘している。
③ 学習データと運用データの分布差
Watsonの推奨は他機関の症例に依存し、MDAの実データと乖離していた。気づけた点: PoC段階でholdout検証をMDA実データで行う契約設計だったかが問われる。
④ 中止判断のトリガー未設定
4年間・61倍への段階的拡張はサンクコスト効果を強化した。気づけた点: 初期契約時点で「Kill Criteria」(中止基準)を数値で定義していない。
⑤ 経営KPIと現場KPIの断絶
経営層は「がん治療の変革」、現場は「特定症例での意思決定支援」を想定しており、同じプロジェクトに異なるKPIが投影されていた。気づけた点: 四半期レビューで両者のKPIを並置していれば齟齬は早期に発覚した。
☐ 削減率の分母(対象プロセス総量)を数値で定義したか
→ 分母なき%は経営層と現場で桁違いに解釈される。
☐ TCO試算に統合・データクレンジング・教育コストを含めたか
→ ライセンス費用は通常、全費用の20-30%に過ぎない。
☐ PoC評価は自社実データのholdoutで行う契約になっているか
→ ベンダー提示データでの精度は運用環境で再現しないことが多い。
☐ Kill Criteria(中止判断基準)を契約時点で数値で明記したか
→ 定めなければサンクコストが判断を歪める。MDA案件は4年で61倍に拡張した。
☐ 経営KPIと現場KPIを同じレビュー資料に並置しているか
→ 別々の資料で管理されると齟齬が四半期単位で潜行する。
☐ 調達プロセスは正規手続きを経て、独立した外部レビューを挟んだか
→ MDA監査報告書が問題視した最大の統制不備。
☐ ベンダー契約に成果連動条項(SLA・返金条項)を組み込んだか
→ 固定価格契約はベンダー側の本番化インセンティブを弱める。
「PoC疲弊」を数値で解剖する — 本番化率と隠れコストの相関
ガートナー等が指摘するPoC本番化率(業界推計で15-30%)の実態を、公開事例から再構成する記事を今後公開予定。ROI設計における「本番化前提の数字」と「PoC想定の数字」の分離手法を解説する。
関連トピックの詳細は ai-media.co.jp でご確認いただくか、編集部までお問い合わせください。
「30%削減」は魔法の数字ではなく、分母と統制の設計次第で虚構にも実績にもなる。MDA監査報告書は9年経った今も、AI投資のガバナンス教材として色褪せない。次号(Vol.7)は「ベンダーロックインとAI SaaS契約 — 解約時に露呈する3つの隠れコスト」を予定している。
弊社が運営する連載『AIで投資の壁を越える』(note)では、AI投資・AI商用化の構造的な壁を18本の実装記録で検証しています。AI導入失敗の根源を技術側から知りたい方はこちらへ。
ALLFORCES編集部
AI導入の羅針盤 — 技術と経営をつなぐ
https://ai-media.co.jp/
このメールは 2026年07月13日号 (Vol.6) として配信されています。配信停止はこのメールに「停止」と返信してください。