本ジャーナルはVol.1から11まで、失敗プロジェクトを個別に解剖してきました。総括号となる本号では、それらの共通指標を1つのGo/No-Go評価フレームに束ね直します。冒頭はAI商用化史における最も高額な撤退事例、MDアンダーソン×IBM Watsonの監査報告を再検証します。 セクション1：今週のフェイラーケースMDアンダーソンがIBM Watsonに投じた62億円と、監査報告書が示した「本番化ゼロ」の構造米テキサス大学MDアンダーソンがんセンターは2013年、IBM Watsonを臨床意思決定支援に用いる「Oncology Expert Advisor」プロジェクトを開始しました。3年後の2016年時点で、同センターがこのプロジェクトに投じた金額は約6,220万ドル（約62億円、当時レート換算）に達していましたが、実臨床への本番導入は一度も行われず、2017年に契約は事実上停止されました。 テキサス大学システム本部が2017年2月に公表した特別監査報告書（University of Texas System Special Review）は、失敗の直接的な理由として以下を指摘しています。第一に、州の調達手続きを経ずに単一ベンダーと契約が結ばれたこと。第二に、当初9か月・240万ドルの予算だったスコープが、5年で6,220万ドルへと膨張したこと。第三に、システムがEpic電子カルテと統合できず、臨床医が日常業務で使えなかったこと。 追い打ちをかけたのが、2018年7月のSTAT Newsによる内部文書スクープです。IBMの内部レビューにおいて、Watson for Oncologyが「安全でない、または不正確な治療推奨」を複数生成していた事実が報じられました。学習データが実患者ではなく仮想症例中心だったこと、専門医の意見に強く依存していたことが原因と分析されています。 結末は明快です。62億円のうち、患者ケアに使われた金額はゼロ。プロジェクトは中止、責任者は退任、テキサス州監査当局は調達プロセス改革を勧告しました。IBM Watson Healthそのものも2022年に投資会社Francisco Partnersへ売却される一因となりました。 公開ソース： - University of Texas System, Special Review of Procurement Procedures Related to the MD Anderson Cancer Center Oncology Expert Advisor Project（2017年2月）
utsystem.edu - STAT News, "IBM's Watson supercomputer recommended 'unsafe and incorrect' cancer treatments, internal documents show"（Casey Ross & Ike Swetlitz、2018年7月25日）
statnews.com
セクション2：失敗パターン分析- スコープの26倍膨張を止める仕組みがなかった
当初240万ドル・9か月が最終的に6,220万ドル・5年へ拡大した過程で、Go/No-Goを再判定する契約条項が存在しなかった。四半期ごとの再判定条項があれば早期撤退が可能だった。 - 本番化の前提となる既存システム統合が未評価だった
Epic電子カルテとの統合可否は技術的PoC以前に確認すべき条件だが、契約時点で検証されていなかった。ベンダー選定時のインフラ適合性チェックの欠落が本番化ゼロの直接原因となった。 - 調達プロセスが単一ベンダー前提で走った
州立機関にもかかわらず競争入札を経ておらず、比較評価が構造的に不可能だった。ベンダーロックインが早期に成立し、途中での方針転換コストが極端に高くなった。 - ベンダー主導の評価しか存在しなかった
プロジェクト評価をIBM側の資料に依存しており、臨床現場からの独立フィードバック回路が欠落。実際にWatsonの推奨に問題があったことは、外部ジャーナリストのリークで初めて公になった。 - 「PoCが技術的に動く」を「本番化可能」と同一視した
デモ環境での動作と、実患者データ・実業務フロー・実責任体制での動作は別物。Vol.1〜11で扱った全事例に共通する構造的錯覚である。
セクション3：回避チェックリスト（PoC終了時のGo/No-Go評価）Vol.1〜11で観測された失敗パターンから抽出した7項目。PoC終了ゲートでチェックし、1つでも☐が残る場合は本番化判断を保留する。 - ☐ Go/No-Go判定基準を契約前に成文化しているか
→ 判定基準が後付けだとサンクコストが判断を歪める（MDアンダーソン事例の第一の教訓） - ☐ 既存基幹システムとの統合可否を技術検証済みか
→ ここが未確認だとPoCが動いても本番投入で止まる（Watson×Epic統合失敗の直接原因） - ☐ ベンダー以外の第三者が評価する体制が組まれているか
→ ベンダーの評価は構造的に楽観バイアスが入る。現場ユーザーと外部監査の二重チェックが必要 - ☐ 撤退時の損失上限を事前に決めているか
→ 撤退ラインを決めていないと、投下額が増えるほど撤退できなくなる - ☐ 既存業務との定量比較ベンチマークを取得したか
→ 「AIで新しいことができた」ではなく「現状比で優位か」を数値で示せなければ本番化の根拠にならない - ☐ PoCから本番化までの時間目標が設定されているか
→ 目安は12〜18か月。それを超えると組織・市場・技術の前提が変わり、当初のROIが成立しなくなる - ☐ 予算超過時のエスカレーション権限が明確か
→ 権限が曖昧だと現場が惰性で続行する。取締役会レベルへの報告閾値を金額で定義しておく
セクション4：関連深掘り記事AIコンパス（ai-media.co.jp）では、本号で扱ったGo/No-Go評価フレームを業種別に展開した記事を順次公開しています。金融・製造・医療の各領域における本番化失敗率と評価基準の差分を扱う予定です。 個別の業界事例や自社適用に関するご相談は、ai-media.co.jp/contact/ より編集部までお問い合わせください。 セクション5：編集後記Vol.1〜11では個別プロジェクトの失敗を解剖してきましたが、監査報告書レベルで一次ソースに当たると、失敗の共通指標は驚くほど似通っています。総括号で提示した7項目のチェックリストが、読者各位のPoC終了ゲートで一度使われれば本号の目的は果たされます。次号Vol.13は「生成AI導入における契約条項の落とし穴」を、実在の訴訟事例から解読します。 弊社が運営する連載『AIで投資の壁を越える』（note）では、AI投資・AI商用化の構造的な壁を18本の実装記録で検証しています。AI導入失敗の根源を技術側から知りたい方はこちらへ。 |