AI導入失敗回避ジャーナル

PoC18か月の罠 — IBM Watson 62億円の教訓

MD Anderson Cancer Center と IBM が 2012-2016 年に進めた Oncology Expert Advisor プロジェクトを取り上げ、中止条件未設定とサンクコストバイアスによる失敗構造を解剖。総支出 62 億円、随意契約偏重、合成症例での訓練など、監査報告書 (テキサス大学監査局) と STAT News の一次ソースをもとに整理しました。

AIチャットボットの応答暴走 — Air Canada が顧客を騙したとき、企業はどう負けたか

Air Canada × Jake Moffatt 訴訟 (2024年2月、カナダ民事裁判所 CAD 812.02 賠償命令) を起点に、AIチャットボットの応答暴走で企業が法的責任を負った 5 類型を整理。Microsoft Tay (2016年3月) との比較、回避チェックリスト (ログ保存・免責文・人間レビュー・モニタリング・契約) まで一気に解剖。

• AIガバナンス未整備で炎上した事例 — オランダ児童手当不正検知の教訓 (toeslagenaffaire)
• AI予算の隠れコスト — クラウド推論料金が予算を 3 倍にした実例
• 生成AI導入の同意取得不備 — 著作権・個人情報の二重リスク
• 経営層の期待と現場の実装ギャップ — 「AI で 30% 削減」は何が誤読されているか
• モデル更新で精度が劣化したケース — リグレッション検証の盲点