この記事で分かること／分からないこと
- 分かること: 2012年8月1日にKnight Capitalで何が起きたか(米SEC命令書の記載範囲)
- 分かること: 45分間で4億6,000万ドルの損失に至った技術的な経緯
- 分からないこと: 個々の技術者の氏名や社内の詳しい意思決定過程(命令書は個人を特定していない)
- 分からないこと: 同種の障害が他社でどれだけ起きているか(本稿はKnight Capitalの事例のみを扱う)
冒頭に明記しておきたいのは、この事故はAIの判断ミスではなく、自動化された発注システムの設定ミスとテスト不足による事故だという点である。生成AIやアルゴリズムを使う製品への教訓として、自動化システム一般に共通する検査観点を確認する目的で取り上げる。
何が起きた
2012年8月1日、米国の証券ブローカーKnight Capital Americas LLCの自動発注システム「SMARS」が誤作動し、45分間で154銘柄について397万株超、400万件超の約定を発生させた。同社は80銘柄で約35億ドルのロングポジション、74銘柄で約31.5億ドルのショートポジションを抱え、最終的に4億6,000万ドル超の損失を計上した(出所: 米SEC命令書 Release No. 70694、https://www.sec.gov/litigation/admin/2013/34-70694.pdf 、確認日2026-09-06)。
一次資料は何と言っているか
SEC命令書によれば、原因はニューヨーク証券取引所の新プログラム対応のためSMARSに配備した新コードにあった。廃止済みの旧機能「Power Peg」のコードが削除されないまま残っており、新コードは旧機能を起動していたフラグを再利用する設計だった。段階的な配備作業では、8台あるサーバーのうち1台に新コードが反映されず、旧Power Pegコードがそのまま残った。この配備を確認する二人目の技術者によるレビュー手順も存在しなかった(出所: 同上)。
さらに命令書は、当日朝8時1分以降に「Power Peg disabled」というエラーを示す自動メールが97件社内に送信されていたが、これらは監視アラートとして設計されておらず、市場が開く前にも開いた後にも問題の特定には使われなかったと指摘している(出所: 同上)。
Knightは2013年10月16日付のSEC命令により、証券取引法規則15c3-5(市場アクセスのリスク管理規則)違反で1,200万ドルの制裁金の支払いを命じられた(出所: 同上)。
どこで防げたか
命令書が指摘する欠陥は複数ある。第一に、SMARSから市場に出て行く注文と入ってきた親注文を突き合わせる出力側の監視統制がなかった。第二に、異常な発注が続いた場合にSMARSの動作を止める手順がなかった。第三に、勘定全体のポジション上限が自動的な発注停止に連動していなかった。第四に、コード変更後の再テストと二人目によるレビューが手順として存在しなかった(出所: 同上)。
自社製品に当てはめるなら何を検査するか
- 廃止した旧機能のコードは、無効化ではなく削除されているか。フラグの再利用で旧機能が呼び出される経路が残っていないか
- 自動化システムの出力(発注・応答・生成結果)を、入力と突き合わせて異常を検知する監視が、入口側だけでなく出口側にもあるか
- 異常を検知した際に人手を待たず自動で処理を止める仕組みがあるか。「エラー通知メールを送る」ことと「実際に処理を止める」ことは別の統制である
- 段階的デプロイの際、全ノードに新コードが行き渡ったことを確認する手順と、二人目によるレビューが存在するか
よくある質問
数値は本文で示した一次資料に基づく。出典は各見出しの記載を参照。
Q1. Knight Capitalの事故はAIによるものか
違う。命令書が扱っているのは自動発注ルーティングシステムの設定ミスであり、機械学習や生成AIは関与していない。本稿はAI製品にも共通する自動化システムの検査観点として扱っている。
Q2. 損失額と制裁金はいくらか
Knightは45分間の事故で4億6,000万ドル超の損失を計上し、2013年のSEC命令で1,200万ドルの制裁金支払いを命じられた。
Q3. なぜ45分間も止まらなかったのか
命令書によれば、SMARSの異常発注を検知して自動的に停止させる仕組みがなく、異常を示す自動メールも監視アラートとして設計されていなかったため、市場開場前にも問題が特定されなかった。
Q4. 原因は特定の担当者のミスか
命令書は、配備時にある技術者が1台のサーバーへのコード反映を行わなかった事実を記載しているが、根本原因を個人の過失としてではなく、二人目によるレビュー手順や出力監視統制が存在しなかった組織的な欠陥として整理している。
自動化システムの出力監視と停止基準を点検したい方は、お問い合わせから編集部までご連絡いただきたい。
- 関連記事: NYC「MyCity」チャットボット監査
- 関連記事: 英国Post Office Horizon事件