この記事は、評価の失敗学に関する検証シリーズの1本である。自社のAIキャラクター開発で、採点役のAIを生成役と同じモデルにした結果、質の高い出力を認識できなかった事故と、「辛口に採点してください」という指示だけで評価が全て同じ点に潰れた事故が起きた。どちらも「評価が動かない」という同じ症状で現れたが、原因は別だった。
この記事で分かること
- 生成役と採点役を同じモデルにすると何が起きるか
- 「辛口に」という指示だけでは分解能が上がらない理由
- 判定器そのものを校正する具体的な手順
この記事で分からないこと(正直に書く)
- 判定器の校正をどこまで自動化できるかは検証していない
- 何段階の合議まで有効かは実験の範囲外
生成役と同じモデルに採点させたら、質の高い出力ほど点が低かった
自社のAIキャラクターの発話品質をComedy・Surprise・Engagementなど6軸で採点する際、生成に使っているモデルをそのまま採点役に使っていた。人格設定に沿った深い自己言及を含む発話が出ていたにもかかわらず、採点役はComedyとSurpriseをいずれも0〜1点という低いスコアで返した。採点役を生成役とは別系統のモデルに切り替えて同じ発話を採点し直すと、Comedy4点・Surprise3点まで上がり、結論が反転した(出所: 自社の運用記録、確認日2026-09-06)。
「辛口に」と指示したら、良い会話も悪い会話も同じ点に潰れた
別の採点では、雑談の会話を別モデルに採点させる際、プロンプトに「辛口に評価してください」「AIだからという理由で甘い点をつけないでください」と書いた。改修前2.16点・改修後2.18点とほぼ変わらず、「機械指標は動いたが体験は変わっていない」と結論しかけた。ところが対照を取ると、破綻した出力も、成熟した既存の会話も、意図的に書いた自然な雑談も、すべて1.78〜2.2点という同じ帯に収まっていた(出所: 自社の運用記録、確認日2026-09-06)。
何を測っているつもりで、実際は何を測っていたか
前者では「発話の面白さ」を測っているつもりで、実際は採点役のモデルが「自分に作れる品質の範囲」を測っていた。自分が生成できない深さの発話には良し悪しを判定する軸を持たないため、低く出る。後者では「改修の効果」を測っているつもりで、実際は「辛口に採点しろ」という一様な下方向バイアスの下でモデルがどこに点数を寄せるかという、採点役自身の癖を測っていた。どちらも対象の中身ではなく、採点役の性質を測る形になっていた。
なぜ気づけなかったか
生成役と採点役が同じモデルだと、両者は同じ分布の中で閉じている。採点役は自分が作れない品質を「テンプレ」としか表現できず、そのスコアがもっともらしく見えてしまう。「辛口に」という指示も改善に見えるが、尺度の上限を下げるだけで分解能は増えない。錨(アンカー)のない尺度でモデルは「まあ低め」に寄せるため、破綻していても成熟していても同じ帯に収まり、差が無いように見えた。
どう直したか、そして再発防止
採点役を生成役とは別系統・別世代のモデルに切り替え、同じ発話を再評価した。「辛口に」の事故には、点数に錨を打つ(10点=名場面、7点=人に薦めたくなる、5点=平均的、3点=退屈、1点=見るに耐えない)、抜粋であることを明示して文脈の断裂を減点しないと明記する、既知の良い会話と悪い会話を毎回同時に採点して判別幅を確認する校正を組み込んだ。判別幅が一定を下回ったら採点そのものを中止する運用に変えたところ、良い会話7.1点・悪い会話1.3点、判別幅+5.80まで開いた(出所: 自社の運用記録、確認日2026-09-06)。「改善なし」というスコアが出た時点でまず疑うのは中身ではなく計器であり、採点役は生成役よりも上位か系統の異なるモデルにし、既知の良い例・悪い例を毎回同時に採点して判別幅を確認できない採点は結果を出さない、という2点を評価設計の前提にした。
判定器が測定対象そのものに盲になっていた別の事例は評価器が測定対象に盲だったときの記事にまとめている。指標が中身ではなく自分が決めた設定値を測っていた例は姉妹記事「指標が測っていたのは中身ではなく設定値だった記事」、生成役と評価役を分ける設計を外部の設計文書と突き合わせた記事は「生成と評価を分ける設計の記事」を参照してほしい。
自社の評価設計・判定器の校正について相談したい場合は、お問い合わせから編集部まで連絡してほしい。
よくある質問
Q1. 生成役と採点役を同じモデルにすると、なぜ問題になるのか
採点役は自分に作れない品質を判定する軸を持たないため、質の高い出力ほど低いスコアを返しやすい。実際にComedy・Surpriseが0〜1点だった発話を、別系統のモデルに採点させ直すとComedy4点・Surprise3点まで上がった。
Q2. 「辛口に採点してください」と指示すれば評価は厳しくなるのか
厳しくはなるが、分解能は上がらない。改修前2.16点・改修後2.18点とほぼ差が出ず、対照に使った破綻した出力・成熟した会話・自然な雑談まで1.78〜2.2点の同じ帯に収まっていた。
Q3. 評価スコアに差が出ない時、何を最初に疑うべきか
対象の中身より先に計器を疑う。採点役の設計(生成役との系統の違い、尺度の錨の有無)を確認し、既知の良い例・悪い例を同時に採点して判別幅が出るかを見る。
Q4. 判別幅を確認する校正を組み込んだ結果はどうなったか
良い会話7.1点・悪い会話1.3点となり、判別幅は+5.80まで開いた。判別幅が一定を下回る場合は採点そのものを中止する運用にしている。