ハルシネーション対策の実務|検知・抑制・運用を実測で整理する
生成AIのハルシネーションを「起きないようにする」のではなく「起きたと分かる」ようにする実務をまとめる。編集部が判定器の運用で実際に踏んだ、検査そのものが機能していなかった事例と、その見分け方を...
3 / 75 ページ
生成AIのハルシネーションを「起きないようにする」のではなく「起きたと分かる」ようにする実務をまとめる。編集部が判定器の運用で実際に踏んだ、検査そのものが機能していなかった事例と、その見分け方を...
Claude Codeの基本操作から、編集部が自社9サイトの本番運用で実際に踏んだ落とし穴までをまとめる。入門記事が扱わない「作業が終わったように見えて終わっていない」パターンと、その確かめ方を...
Air Canadaのチャットボット判決、オランダ児童手当スキャンダル、IBM Watson for Oncologyの頓挫、Microsoft Tayの停止。AIの誤回答・暴走が企業と行政にも...
チャットボット導入の費用は、ビルド時と実行時で性質が違う。自社の単位経済とconvaiが公開している参考価格をもとに、費用構造と運用体制の考え方を整理する。
チャットボット導入後に効果が見えないと感じたとき、施策そのものより先に疑うべきは計測の仕組みの有無である。自社の横断点検から見えた3つの確認ポイントを整理する。
チャットボットの多言語対応は、費用の総額よりも先に判断軸で検討したい領域である。自社に実測が無いことを明記した上で、検査ロジック・引き継ぎ設計・検証の3か所に絞って整理する。
チャットボットの回答ログは、保存の仕方次第で将来のFAQ資産にも、ただ増えるだけの記録にもなる。索引と全文をどう分けて保存し、次にどう活かすかを自社の運用方針から整理する。
問い合わせ対応チャットボットを時間外にどこまで無人で動かしてよいかは、業種を問わず同じ考え方で線引きできる。自社が受託した事例をもとに、無人化してよい範囲と受付だけにとどめる範囲の分け方を整理する。
FAQは何もない状態からは書けない。人が答えた質問と、ボットが答えられなかった質問という2種類のログを、どう分けて残すとFAQ整備の材料になるかを整理する。
内容によっては、回答の確からしさに関係なく人に渡すべき場面がある。自社が相談系サービスの検証と実装で直した振り分けの設計・実装上の問題を整理する。