営業支援RAGの難所|提案先ごとに見せてよい情報が違う
文書への閲覧権限があることと、その内容を今の提案先に出してよいことは別の判断。営業支援RAGで起きやすいズレを整理する。
16 / 75 ページ
社内向けなら訂正できる誤答も、社外向けではそのまま顧客に届く。誤答の代償の違いと、出す前に検査するという設計を整理する。
規程の版が複数あるとき、検索は「新しい方」を自動では選ばない。社内問い合わせRAGで起きやすい版のズレと、選ぶときに見るべき点を整理する。
RAGは回答がどの文書を根拠にしたかを機械的に照合できるが、ファインチューニングは重みに溶けるため同じ検査ができない。
更新の単位がRAGは文書1件、ファインチューニングはモデル1個という違いが、更新のたびのコストと影響範囲の差に直結する。
トーンは質問の内容にかかわらず常に効いている必要がある性質であり、検索が当たったときだけ効くRAGとは相性の悪さが出やすい。
用語を「知っている」ことと「使いこなす」ことは別の問題であり、この違いがRAGとファインチューニングの向き不向きを分ける。
ここまでの4本は、ベクトルDBを使う前提で料金・運用・移行・検索方式を見てきた。この記事は逆に、そもそも使わずに済む条件がどこにあるかを扱う。