ナレッジ管理RAGの難所|書かれていない暗黙知は引けない
RAGが引けるのは書かれた文書だけ。ベテランの頭の中にしかない知見は、索引に入っていなければ検索結果に出てこない。
14 / 72 ページ
規程の版が複数あるとき、検索は「新しい方」を自動では選ばない。社内問い合わせRAGで起きやすい版のズレと、選ぶときに見るべき点を整理する。
RAGは回答がどの文書を根拠にしたかを機械的に照合できるが、ファインチューニングは重みに溶けるため同じ検査ができない。
更新の単位がRAGは文書1件、ファインチューニングはモデル1個という違いが、更新のたびのコストと影響範囲の差に直結する。
トーンは質問の内容にかかわらず常に効いている必要がある性質であり、検索が当たったときだけ効くRAGとは相性の悪さが出やすい。
用語を「知っている」ことと「使いこなす」ことは別の問題であり、この違いがRAGとファインチューニングの向き不向きを分ける。
ここまでの4本は、ベクトルDBを使う前提で料金・運用・移行・検索方式を見てきた。この記事は逆に、そもそも使わずに済む条件がどこにあるかを扱う。
意味検索は言い換えに強く、キーワード検索は表記の一致に強い。どちらか一方では取りこぼす場面があるからこそ、両方を組み合わせる方式が各社に用意されている。
移行しやすさは使ってみるまで分からないと思われがちだが、バックアップの制限とオープンソースのコアの有無は、契約前に公式ドキュメントだけで確認できる。