AI技術ガイド
RAGで用途ごとにモデルを切り替える判断軸 ― 料金ではなく設計の切り分け方
モデルの切り替えは料金表の比較だけでは決まらない。何をLLMに任せ、何をLLM抜きで済ませるかという切り分けの判断軸を整理する。
過去の記事
20 / 75 ページ
ARCHIVE
記事一覧
AI技術ガイド
RAGの埋め込みを作り直さずに済ませる ― 差分判定という考え方と、効かない場面
変わっていない文書の埋め込みまで毎回作り直せば費用がかさむ。差分判定で何を省けるか、どこでは省けないかを整理する。実測値は無い。
AI技術ガイド
RAGのキャッシュはどこで効き、どこで効かないか ― 実測の無い前提を明記して整理する
キャッシュは当たれば効くが、当たらなければ効かない。自社にキャッシュ導入の実測値は無いため、本記事は効く条件・効かない条件の整理にとどめる。
AI技術ガイド
RAGの運用コストを下げる確定配信という選択 ― 実行時0 LLMで捨てるものと得るもの
確定配信は実行時コストをほぼゼロに落とす一方、想定外の質問への柔軟さを手放す設計でもある。何を捨てて何を得ているかを自社実測から確認する。
AI技術ガイド
RAG多言語対応で増える費用の内訳｜自社実測が無い領域をどう見るか
多言語対応の費用は自社で測っていない。測っていないことを前提に、保管・検査ロジック・検証のどこに費用が発生しうるかを分解する。
AI技術ガイド
RAGの権限管理が費用に効いてくる場面｜設計ではなくコストの視点で
権限管理の設計方法ではなく、権限を分けるほど何の費用が積み上がるのかを、テナント単位のビルド費用と保管構造から見る。
AI技術ガイド
RAG運用監視の費用｜何を見ていないと壊れたことに気づけないか
監視は無料の部分と課金が発生する部分に分かれる。自社実装の2層検査を手がかりに、監視の粒度を上げるとなぜ費用が増えるのかを整理する。
AI技術ガイド
RAG構築の保管費用｜何をR2に置き何をD1に置くかという判断
保管費用は容量の大小だけでは決まらない。実行時に読むかどうかという軸で置き場所を分けた自社実装をもとに、分けない場合に何が起きるかを整理する。
AI技術ガイド
RAGの再構築費用 ― 頻度をどう決め、差分再生成で何が減るか
RAGのビルド時費用≈¥1,500/テナントは一回限りではなく、原本が変わるたびに繰り返しうる。差分再生成で何が減り、何が減らないのかを自社実装の構造から整理する。