AI技術ガイド
社内文書RAGの権限設計｜役職・職責で分ける場合の難しさ
役職は動く。職責は役職名だけでは決まらない。役職ベースの権限設計が壊れやすい理由を整理する。
過去の記事
17 / 72 ページ
ARCHIVE
記事一覧
AI技術ガイド
再構築の頻度をどう決めるか｜RAGを差分で済ませられる条件と全件ビルドの違い
再構築は全件やり直すか、変わった分だけにするかで費用の性質が変わる。差分で済ませられる条件を自社の設計から整理する。
AI技術ガイド
監視の粒度を上げるほど費用になる理由｜RAG運用監視のコストをどう見積もるか
監視を細かくすれば安心が増えるが、その分だけ書き込みと確認の対象も増える。監視自体が費用になるという視点から粒度を考える。
AI技術ガイド
実行時からLLMを外せる仕事・外せない仕事｜「有界ドメイン」という境界線の引き方
実行時0LLMは万能の手法ではない。答えの集合が閉じている有界ドメインでのみ成立する設計であり、境界の外側では別の設計が要る。
AI技術ガイド
索引を分ける判断がコストに効く理由｜RAGのストレージ設計と実行時コストの関係
索引と原本を同じ場所に置くか分けるかは、実行時コストの構造そのものに関わる判断になる。自社の分け方をもとに整理する。
AI技術ガイド
参照されない文書を残しておく運用コスト｜RAGのビルド・保管・索引にかかる費用の構造
引かれない文書は無料で置いてあるわけではない。ビルド・保管・索引という3つの場面でどう費用に関わるかを、自社の単位経済をもとに整理する。
AI技術ガイド
RAGでバッチ処理できる仕事とできない仕事 ― 実行時と切り離せる作業を見分ける
利用者を待たせない作業はまとめて処理できるが、応答そのものはまとめられない。バッチにできる仕事とできない仕事の境界を整理する。
AI技術ガイド
RAGで用途ごとにモデルを切り替える判断軸 ― 料金ではなく設計の切り分け方
モデルの切り替えは料金表の比較だけでは決まらない。何をLLMに任せ、何をLLM抜きで済ませるかという切り分けの判断軸を整理する。
AI技術ガイド
RAGの埋め込みを作り直さずに済ませる ― 差分判定という考え方と、効かない場面
変わっていない文書の埋め込みまで毎回作り直せば費用がかさむ。差分判定で何を省けるか、どこでは省けないかを整理する。実測値は無い。