AI技術ガイド
社内文書RAGの権限設計｜退職者・異動者と索引に残り続ける問題
権限を止めても、索引の更新にはラグがある。退職者・異動者の扱いで見落とされやすい点を整理する。
過去の記事
19 / 75 ページ
ARCHIVE
記事一覧
AI技術ガイド
再構築の頻度をどう決めるか｜RAGを差分で済ませられる条件と全件ビルドの違い
再構築は全件やり直すか、変わった分だけにするかで費用の性質が変わる。差分で済ませられる条件を自社の設計から整理する。
AI技術ガイド
監視の粒度を上げるほど費用になる理由｜RAG運用監視のコストをどう見積もるか
監視を細かくすれば安心が増えるが、その分だけ書き込みと確認の対象も増える。監視自体が費用になるという視点から粒度を考える。
AI技術ガイド
実行時からLLMを外せる仕事・外せない仕事｜「有界ドメイン」という境界線の引き方
実行時0LLMは万能の手法ではない。答えの集合が閉じている有界ドメインでのみ成立する設計であり、境界の外側では別の設計が要る。
AI技術ガイド
索引を分ける判断がコストに効く理由｜RAGのストレージ設計と実行時コストの関係
索引と原本を同じ場所に置くか分けるかは、実行時コストの構造そのものに関わる判断になる。自社の分け方をもとに整理する。
AI技術ガイド
参照されない文書を残しておく運用コスト｜RAGのビルド・保管・索引にかかる費用の構造
引かれない文書は無料で置いてあるわけではない。ビルド・保管・索引という3つの場面でどう費用に関わるかを、自社の単位経済をもとに整理する。
AI技術ガイド
RAGでバッチ処理できる仕事とできない仕事 ― 実行時と切り離せる作業を見分ける
利用者を待たせない作業はまとめて処理できるが、応答そのものはまとめられない。バッチにできる仕事とできない仕事の境界を整理する。