RAGの費用はビルド時と実行時で性質が違う ― ≈¥1,500/テナントと≈¥0〜1/会話の構造
RAGの費用はビルド時と実行時で発生の仕方が根本的に違う。自社実装ではビルド時に≈¥1,500/テナントを一回払い、実行時は≈¥0〜1/会話(実測0.12円/session)に落ちる。実行時にL...
19 / 72 ページ
RAGの費用はビルド時と実行時で発生の仕方が根本的に違う。自社実装ではビルド時に≈¥1,500/テナントを一回払い、実行時は≈¥0〜1/会話(実測0.12円/session)に落ちる。実行時にL...
RAG構築費用の内訳を見ていくと、ビルド時のLLM費用(≈¥1,500/テナント)は明細に残るが、その手前にある原本データの整備は費用として計上されにくい。自社実装の構造から、この非対称がなぜ起...
一つの候補だけを見ても気づけない誤りがある。自社実装の盲検2モデル投票とA/B構造、そして標本数の限界を整理する。
再検索は答えられる範囲を広げるが幻覚の機会も増える。諦めは幻覚を抑えるが取りこぼしを生む。自社実装の切り分け方を見る。
出典を示せと指示するだけでは、その出典自体が捏造されうる。裏付けを機械的に照合する自社実装の仕組みと限界を整理する。
全件合格は安全という意味ではなく、まだ壊れる場面を十分に試していないという意味でもある。公開前検査の読み方を整理する。
正規化を強めれば表記ゆれを拾えるが、無関係な語まで一致させてしまう。固有名照合の正規化をどこまでやるべきかを考える。
数値は言い切りになりやすく、機械的に照合しやすい主張である。数値・単位をどう抜き出し、どう照合しているかを見る。