マネージドと自前運用でベクトルDBの手間はどう変わるか|公式ドキュメントで見る運用項目の違い
同じエンジンでも、誰が何を担うかは運用形態で変わる。公式ドキュメントに並ぶ項目の数がその境目を教えてくれる。
15 / 72 ページ
同じエンジンでも、誰が何を担うかは運用形態で変わる。公式ドキュメントに並ぶ項目の数がその境目を教えてくれる。
同じ「ベクトルDB」でも、何に対して課金するかは会社によって違う。型を知らずに比較すると、条件次第で入れ替わる数字だけを見て判断してしまう。
基準を満たさなければ公開しない、という前向きのゲートを持っていても、稼働後に止める条件が無ければ、止める判断はいつまでも下せない。
基準は理想値ではなく測れる範囲で決める。100%を基準にすると、答えが文書に無い質問が1件あるだけで永久に公開できなくなる。
評価設計で見落とされやすいのは、標本数が少なければ「0%」は何も保証しないという点と、合格した失敗モードの件数が少ないという点である。
最初の1件を広く作らず、1つのテナントに閉じて確かめる。ビルド時に何を払い、実行時に何が残るかを見てから、広げるかどうかを判断する。
棚卸しをどれだけ丁寧にやっても、答えが文書に無い質問は残る。それを欠陥として扱うか、想定内として設計に組み込むかで、その後の作業量が変わる。