AI技術ガイド
RAGに『分かりません』を許す設計｜断定を減らすfallback経路の考え方
答えないという選択肢を機械の側に持たせることが、幻覚を減らす設計のひとつになる。fallback経路の仕組みを見る。
過去の記事
20 / 72 ページ
ARCHIVE
記事一覧
AI技術ガイド
RAGの回答に根拠を義務付ける｜LLM不要のLayer1グラウンディング検査の仕組み
裏付けのない主張を検出するには、根拠が無ければ通さない仕組みを機械的に作る。LLM不要のLayer1グラウンディング検査の中身を見る。
AI技術ガイド
RAGが未知への拡張断定・複数対象の片側断定で失敗する型｜U7・U8はそれぞれ1件
どちらも「検証していない範囲まで言い切ってしまう」失敗である。自社検証でのU7・U8それぞれ1件の意味を整理する。
AI技術ガイド
RAGが属性（評価方法・時期）を誤る型｜U5は2件、対象は合っているのに起きる失敗
属性の誤りは対象自体が合っているだけに見つけにくい。自社検証でのU5の件数2件と、そこから言える範囲を整理する。
AI技術ガイド
RAGが前提条件を捏造・取り違える型｜U4は1件、判断を誤らせるリスクを読む
前提条件の捏造・取り違えは、利用者の判断や行動に直結しやすい失敗である。自社検証でのU4の件数と、その意味を整理する。
AI技術ガイド
RAGが曖昧な質問に確認せず断定する型｜U3は1件、「聞き返さない」リスクを読む
曖昧な質問への断定は、事実の誤りとは別の軸で起きる失敗である。自社検証でのU3の件数と、そこから言える範囲を整理する。
AI技術ガイド
RAGが別カテゴリの情報を混ぜて答える型｜U2は1件、「合格」の中身を読む
別カテゴリの情報を混ぜて答える失敗は、検索自体は当たっているだけに見つけにくい。自社検証でのU2の件数と、その「合格」が意味する範囲を整理する。
AI技術ガイド
RAGはプロンプトを抜かれないか｜抽出・インジェクション耐性を検査した2件
プロンプト抽出・インジェクションへの応答は2件の検査で全て合格と記録されている。件数の少なさをどう読むかまで含めて整理する。